Programul Amazon Rekognition reprezinta efortul companiei de a crea programe care pot identifica orice privesc – in principal, figurile oamenilor. Organizatiile de afaceri, dar si agentiile legii, sunt deja implicate in implementarea softului pentru a-l folosi in interes propriu. Aceasta inseamna ca nu este necesar sa folosesti Facebook, sau sa achizitionezi un telefon cu capabilitatea de a scana fete, sau sa instalezi o sonerie video de la Google, pentru ca recunoasterea faciala sa poata face parte din viata de zi cu zi.

Poate ca nu toata lumea este de acord cu aceasta metoda. Deja cateva grupuri care militeaza pentru libertatile civile, precum ACLU, au semnalat o profunda ingrijorare pentru adoptia din ce in ce mai rapida a tehnologiei de recunoastere faciala, printre agentiile legii din America, datorita posibilitatii crescute, in opinia lor, pentru aparitia unor abuzuri, mai ales impotriva imigrantilor si a persoanelor de culoare. Multa lume – inclusiv o parte din personalul companiei – isi doresc ca Amazon sa infraneze acest proces.

Controversele au ajuns in atentia Congresului American anul trecut, iar acum, odata cu propunerea din partea Senatului cu privire la o noua lege care impiedica afacerile sa colecteze si sa inregistreze date de recunoastere faciala fara a avea consimtamant, se pare ca softul Amazon Rekognition poate intampina probleme.

Acesta este inca un motiv in plus pentru care ar fi momentul sa intelegem mai bine ce este Rekognition, cum functioneaza, si mai ales, pentru ce este folosit.

Potrivit companiei producatoare : “Amazon Rekognition face mai usor procesul de adaugare a analizei imaginilor si a filmarilor video aplicatiilor voastre. Trebuie numai sa oferi o imagine sau o filmare video API-ului Rekognition, pentru ca serviciul sa identifice obiecte, oameni, texte, scene si activitati. Poate detecta si orice continut nepotrivit. Amazon Rekognition ofera, de asemenea, o analiza si recunoastere faciala precisa. Poti detecta, analiza si compara fete, pentru o mare varietate de cazuri, inclusiv verificarea utilizatorului, catalogare, numararea persoanelor si siguranta publica.”

Ca multe dintre lucrurile intreprinse de Amazon in aceste timpuri, Rekognition se bazeaza pe inteligenta artificiala si invatarea masinilor. Daca Alexa a reprezentat incercarea companiei de a da AI-ului o voce si puterea de a ne asculta, Rekognition inseamna efortul companiei de a-i da AI-ului un simt al vederii si inteligenta de a recunoaste ceea ce priveste. Diferenta este ca, in timp ce Alexa este conceput pentru utilizarea de catre oamenii obisnuiti, Rekognition a fost conceput pentru afaceri si organizatii.

In termeni simpli, este un soft de detectare a imaginilor si a fetelor pe care developerii il pot achizitiona de la Amazon, si apoi il pot implementa in aplicatiile lor. Dar nu putem sa nu ne gandim la modul in care afacerile si organizatiile ar putea folosi Rekognition – acum sau pe viitor – si atunci lucrurile devin complicate.

Amazon declara ca softul sau, Rekognition se bazeaza pe tehnologii de invatare aprofundata a masinilor, dezvoltate de experti in computer vision. Acesta are doua componente software, sau API-uri: Amazon Rekognition Image, care analizeaza imagini, si Amazon Rekognition Video, care analizeaza continut video.
Ca si alte aplicatii de recunoastere a imaginilor, Rekognition foloseste identificatori structurali comuni numiti ” repere “, pentru a identifica lucrul la care se uita. Daca ne gandim la un mar, aceste repere pot fi forma sau culoarea, impreuna cu anumite caracteristici, cum ar fi codita, daca e vorba de o fata umana, atunci reperele sunt forma si trasaturile, precum si distanta dintre ele.

Odata ce a scanat proba, programul analizeaza cat este de sigur ca stie la ce se uita. Aceasta siguranta actioneaza ca si un prag in declararea rezultatului, unii spunand ca o siguranta de peste 75% poate fi considerata o potrivire corecta, in timp ce altii, mai pretentiosi isi doresc ca acest procent sa fie de 99%. Cu cat nivelul de siguranta este mai mare, cu atat mai cert trebuie sa fie programul, pentru a declara o potrivire exacta.
O mare parte din aceasta certitudine depinde de calitatea si unghiul imaginii analizate, insa, programele de acest gen au evoluat mult in ultimii ani, multumita activitatilor intense de cercetare din partea unor titani in tehnologie, nu doar Amazon, ci si Apple, Facebook, Google, Microsoft, Samsung, etc.

“Rekognition invata in mod continuu din date noi, si noi adaugam constant noi etichete si caracteristici de recunoastere faciala serviciului”, spune Amazon.

Ce este important de spus, legat de recunoasterea faciala, este ca Amazon nu are o baza de date cu fete pe care sa le compare, si are nevoie de utilizatori care sa furnizeze aceasta baza de date, pe care Amazon sa o detina si sa o managerieze. Pentru fotografii, este necesar ca utilizatorii sa le uploadeze, iar daca vorbim de activitatii ale organismelor legii, acestea trebuie sa furnizeze o colectie de fete provenita din baza lor de date de profile de infractori.

Companiile nu platesc o taxa fixa pentru a folosi Reckognition, in loca de aceasta, platesc pe masura ce folosesc, in functie de cat folosesc.

Amazon afirma ca, prin folosirea softului Rekognition, platesti pentru imaginile si videoclipurile pe care le analizezi, si pentru metadatele de fete pe care le uploadezi, adaugand ca in primul an de folosire a serviciului clientii beneficiaza de 5000 de imagini analizate si 1000 de minute de clipuri video, totul gratis.

Tarifele, dupa aceasta perioada de proba variaza in funcie de regiune, insa in SUA, utilizatorii Rekognition platesc 10 centi pentru fiecare minut de video analizat si 1 dolar pentru fiecare 1000 de imagini procesate. Clientii platesc, de asemnea, pentru a stoca metadata-ul din imaginile si videoclipurile analizate, pe serverele Amazon. Exista discounturi pentru clientii care proceseaza mai mult de 1 milion de imagini.

Folosirea Amazon Rekognition depinde de cine o face, insa Amazon ofera o lista cu posibile utilizari pentru softul sau :
– verificarea utilizatorilor;
– detectarea obiectelor;
– recunoasterea textului;
– cautarea continutului imaginilor si videoclipurilor
– detectarea continutului periculos;
– recunoasterea celebritatilor.

Alte utilizari includ analizarea machiajului demografic sau chiar a starii emotionale a oricui este privit de program, precum si ceva ce Amazon numeste “cararea oamenilor”. Aceasta foloseste Rekognition pentru a urmari anumiti oameni miscandu-se in cadrul unui videoclip, aceasta insemnand:
– urmarirea locatiei persoanei in cadrul video, la momentul in care este urmarita cararea;
– urmarirea reperelor faciale cum ar fi pozitia ochiului stang, atunci cand este detectat

Amazon a evitat sa raspunda la intrebarea daca exista ceva care sa impiedice orice afacere, organizatie sau agentie a legii sa foloseasca oricare din API-urile Rekognition pentru alte scopuri decat cele declarate de compania producatoare. Banuiala este ca uneltele Rekognition vor fi folosite cu bune intentii, in concordanta cu politica de utilizare a Amazon Web Services,

Una dintre problemele cele mai controversate ar fi cine va folosi softul. Chiar daca Amazon a subliniat ca utilizarea se va face in special de organizatii non profit cum ar fi Thorn sau Centrul International pentru Copii Disparuti si Exploatati, pentru a gasi piste posibile in cazurile de trafic de persoane si copii disparuti, Amazon nu dezvaluie clientii Rekognition, fara consimtamantul acestora, si nici nu precizeaza numarul lor.

Potrivit unor documente obtinute de Uniunea pentru Libertati Civile Americane ( ACLU ), in mai 2018, lista includea multe agentii de lege din SUA. Departamentele de politie din toata lumea folosesc deja, de ani buni, recunoasterea faciala, iar dezvlauirile facute au starnit controverse despre cum ar putea fi Rekognition folosit, si cine mai exact il foloseste. La putin timp dupa, ACLU a somat Amazon sa inceteze vanzarea serviciului catre guverne si agentii ale legii.

Directorul ACLU pentru tehnologii si libertati, Shankar Narayan, a declarat : “Drepturile imigrantilor, ale comunitatilor de culoare, ale protestatarilor, si ale altora vor fi supuse riscului, daca Amazon ofera acest sistem de supraveghere foarte puternic unor agentii guvernamentale.”

Unele dintre ingrijorari au fost impartasite chiar si de angajati ai Amazon, care, in luna iunie a anului trecut, au dat publicitatii o scrisoare adresata de acestia fondatorului Amazon, Jeff Bezoz, prin care cereau companiei sa implementeze o transparenta puternica si masuri de responsabilizare, si sa inceteze vanzarea serviciului catre agentii ale legii. Amazon nu a comentat actiunile angajatilor sai in nici un fel.

In prezent, controversele nu s-au domolit. ACLU continua sa isi sustina argumentele potrivit carora Amazon nu ar trebui sa vanda Rekognition catre agentii guvernamentale si de lege, si a oferit si un raport prin care spunea ca programul a identificat in mod eronat, atunci cand nivelul de incredere a fost setat la 80%, 28 de membri ai Congresului American ca si infractori, iar din cei 28, in mod disproportional, a afectat mai mult persoane de culoare .

Amazon a contestat rezultatele prezentate in acest raport, afirmand ca : “atunci cand Rekognition este folosit in scopul in care a fost proiectat, pentru siguranta publica ( cu nivelul de incredere setat la 99%), acelasi raport despre care ACLU a afirmat ca avea o eroare de 5%, a scazut ca si procentaj al erorilor la 0%. Acest lucru este in inconvenient pentru retorica ACLU, insa asa stau lucrurile.”

Chiar si asa, in luna noiembrie 2018, opt membri democrati ai Congresului si-au exprimat ingrijorarea intr-o scrisoare catre Amazon. Ei spuneau : “Tehnologia pentru recunoastere faciala poate deveni intr-o zi o unealta indispensabila pentru oficiali legii, care lucreaza la siguranta si protejarea americanilor, insa, in prezent, suntem ingrijorati ca acest tip de produs are probleme de exactitate mari, ca pune povara in mod disproportionat pe comunitatile de culoare , si ca ingreuneaza dorinta americanilor sa isi exercite drepturile garantate in Primul Amendament, in public.”

In luna ianuarie a acestui an, un grup format din actionari ai companiei, a indemnat Amazon sa inceteze vanzarea Amazon Rekognition catre agentiile legii.

Un alt aspect care poate complica lucrurile este chiar parteneriatul dintre Amazon si Ring, aceasta din urma fiind detinuta de Amazon, cu privire la o linie inteligenta de sonerii video. Aceasta tehnologie se bazeaza pe folosirea tehnologiilor de detectare a fetei si, in cazul in care la usa va veni un infractor condamnat, sau cineva care a mai avut probleme cu legea, sistemul va trimite automat informatiile acelei persoane catre politie. ACLU spunea referitor si la acestea ca Amazon “viseaza la un viitor periculos”, punand tehnologia sa in centrul unui masiv sistem de supraveghere descentralizat, bazat pe recunoastere faciala in timp real asupra membrilor publicului, folosind camere instalate in soneriile oamenilor.

Luna trecuta, Amazon scria o postare amanuntita, pe unul din blogurile sale, referitor la acest subiect. Chiar daca isi mentine ferma pozitia, in apararea produsului Rekognition, Amazon a parut ca vrea sa faca pasi in directia transparentei si a unei priviri mai de ansamblu, in legatura cu felul in care este folosita tehnologia de recunoastere faciala. In postare, Amazon afirma: “In cei mai bine de doi ani de cand oferim serviciul Amazon Rekognition, nu am primit nici macar un raport cu privire la folosirea abuziva a serviciului de catre agentiile legii. Chiar si cu acest succes, intelegem preocuparile oamenilor cu privire la existenta unor reguli care sa limiteze folosirea serviciului, in scopuri discriminatorii. Compania noastra sustine crearea unui cadru legislativ care sa protejeze drepturile civile individuale, si sa se asigure ca guvernele ofera transparenta in ceea ce priveste modul in care utilizeaza tehnologiile de recunoastere faciala.”

In postare se mai spunea :

” Recunoasterea faciala ar trebui sa fie intotdeauna folosita in concordanta cu legea, inclusiv cu legile care protejeaza drepturile civile. Atunci cand tehnologia recunoasterii faciale este folosita de agentiile legii, componenta umana este una importanta, pentru a se asigura ca folosirea acestei nu incalca drepturile civile. Atunci cand tehnologia este folosita de agentiile legii pentru identificare, intr-un mod ce poate afecta libertatile civile, se recomanda folosirea rezultatelor generate de un nivel al increderii de 99%. Ar trebui sa fie notificata cumva folosirea tehnologiilor de recunoastere in spatiul public si comercial.”

Postarea concluziona : ” Noile tehnologii nu ar trebui interzise sau condamnate doar pentru potentiala lor folosire rau intentionata. Ar trebui sa fim deschisi, onesti, si dialogul dintre toate partile ar trebui sa fie constructiv pentru a ne asigura ca tehnologiile vor fi aplicate in modul intentiont, si sa fie in continuu imbunatatite. Vom continua sa lucram cu parteneri din cadrul industriilor, guvernelor, academiilor si comunitatilor, pentru ca noi consideram ca recunoasterea faciala este o unealta importanta, chiar critica pentru utilizare in afaceri, operatiuni guvernamentale si actiuni ale agentiilor legii.”