Tehnologia sofisticata de recunoastere faciala se afla in centrul celor mai rigide initiative de securitate din China. Cu 200 de milioane de camere de supraveghere – de peste patru ori mai multe decat in Statele Unite – sistemele de recunoastere faciala din China urmaresc membrii minoritatii musulmane Uighur, blocheaza intrarile in complexele de locuinte si fac de rusine debitorii prin afisarea fetelor lor pe panouri publicitare.

Este posibil ca aceasta forma de securitate bazata pe recunoasterea faciala sa ajunga si in SUA, posibil in alta forma. O coalitie de interese publice si private incearca sa previna acest lucru.

AI Now este un grup afiliat Universitatii din New York, care numara printre membrii sai angajati ai companiilor de tehnologie, inclusiv Google si Microsoft. Intr-o lucrare recenta publicata joi, grupul invita guvernele sa reglementeze utilizarea tehnologiilor de inteligenta artificiala si recunoastere faciala inainte de a putea submina libertatile civile fundamentale.

Autorii scriu:
Recunoasterea faciala are nevoie de o reglementare stricta pentru a proteja interesul public. O astfel de reglementare ar trebui sa includa legi nationale care necesita supraveghere puternica, limitari clare si transparenta publica. Comunitatile ar trebui sa aiba dreptul de a respinge aplicarea acestor tehnologii atat in contexte publice, cat si private. Simpla anuntare a utilizarii lor nu este suficienta si ar trebui sa existe un prag inalt pentru orice consimtamant, avand in vedere pericolele unei supravegheri masive, opresive si continue.
Cercetatorii AI Now sunt deosebit de preocupati de ceea ce se numeste “recunoasterea afectarii” – si de incercarea de a identifica emotiile oamenilor si, eventual, de a le manipula, folosind inteligenta artificiala.
“Nu mai este exista niciun dubiu legat de existenta problemelor de asumare”, a declarat co-fondatorul AI Now, Meredith Whittaker, care lucreaza la Google, pentru Bloomberg: “Este vorba despre ce facem noi in aceasta privinta”.

Mai tarziu, presedintele Microsoft, Brad Smith, a enumerat cateva dintre aceste preocupari intr-un discurs la Institutia Brookings:
Credem ca este important ca guvernele din 2019 sa inceapa sa adopte legi care sa reglementeze aceasta tehnologie. Duhul recunoasterii faciale, ca sa spunem asa, tocmai iese din lampa. Cu exceptia cazului in care actionam, riscam sa descoperim in cinci ani pentru ca serviciile de recunoastere faciala s-au raspandit in moduri care agraveaza problemele societatii. In acel moment, aceste probleme vor fi mult mai dificil de reparat.
Nu consideram ca lumea va fi cel mai bine deservita de o cursa comerciala, companiile de tehnologie fiind obligate sa aleaga intre responsabilitatea sociala si succesul pe pieta. Credem ca singura modalitate de a ne proteja impotriva acestei curse este construirea unui nivel de responsabilitate care sa sustina concurenta sanatoasa pe piata si o baza solida prin care sa ne asiguram ca aceasta tehnologie, precum si organizatiile care o dezvolta, se supun legii.

Lucrarea vine la o zi dupa stirea ca Serviciul Secret intentioneaza sa implementeze recunoasterea faciala in afara Casei Albe. Probabil, ceea ce agentia numeste un “test” nu se va opri aici:
ACLU spune ca testul actual pare a fi corespunzator, dar ca incalca o linie importanta prin deschiderea usii spre examinarea masiva si fara suspiciune a americanilor pe trotuarele publice” – ca pe drumul din fata Casei Albe. (Tehnologia programului ar trebui sa analizeze chipuri de pana la 20 de metri de camera). “Recunoasterea faciala este una dintre cele mai periculoase date biometrice din punct de vedere al confidentialitatii, deoarece poate fi atat de usor extinsa si abuzata – inclusiv prin folosirea la scara larga fara permisiunea oamenilor “.
Poate ca paranoia americanilor cu privire la guvern va impiedica cele mai multe dintre initiative de acest fel sa prinda radacini. Dar imi pot imagina si un scenariu in care un lider populist, autoritar, care invoca in mod constant motive precum terorismul si imigratia ilegala, aduna sprijin popular in jurul tehnologiei de supraveghere.