Financial Times a descoperit o funcţionalitate controversată pregătită de Apple pentru iPhone-uri. E vorba despre un sistem care va scana pozele de pe telefoane şi folosind machine learning-ul şi AI-ul vor depista cazurile de imagini cu copii abuzaţi. Ulterior va fi contactată poliţia.
Sistemul NeuralMatch a fost antrenat cu o bază de date a Centrului Naţional Pentru Copii Răpiţi şi Exploataţi. Fotografiile de pe telefonul utilizatorilor şi cele urcate în iCloud vor fi scanate continuu. Dacă o imagine ce indică abuz este detectată, imaginea va ajunge la o echipă de recenzori umani, care va alerta apoi autorităţile dacă imaginea este verificată. Sistemul va fi aplicat doar în SUA în prima fază.
Şi alte companii care oferă soluții cloud au servicii de acest tip şi colaborări cu autorităţile, dar ce face Apple diferit e că realizează şi scanare pe dispozitiv fizic. Apple promite că nu va accesa metadata sau imagini personale ale utilizatorilor, sistemul fiind automatizat. Şansele ca un cont să fie dat pe mâna autorităţilor în mod eronat e foarte mică.
Riscul este de 1 la 1 milion. Au apărut deja îngrijorări ale organizaţilor care militează pentru intimitate cu privire la adoptarea acestui tool şi pe viitor includerea altor imagini în filtre de către guvernele totalitare. Pe de altă parte deja se discută despre includerea filtrelor pentru acte teroriste sau simboluri interzise, precum cele ale mişcărilor de extremă dreaptă.
Noua funcţie va face parte din iOS 15. Cum vi se pare decizia Apple de a vă scana pozele de pe telefon? Ideea de a prinde pedofili și pe cei care fac abuzuri este bună, dar sistemul trebuie sa fie foarte bine calibrat.
