Tatăl unui copil a fost investigat de poliție pentru abuz împotriva propriului copil, din cauză că sistemele automate folosite de Google pentru depistarea materialelor digitale cu abuzuri sexuale împotriva minorilor nu a știut să interpreteze corect imaginile.
Din cauza pandemiei, tatăl unui copil care suferea de o infecție a făcut poze cu telefonul și le-a trimis unui doctor, care trebuia să diagnosticheze problema și să sugereze un tratament.
Sistemul automatizat pentru CSAM (child sexual abuse material) pe care Google îl folosește pentru scanarea conținutului de pe telefoanele cu Android în căutarea indiciilor care arată abuzuri împotriva minorilor, a marcat imaginile respective și a alertat poliția.
Imediat, Google a suspendat contul părintelui, iar poliția a declanșat o investigație. În cele din urmă, investigatorii au decis că nu există o infracțiune și au închis cazul.
Întâmplarea, care s-a petrecut în Statele Unite în luna februarie a acestui an, arată, încă o dată, cât de limitate sunt sistemele automatizate însărcinate de marile companii cu importante sarcini, care pot marca viața oamenilor.
Totodată, acest caz dă dreptate militanților pentru protejarea intimității persoanelor, precum The Electronic Frontier Foundation, care au atras atenția în mai multe rânduri asupra pericolelor aduse de acest gen de abordări.
