Procurorul general John “JB” McCuskey, republican, afirmă că Apple a prioritizat imaginea de apărare a confidențialității și propriile interese comerciale în detrimentul siguranței copiilor, în timp ce alte companii mari de tehnologie, precum Google, Microsoft și Dropbox, au fost mai proactive prin utilizarea sistemelor precum PhotoDNA.
Dezvoltat în 2009 de Microsoft și Dartmouth College, PhotoDNA identifică automat imagini CSAM deja raportate autorităților printr-un sistem de ”amprentare digitală și comparare”, scrie News.ro.
Apple testase în 2021 un mecanism propriu de detectare a CSAM, capabil să raporteze automat conținutul ilegal încărcat în iCloud către Centrul Național pentru Copii Dispăruți și Exploatați din SUA.
Compania a renunțat însă la implementare după critici din partea activiștilor pentru confidențialitate, care au avertizat că tehnologia ar putea fi folosită pentru supraveghere guvernamentală sau cenzură.
Decizia Apple de a abandona sistemul a generat critici în lanț. În 2024, organizația britanică National Society for the Prevention of Cruelty to Children a acuzat Apple că nu monitorizează și nu raportează corespunzător CSAM. Tot în 2024, mii de supraviețuitori ai abuzurilor sexuale asupra minorilor au dat Apple în judecată în California, susținând că renunțarea la detectarea automată a permis proliferarea materialelor abuzive.
Dacă procesul intentat de West Virginia va avea succes, Apple ar putea fi forțată să își modifice designul produselor sau politicile de securitate. Statul solicită despăgubiri punitive și obligația ca Apple să implementeze soluții eficiente de detectare a CSAM.
Într-un răspuns transmis prin e-mail, Apple a declarat pentru CNBC că protejarea utilizatorilor, în special a copiilor, este ”centrală pentru ceea ce facem”, subliniind funcțiile existente de control parental și sistemul Communication Safety, care intervine automat când este detectată nuditate în mesaje, fotografii sau apeluri FaceTime.
”Inovăm în fiecare zi pentru a combate amenințările în continuă schimbare și pentru a menține cea mai sigură și de încredere platformă pentru copii”, a transmis un purtător de cuvânt al companiei.
Proces istoric în SUA - Mark Zuckerberg a depus mărturie cu privire la efectul Instagram asupra sănătății mintale a tinerilor utilizatori
CEO-ul Meta Platforms, Mark Zuckerberg, a depus miercuri mărturie în fața unui juriu, pentru prima dată, în cadrul procesului istoric intentat la Los Angeles în legătură cu acuzații vechi de ani de zile privind efectele negative ale rețelelor sociale asupra sănătății mintale a copiilor. Zuckerberg, fondatorul Facebook, a spus că el consideră că a gestionat siguranța tinerilor utilizatori „într-un mod rezonabil”. relatează CNN și Reuters.
Meta se confruntă cu potențiale daune emblematice în cadrul procesului cu juriu de la Los Angeles, parte a unui val de litigii împotriva companiilor de social media din SUA, unde cazurile încep să fie judecate pe fondul unei reacții globale mai ample față de efectul platformelor asupra tinerilor utilizatori.
Cazul concret de la Los Angeles implică o femeie din California care a început să utilizeze Instagram și YouTube încă din copilărie. Ea susține că aceste companii au căutat să obțină profit prin atragerea copiilor către serviciile lor, în ciuda faptului că știau că rețelele sociale le-ar putea afecta sănătatea mintală.
De asemenea, ea susține că aplicațiile i-au alimentat depresia și gândurile suicidare și acum încearcă să tragă la răspundere aceste companii, scrie News.ro.
Meta, care deține Instagram, și Google, proprietarul YouTube, au negat acuzațiile și au subliniat eforturile lor de a adăuga funcții care să asigure siguranța utilizatorilor.
Rivalii Meta, Snap și TikTok, au ajuns la o înțelegere cu reclamanta înainte de începerea procesului, săptămâna trecută.
Rezultatul acestui proces, în care tânăra, „Kaley”, acuză Meta și YouTube că au creat funcții ce creează dependență pentru a o atrage încă de când era mică, ar putea servi drept indicator pentru sute de alte cazuri. Dacă companiile pierd, ar putea fi obligate să plătească despăgubiri de miliarde de dolari și să facă modificări la platformele care au modelat modul de viață al multor oameni.
CUM SE APĂRĂ ZUCKERBERG
CEO-ul Meta Platforms, Mark Zuckerberg, a declarat miercuri, în repetate rânduri, că operatorul Facebook și Instagram nu permite accesul copiilor sub 13 ani pe platformele sale, în ciuda faptului că a fost confruntat cu dovezi care sugerau că aceștia reprezintă un segment demografic cheie.
Mark Lanier, avocatul femeii care a dat în judecată Instagram și YouTube pentru că i-au afectat sănătatea mintală când era copil, i-a adresat lui Zuckerberg întrebări presante în legătură cu declarația sa din 2024 în fața Congresului, potrivit căreia utilizatorii sub 13 ani nu au acces la platformă. Lanier l-a confruntat apoi pe Zuckerberg cu documente interne ale Meta.
„Dacă vrem să avem succes în rândul adolescenților, trebuie să îi atragem încă din perioada preadolescenței”, se arată într-o prezentare internă a Instagram din 2018.
Zuckerberg a răspuns că Lanier „interpretează greșit ceea ce spune” documentul. CEO-ul a explicat că Meta „a purtat diferite discuții de-a lungul timpului pentru a încerca să creeze diferite versiuni de servicii pe care copiii le pot utiliza în siguranță”. De exemplu, el a spus că Meta a discutat despre crearea unei versiuni de Instagram pentru copiii sub 13 ani, dar în cele din urmă nu a făcut-o.
La proces, Zuckerberg a mai spus că este dificil pentru dezvoltatorii de aplicații să verifice vârsta utilizatorilor și că responsabilitatea ar trebui să le revină producătorilor de dispozitive mobile.
Zuckerberg a fost întrebat și despre declarația sa în fața Congresului, potrivit căreia nu a impus echipelor Instagram obiectivul de a maximiza timpul petrecut pe aplicație.
Lanier a arătat juraților e-mailuri din 2014 și 2015 în care Zuckerberg își expunea obiectivele de a crește timpul petrecut pe aplicație cu procente de două cifre. Zuckerberg a spus că, deși Meta avea anterior obiective legate de timpul petrecut de utilizatori pe aplicație, de atunci și-a schimbat abordarea.
„Dacă încercați să spuneți că mărturia mea nu a fost corectă, nu sunt deloc de acord cu asta”, a spus Zuckerberg.
A fost prima dată când miliardarul fondator al Facebook a depus mărturie în instanță cu privire la efectul Instagram asupra sănătății mintale a tinerilor utilizatori. Avocații Meta urmau să-i adreseze întrebări, la rândul lor,, în după-amiaza zilei de miercuri.
UN CAZ CE AR PUTEA SERVI DREPT PRECEDENT
Procesul servește ca un caz test pentru revendicări similare într-un grup mai mare de cazuri împotriva Meta, Alphabet, Snap și TikTok. Familiile, districtele școlare și statele au intentat mii de procese în SUA, acuzând companiile că alimentează o criză a sănătății mintale a tinerilor. Un verdict împotriva companiilor în cazul din Los Angeles ar putea eroda apărarea juridică de lungă durată a Big Tech împotriva acuzațiilor de prejudiciu adus utilizatorilor.
De-a lungul anilor, reportajele de investigație au scos la iveală documente interne ale Meta care arată că această companie era conștientă de potențialul prejudiciu. Cercetătorii Meta au descoperit că unii adolescenți au raportat că Instagram îi făcea să se simtă prost în legătură cu corpul lor și că acești oameni vedeau mult mai mult „conținut legat de tulburări alimentare” decât cei care nu o făceau, a relatat Reuters în octombrie.
Adam Mosseri, șeful Instagram, a declarat săptămâna trecută că nu era la curent cu un studiu recent al Meta care arăta că nu există nicio legătură între supravegherea părinților și atenția adolescenților la propria utilizare a rețelelor sociale. Adolescenții cu circumstanțe de viață dificile au declarat mai des că utilizau Instagram în mod obișnuit sau neintenționat, potrivit documentului prezentat la proces.
Avocatul Meta a declarat juraților la proces că dosarul medical al reclamantei arată că problemele ei provin dintr-o copilărie dificilă și că rețelele sociale erau, de fapt, pentru ea o formă de exprimare creativă.
Însă părinții care au călătorit din toată țara pentru a participa la proces, afirmând că ai lor copii au fost afectați sau chiar au murit din cauza rețelelor sociale, au prezentat o imagine diferită în fața instanței din Los Angeles, descriind o companie care, potrivit lor, le-a exploatat copii în numele profitului.
ZUCKERBERG, AȘTEPTAT DE PĂRINȚI ÎN FAȚA TRIBUNALULUI
Înainte de începerea procesului, aproape o duzină de părinți care susțin că au avut copiii traumatizați s-au adunat în fața tribunalului așteptând sosirea lui Zuckerberg.
Zuckerberg a intrat pe ușa principală a tribunalului superior din Los Angeles în jurul orei 8:30 dimineața, ora locală (18:30, ora României), trecând pe lângă grupul de părinți, jurnaliști și jurați care așteptau, de asemenea, la coadă pentru a intra. El nu a răspuns la întrebarea referitoare la mesajul pe care l-ar transmite părinților care susțin că au avut copiii afectați de rețelele sociale.
Kaley însăși se afla în sala de judecată aglomerată pentru a asculta mărturia lui Zuckerberg. Avocatul ei, Mark Lanier, a declarat anterior că ea nu va fi prezentă la mare parte din proces, deoarece suferă de anxietate socială și are dificultăți atunci când se află în mulțime, deși se așteaptă ca ea să depună mărturie mai târziu în cadrul procesului.
Vorbind cu reporterii în fața sălii de judecată în timpul unei pauze, Julianna Arnold a spus că a fost „suprarealist” să-l vadă pe Zuckerberg depunând mărturie, după ani în care a cerut companiei să facă schimbări mai mari. Arnold atribuie moartea fiicei sale Coco, în vârstă de 17 ani, Instagramului. „Intenția companiei era să profite de adolescenți... să-i exploateze pentru a obține profituri mai mari”, a spus Arnold. „Acest lucru a fost făcut intenționat, nu din întâmplare”, acuză femeia.
AU ACCES LA INSTAGRAM COPIII DE 13 ANI?
Zuckerberg a fost presat miercuri să răspundă la întrebarea dacă copiii cu vârsta sub 13 ani au acces la Instagram. Din punct de vedere tehnic, aplicația impune utilizatorilor să aibă vârsta de 13 ani pentru a se înregistra, iar Zuckerberg a spus că astfel copiii mai mici „nu au acces la Instagram”.
Dar Lanier a arătat un document intern din 2015 care estima că peste 4 milioane de utilizatori Instagram aveau sub 13 ani, ceea ce, potrivit documentului, reprezenta „30% din totalul copiilor cu vârste cuprinse între 10 și 12 ani din SUA”. Lanier a spus că reclamanta, Kaley, acum în vârstă de 20 de ani, a început să folosească Instagram la vârsta de 9 ani.
Lanier a subliniat că abia în decembrie 2019 Instagram a început să ceară noilor utilizatori să introducă data nașterii la înregistrare; anterior, le cerea doar să confirme că au peste 13 ani. În august 2021, Instagram a început să ceară utilizatorilor existenți să furnizeze data nașterii dacă nu o făcuseră anterior, ca parte a unei inițiative de siguranță pentru tineri. Asta înseamnă că Kaley nu a fost întrebată deloc despre vârsta ei când s-a înscris pe platformă.
Zuckerberg a declarat că în 2019, înainte de implementarea regulii privind data nașterii, existau „anumite îngrijorări legate de confidențialitate”, dar consideră că, în cele din urmă, s-a ajuns la politica corectă.
Lanier a spus că Kaley folosea uneori Instagram „câteva ore pe zi” și că, odată, a petrecut mai mult de 16 ore pe platformă într-o singură zi, în ciuda încercărilor mamei sale de a-i limita utilizarea. Kaley susține că funcțiile care creează dependență ale aplicației au determinat-o să dezvolte anxietate, dismorfie corporală și gânduri suicidare și că a fost victima hărțuirii și a șantajării sexuale pe Instagram.
„Nu suntem deloc de acord” cu acuzațiile din procesul intentat de Kaley și „suntem încrezători că probele vor demonstra angajamentul nostru de lungă durată în sprijinirea tinerilor”, a declarat un purtător de cuvânt al Meta.
„Întrebarea pentru juriul din Los Angeles este dacă Instagram a fost un factor substanțial în problemele de sănătate mintală ale reclamantei”, a declarat un purtător de cuvânt al Meta într-o declarație înaintea mărturiei lui Zuckerberg. „Probele vor demonstra că ea s-a confruntat cu multe provocări semnificative și dificile cu mult înainte de a utiliza rețelele sociale”.
Meta a subliniat, de asemenea, caracteristicile de siguranță, cum ar fi instrumentele de supraveghere parentală și „conturile pentru adolescenți”, care implementează setări de confidențialitate implicite și restricții de conținut pentru utilizatorii cu vârsta sub 18 ani.
Lanier l-a întrebat pe Zuckerberg dacă o companie ar trebui să „exploateze” persoanele care provin din medii dificile sau care sunt „mai puțin norocoase în ceea ce privește oportunitățile educaționale”.
„Cred că o companie rezonabilă ar trebui să încerce să ajute persoanele care utilizează serviciile sale”, a răspuns Zuckerberg.
DISCUȚIE APRINSĂ
Discuția s-a aprins oarecum când Lanier a întrebat dacă Zuckerberg și Meta și-au stabilit obiective pentru a maximiza timpul petrecut pe aplicație. CEO-ul Meta a spus că obiectivele specifice de timp existau „la începutul companiei”, dar apoi s-a trecut la concentrarea pe „utilitate și valoare”.
„Am o presupunere de bază că, dacă ceva este valoros, atunci oamenii o vor face mai mult”, a spus Zuckerberg în boxa martorilor.
Lanier a arătat un e-mail intern din decembrie 2015 în care Zuckerberg făcea referire la un plan pe trei ani pentru companie, care includea „Timp - +10% pentru Instagram”.
„Obișnuiam să stabilim obiective pentru echipe... am schimbat asta pentru că nu cred că este cea mai bună modalitate de a conduce compania”, a răspuns Zuckerberg. El a susținut că Lanier îi interpreta greșit abordarea de acum zece ani.
Într-un alt schimb tensionat, Lanier l-a interogat pe Zuckerberg cu privire la decizia Instagram de a permite filtrele de „frumusețe” care manipulează fața utilizatorului pentru a da impresia că acesta poartă machiaj sau a suferit o operație estetică. Meta a consultat 18 experți care au constatat că astfel de filtre pot provoca daune, a spus Lanier.
Instagram a decis în cele din urmă să permită astfel de filtre create de utilizatori, dar să nu le promoveze în aplicație.
ESTE INVOCATĂ LIBERTATEA DE EXPRIMARE
„Am considerat că echilibrul libertății de exprimare ar trebui să le permită oamenilor să creeze aceste filtre, dar că noi nu ar trebui să le creăm noi înșine”, a spus Zuckerberg. El a adăugat că „experți în libertatea de exprimare” au fost, de asemenea, consultați cu privire la această decizie, dar a spus că nu le cunoaște numele și că nu s-a întâlnit cu ei.
Kimberly Pallen, partener la firma de avocatură Withers, specializată în litigii civile complexe, a declarat pentru CNN că Zuckerberg trebuie să demonstreze că Meta face tot ce poate. „Probabil că asta va conta în final: din perspectiva juriului, fac suficient? Și le pasă?”, a arătat avocatl.
Pallen a spus că prestația lui Zuckerberg în boxa martorilor ar putea juca, de asemenea, un rol semnificativ în modul în care juriul percepe cazul.
Zuckerberg va fi probabil întrebat – la fel cum a fost întrebat șeful Instagram, Adam Mosseri, în timpul mărturiei sale de săptămâna trecută – dacă a acordat prioritate obținerii de profituri în detrimentul siguranței tinerilor în deciziile sale privind produsele, așa cum susține Kaley.
La începutul mărturiei, Zuckerberg a discutat despre participația sa majoritară în Meta. El a susținut că, cu cât acțiunile Meta au performanțe mai bune, cu atât mai mulți bani sunt investiți în știință și cercetare, adăugând că s-a angajat să doneze 99% din averea sa.
Lanier l-a întrebat pe Zuckerberg dacă va „promite bani pentru victimele rețelelor sociale”.
„Nu sunt de acord cu caracterizarea întrebării dumneavoastră”, a răspuns Zuckerberg.
Chatbot-urile AI, incluse în legea privind siguranța online a copiilor din Marea Britanie
Chatbot-urile bazate pe inteligență artificială vor intra sub incidența obligațiilor de combatere a conținutului ilegal din Marea Britanie, riscând amenzi sau chiar blocarea dacă nu respectă legea.
Premierul Keir Starmer a confirmat că instrumente precum ChatGPT (dezvoltat de OpenAI), Gemini (al Google) și Copilot (al Microsoft) vor fi incluse în cadrul Online Safety Act.
Măsura vine după ce autoritățile britanice au criticat platforma X, deținută de Elon Musk, în urma apariției de conținut explicit generat de chatbot-ul Grok. Atât autoritatea de reglementare Ofcom, cât și Comisia Europeană au investigat distribuirea de imagini explicite, inclusiv cu minori, scrie News.ro.
Potrivit noilor prevederi, chatbot-urile vor trebui să respecte ”obligațiile privind conținutul ilegal” sau ”vor suporta consecințele încălcării legii”.
Starmer a declarat că intervenția în cazul Grok a transmis un mesaj clar că nicio platformă nu beneficiază de tratament preferențial și că guvernul închide lacunele care pun copiii în pericol.
Noile competențe anunțate includ posibilitatea stabilirii unor limite minime de vârstă pentru accesul la rețelele sociale, restricționarea funcționalităților considerate dăunătoare, precum derularea infinită a conținutului, și limitarea accesului minorilor la chatbot-uri AI și la VPN-uri.
O altă măsură va obliga companiile de social media să păstreze datele unui copil în cazul decesului acestuia, cu excepția situațiilor în care activitatea online este clar nelegată de cauză.
Contextul este unul de presiune politică crescută privind impactul rețelelor sociale asupra sănătății mintale a copiilor și adolescenților. În decembrie, Australia a devenit prima țară care a interzis accesul la rețelele sociale pentru tinerii sub 16 ani, obligând platforme precum YouTube, Instagram și TikTok să implementeze metode stricte de verificare a vârstei.
Spania a devenit recent primul stat european care aplică o astfel de interdicție, iar Franța, Grecia, Italia, Danemarca și Finlanda analizează măsuri similare.
Marea Britanie face un pas uriaș pentru a interzice accesul pe rețelele de socializare al persoanelor sub 16 ani
Marea Britanie se îndreaptă rapid spre o interdicție totală pentru copii pe rețelele sociale, până la vârsta de 16 ani.
Un amendament la “Legea copiilor și școlilor”, ce prevede că, în termen de 12 luni, rețelele trebuie să introducă “verificări de vârstă extrem de eficiente” urmează să intre la vot, după ce a primit susținerea în Camera Lorzilor.
Presa britanică apreciază că va fi votată de toate partidele, inclusiv de laburiști, în ciuda reticenței inițiale a guvernului, arată BiziDay
Sky News scrie că “interzicerea accesului copiilor pe rețelele de socializare pare de acum aproape sigură”, luând în considerare că o comisie de specialitate a introdus amendamentul, după ce acesta a primit susținere și în Camera Lorzilor.
Amendamentul prevede că, în termen de 12 luni de la adoptarea legii, site-urile de socializare trebuie să fie obligate să utilizeze verificări de vârstă “extrem de eficiente” pentru a se asigura că nicio persoană de sub 16 ani nu poate deveni utilizator.
Prim-ministrul Starmer s-a opus inițial unei astfel de interdicții atât de stricte, dar presiunea din partea partidelor de opoziție și chiar a propriilor deputați laburiști, pare a-l fi convins să își schimbe poziția.
Un deputat laburist a declarat că guvernul riscă o rebeliune chiar în interiorul propriului partid dacă nu va susține interdicția, iar, la începutul săptămânii trecute, Starmer a fost de acord să înceapă consultări în acest sens.
Deși guvernul dorea ca aceste consultări să dureze trei luni, Sky News anunță că lucrurile se vor petrece mult mai repede, având în vedere exemplul Australiei, care a introdus o astfel de interdicție din decembrie anul trecut.
Următoarea etapă legislativă presupune examinarea modificărilor în Camera Comunelor, ambele camere ale Parlamentului trebuind să ajungă la un acord înainte ca noile prevederi să intre în vigoare.
