Într-un nou proces [2] intentat în Statele Unite împotriva Meta, 41 de state [3] și Districtul Columbia susțin că două dintre platformele social-media ale companiei - Instagram și Facebook - nu doar creează dependență, ci și dăunează bunăstării copiilor. Meta este acuzată că se implică într-o "schemă de exploatare a tinerilor utilizatori pentru profit"," inclusiv prin afișarea de conținut dăunător care îi ține lipiți de ecrane.
Potrivit unui sondaj recent [4], tinerii de 17 ani din SUA petrec 5,8 ore pe zi pe rețelele de socializare. Cum s-a ajuns la această situație? Răspunsul, într-un cuvânt, este "engagementul".
Implementarea unor algoritmi pentru a maximiza engagement-ul utilizatorilor este modul în care Big Tech maximizează valoarea acționarilor [5], iar profiturile pe termen adesea prevalează asupra obiectivelor de afaceri pe termen mai lung [5], ca să nu mai vorbim de obiectivele sociale. După cum spune cercetătorul de date Greg Linden [6], algoritmii construiți pe "măsurători proaste" favorizează "stimulente proaste" și permit "actori negativi".
Deși Facebook a început ca un serviciu de bază care conecta prieteni și cunoștințe online, designul său a evoluat treptat, nu pentru a răspunde nevoilor utilizatorilor și preferințelor utilizatorilor, ci pentru a-i menține pe aceștia pe platformă și a-i îndepărta de alte plaforme. Uurmărind acestui obiectiv, compania a ignorat cu regularitate [7] preferințele explicite ale consumatorilor în ceea ce privește tipul de conținut pe care doreau să vadă, confidențialitatea lor și partajarea datelor.
Punerea profiturilor imediate pe primul loc înseamnă canalizarea utilizatorilor spre "clicuri[8]", chiar dacă această abordare favorizează, în general, senzaționalul de calitate inferioară, mai degrabă decât să recompenseze în mod echitabil participanții la un ecosistem mai larg de creare de conținut, utilizatorii și agenții de publicitate. Numim aceste profituri " rente de atenție algoritmică [9]", deoarece acestea sunt generate de o proprietate pasivă (ca un proprietar), mai degrabă decât din producția antreprenorială pentru a satisface nevoile consumatorilor.
Cartografierea rentelor [10] în economia actuală necesită înțelegerea modului în care platformele dominante își exploatează controlul algoritmic asupra utilizatorilor. Atunci când un algoritm degradează calitatea conținutului pe care îl promovează, acesta exploatează încrederea utilizatorilor și poziția dominantă [11] a retelei. Acesta este motivul pentru care Facebook, Twitter și Instagram își perimit să înghesuie feed-urile lor cu reclame și conținuturi "recomandate" care creează dependență de conținut recomandat. După cum a spus în mod colorat scriitorul de tehnologie Cory Doctorow [12], [13], " răhățirea platformelor [14] iese din butoiul unei algoritm" (care, la rândul său, se poate baza pe colectarea ilegală [15] de date).
Procesul Meta se referă în cele din urmă la practicile sale algoritmice [16] care sunt construite cu grijă pentru a maximiza " engagement-ul " utilizatorilor - menținând utilizatorii pe platformă pentru mai mult timp și provocând mai multe comentarii, like-uri și repostări. Adesea, o modalitate bună de a face acest lucru este de a afișa mesaje dăunătoare și la limita ilegalității [17] și de a transforma timpul petrecut pe platformă într-o activitate compulsivă, cu funcții precum "derularea infinită" și notificări non-stop (multe dintre aceleași tehnici sunt folosite, cu mare efect, de către industria jocurilor de noroc [18]).
Acum, când progresele în materie de inteligență artificială supraîncarcă deja recomandările algoritmice, făcându-le și mai adictive, există o nevoie urgentă de noi structuri de guvernanță orientate spre "binele comun [19]" (mai degrabă decât o noțiune concepută în mod îngust de"valoarea acționarului") și parteneriate simbiotice [20] [20] între mediul de afaceri, guvern și societatea civilă. Din fericire, stă într-o bună măsură în puterea factorilor de decizie politică să modeleze [21] aceste piețe în bine.
În primul rând, mai degrabă decât să se bazeze doar pe legislația în materie de concurență și antitrust, factorii de decizie ar trebui să adopte instrumente tehnologice pentru a se asigura că platformele nu pot bloca în mod incorect utilizatorii și dezvoltatorii. O modalitate de a preveni "grădini îngrădite" anticoncurențiale este prin impunerea portabilității datelor și interoperabilitatea [22] între serviciile digitale, astfel încât utilizatorii să poată să treacă mai ușor de la o platformă la alta, în funcție de nevoile și preferințele lor.
În al doilea rând, reforma guvernanței corporative este esențială, deoarece maximizarea valorii acționarilor este cea care a împins platformele să își exploateze utilizatorii în primul rând pe cale algoritmică. Având în vedere costurile sociale bine cunoscute asociate cu acest model de afaceri - optimizarea pentru click-uri adesea înseamnă amplificarea escrocheriilor, a dezinformării și a materialelor de polarizare politică - reforma guvernanței necesită o reformă algoritmică.
Un prim pas spre stabilirea unei baze de referință mai sănătoase este de a solicita platformelor să dezvăluie [23] (în rapoartele anuale 10-K depuse la US Securities and Exchange Commission) ce anume optimizează algoritmii lor, împreună cu modul în care utilizatorii lor sunt monetizați. Într-o lume în care directorii din domeniul tehnologiei coboară la Davos în fiecare an pentru a vorbi despre "scop", dezvăluirile corespunzătoare îi vor presa să facă ceea ce spun [24] și să ajute factorii de decizie politică, autoritățile de reglementare și investitorii să facă distincția între profiturile câștigate și rentele nemeritate.
CITEȘTE ȘI Europa trebuie să conducă reconstrucția UcraineiÎn al treilea rând, utilizatorilor ar trebui să li se acorde o mai mare influență asupra prioritizării algoritmice a informațiilor care le sunt prezentate. În caz contrar, daunele cauzate de ignorarea preferințelor utilizatorilor vor continua să crească pe măsură ce algoritmii creează propriile lor bucle de feedback, împingând utilizatorii să accepte clickbait și apoi deducând în mod eronat că aceștia îl preferă.
În al patrulea rând, standardul industrial al "testării A/B" ar trebui să facă loc unor evaluări mai cuprinzătoare ale impactului pe termen lung. Știința defectuoasă a datelor conduce la un abordarea pe termen scurt algoritmilor. De exemplu, testarea A/B poate arăta că afișarea mai multor reclame într-un feed va avea un impact pozitiv pe termen scurt asupra profiturilor fără a afecta prea mult retenția utilizatorilor; dar acest lucru ignoră impactul asupra atragerii de noi utilizatori, ca să nu mai vorbim de celelalte efecte potențial dăunătoare pe termen lung.
O interpretare bună datelor arată că optimizarea sistemelor de recomandare pentru recompense pe termen lung [25] (cum ar fi satisfacția clienților, retenția și adoptarea de noi utilizatori) este cea mai bună modalitate pentru o companie de a stimula creștere și profitabilitate pe termen lung - presupunând că aceasta poate înceta să se mai concentreze în primul rând pe următorul raport trimestrial de profit. În 2020, o echipă din cadrul Meta a stabilit că mai puține [26] notificări intruzive ar fi mai bune atât pentru utilizarea aplicației, cât și pentru satisfacția utilizatorilor pe o perioadă mai lungă de timp (un an). Efectele pe termen lung au fost foarte diferite de cele pe termen scurt.
În al cincilea rând, modele AI publice ar trebui utilizate pentru a evalua calitatea rezultatelor algoritmice, în special a publicității. Având în vedere numărul considerabil de prejudicii care rezultă din faptul că platformele reduc [27] standardul de acceptabilitate [27] pentru reclame, organismul de supraveghere a publicității din Regatul Unit va utiliza acum instrumente AI [28] pentru a examina reclamele și a le identifica pe cele care fac "afirmații dubioase".Alte autorități ar trebui să urmeze exemplul. La fel de important, evaluareaAIar trebui să fie o caracteristică a deschiderii platformelor către auditul extern pentru rezultatele algoritmice.
Crearea unui mediu digital care să recompenseze crearea de valoare [29] prin inovație și care pedepsește extragerea de valoare din rente (în special în domeniile de bază, adică piețele digitale), este provocarea economică fundamentală a prezentului.
Salvgardarea sănătății utilizatorilor Big Tech și a întregului ecosistem înseamnă să ne asigurăm că algoritmii nu sunt suspuși preocupărilor imediate de profit ale acționarilor. Dacă liderii de afaceri sunt serioși în ceea ce privește valoarea părților interesate [30], aceștia ar trebui să accepte necesitatea de a crea valoare într-un mod fundamental diferit - bazându-se pe cele cinci principii de mai sus.
Viitorul proces Meta nu poate repara greșelile din trecut. Dar, pe măsură ce ne pregătim pentru viitoarea generație de produse de inteligență artificială, trebuie să stabilim o abordare adecvată a supravegherii algoritmice. Algoritmii alimentați de AI vor influența nu doar ceea ce consumăm, ci și modul în care producem și creăm; nu doar ceea ce alegem, ci și ceea ce gândim. Nu trebuie să greșim în această privință.
Mariana Mazzucato, director fondator UCL Institure for Innovation and Public Purpose, este președinte Consiliului pentru Economia Sănătății în cadrul Organizației Mondiale a Sănătății privind economia sănătății pentru toți.
Ilan Strauss este cercetător asociat la UCL Institute for Innovation and Public Purpose.
Copyright: Project Syndicate, 2024.
[1]
http://ednet.project-syndicate.org/cms/cms.cgi?cmsid=76633bfe479688c6616f2272c8246e5
[2]
https://coag.gov/app/uploads/2023/10/23.10.24-Doc.-1-Complaint-People-v.-Meta-23cv05448.pdf
[3]
https://www.washingtonpost.com/technology/2023/10/24/meta-lawsuit-facebook-instagram-children-mental-health/
[4]
https://news.gallup.com/poll/512576/teens-spend-average-hours-social-media-per-day.aspx
[5]
https://www.barrons.com/articles/the-downside-of-shareholder-value-1535571901
[6]
https://www.linkedin.com/pulse/my-book-algorithms-misinformation-greg-linden-my5hc/
[7] https://terranovasecurity.com/blog/data-privacy-scandal-facebook/
[8]
https://www.ucl.ac.uk/bartlett/public-purpose/publications/2023/nov/behind-clicks-can-amazon-allocate-user-attention-it-pleases
[9]
https://www.cambridge.org/core/journals/data-and-policy/article/algorithmic-attention-rents-a-theory-of-digital-platform-market-power/D85FE41F6CF99FC57DDFB2B2B63491C5
[10] https://academic.oup.com/cje/article/47/3/507/7160981
[11]
https://www.ucl.ac.uk/bartlett/public-purpose/publications/2020/sep/public-value-and-platform-governance
[12] https://www.project-syndicate.org/columnist/cory-doctorow
[13] https://doctorow.medium.com/big-techs-attention-rents-fe97ba3fad90
[14] https://www.wired.com/story/tiktok-platforms-cory-doctorow/
[15]
https://www.ftc.gov/news-events/news/press-releases/2019/07/ftc-imposes-5-billion-penalty-sweeping-new-privacy-restrictions-facebook
[16]
https://www.nytimes.com/2023/10/24/technology/states-lawsuit-children-instagram-facebook.html
[17] https://open.spotify.com/episode/41C3BqlXrNbFaemv5cb6bt
[18]
https://ihpi.umich.edu/news/social-media-copies-gambling-methods-create-psychological-cravings
[19] https://www.tandfonline.com/doi/full/10.1080/17487870.2023.2280969
[20]
https://www.ucl.ac.uk/bartlett/public-purpose/publications/2022/nov/rethinking-social-contract-between-state-and-business-0
[21]
https://www.tandfonline.com/doi/full/10.1080/13662716.2016.1146124?casa_token=6iRY-701T3oAAAAA%3AHHxnGVzFjncqZS9yNZa2Ax6p7fRekl8qTwnVR4LiKWODTbHQ8Xtj5_bQsdffmD6ZGdJxqx_ohDSx
[22] https://www.versobooks.com/en-gb/products/3035-the-internet-con
[23] https://academic.oup.com/oxrep/article-abstract/39/1/47/7030605
[24]
https://hbr.org/2021/05/video-walk-the-talk-of-stakeholder-capitalism
[25]
https://twitter.com/greglinden/status/1642909931576913920?t=RsWt0h09oMx0ceNif8V6eA&s=03
[26]
https://medium.com/@AnalyticsAtMeta/notifications-why-less-is-more-how-facebook-has-been-increasing-both-user-satisfaction-and-app-9463f7325e7d#:~:text=After%20a%20year%20we%20saw,user%20satisfaction%20and%20app%20usage.
[27] https://www.cnbc.com/2023/11/02/jeff-bezos-urged-amazon-to-flood-search-results-with-junk-ads-ftc.html
[28] https://www.ft.com/content/d257eed5-a9ea-4e49-b5ab-663ba9618636
[29] https://marianamazzucato.com/books/the-value-of-everything/
[30] https://hbr.org/2022/09/what-role-should-business-play-in-society
[31] www.project-syndicate.org
