Majoritatea susțin că, odată cu accelerarea exacerbată a dezvoltării pentru profit, inclusiv prin eventuale reclame intruzive ce exploatează vulnerabilitățile utilizatorilor și “amplele baze de date create deja de modelele de AI”, sunt omise potențiale riscuri critice legate de umanitate.
Zoë Hitzig, cercetătoare renumită din cadrul OpenAI, și-a anunțat demisia printr-un eseu publicat de New York Times, invocând ”rezerve profunde față de direcția companiei”, în special în ceea ce privește strategia sa de publicitate.
Aceasta a atras atenția asupra volumului mare de informații sensibile pe care utilizatorii le împărtășesc cu ChatGPT – “de la temeri medicale și probleme personale până la convingeri religioase, împărtășite fără ca utilizatorul să se gândească la intenții ascunse”, pot fi utilizate în scopuri comerciale sau ca pârghii de manipulare.
“Timp de ani întregi, utilizatorii ChatGPT au generat o arhivă de sinceritate umană fără precedent”, a subliniat Hitzig în eseul său, citat de BiziDay.
“Mulți oameni consideră că problema finanțării AI se rezumă la alegerea celui mai mic rău dintre două variante – restricționarea accesului la tehnologia transformatoare la un grup select de persoane suficient de bogate pentru a o plăti, sau acceptarea reclamelor, chiar dacă asta înseamnă exploatarea celor mai adânci temeri și dorințe ale utilizatorilor pentru a le vinde un produs. Cred că aceasta este o alegere falsă.
Companiile de tehnologie pot urmări opțiuni care ar putea menține aceste instrumente disponibile pentru toată lumea, limitând în același timp stimulentele oricărei companii de a supraveghea, profila și manipula utilizatorii săi […] Vedem deja consecințele, dependenței, inclusiv cazuri de psihoză provocată de chatbot și acuzații că ChatGPT a întărit tendințele suicidale la unii utilizatori, documentate de psihiatri”, mai arată Hitzig în mesajul său.
Un alt cercetător din cadrul OpenAI a avertizat că tehnologia “are potențialul de a manipula utilizatorii în moduri pe care nu le înțelegem și pe care nu le putem preveni”.
Fostul coordonator al echipei de cercetare în domeniul siguranței din cadrul companiei Anthropic, Mrinank Sharma, a transmis într-un mesaj postat pe rețelele de socializare la scurt timp după demisia sa, că “lumea este în pericol”. Sharma a făcut referiri vagi la Anthropic, compania din spatele chatbotului Claude. Acesta nu precizat direct de ce pleacă, însă a menționat că “mi-e clar că a sosit momentul să merg mai departe. Pe parcursul întregii mele perioade petrecute aici, am văzut în repetate rânduri cât de greu este să lăsăm cu adevărat valorile să ne ghideze acțiunile”.
De asemenea, Wall Street Journal relatează că OpenAI a concediat recent un executiv de top din zona de siguranță, pe fondul unor dispute legate de introducerea unui “mod pentru adulți” care permite conținut pornografic pe ChatGPT. Totuși, compania a negat că decizia ar fi avut legătură cu pozițiile exprimate de aceasta privind siguranța.
Între timp, doi cofondatori ai xAI (companie fondată de Elon Musk) au demisionat în decurs de 24 de ore, în contextul unei reorganizări interne și al fuziunii cu SpaceX. Startup-ul s-a confruntat recent cu reacții negative după ce asistentul de inteligență artificială Grok a generat conținut controversat, inclusiv deepfake-uri cu caracter sexual cu copii și mesaje cu caracter antisemit.
Totodată, publicația Platformer a relatat că OpenAI a desființat echipa de “mission alignment”, creată în 2024 pentru a se asigura că dezvoltarea unei posibile inteligențe artificiale generale servește interesele întregii umanități.
În 2023, Geoffrey Hinton, supranumit “nașul inteligenței artificiale”, a părăsit Google și a avertizat asupra riscurilor existențiale, inclusiv destabilizarea economică și dificultatea de a mai distinge adevărul într-o lume dominată de conținut generat de AI.
Azi, AI face munca juridică, “mâine pot fi vânzări, marketing, finanțe”. Val de vânzări în tech care cuprinde toate acțiunile aflate în calea AI - GRAFIC
În cei trei ani de când ChatGPT a intrat în atenția publicului larg, au existat numeroase valuri de vânzări de acțiuni precipitate de îngrijorările privind inteligența artificială. Totuși, nimic nu se compară cu prăbușirea prețurilor care se propagă în această săptămână pe piețele financiare.
Pe de o parte, este vorba de viteza și amploarea fenomenului. În doar două zile, sute de miliarde de dolari au fost șterse din valoarea acțiunilor, obligațiunilor și împrumuturilor companiilor mari și mici din Silicon Valley, notează Bloomberg.
Acțiunile companiilor de software s-au aflat în epicentru, scăzând atât de mult, încât valoarea companiilor urmărite într-un ETF iShares s-a redus cu aproape 1 trilion de dolari în ultimele șapte zile.
Pe de altă parte, această nouă corecție abruptă, spre deosebire de cele anterioare, nu a fost declanșată de temeri privind o bulă speculativă, ci de îngrijorarea că inteligența artificială este pe punctul de a înlocui modelele de afaceri ale unui segment larg de companii, despre care pesimiștii au avertizat de mult timp că sunt vulnerabile.
“Nu cred că este o reacție exagerată. De doi ani, vorbim despre cum va schimba lumea inteligența artificială și despre faptul că este o tehnologie multigenerațională. În ultimele săptămâni, am văzut semne ale acesteia în practică”, a comentat vânzările Michael O’Rourke, strateg șef de piață la Jonestrading.Scânteia declanșatoare a fost inofensivă la prima vedere: startup-ul de inteligență artificială Anthropic a lansat un nou instrument pentru activități juridice, cum ar fi revizuirea contractelor.
În sine, instrumentul nu este văzut ca un produs revoluționar - încă. Dar, după un an în care instrumentele de codare ale Anthropic au contribuit la transformarea dezvoltării de software - parte a unui val mai larg de inovație în domeniul inteligenței artificiale - anunțul scurt de lansare din această săptămână a fost luat foarte în serios de către investitori.
“În timp ce astăzi este vorba de tehnologie pentru activitatea juridică, mâine ar putea fi vânzări, marketing sau finanțe”, spune Jackson Ader, analist la KeyBanc.
Sporind neliniștea investitorilor, chiar și companiile considerate de mult timp principalii beneficiari ai boom-ului inteligenței artificiale dau semne de oboseală.
În rapoartele financiare, Alphabet a declarat că cheltuielile de capital cu inteligența artificială vor fi mai mari decât anticipase anterior, în timp ce Arm Holdings a emis o prognoză de venituri sub așteptări.
Ambele acțiuni au scăzut în tranzacțiile after-hours.
“Am început prin a vinde doar software, acum vindem tot. Se autoperpetuează - acțiunile scad suficient de mult încât să creeze un impuls negativ, iar apoi și alții vând”, a declarat Gil Luria, director la D.A. Davidson.
Declinul nu se limitează la companiile listate la bursa din SUA. London Stock Exchange Group, Tata Consultancy Services și Infosys s-au prăbușit toate săptămâna aceasta, din cauza temerilor legate de înlocuirea joburilor de către AI.
De asemenea, vânzările s-au extins și la susținătorii industriei de pe Wall Street, de la creditori la proprietarii de capital privat, pentru care firmele de software au fost ținte populare.
Peste 17,7 miliarde de dolari din împrumuturile companiilor americane de tehnologie incluse într-un indice Bloomberg au ajuns la niveluri de tranzacționare specifice situațiilor de dificultate (distressed) în ultimele patru săptămâni.
Pierderile s-au adâncit joi în Asia, scăderea cu 5,8% a acțiunilor producătorului sud-coreean de cipuri de memorie Samsung Electronics trăgând în jos cel mai performant indice bursier din lume.
Piața din Taiwan, dominată de sectorul tech, a scăzut și ea, în timp ce un avertisment privind vânzările al Arm Holdings a afectat acțiunile proprietarului său majoritar, SoftBank Group, pe bursa din Tokyo.
În multe privințe, anxietatea investitorilor rămâne ipotetică. De exemplu, producătorii majori de software ServiceNow și Salesforce nu au ratat cifrele privind câștigurile și nici nu au declarat pentru Wall Street că inteligența artificială le-a cauzat pierderea clienților.
Companiile de software au petrecut ultimii ani dezvoltându-și propriile instrumente de inteligență artificială, promițând, în general, că au capacitatea de a utiliza inteligența artificială într-un mod sigur, accesând datele clienților deja stocate în sistemele lor.
Cu toate acestea, mulți furnizori au raportat până acum rezultate dezamăgitoare. Microsoft a declarat, săptămâna trecută, că are 15 milioane de utilizatori plătitori ai instrumentului său Copilot - o mică parte din baza de utilizatori a companiei, care numără sute de milioane.
Evoluțiile recente readuc în prim-plan perspectiva că liderii din domeniul inteligenței artificiale vor depăși jucătorii consacrați din industrie în materie de inovație, iar teama este că scenariul va avea loc mai devreme decât se estima inițial.
“Va fi un an interesant. Ceea ce vedem acum sunt cam etapele incipiente ale acestei repoziționări cu privire la cine vor fi câștigătorii și cine va pierde, cine sunt cei mai vulnerabili, pe măsură ce trecem prin acest proces”, a comentat Dec Mullarkey, director la administratorul canadian de active SLC Management.
