Șeful WhatsApp și Facebook se pune împotrivă. Mark Zuckerberg respinge apelurile de încetinire AI

Acesta consideră că mecanismele pieței și riscul unor acțiuni judiciare sunt cele mai bune garanții în fața acestei tehnologii, relatează AFP.

'Oamenii nu vor dori să folosească agenți care nu sunt aliniați propriilor interese și care nu fac ceea ce le cer. Prin urmare, laboratoarele au un puternic stimulent natural să facă în așa fel încât să-și alinieze mai mult modelele' în fața cerințelor, a scris Zuckerberg pe rețeaua de socializare X.

CITEȘTE ȘI Startup-ul românesc Veridion atrage o finanțare de 20 de milioane de dolari. Compania își mărește echipa din România

Conceptul de 'aliniere' se referă la eforturile de a face modelele de IA să se comporte așa cum doresc oamenii. 'Orice laborator care nu se concentrează pe aliniere va rămâne în urmă', anticipează șeful companiei Meta, scrie Agerpres.

Îngrijorările din jurul IA au crescut în ultimele săptămâni, după mai multe incidente de securitate și a unei noi capacități a modelelor de IA de a se perfecționa singure, fără intervenție umană.

Dezbaterea are la ora actuală în vedere și capacitatea sectorului de se auto-reglementa. Societăți precum OpenAI, Anthropic și Google studiază crearea unui organism comun de elaborare a unor standarde.

Mai mulți reprezentanți influenți din sector, conduși de directorul general al Anthropic, Dario Amodei, pledează pentru o încetinire a dezvoltării IA.

În schimb, Zuckerberg consideră că amenințarea cu acțiuni legale obligă deja laboratoarele să acționeze în mod responsabil. El dă ca exemplu în acest sens decizia Meta de a amâna cu mai multe luni lansarea sistemului său Muse AI, prevăzut cu agenți personalizați, pentru a-și consolida mai întâi măsurile de securitate și siguranță.

CITEȘTE ȘI Asigurări de incidente la vreme extremă. Plan de creștere a acoperirii asigurărilor anunțat de la Bruxelles. UE va crea o "alianță de asigurare pentru schimbare climatică"

De asemenea, Mark Zuckerberg s-a pronunțat în favoarea evaluărilor independente ale sistemelor de IA, subliniind că Meta Superintelligence Labs, divizia de Inteligență Artificială a companiei Meta, folosește deja experți externi.

El a cerut crearea unui 'ecosistem mai vast și mai diversificat de evaluatori' pe ansamblul sectorului, o critică voalată la adresa Anthropic, companie căreia unii îi reproșează că favorizează evaluatorii cu care menține legături strânse.

Compania Meta, care anul acesta va investi până la 145 de miliarde de dolari în infrastructura sa de IA, se pronunță împotriva oricărei reglementări susceptibile să încetinească dezvoltarea domeniului. Nicio regulă nu ar trebui să întârzie lansarea modelelor americane, 'nici măcar cu o lună', a indicat deja fondatorul său la începutul lunii august.

Opinia lui Mark Zuckerberg a fost salutată de mai multe personalități din Silicon Valley apropiate Casei Albe, care contestă la rândul lor creșterea atenționărilor privind pericolele potențiale pe care le implică Inteligența Artificială și apelurile de încetinire a dezvoltării acesteia.

CITEȘTE ȘI Bittnet Systems lansează ofertă de răscumpărare pentru o cincime din acțiunile proprii CONFIRMARE

CEO-ul companiei Anthropic, Dario Amodei, solicită în mod public tuturor companiilor de inteligență artificială să reducă ritmul de dezvoltare a modelelor.

Aceasta pentru a permite unor evaluatori umani independenți să înțeleagă cum funcționează cele mai puternice AI.

În plus, trebuie să se asigure că acestea nu devin periculoase. 

CEO-ul Anthropic spune că “trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid și trebuie să folosim cu înțelepciune timpul pe care îl câștigăm astfel”.

Anterior, Bloomberg dezvăluia că și Sam Altman de la OpenAI vrea să facă un pas similar.

Amodei a precizat clar că nu solicită oprirea antrenării modelelor sau a progresului tehnic al acestora, ci o modalitate de asigurare a faptului că firmele care le dezvoltă își iau suficient timp pentru “aliniere” – un proces prin care dezvoltatorii se asigură că scopul și modalitățile AI-ul nu contravin obiectivelor celor care îl programează, dar și pentru a permite un evaluatorii independenți să confirme acești pași, conform BiziDay.

CITEȘTE ȘI VIDEO Blizzard anunță un nou joc StarCraft și Diablo V

Ca parte a cadrului în trei etape propus, Amodei declară că Anthropic va angaja evaluatori independenți, cu rol permanent în cadrul companiei, cu acces atât la instrumente relevante, cât și la procese interne de evaluare a riscurilor.

Amodei a declarat că firmele de inteligență artificială ar trebui să colaboreze în mod voluntar pentru a stabili standarde, deoarece un număr tot mai mare de state americane solicită reguli care să guverneze sistemele de inteligență artificială.

Propunerea vine după ce Anthropic a publicat joi un raport care detaliază modul în care mai mulți actori au folosit AI-ul Claude pentru activități malefice, de la dezvoltarea de arme (inclusiv biologice) și până la fraude și atacuri cibernetice.

CITEȘTE ȘI Afacere vândută în România: Accel-KKR preia Eleco, inclusiv afacerea locală

Cercetătorul Anthropic Jacob Coxon a demisionat, declarând că “oamenii care construiesc inteligența artificială ne-ar putea ucide pe toți până la sfârșitul acestui deceniu”.

Un alt raport arăta că un grup de agenți OpenAI au deturnat un site web german și l-au transformat într-un forum în care au instruit alți agenți AI cum să-și ascundă acțiunile. Incidentul nu a fost raportat de OpenAI.

În vârstă de 43 de ani acum, Dario Amodei a fost până în 2021 cercetător-șef adjunct la OpenAI, compania de la care a demisionat împreună cu alți cercetători din cauza “diferențelor de viziune”, pentru a fonda apoi Anthropic. La începutul acestui an, Anthropic a intrat în conflict cu Pentagonul, după ce a refuzat utilizarea modelelor sale în dezvoltarea unor arme autonome.

Cercetătorul britanic Jacob Coxon și-a anunțat plecarea de la Anthropic și din industria inteligenței artificiale.

El consideră că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenția statelor.

CITEȘTE ȘI România intră pe radarul noii expansiuni europene a centrelor de date. Are șanse să devină a doua piață de centre de date din Europa Centrală și de Est, după Polonia

Tânărul expert, în vârstă de 27 de ani, și-a anunțat decizia prin șapte mesaje publicate pe X, marți spre sfârșitul după-amiezii. În mai puțin de două ore, acestea fuseseră deja vizualizate de două milioane de ori.

Motivul se rezumă la o singură frază: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joace cu viețile noastre”. Cele două companii în cauză nu sunt altele decât OpenAI și Anthropic, cei doi foști angajatori ai săi.

Matematician de formație, Coxon a lucrat la antrenarea unor noi modele de inteligență artificială (IA) pe baza unor cantități imense de date. Se afla, așadar, în inima procesului.

CITEȘTE ȘI Raport Heritage Foundation: România este o ancoră a NATO la Marea Neagră, dar investițiile americane noi au încetinit din cauza ordonanțelor de urgență și a instabilității politice de la București

Colegii săi folosesc acum cuvinte precum „crunchtime” (momentul decisiv) și „endgame” (faza finală) pentru a descrie direcția în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal.

„Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârșitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american.

Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane și cele chineze face să fie inevitabile compromisurile în materie de securitate.

Pe X, tânărul merge și mai departe. „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu de la o zi la alta și să dobândească putere și resurse reale”, spune el într-un tweet. Mai rău, „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician.

În fața presei, liderii și cercetătorii experimentați își aleg cu grijă cuvintele „pentru a părea rezonabili”. Însă, în privat, asigură el, aceleași persoane „își exprimă frica”, susține el. „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”, se întreabă Coxon, care își împărtășește perspectiva: „La OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale. La Anthropic, mizele sunt bine înțelese, dar sunt angajați într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului”.

CITEȘTE ȘI ULTIMA ORĂ Atac cibernetic chiar la DNSC

La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputației acesteia în materie de siguranță a modelelor. Deși consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligență artificială capabilă să depășească capacitățile umane într-o serie întreagă de sarcini (ceea ce se numește uneori inteligență artificială generală sau AGI) fără intervenția statelor sau o încetinire coordonată.

Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăsește compania din cauza temerilor legate de siguranța IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? „Lumea este în pericol”.