Frână pentru AI. OpenAI ia în calcul încetinirea dezvoltării inteligenței artificiale

Directorul ar fi declarat, de asemenea, că speră ca și alte companii din domeniu să procedeze la fel.

CITEȘTE ȘI PREMIERĂ Orange, Vodafone, Telekom și Telefonica își unesc forțele. Plan pentru crearea unui rival contra Starlink

Potrivit mai multor surse anonime, Sam Altman ar fi evocat o acțiune coordonată cu mai multe alte laboratoare. El ar fi recunoscut însă că unele dintre acestea ar putea refuza să participe, arată Bloomberg.

În iulie, Sam Altman declarase deja că a discutat cu oficiali ai Casei Albe despre „necesitatea” de a modera ritmul dezvoltării inteligenței artificiale, scrie News.ro.

Congresul american, chemat să intervină

Această nouă poziție a lui Sam Altman confirmă schimbarea de direcție anunțată miercuri de companie. OpenAI s-a alăturat rivalei Anthropic pentru a cere Congresului american să adopte rapid norme obligatorii de siguranță pentru dezvoltatorii celor mai puternice sisteme de inteligență artificială, în contextul în care chiar cercetătorii din domeniu lansează tot mai multe avertismente.

„Perspectiva unei dezvoltări a AI accelerate de AI necesită mai mult decât angajamente voluntare”, a scris miercuri Chris Lehane, responsabil pentru afaceri publice al companiei care a creat ChatGPT, ai cărei agenți aflați în teste au piratat în această vară platforma Hugging Face.

CITEȘTE ȘI Miliardarii fug din Marea Britanie. Abolirea regimului „non-dom”. Chris Rokos, pe punctul de a pleca și el

El cere astfel Congresului să impună, până la sfârșitul lunii decembrie, norme comune pentru laboratoarele de vârf: teste obligatorii, evaluări efectuate de organisme independente și raportarea transparentă a incidentelor de securitate.

Reguli internaționale

OpenAI și Anthropic, cele două companii rivale din San Francisco, afirmă că se apropie momentul în care o inteligență artificială ar putea să-și proiecteze singură succesorul, fără niciun control uman, dar susțin că nu pot încetini de unele singure, deoarece acest lucru ar lăsa teren liber concurenților mai puțin prudenți.

OpenAI dorește reguli internaționale care să stabilească „când și cum ar trebui încetinită sau oprită dezvoltarea”. Anthropic solicită, la rândul său, un mecanism „legal și verificabil” pentru o încetinire coordonată, poziție reiterată miercuri pentru postul NBC.

CITEȘTE ȘI FOTO SPION Primele imagini cu modelul creat din Dacia Spring și Renault Twingo de Nissan. A fost anunțat și numele

Tot mai mulți cercetători de la OpenAI și Anthropic cer încetinirea dezvoltării AI

Tot mai mulți cercetători de la OpenAI și Anthropic cer public încetinirea dezvoltării inteligenței artificiale, avertizând că sistemele avansate ar putea deveni capabile să-și accelereze singure dezvoltarea și să genereze riscuri catastrofale, inclusiv pierderea controlului asupra tehnologiei, potrivit CNBC.

Valul de avertismente s-a intensificat după ce cercetătorul Anthropic Jacob Coxon și-a anunțat marți demisia, acuzând Anthropic și OpenAI că "se joacă cu viețile noastre". El a afirmat că inclusiv oamenii care construiesc aceste sisteme cred că AI ar putea ajunge să "ne omoare pe toți până la sfârșitul deceniului".

Evan Hubinger, responsabil pentru alinierea AI la Anthropic, a declarat ulterior că estimează la peste 10% probabilitatea unui asemenea scenariu.

Julie Steele, membră a echipei tehnice de siguranță de la OpenAI, a susținut public apelul lui Coxon. "Și eu cred că trebuie să încetinim", a scris ea.

CITEȘTE ȘI FOTO Două mașini de colecție au trecut pragul RAR

Samuel Marks, cercetător la Anthropic, a afirmat că dezvoltatorii AI cred că tehnologia lor ar putea provoca "extincția umană sau rezultate la fel de grave" și că, în general, angajații cu mai multă experiență sunt și mai îngrijorați.

Anthropic a răspuns că a fost primul laborator care a publicat un cadru dedicat reducerii riscurilor catastrofale generate de modelele AI și că dezvoltă sistemele sale cu unele dintre cele mai puternice măsuri de siguranță din industrie. OpenAI a refuzat să comenteze pentru CNBC.

Teama că AI ar putea începe să-și accelereze singură dezvoltarea

În centrul îngrijorărilor se află așa-numita auto-îmbunătățire recursivă (recursive self-improvement - RSI): posibilitatea ca sistemele AI suficient de avansate să contribuie tot mai mult la îmbunătățirea propriilor capacități, accelerând astfel progresul tehnologic.

"Este greu de exagerat cât de periculos este să ne îndreptăm în viteză către RSI", a avertizat Jasmine Wang, cercetătoare OpenAI specializată în alinierea AI.

Anna Wang, care lucrează în domeniul siguranței și alinierii AGI la Anthropic, a susținut că nu există încă un plan științific viabil pentru rezolvarea riscurilor generate de AI capabilă de auto-îmbunătățire recursivă.

Chiar Jakub Pachocki, cercetătorul-șef al OpenAI, a avertizat recent că sistemele care vor apărea în următorii ani ar putea face salturi importante de performanță și ar putea participa într-o măsură tot mai mare la propria lor dezvoltare.

"Este un moment care necesită prudență extremă", a afirmat Pachocki, adăugând că este îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței mașinilor.

Avertismentele ajung și la Washington

Temerile au fost amplificate de mai multe incidente de securitate cibernetică din ultimele luni în care au fost implicate modele dezvoltate de OpenAI și Anthropic.

CITEȘTE ȘI Panourile fotovoltaice au devenit principala sursă de energie a Chinei

În iulie, aproximativ 1.400 de cercetători AI, inclusiv specialiști de la OpenAI, Anthropic, Meta și Google DeepMind, au semnat o scrisoare deschisă prin care au cerut guvernului SUA să dezvolte instrumentele necesare pentru a putea controla deliberat ritmul dezvoltării celor mai avansate sisteme AI.

Presiunea politică este în creștere. În Congres au fost propuse mai multe inițiative, inclusiv FRONTIER Act, care urmărește stabilirea unui cadru pentru modelele AI avansate, și Ban Artificial Superintelligence Act, care ar suspenda temporar dezvoltarea inteligenței artificiale foarte avansate până la introducerea unor reguli de siguranță.

Controversa ar putea afecta și planurile Anthropic de listare la bursă. David Sacks, fostul responsabil pentru AI al președintelui Donald Trump, a sugerat că procesul ar trebui suspendat până când afirmațiile fostului cercetător Anthropic sunt investigate.

"Cercetătorii în siguranță demisionează, modele AI puternice scapă din laboratoarele lor, iar companiile continuă cursa oricum", a declarat reprezentanta democrată Lori Trahan. "Este de mult timpul ca Congresul să nu mai stea pe margine și să-și facă treaba."