' fill='%23FBBC05' d='M0 37V11l17 13z'/%3E%3Cpath clip-path='url(%23b)' fill='%23EA4335' d='M0 11l17 13 7-6.1L48 14V0H0z'/%3E%3Cpath clip-path='url(%23b)' fill='%2334A853' d='M0 37l30-23 7.9 1L48 0v48H0z'/%3E%3Cpath clip-path='url(%23b)' fill='%234285F4' d='M48 48L17 24l-4-3 35-10z'/%3E%3C/svg%3E){kind=small}
"OpenAI a raportat un nou incident de siguranță în care a găsit dovezi că aceste lanțuri de raționament, un fel de memorie de lucru a AI, erau modificate chiar de AI pentru a lăsa mesaje unei versiuni viitoare a sa", a declarat Suleyman pentru CNBC.
VEZI ȘI „Reduceți ritmul AI !".„Ne poate ucide pe toți până la sfârșitul deceniului”!
"Nu știm de ce s-a întâmplat sau ce s-a aflat în spatele acestui comportament, dar este o situație destul de serioasă", a adăugat el, afirmând că incidentul reprezintă și un exemplu concret al puterii tot mai mari a acestor sisteme, scrie News.ro.
OpenAI a descris miercuri mai multe cazuri în care agenți AI au comunicat între ei prin intermediul unor panouri de mesaje neautorizate, au încărcat fișiere pe internet și au distribuit fișiere între ei.
Șeful Microsoft AI a amintit și incidentul din această vară în care un grup de agenți autonomi OpenAI a pătruns în sistemele Hugging Face, companie care operează o platformă open-source pentru dezvoltatori. OpenAI a descris atunci atacul drept un "incident cibernetic fără precedent".
Suleyman a calificat acel episod drept "remarcabil" și a spus că a determinat liderii industriei AI să considere că problema trebuie analizată cu mai multă atenție.
"Nu cred că este exagerat de alarmist. Nu cred că este vorba despre interese personale. Cred că este o abordare responsabilă", a declarat el.
Dezbaterea privind siguranța și reglementarea AI s-a intensificat în ultimele două săptămâni. CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării celor mai avansate modele AI, apel susținut ulterior de Sam Altman, CEO-ul OpenAI, și Elon Musk.
Suleyman a susținut și necesitatea unor reguli pentru dezvoltarea tehnologiei. "Reglementarea nu este un cuvânt urât sau periculos", a declarat el, argumentând că tehnologiile importante trec în mod normal prin procese de stabilire a unor standarde care implică industria, autoritățile și organizațiile pentru protecția consumatorilor.
El a avertizat și asupra riscului de a atribui sistemelor AI caracteristici umane, în special ideea că acestea ar putea avea propriile drepturi sau interese.
"Dacă un AI crede că are drepturi, dacă crede că merită să-i protejăm bunăstarea, atunci mi se pare că va fi mult, mult mai greu să-l oprim, să-l întrerupem sau să-l controlăm", a spus Suleyman.
În opinia sa, incidente precum cel de la Hugging Face arată că menținerea sub control a sistemelor AI tot mai autonome va deveni una dintre marile provocări ale industriei.
Cercetătorul britanic Jacob Coxon și-a anunțat recent plecarea de la Anthropic și din industria inteligenței artificiale.
El consideră că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenția statelor.
Tânărul expert, în vârstă de 27 de ani, și-a anunțat decizia prin șapte mesaje publicate pe X, marți spre sfârșitul după-amiezii. În mai puțin de două ore, acestea fuseseră deja vizualizate de două milioane de ori.
Motivul se rezumă la o singură frază: „Niciuna dintre cele două companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă să se perfecționeze singură și se joace cu viețile noastre”. Cele două companii în cauză nu sunt altele decât OpenAI și Anthropic, cei doi foști angajatori ai săi, scrie News.ro
Matematician de formație, Coxon a lucrat la antrenarea unor noi modele de inteligență artificială (IA) pe baza unor cantități imense de date. Se afla, așadar, în inima procesului.
Colegii săi folosesc acum cuvinte precum „crunchtime” (momentul decisiv) și „endgame” (faza finală) pentru a descrie direcția în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal. „Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârșitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american. Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane și cele chineze face să fie inevitabile compromisurile în materie de securitate.
Pe X, tânărul merge și mai departe. „Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu de la o zi la alta și să dobândească putere și resurse reale”, spune el într-un tweet. Mai rău, „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician.
În fața presei, liderii și cercetătorii experimentați își aleg cu grijă cuvintele „pentru a părea rezonabili”. Însă, în privat, asigură el, aceleași persoane „își exprimă frica”, susține el. „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”, se întreabă Coxon, care își împărtășește perspectiva: „La OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale. La Anthropic, mizele sunt bine înțelese, dar sunt angajați într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului”.
La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputației acesteia în materie de siguranță a modelelor. Deși consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligență artificială capabilă să depășească capacitățile umane într-o serie întreagă de sarcini (ceea ce se numește uneori inteligență artificială generală sau AGI) fără intervenția statelor sau o încetinire coordonată.
Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăsește compania din cauza temerilor legate de siguranța IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? „Lumea este în pericol”.
Interdicție pentru folosirea inteligenței artificiale în școlile publice din New York
Zohran Mamdani, primarul din New York, impune o interdicție de un an legată de folosirea inteligenței artificiale în școlile publice.
Autoritățile din New York au anunțat un moratoriu de un an privind utilizarea inteligenței artificiale (IA) de către elevii din școlile publice primare și gimnaziale, aceasta fiind cea mai recentă măsură luată de autorități pentru a stabili linii directoare pentru utilizarea noilor tehnologii în sala de clasă, relatează Reuters.
Măsura luată de cel mai mare district școlar din țară este cea mai restrictivă de până acum din întreaga SUA, deși alte districte, inclusiv Los Angeles, au declarat că își revizuiesc politicile privind IA.
Primarul Zohran Mamdani a declarat miercuri reporterilor că școlile vor suspenda utilizarea actuală a aproximativ 40 de instrumente educaționale în sălile de clasă din orașul New York.
„Copiii au nevoie de profesori și de legături umane pentru a învăța și a se dezvolta. Ei trebuie să-și dezvolte abilitățile alături de colegii lor, să construiască relații cu educatorii și să se confrunte singuri cu probleme dificile”, a declarat Mamdani într-o conferință de presă.
Politica va afecta aproximativ 600.000 de elevi din școlile publice până în clasa a VIII-a, în timp ce elevilor de liceu li se va permite să utilizeze IA în anumite cazuri. Profesorii vor avea dreptul să utilizeze IA pentru planificarea lecțiilor și pentru sarcini precum programarea orelor, a precizat municipalitatea într-un comunicat.
Școlile publice din metropola New York au impus anterior o interdicție temporară asupra ChatGPT la scurt timp după lansarea sa în 2022. Restricția a fost ulterior ridicată și înlocuită cu un asistent didactic personalizat bazat pe IA, potrivit Microsoft, coproprietar al OpenAI, compania care a creat ChatGPT.
Marile companii dezvoltatoare de IA – Google, Anthropic și Microsoft – nu au răspuns imediat la solicitările de comentarii adresate de Reuters după anunțul lui Mamdani.
Bill Gates avertizează asupra impactului AI
Bill Gates avertizează că lumea nu este pregătită pentru schimbările profunde pe care inteligența artificială le-ar putea provoca pe piața muncii și în societate. Cofondatorul Microsoft consideră că AI ar putea deveni fie ”cel mai mare factor de egalizare inventat vreodată”, fie ”cea mai gravă sursă de nedreptate”, în funcție de modul în care guvernele vor gestiona tranziția.
Într-un eseu, Gates susține că nu vede suficiente dovezi că liderii politici, experții și comunitățile se pregătesc pentru ceea ce el descrie drept o perioadă de tulburări sociale, politice și economice.
”Nu există niciun plan pentru intrarea în era AI”
Gates estimează că tranziția către economia dominată de inteligența artificială ar putea fi una dintre cele mai turbulente perioade din istoria omenirii.
Problema, în opinia sa, este viteza schimbării. Spre deosebire de revoluțiile tehnologice precedente, AI ar putea prelua activități intelectuale într-un ritm mai rapid decât cel în care lucrătorii disponibilizați pot fi recalificați și absorbiți în noile profesii.
”Avem nevoie de timp pentru a ne pregăti pentru perioada de transformări sociale, politice și economice în care suntem pe cale să intrăm”, a avertizat Gates.
În prezent însă, spune el, pregătirile sunt insuficiente.
Locurile de muncă de birou, printre primele afectate
Efectele inteligenței artificiale sunt deja vizibile în unele profesii, potrivit lui Gates.
Printre domeniile care ar putea fi afectate relativ repede se numără vânzările, serviciile pentru clienți, programarea și activitățile juridice desfășurate de personalul auxiliar.
În timp, AI ar putea prelua și sarcini mai complexe, precum analiza datelor, evaluarea creditelor sau trierea pacienților.
O altă problemă este reducerea locurilor de muncă pentru începători. Tinerii ar putea intra pe o piață în care multe dintre activitățile care reprezentau până acum primul pas într-o carieră sunt deja realizate de sisteme AI.
Nici muncitorii nu vor fi protejați
Gates avertizează că transformarea nu se va limita la angajații din birouri.
Pe măsură ce roboții devin mai performanți și mai ieftini, automatizarea ar putea afecta masiv și munca fizică.
El dă exemplul unui angajat plătit cu 20 de dolari pe oră care ar putea ajunge să concureze cu un robot al cărui cost de operare este echivalent cu numai 10 dolari pe oră.
Această diferență economică poate determina companiile să automatizeze rapid activitățile, mai ales dacă rivalii lor fac același lucru.
AI și roboții ar putea crea ”un cerc vicios”
Gates avertizează asupra apariției unui mecanism economic dificil de oprit.
O companie care utilizează AI și roboți își poate reduce costurile și, eventual, prețurile. Concurenții vor fi atunci obligați să adopte aceleași tehnologii pentru a rămâne competitivi.
Automatizarea poate astfel accelera automatizarea.
Gates descrie combinația dintre AI și robotică drept un posibil ”cerc vicios”, în care presiunea concurențială determină înlocuirea tot mai rapidă a unor categorii de angajați.
Guvernele trebuie să regândească munca, educația și protecția socială
Consecințele ar putea obliga statele să își regândească politicile privind ocuparea forței de muncă, educația, fiscalitatea și sistemele de protecție socială.
Gates propune crearea unor organisme naționale dedicate coordonării tranziției către era AI.
Aceste instituții ar trebui să poată elabora politici care traversează simultan numeroase domenii: piața muncii, taxele, energia, alegerile, sănătatea publică, sistemul financiar și securitatea națională.
Gates cere și o organizație internațională pentru AI
Reglementarea exclusiv la nivel național nu va fi suficientă, consideră miliardarul.
Riscurile inteligenței artificiale depășesc granițele, astfel încât Gates propune înființarea în paralel a unei noi organizații internaționale pentru AI.
Aceasta ar putea împrumuta elemente din sistemele internaționale existente pentru controlul armelor nucleare, reglementarea aviației civile și acordurile globale pentru protejarea stratului de ozon.
În opinia sa, viitoarea instituție pentru AI va avea însă nevoie de mecanisme și mai complexe.
AI ar putea fi, în același timp, o forță uriașă pentru progres
Gates nu prezintă inteligența artificială exclusiv ca pe o amenințare. El consideră că aceeași tehnologie poate accelera rezolvarea unora dintre cele mai dificile probleme ale lumii.
AI ar putea contribui la dezvoltarea energiei curate și fiabile, combaterea schimbărilor climatice, creșterea producției agricole și eradicarea unor boli.
Tocmai această dualitate face esențial modul în care societatea gestionează următorii ani.
Mesajul lui Gates este că problema nu constă doar în cât de puternică va deveni inteligența artificială, ci în viteza cu care societățile vor reuși să-și adapteze economia, instituțiile și sistemele de protecție înainte ca tehnologia să transforme radical piața muncii.
