OpenAI lucrează la Proiectul Strawberry, care ar trebui să ducă inteligența artificială la “un nivel de raționare”. După antrenarea pe mari seturi de date, boții ar urma “să evolueze” prin navigarea autonomă, dar sub supraveghere, pe internet.
Agenția Reuters a intrat în posesia unui document intern al companiei OpenAI, creatorul ChatGPT, în care este descris un model de inteligență artificială care nu doar generează răspunsuri la întrebări, ci ar urma să aibă “suficientă capacitate de planificare pentru a naviga pe internet în mod autonom și pentru a efectua ceea ce OpenAI numește o “cercetare profundă”, de care actualele modelele AI nu sunt capabile”, arată Reuters.
28 noiembrie - Profit Financial.forum
Agenția crede că Strawberry (în traducere, căpșună) este numele de cod al unui proiect intern al OpenAI care a avut anterior numele “Proiectul Q*”. La începutul acestui an, Q* era capabil să răspundă la întrebări complicate de știință și matematică la un nivel la care niciunul dintre modelele AI disponibile public astăzi nu o poate face, mai arată Reuters, care citează surse din interiorul companiei, arată BiziDay.
Deși documentul la care face Reuters referire acum ar fi fost emis în luna mai 2024 și detaliază un plan privind modul în care OpenAI intenționează să folosească Strawberry, agenția nu a putut stabili cât de aproape este compania de a face public proiectul, nici modul în care Strawberry funcționează.
Cercetătorii intervievați de Reuters spun că “raționarea este cheia” pentru ca AI să obțină o inteligență de nivel uman sau peste cel uman. Modelele lingvistice, așa cum este ChatGPT, pot rezuma și pot compune texte, dar au adesea probleme în recunoașterea erorilor logice, pe care oamenii le rezolvă în mod intuitiv. În astfel de situații, cel mai des actualii boți AI “halucinează”, adică oferă informații false, inventate.
Cercetătorii intervievați de Reuters cred că depășirea “problemei halucinațiilor AI” implică formarea unui model care i-ar permite inteligenței artificiale să planifice în avans, să raporteze ceea ce urmează să facă la modul în care funcționează lumea reală, ceea ce i-ar permite să rezolve probleme provocatoare în mai mulți pași, într-un mod mai fiabil.
“OpenAI speră că inovația va îmbunătăți în mod semnificativ capacitățile de raționare ale modelelor sale de inteligență artificială, potrivit unei persoane familiarizate cu problema, care a adăugat că Strawberry implică o modalitate specializată de procesare a unui model de inteligență artificială”. După ce a fost antrenat în prealabil pe seturi de date foarte mari, Strawberry trece apoi printr-un proces de “rafinare”, denumit “post-training”, care poate include feedbackul oferit de oamenii cu care interacționează, sau chiar un proces prin care inteligența artificială primește exemple de răspunsuri corecte și incorecte.
Totuși, Reuters precizează că documentul OpenAI intrat în posesia sa descrie ce urmărește Strawberry să atingă, dar nu și cum va face asta.
Astfel, printre capacitățile pe care OpenAI le țintește pentru Strawberry se numără “realizarea de sarcini cu orizont lung, adică obiective complexe care necesită un model de planificare în avans și efectuarea unei serii de acțiuni pe o perioadă mai lungă de timp. OpenAI dorește ca modelele sale să folosească aceste capacități pentru a efectua cercetări prin navigarea autonomă pe internet, dar cu asistența unui agent care poate lua decizii pe baza constatărilor sale”, mai arată raportul Reuters.
Anterior, Bloomberg a raportat că, pe 9 iulie, OpenAI a prezentat intern un proiect de cercetare care ar avea abilități de raționament similare celui uman. Reuters nu a putut determina dacă este vorba tot de proiectul Strawberry.
Directorul general al OpenAI, Sam Altman, a declarat la începutul acestui an că firma sa va deschide o nouă filă în domeniul inteligenței artificiale, iar “cele mai importante domenii de progres vor fi în jurul capacității de raționare”. Unul dintre pionierii inteligenței artificiale moderne, Yann LeCun de la Meta, a spus în repetate ocazii că modelele largi de limbaj (LLM – cele pe care se bazează boții actuali) nu sunt capabile să raționeze.
În ultimele luni, OpenAI a semnalat în mod privat dezvoltatorilor și altor asociați că este pe punctul de a lansa o tehnologie “cu capacități de raționare semnificativ mai avansate”.
