Sunt mai multe noutăți pentru adolescenții care folosesc chatbotul bazat pe inteligență artificială, precum și pentru părinți.
Pentru noile conturi de adolescenți, OpenAI elimină posibilitatea ca chatbotul să răspundă folosind o voce umană, pentru a minimiza capacitatea tehnologiei de a părea o persoană, scrie Hotnews.ro.
De asemenea, compania introduce notificări regulate prin care tinerii sunt încurajați să ia o pauză de la utilizarea instrumentului AI, reamintindu-le că ChatGPT este o inteligență artificială și spunându-le că „poate aștepta”.
Compania a insistat că aceste măsuri nu sunt un răspuns la o problemă anume legată de faptul că unii copii ar crede că ChatGPT este viu. Însă există preocupări tot mai mari cu privire la faptul că oamenii ajung să fie convinși că instrumentele de inteligență artificială cu care interacționează sunt conștiente.
Mustafa Suleyman, șeful diviziei de inteligență artificială al Microsoft, a declarat anul trecut că produsele AI care par conștiente îi provoacă îngrijorări majore din cauza impactului acestora asupra societății.
OpenAI prezintă noile funcționalități drept „ChatGPT pentru adolescenți”
Compania a descris noile funcționalități drept „ChatGPT pentru adolescenți” într-un mesaj publicat marți pe blogul său, în care au fost prezentate toate schimbările. Compania a spus că utilizarea AI de cătrea aceștia „ar trebui să fie însoțită de măsuri de protecție care să țină cont de etapa lor de dezvoltare, să consolideze relațiile din lumea reală și să sprijine o utilizare sănătoasă în timp”.
Compania a precizat că aceste conturi pentru adolescenți vor deveni opțiunea implicită pentru persoanele care se identifică drept adolescenți atunci când își creează contul, precum și pentru alți utilizatori pe care compania însăși îi identifică ca având sub 18 ani.
Printre noile funcționalități se numără avertismente împotriva încărcării de imagini sensibile și notificări către părinți atunci când utilizatorii discută despre acte de violență.
OpenAI a declarat că ChatGPT pentru adolescenți nu ar trebui să folosească un limbaj romantic, să sugereze că are sentimente sau conștiință ori să favorizeze dependența emoțională.
„Dacă nu se implică în conținut axat pe învățare, obiectivul este să continuăm să consolidăm experiența adecvată vârstei și măsurile de protecție”, a declarat Lauren Jonas, directoare pentru tineri și familii la OpenAI, pentru site-ul Mashable.
Compania prezintă ChatGPT drept un produs pentru învățare
Jonas a adăugat că, pe viitor, toate sugestiile inițiale din ChatGPT pentru adolescenți vor fi legate de educație, nu de alte subiecte personale. Utilizarea ChatGPT era deja interzisă de OpenAI pentru minorii care nu au împlinit 13 ani.
Produsul include funcții noi, precum reamintiri pentru a face temele în mod responsabil, astfel încât să fie evitate scurtăturile, precum și chestionare bazate pe conținutul conversațiilor sau pe notițele utilizatorului.
În plus, noua setare „Study Hours” („Ore de studiu”) le permite adolescenților și părinților să limiteze utilizarea ChatGPT la modul de studiu pentru anumite perioade de timp în fiecare zi. Modul de studiu este conceput pentru a-i ajuta pe adolescenți să învețe prin utilizarea „rezolvării colaborative, pas cu pas, a problemelor”.
Atât părinții, cât și adolescenții pot seta „Study Hours”, precum și „Quiet Hours” („Ore de liniște”), o setare existentă care închide complet ChatGPT.
Anunțul vine după un val de controverse legate de ChatGPT și alți chatboți
Mashable notează că OpenAI a evidențiat în anunțul său exemple impresionante despre modul în care adolescenții folosesc ChatGPT.
Doi adolescenți din Virginia au dezvoltat un sistem de căutare și salvare cerând instrumentului AI să îi ajute cu cercetarea și realizarea prototipului. Un utilizator din Texas a creat o platformă care generează jocuri educaționale audio pentru elevii nevăzători.
Aceste povești inspiraționale sunt însă umbrite de exemple mai întunecate.
Săptămâna trecută, autoritățile din statul american Massachusetts au acuzat un băiat de 17 ani că și-a ucis mama și fratele mai mic după ce a folosit ChatGPT pentru a pune în scenă povești fantastice care implicau moartea acestora.
OpenAI a fost dată în judecată pentru decese ale unor utilizatori adolescenți care s-au sinucis după o utilizare prelungită și intensă a ChatGPT. Cel puțin unul dintre acești adolescenți, Adam Raine, a început să folosească ChatGPT pentru ajutor la teme înainte de a deveni dependent emoțional de chatbot, potrivit procesului intentat anul trecut de părinții săi.
Compania a fost dată în judecată și de statul Florida, care acuză OpenAI că i-ar fi indus în eroare pe consumatori cu privire la siguranța ChatGPT. Procesul enumeră o serie lungă de acuzații la adresa ChatGPT, printre care sprijinirea autorilor unor atacuri armate în masă, încurajarea sinuciderii, crearea dependenței minorilor de un instrument „fără supraveghere parentală” și determinarea utilizatorilor să-și piardă „capacitatea de gândire critică”.
OpenAI a negat anterior că ar fi comis vreo faptă ilegală în legătură cu unele dintre aceste acuzații.
OpenAI trimite în prezent notificări părinților atunci când utilizatorii adolescenți care au activate controalele parentale discută despre autovătămare, sinucidere sau violență în moduri care indică un pericol imediat sau potențial.
OpenAI pierde teren pe zona de afaceri
Anthropic este liderul nișei de business din piața inteligenței artificiale a Statelor Unite, devansând modelele dezvoltate de OpenAI.
Conform datelor colectate de Ramp AI Index pentru luna iulie, modelele dezvoltate de Anthropic și OpenAI sunt cele mai folosite în rândul companiilor americane.
Literal pieței, cu o cotă de 43,5% este Anthropic, ale cărei modele sunt considerate și cele mai bune în prezent conform rezultatelor din testele sintetice.
Modelele create de OpenAI au o cotă de 39,7% și par să piardă teren în fața celor de la Anthropic în ultimul an, când distanța dintre cele două companii a crescut.
Pe locul al treilea, la mare distanță, se află Google, care deține 6,2% din piața de business a Statelor Unite, în contextul în care focusul principal al gigantul american a fost zona de consumer.
xAI este al patrulea jucător al aceste nișe cu 4%, urmat de DeepSeek cu doar 0,2%.
Cel mai performant model al momentului, Fable 5, deține doar 11% din cota totală a modelelor dezvoltate de Anthropic și asta din cauza prețurilor foarte mari practicate.
Tot prețurile mari ale companiilor americane fac ca firmele să impună limite în folosirea AI-ului și să se îndrepte din ce în ce mai mult către modelele deschise, inclusiv cele create de companiile chinezești.
