Așa-zisele halucinații, cum sunt numite invențiile pe care ChatGPT le produce de multe ori, stau la baza a ceea ce ar putea fi primul dintr-o serie lungă de procese pentru defăimare.
Mark Walters, un DJ din Georgia, a dat în judecată OpenAI, producătorul ChatGPT, după ce chatbot-ul a afirmat că acesta se face vinovat de deturnarea fondurilor unei organizații non-profit.
Acum, în cadrul procesului intentat la Curtea Superioară din Gwinnett County, Georgia, Walters acuză OpenAI de defăimare și cere o sumă de bani care nu a fost făcută publică.
Procesul este relevant pentru că ar putea crea o jurisprudență care să nu fie pe placul marilor companii de tehnologie, care se grăbesc să lanseze instrumente de AI generativ, trecând cu ușurință peste numărul imens de informații false pe care acestea le generează.
Chatboții, precum ChatGPT și Bing, sunt, în acest stadiu, incapabili să distingă între minciună și adevăr, fiind prinși în numeroase cazuri că inventează fapte și date.
Deja există situații în care invențiile boților au implicații serioase în lumea reală. Spre exemplu, un avocat cu mare experiență a folosit ChatGPT pentru a-și crea pledoaria, care a fost plină de informații false, iar acum acesta riscă sancțiuni.
Nu ajută nici faptul că firmele care dezvoltă instrumente de AI generativ oferă informații confuze privind capacitățile acestora. Pe de o parte, utilizatorii sunt avertizați că chatboții pot genera uneori informații false, însă, pe de altă parte, boții sunt promovați drept surse de încredere, ce pot fi folosite în numeroase situații, inclusiv la birou.
Dacă instanța dă dreptate acuzării în acest caz (și în alte cauze viitoare similare), cursa infernală a AI-ului generativ demarată de companiile de tehnologie s-ar putea domoli, măcar pentru un timp.
