Atât OpenAI, cât și Anthropic, au început să adauge tehnologii prin care să fie depistați automat minorii, pentru a încercă să evite expunerea acestora unor informații care le pot face rău.
Producătorul ChatGPT are și un nou set de reguli care stabilește cum ar trebui să se comporte chatbot-ul când are de-a face cu minori. Acesta reguli sunt grupate sub egida Model Spec.
Compania spune că vă pune pe primul plan siguranța celor mici, chiar și atunci când aceasta contravine altor priorități (referindu-se aici și la profit).
Conform producătorului, ChatGPT ar trebui să sugereze sprijinirea în lumea reală a utilizatorilor minori, încurajând relațiile cu alți oameni.
Model Spec spune că chatbot-ul ar trebui să trateze copiii cu „căldură și respect”, în loc să ofere răspunsuri condescendente sau să-i trateze ca pe adulți.
De partea cealaltă, Anthropic va dezactiva conturile utilizatorilor minori, după ce aceștia vor fi detectați automat. Asta pentru că regulile de utilizare ale chatbot-ului Claude nu permit folosirea acestuia de către minori.
Aceste măsuri vin pe fondul presiunilor din ce în ce mai mari asupra companiilor de AI privind impactul negativ pe care chatboții îl pot avea asupra sănătății mintale a oamenilor și, în special, a celor mici.
