Propunerile au fost formulate de Cyberspace Administration of China și vizează ceea ce autoritățile definesc drept ”servicii AI interactive cu caracteristici umane”.
Regulile ar urma să se aplice produselor și serviciilor AI disponibile publicului din China care simulează personalitatea umană și interacționează emoțional cu utilizatorii prin text, imagini, sunet sau video.
Perioada de consultare publică se încheie la 25 ianuarie, scrie News.ro.
Potrivit experților, inițiativa ar reprezenta prima tentativă la nivel global de a reglementa explicit inteligența artificială cu trăsături antropomorfe.
Winston Ma, profesor asociat la NYU School of Law, a declarat că noile propuneri marchează o tranziție clară de la accentul pus pe siguranța conținutului, prezent în reglementările din 2023 privind AI generativ, către un cadru axat pe ”siguranța emoțională”.
Documentul prevede că chatboturile AI nu vor avea voie să genereze conținut care încurajează suicidul sau automutilarea și nici să recurgă la violență verbală ori manipulare emoțională care ar putea afecta sănătatea mintală a utilizatorilor.
În situațiile în care un utilizator exprimă explicit intenții suicidare, furnizorii de tehnologie ar fi obligați să transfere conversația către un operator uman și să contacteze imediat un tutore sau o persoană desemnată.
Regulile propuse mai stabilesc că chatboturile nu pot genera conținut legat de jocuri de noroc, materiale obscene sau violente. În cazul minorilor, utilizarea AI pentru companie emoțională ar necesita consimțământul unui tutore și ar fi supusă unor limite de timp. Platformele ar trebui, de asemenea, să fie capabile să determine dacă un utilizator este minor chiar și atunci când acesta nu își declară vârsta, aplicând setări de protecție în caz de incertitudine, cu posibilitatea de contestare.
Proiectul de reglementare introduce și cerințe suplimentare, precum obligația ca platformele să reamintească utilizatorilor după două ore de interacțiune continuă cu un chatbot AI și impunerea unor evaluări de securitate pentru serviciile care depășesc un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar.
În același timp, autoritățile chineze încurajează utilizarea inteligenței artificiale cu trăsături umane în domenii precum promovarea culturii și sprijinul pentru persoanele vârstnice.
Inițiativa vine într-un moment sensibil pentru industria locală de AI, după ce două startupuri chineze importante din zona chatboturilor, Z.ai și Minimax, au depus recent documentația pentru listări publice inițiale la Hong Kong.
Minimax este cunoscută la nivel internațional pentru aplicația Talkie AI, care permite utilizatorilor să converseze cu personaje virtuale, în timp ce Z.ai, cunoscută și sub numele de Zhipu, susține că tehnologia sa este utilizată pe zeci de milioane de dispozitive. Până în prezent, companiile nu au comentat modul în care noile reguli ar putea influența planurile lor de listare.
Prin aceste măsuri, Beijingul își consolidează controlul asupra dezvoltării rapide a inteligenței artificiale orientate către consumatori, încercând să limiteze riscurile psihologice și sociale asociate cu noile forme de interacțiune digitală.
