Nvidia lansează o platformă pentru ținerea sub control a AI-ului

Cu Open Agent Safety Platform, Nvidia spune că își propune să prevină genul de incidente în care AI-ul scapă din mediul de testare și acționează pe cont propriu.

OASP are la bază două componente: OpenShell, care se ocupă cu stabilirea limitelor de funcționare a agenților AI și Sentry, care monitorizează activitatea acestora.

CITEȘTE ȘI Agenții OpenAI au evadat și au extras date de pe pe site-uri guvernamentale

Noua platformă, care este parțial open-source, reprezintă un design de referință, pe care partenerii îl pot folosi pentru a construi produse pe care să le lanseze pe piață.

Printre partenerii cu care Nvidia colaborează în cadrul acestui proiect se numără Microsoft, Cisco, Dell, HPE, ARM, Intel și Lenovo.

Conform Nvidia, OASP ar fi fost capabilă să prevină incidente precum atacurile asupra platformei Hugging Face din luna iulie.

De notat că Nvidia, care a crescut în ultimii ani tocmai datorită dezvoltării AI-ului, are tot interesul ca această industrie să continue să se dezvolte.