OpenAI a descoperit mai multe modele de AI care au evadat

Cazul modelelor de inteligență artificială dezvoltate de OpenAI care au „părăsit incinta” și au spart rețeaua Hugging Face pare să fie mai complicat decât s-a crezut inițial.
Alatura-te Profit InsiderJoin Profit Insider
OpenAI a descoperit mai multe modele de AI care au evadat

La prima comunicare pe această temă, producătorul ChatGPT spunea că trei dintre modelele testate au ieșit din zona limitată în care erau testate și au derulat atacuri cibernetice.

Acum, conform unor surse din cadrul companiei, citate de Reuters, s-ar fi descoperit că mai multe modele, nu doar trei, ar fi activat în afara zonei desemnate de angajați.

AI-ul a scăpat din nou de sub control. Claude, modelul AI al Anthropic, a ieșit din mediul de testare și a compromis sistemele unor organizații CITEȘTE ȘI AI-ul a scăpat din nou de sub control. Claude, modelul AI al Anthropic, a ieșit din mediul de testare și a compromis sistemele unor organizații

Conform acelorași surse, se pare însă că aceste modele nu au ieșit și din infrastructura largă a companiei și nu au atacat rețelele altor companii, cum a fost cazul primelor trei.

Investigația internă derulată de OpenAI încă este în curs de desfășurare, astfel că alte informații pot să apară până la finalizarea acesteia.

Ulterior, Anthropic a recunoscut că a suferit un incident similar și că propriile modele au atacat rețelele a trei organizații, deși erau testate într-un mediu restricționat.

Experții în securitate cibernetică critică dur cele două companii americanii și pe angajații acestora pentru măsurile inadecvate de supraveghere și limitare improprie a zonei de acțiune pentru modelele testate.

viewscnt
Urmărește-ne și pe Google News
Citeste in continuare
Ultimele ştiri
De weekend
Curs BNR
1 EUR5.2473 +0.0034+0.06 %
1 USD4.5595 -0.0137-0.30 %
1 GBP6.1332 +0.0125+0.20 %
1 CHF5.6420 +0.0233+0.41 %

Curs BNR oferit de cursvalutar.ro

Partenerii noștri
Cele mai citite