Disputa Pentagonului cu Anthropic, compania din spatele modelului AI Claude, provine din refuzul startup-ului de inteligență artificială de a elimina garanțiile care ar împiedica utilizarea tehnologiei sale pentru arme autonome și supravegherea în masă în Statele Unite, scrie Reuters.
Mai devreme în cursul zilei, purtătorul de cuvânt al Pentagonului, Sean Parnell, a declarat pe X că departamentul nu are niciun interes să utilizeze inteligența artificială pentru a efectua supraveghere în masă a americanilor și nici nu dorește să utilizeze inteligența artificială pentru a dezvolta arme autonome care funcționează fără implicarea umană.
„Iată ce cerem: Să permitem Pentagonului să utilizeze modelul Anthropic în toate scopurile legale”, a spus Parnell, adăugând că Anthropic are timp până vineri, ora 17:01 ET, pentru a decide.
„În caz contrar, vom încheia parteneriatul nostru cu Anthropic și îi vom considera un risc pentru lanțul de aprovizionare.”
Într-o declarație de joi, CEO-ul Anthropic, Dario Amodei, a subliniat opoziția companiei față de utilizarea de către Pentagon a modelelor sale de inteligență artificială pentru supravegherea internă în masă sau pentru operarea armelor complet autonome, în ultimul caz argumentând că sistemele de inteligență artificială de frontieră pur și simplu nu sunt suficient de fiabile”.
O sursă apropiată companiei a declarat că Anthropic nu acuză Pentagonul că ar intenționa să utilizeze inteligența artificială în scopurile enumerate, ci oferă o judecată privind siguranța produsului.
Sursa a spus că sistemele de inteligență artificială nu sunt suficient de fiabile pentru „selectarea țintelor în situații de viață și de moarte”, deoarece se comportă imprevizibil în scenarii noi, ceea ce ar putea duce la „foc prietenos, eșecul misiunii sau escaladare neintenționată”.
Utilizarea inteligenței artificiale pentru supravegherea internă în masă ar fi problematică, deoarece legile actuale nu restricționează concluziile pe care inteligența artificială le poate trage prin agregarea unor cantități mari de date.
Aceasta înseamnă că inteligența artificială poate construi profiluri la nivel de populație pe care „nicio lege nu le interzice în mod explicit, dar care încalcă în mod clar spiritul protecțiilor constituționale”, potrivit sursei citate de Reuters.
Amodei a spus că speră ca Pentagonul să reconsidere decizia, dar că firma „va lucra pentru a permite o tranziție lină către un alt furnizor”, dacă Pentagonul decide să anuleze contractul.
Pentagonul a amenințat că va elimina Anthropic din sistemele sale dacă firma menține garanțiile, o va desemna drept risc pentru lanțul de aprovizionare și va invoca Legea privind producția de apărare pentru a forța eliminarea garanțiilor, a spus Amodei.
„Indiferent, aceste amenințări nu ne schimbă poziția: nu putem, cu conștiință împăcată, să le acceptăm cererea”.
Subsecretarul Apărării, Emil Michael, a răspuns pe X, spunând: „Este păcat că @DarioAmodei este un mincinos și are complexul lui Dumnezeu. Nu își dorește nimic mai mult decât să încerce să controleze personal armata americană și este în regulă pentru el să pună în pericol siguranța națiunii noastre”.
Anthropic, susținută de Google și Amazon, are un contract cu Departamentul Apărării în valoare de până la 200 de milioane de dolari.
Un purtător de cuvânt al Anthropic a declarat că firma rămâne „gata să continue discuțiile și angajată pentru continuitatea operațională a Departamentului și a combatanților americani”.
Peste 200 de angajați Google și OpenAI au susținut poziția Anthropic într-o scrisoare deschisă.
