Un cercetător Microsoft avertizează cu privire la pericolele pe care le poate prezenta inteligența artificială în contextul politic actual

Inteligența artificială poate deveni un instrument periculos în mâinile regimurilor totalitare, afirmă un cercetător care activează în cadrul Microsoft.

Kate Crawford, care face parte din divizia de cercetare a Microsoft, a avertizat în cadrul conferinței intitulate “Zile Negre: AI-ul și creșterea fenomenului fascist” asupra pericolului pe care un sistem de inteligență artificială avansat îl poate reprezenta atunci când va fi folosit de regimuri opresive.

Specializată în studierea impactului social al inteligenței artificiale și al sistemelor care cumulează mari cantități de informații, Crawford susține că, pe măsură ce AI-ul devine tot mai avansat, omenirea trebuie să se asigure că acesta nu ajunge să fie folosit de către regimuri autoritare pentru asuprirea populației.

Aceasta a remarcat faptul că “în timp ce inteligența artificială face progrese însemnate, asistăm în paralel la o creștere a influențelor și ideilor ultra-naționaliste și autoritare în tot mai multe regiuni ale globului”.

CITEȘTE ȘI Microsoft va implementa un nou tip de reclamă în Windows 10 care va permite testarea aplicațiilor înainte de a fi instalate

Cum caracteristicile de bază ale acestor regimuri sunt concentrarea puterii, monitorizarea populației și demonizarea influențelor externe, inteligența artificială, cu toate atuurile sale, poate deveni un instrument foarte eficient de represiune.

În susținerea teoriei sale, Kate Crawford a dat ca exemplu IBM (vechi rival al Microsoft), care ar fi facilitat Germaniei naziste represiunea evreilor și a romilor prin acordarea accesului la propriile registre de date, cu trimitere la una din ideile care gravitează acum în jurul administrației Trump, anume crearea unei baze de date pentru musulmani.

Inteligența artificială poate fi manevrată prin manipularea datelor cu care este antrenată și poate fi astfel folosită inclusiv pentru justificarea opresiunii anumitor categorii sociale sau etnii, susține Crawford.

Sugestia pe care o face Kate Crawford în finalul prezentării este crearea unor sisteme de inteligență artificială cât mai transparente și responsabile ale căror date să lasă cât mai puțin loc manipulării și ale căror interpretări eronate să poate fi verificate și corectate rapid.