Algoritmul folosit de Google pentru a avertiza utilizatorii YouTube cu privire la știrile false și-a arătat limitările luni seara, când a catalogat drept fake news filmările directe ale incendiului devastator al Catedralei Notre Dame.
Noile panouri informative de la care YouTube spera că vor ajuta la informarea corectă a utilizatorilor, i-a informat pe aceștia că incendiul Catedralei Notre Dame ar fi o știre falsă legată de atacul terorist de la turnurile gemene din Statele Unite.
Google a dezactivat complet panourile informative după ce eroarea a fost observată, pentru a avea timp să înțeleagă unde a fost problema și ce trebuie făcut pentru ca aceasta să nu se mai repete.
Un purtător de cuvânt al YouTube a declarat că, uneori, compania ia decizia greșită cu privire la algoritmul folosit pentru automatizarea unor operațiuni.
Pentru gestionarea cantității imense de conținut, YouTube apelează la un algoritm care folosește învățarea mecanică pentru a distinge între ceea ce percepe ca fiind în regulă și ceea ce ajunge să considere că nu este potrivit.
În acest caz, în care AI-ul în forma sa actuală și-a arătat limitările, este posibil ca imaginea incendiului să fi fost sinonimă pentru algoritm doar cu atacul terorist 9/11 în urma procesului de învățare pe care l-a parcurs.
Cardurile informative au fost lansate de YouTube în urmă cu o lună și sunt afișate în preajma clipurilor pe care algoritmul le identifică ca având o problemă - fie sunt știri false sau teorii conspiraționiste, fie conțin îndemnuri la ură.
