Cu ajutorul unei extensii care își bazează algoritmul pe învățarea mecanică, utilizatorii pot ascunde comentariile cu un așa-numit nivel de toxicitate.
Dezvoltată de Jigsaw, incubatorul de tehnologie al Alphabet, instrumentul open-source numit Tune încearcă să folosească inteligența artificială pentru a scuti utilizatorii de comentarii care conțin profanări, ură, insulte sau limbaj licențios.
Tune folosește filtre pentru formulări pe care inteligența artificială a ajuns să le considere toxice în urma unui proces de învățare mecanică din care a deprins cuvinte și expresii pe care utilizatorii le pot considera ofensatoare.
Învățarea mecanică reprezintă un proces continuu de perfecționare, astfel că Tune, care este un experiment în această fază, poate deveni mult mai eficient pe viitor și se poate adapta expresiilor noi.
În această primă formă, extensia de Chrome funcționează deja pe câteva dintre cele mai populare rețele sociale, printre care Facebook, Twitter, Reddit și Disqus.
Același algoritm a fost deja implementat în mod experimental de Google pe YouTube. O parte a creatorilor de conținut pot activa o opțiune prin care comentariile toxice sunt blocate automat pe baza acestui algoritm.
Toxicitatea comentariilor, indiferent că este propagandă teroristă, nazistă ori anti-vaccinare, sau orice fel de ură și injurii, reprezintă o problemă cu care se confruntă toate platformele online.
Fiecare platformă încearcă mai mult sau mai puțin eficient să combată acest fenomen, însă o soluție general valabilă pentru online, precum cea pe care o promite Tune, ar fi cea poate mai bună variantă.
