Nivelul de agresivitate online a atins cote alarmante în ultimii ani, iar Yahoo speră să remedieze această situație printr-un detector foarte performant al afirmațiilor potențial deranjante.

Fenomenul prin care foarte multe persoane ajung victime online a purta multe nume, de la troli la cyber-bullying. Indiferent însă de denumire, problema este una cât se poate de reală, iar rețele de socializare nu au făcut decât să faciliteze crearea de canale prin care oameni pe care îi cunoașteți sau nu să spulbere încrederea de sine cu consecințe dezastruoase. Cei de la Twitter se confruntă cu acest fenomen la o scară globală, scrie playtech.ro.

Până acum, filtrele automate de ofense online, menite să prevină terorizarea prin cyber-bullying, funcționau într-un mod cât se poate de previzibil. Erau bazate pe o listă de cuvinte cheie, iar dacă o persoană folosea unul din acei termeni, comentariul era șters. Consecința la fel de previzibilă a constat în înjurături mai creative și ofense ostentativ de șocante construite în jurul unor cuvinte la care nu te aștepți.

Un grup de cercetători din cadrul Yahoo a încercat o abordare complet diferită a problemei și se pare că a dat rezultate. Noul sistem folosește o rețea neurală și algoritmi de inteligență artificială care devin din ce în ce mai performanți odată cu trecerea timpului. Punctul de start include marcarea unui set foarte stufos de comentarii agresive de către oameni, urmând ca din acel punct, algoritmul să înceapă să detecteze variabilele cu potențial agresiv, procesând cuvintele sub forma unor vectori care, în sine, nu par să deranjeze. În final, sistemul ar trebui să perceapă întregi afirmații ca fiind agresive, cu toate că părțile componente nu sunt agresive.

Primele teste în lumea reală a noului algoritm a avut o rată de detecție de 90% a manifestărilor creative de cyber-bullying. Din păcate, nu se cunoaște momentul exact în care Yahoo va implementa acest sistem la nivel global, deoarece s-ar putea totuși să nu fie perfect și să producă și consecințe nedorite. ,,Pornind de la 10 tweet-uri, un grup de oameni rareori sunt de acord care dintre ele ar trebui definite ca abuz, din acest motiv, vă dați seama cât de greu este pentru un computer.” Astfel a definit dificultatea procesului Alex Krasodomski-Jones de la Centru de Analiză Social Media din Regatul Unit.