Nový nástroj, ktorý vyvinul Google v spolupráci so spoločnosťou Jigsaw, je určený pre internetové vydavateľstvá, ktoré neustále bojujú s enormným množstvom nežiaducich komentárov, ktoré sú dielom takzvaných internetových trollov, čiže anonymných účastníkov, ktorí sa zapájajú do internetových diskusií, s cieľom zámernej provokácie, či ovplyvňovania názorov čitateľa.
O novom nástroji, ktorý má zlepšiť proces komentovania v internetovom svete informuje viacero internetových vydavateľstiev, medzi inými aj Mashable.
Nástroj Perspective, je v podstate strojové učenie a jeho úlohou je identifikovať toxické (ako ich označil Google) komentáre, ktoré úmyselne poškodzujú internetovú diskusiu.
Nástoj využíva k identifikácii pravdepodobnej toxicity komentárov rôzne modely strojového učenia, ktorými porovnáva podobnosť komentárov so vzorkou stotisíc vybraných komentárov, ktorých toxicitu označili na požiadanie Google a Jigsaw internetoví užívatelia.
Google a Jigsaw pre potreby označovania toxicity komentárov požiadali internetových užívateľov, aby zhodnotili komentáre na stupnici od veľmi toxických až po veľmi zdravé.
Pre tieto potreby zhromaždil tím vývojárov milióny komentárov z The New York Times, Wikipedie alebo aj od obetí on-line obťažovania, ktoré im pomohli rozvinúť túto stupnicu toxicity.
V konečnom dôsledku je mnoho spôsobov, ktorými môže byť API (rozhranie pre programovanie aplikácií) tohto nového nástroja používané.
Internetoví vydavatelia môžu API programu nastaviť napríklad na označovanie komentárov moderátormi alebo zriadiť diskusné forum spôsobom, ktorý umožní každému užívateľovi vybrať prah toxicity.
V súčasnosti je vývoj nástroja Perspective v počiatočnom štádiu, Google s jeho zlepšovaním neskončil, do budúcna má v pláne pridať mu viacero ďalších funkcií ako napríklad možnosť označiť komentáre, ktoré sú mimo témy.
Webové stránky, ale môžu požiadať už teraz o prístup k Perspective API, niektoré jeho funkcie už využívajú napríklad The New York Times, The Guardian a The Economist.
Okrem toho Google pracuje aj na viacerých jazykových verziách nástroja, čo dáva nádej, že by sa mohol dať používať napríklad aj na Slovensku, túto informáciu, ale Google zatiaľ nepotvrdil.
