Google prepara nuevas herramientas para luchar contra el acoso online

Al igual que plataformas sociales como Twitter e Instagram ya han integrado funciones para luchar contra el acoso online, Google también está poniendo de su parte y está desarrollando nuevas herramientas -basadas en inteligencia artificial- para frenar el lenguaje del odio que prolifera por la red.

En este sentido, la compañía de Mountain View utilizará el nuevo software 'Conversational AI' creado por la firma tecnológica Jigsaw. El software se encarga de neutralizar las conversaciones virulentas o nocivas que se producen en Internet. Para lo cual, emplea un funcionamiento de aprendizaje automático que detecta este tipo de comentarios clasificándolos en una escala de 0 a 100 según el grado de acoso (siendo 100 extremadamente ofensivo y 0 nada perjudicial). 

El software de inteligencia artificial ha sido probado la sección de comentarios del New York Times, mientras que Wikipedia también planea probarlo, según informa Wired. Mientras que 'Conversational AI' será de código abierto, de tal forma que tanto webs como redes sociales podrán hacer uso de esta tecnología incluso antes de que los comentarios ofensivos lleguen a su objetivo.

Por el momento se desconoce si el software funciona correctamente, aunque según las pruebas realizadas la tecnología tiene un porcentaje de acierto del 92% y una tasa de falsos-positivos (cuando un software detecta que un archivo está infectado pero en el fondo no lo está) del 10%. No obstante, Google afirma para Wired que 'Conversational AI' irá mejorando con el paso del tiempo.