TIC    CIBERACOSO

Guardio o cómo la inteligencia artificial te puede avisar si tu hijo sufre bullying

Esta herramienta permite mantener la privacidad de los más pequeños mientras whatsapean al tiempo que detecta posibles casos de ciberacoso gracias al procesamiento del lenguaje

31 OCT. 2018
4 minutos

Dar respuesta tecnológica a un problema que ha sido amplificado por la tecnología: el acoso escolar. Ese es el reto principal que quiere atender Guardio, una aplicación española que se ha propuesto una meta nada sencilla: atajar el auge del bullying antes de que ocurra con el añadido de gestionar el complicado balance de estar tranquilos por el bienestar de los más pequeños de la casa sin invadir su privacidad.

“El acoso escolar ya existía. Pero antes era un problema que se circunscribía al colegio y cuando el niño se iba a casa, allí encontraba su refugio”, cuenta Pablo Elosúa, CEO y fundador de Guardio. Pero con la expansión de los móviles y las redes sociales, a las que tienen acceso desde cada vez más pequeños, el problema del acoso deja de tener un horario y les persigue a cualquier hora.

Controlar directamente los teléfonos móviles y las redes sociales de los pequeños de la casa no parece ser la mejor solución, especialmente cuanto más crecen. A medida que entran en la adolescencia son más celosos de su intimidad y fisgonear entre sus conversaciones con amigos puede suponer un problema. O al menos así era hasta que ha entrado en juego la inteligencia artificial.

Gracias al procesamiento del lenguaje en tiempo real de IBM Watson, Guardio analiza en tiempo real las conversaciones de los jóvenes y monitoriza los mensajes que reciben a través de redes sociales o de Whatsapp. Así, los mensajes se clasifican de acuerdo con unos patrones prestablecidos y se detectan posibles situaciones de acoso. Cuando esto sucede, los padres reciben un mensaje indicando que existe una conversación de riesgo.

“No permitimos que los padres puedan leer todas las conversaciones, sino aquellas que se hayan reconocido como posibles casos dación el cojunto de mensajes se acoso”, explica el fundador, para respetar la privacidad del menor. El padre recibe un email con el extracto de la conversación que contiene esos mensajes que se han detectado como peligrosos. “Wntendemos como conversación el grupo de mensajes seguidos en los que no pasa más de media hora de silencio”, aclara Elosúa, y esa es la fracción a la que tienen acceso los progenitores.

¿Cómo se hace esto? Los padres son los que se registran en Guardio y mediante un código QR enlazan las cuentas de los pequeños, de forma que automáticamente el sistema empieza a analizar el contenido. En el caso de Isntagram, además, se requiere la conseña.

“Hemos puesto el foco aquí pero sistema se puede adaptar a otros problemas: pederastia, sexting, desórdenes alimenticios… son patrones de comportamiento que se pueden definir y el sistema se puede entrenar para que los detecte”, explica el emprendedor. “Hay mucho control parental que bloquea acceso a contenidos como estos pero hay muy pocos sistemas que de verdad se dediquen a analizar lo que pasa en redes sociales, donde está el grueso del problema y donde más puede aportar la inteligencia artificial”.