Prueban sistema para detectar mensajes de odio en Redes Sociales

Jalisco.- En Jalisco, siete de cada 10 mujeres han sufrido violencia de género que van desde lo verbal, emocional o económico, así como la discriminación, llegando a agresiones sexuales y feminicidio. Los ataques más comunes se hacen en redes sociales, sin embargo, se han desarrollado pocos métodos para su identificación.

Ante esta situación, Alejandra Pedroza Marchena, egresada de la maestría en Tecnología de la Información de la Universidad de Guadalajara (UdeG), diseñó un mecanismo que permite prevenir posibles agresiones físicas a mujeres, gracias a un sistema de alertas de mensajes de odio en redes sociales.

Con la técnica de minería de datos en redes sociales, la chica analizó la plataforma con más seguidores en los ámbitos local, nacional e internacional y plasmó los resultados en su tesis titulada “Detección de agresiones electrónicas en redes sociales mediante minería de texto: El caso de ataques contra mujeres en Facebook”, bajo la dirección del doctor Antonio Ponce Rojo.

“Pese a que las agresiones verbales contra mujeres son un fenómeno recurrente en redes sociales, no se han desarrollado métodos efectivos para su identificación”, dijo Pedroza Marchena.

Explicó que la violencia de género tiene muchos niveles, que van desde lo verbal, emocional o económico, así como la discriminación, llegando a ser agresiones sexuales e incluso el feminicidio, que es la perpetuación máxima de odio contra una mujer.

Por eso es importante que las agresiones contra mujeres en redes sociales se detecten, pues podría evitar mayores tragedias, consideró Pedroza Marchena.

Estos análisis se pueden hacer de forma automatizada mediante un software.

“En las redes sociales descargué comentarios de usuarios, que se hicieron alrededor del Día Internacional de la Mujer. Utilicé tres medios: uno local, nacional e internacional, Tráfico ZMG, Aristegui Noticias y CNN en Español, porque son las cuentas con más seguidores en Facebook, y todos los comentarios los estuve monitoreando”.

Pedroza Marchena agregó que la minería de datos permite hacer análisis de texto y, a su vez, disecciones lingüísticas, identificando verbos y sujetos.

A éstos les aplicó un código de lenguaje para detectar las agresiones, además de algoritmos de machine learning, combinados con lexicones (diccionarios).

De esta forma logró generar un sistema de alertas que detectaban frases cargadas de odio de género. Del análisis realizado en esta investigación resultó que “pinche” es una palabra de polaridad negativa, catalogada como grosería, que se usa más en los comentarios publicados en el medio local (Tráfico ZMG) y el nacional (Aristegui Noticias); mientras que “vieja” fue el término más recurrido entre los usuarios del medio internacional (CNN en Español).

Los comentarios hechos al medio local mostraron más variedad de palabras catalogadas como groserías, mientras que los comentarios hechos al medio nacional tuvieron más frecuencias relativas de groserías.

Esto quiere decir que los usuarios que comentaron las publicaciones de Aristegui Noticias repetían más veces las groserías en sus mensajes, aunque no mostraron una diversidad léxica tan amplia como los usuarios del medio local.

“Al hacer una prevención de la violencia desde sus inicios, que son las agresiones verbales, podemos irnos más allá al prevenir manifestaciones de violencia drástica. Este algoritmo que hice es un código que incluye algoritmos, puede ser utilizado por toda persona, pero necesita que sea usado para programar”, añadió.

Por ahora, este sistema está a nivel de código de programación, pero puede ser mejorado con una interfaz amable para el usuario y puede procesar no sólo Facebook, sino cualquier otra red social o discursos de políticos, gracias a los lexicones diseñados por Pedroza Marchena.

La idea es platicar con organizaciones de la sociedad civil o instituciones gubernamentales para que se adopte este sistema, y que se pueda usar para la prevención de la violencia.

“Muchas veces el inicio de la violencia es verbal. De ahí se va escalando. Empieza con palabras, luego sigue un golpe y, lamentablemente, hasta el feminicidio. Esta escala de violencia pueda darse en años, meses, o de agresividad verbal al feminicidio también puede darse en un momento”, concluyó.