1. Ir al contenido
  2. Ir al menú principal
  3. Ir a más sitios de DW

Del odio al amor en un algoritmo

12 de mayo de 2024

Una innovadora herramienta de inteligencia artificial detecta mensajes de odio en las redes sociales y los transforma en poemas que celebran la diversidad.

https://p.dw.com/p/4fjDy
Un hombre con pañuelo arcoíris atado a su muñeca abraza a otro hombre frente al Senado chileno en diciembre de 2021 tras la aprobación del matrimonio homosexual.
"El objetivo es transformar mensajes de odio contra el colectivo LGBTQI+ en poemas que celebran la diversidad".Imagen: Claudio Santana/Getty Images

La idea es cambiar odio por amor. Y, más específicamente, transformar la discriminación hacia lo distinto en su celebración.

Persiguiendo este objetivo, y valiéndose de las posibilidades de la inteligencia artificial, nació el proyecto RainBot, "el primer bot [programa de software que opera en internet y lleva a cabo tareas repetitivas], que transforma mensajes de odio al colectivo LGBTQI+ en poemas que celebran la diversidad utilizando inteligencia artificial generativa", según su propia definición.

"Elegimos crear RainBot como una herramienta contra el discurso de odio y la discriminación, porque era la forma más efectiva de seguir denunciando este tipo de comportamientos sin reproducir la conversación negativa", explica David González Natal, socio y director general de Latam norte de LLYC, la firma global de consultoría de comunicación y asuntos públicos creadora del instrumento, en entrevista con DW.

"Observamos que, al denunciar directamente el discurso de odio en las redes sociales, a menudo se amplificaba la discusión negativa en lugar de contrarrestarla. Por lo tanto, desarrollamos RainBot como una solución innovadora que nos permitió abordar el problema sin contribuir involuntariamente a su propagación", puntualiza González Natal desde su oficina en Ciudad de México.

Nada se pierde, todo se transforma

Los resultados hablan por sí mismos. Donde antes podía leerse: "Obviamente, si el tío se maquilla, es maricón. A la hoguera", tras el paso de RainBot, puede leerse: "En el maquillaje, un lienzo se despliega, maricón desafía la intolerancia ciega. Hoguera apaga, amor sosiega, abrazo fraterno, el alma se entrega".

Y también, el mensaje que dice: "En México también debemos promover una ley para eliminar la propaganda del lobby LGBT", es transformado en: "En el camino de la igualdad, seguimos avanzando sin cesar, la fuerza de nuestra diversidad, no podrán eliminar. Con amor y coraje, desafiamos la falsa propaganda, nuestro lobby es la lucha por una sociedad más inclusiva y amplia".

dibujo de un teclado con una mano y botón donde se lee "Hate Speech" (¡discurso de odio').
En busca de mensajes de odio fueron analizadas 169 millones de publicaciones generadas por 36 millones de perfiles.Imagen: Christian Ohde/chromorange/picture alliance

Cierto es, además, que esta herramienta vio la luz luego de un exhaustivo estudio del tema realizado por la consultora en 12 países (México, Argentina, Colombia, Chile, Perú, Ecuador, Panamá, República Dominicana, Brasil, Estados Unidos, España y Portugal), para el que fueron examinadas 169 millones de publicaciones en las redes sociales generadas por 36 millones de perfiles, y a partir del cual fue constatado "un aumento del 10 por ciento en el discurso de odio dirigido a la comunidad LGBTQI+, y un decrecimiento del 41 por ciento de la conversación positiva sobre el mismo, en los últimos cuatro años", asegura el responsable del proyecto a DW.

La herramienta en detalle

¿Cómo funciona la herramienta? "RainBot utiliza algoritmos de IA para analizar y detectar mensajes de odio en tiempo real", explica González Natal en diálogo con DW. "Estos mensajes son identificados a partir de palabras clave, contextos y patrones lingüísticos asociados con el discurso de odio", puntualiza. "Una vez identificados, los mensajes de odio son transformados en mensajes positivos y de apoyo, y publicados automáticamente en la cuenta de RainBot en X", detalla.

"Los usuarios además tienen la posibilidad de enviar mensajes de odio directamente a RainBot para que sean transformados", apunta. "Ecuador, Chile y República Dominicana son los países desde los que nos llegan más textos para ser transformados", revela.

Llevan transformados más de 100 textos que, según los cálculos de la consultora, han devenido en 136.000 impresiones a lo largo de los 12 países en los que está presente la iniciativa.

Y así, mensaje a mensaje, de la mano de la IA, seguirán poniendo su granito de arena contra la discriminación en el mar de internet. Tal como sus responsables lo definen, se trata de "un acto de resistencia".

(lgc)