Ofrece mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” ese discurso de odio. (editor de 'El País')
Ofrece mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” ese discurso de odio. (editor de 'El País')
Únete al Whatsapp de Gestión
tecnologia
Recibir newsletter

La Universidad española de Jaén creó un sistema generativo del lenguaje -al estilo - entrenado para responder los en redes sociales para desmontarlos, un modelo que se presentará ante la como parte de un proyecto europeo liderado por el

“Ningún humano sería capaz de hacerlo mejor”, asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.

Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones, con la Oficina Nacional de Lucha Contra los Delitos de Odio y las universidades de Barcelona (UB) y de Valencia (UV), entre sus socios.

LEA TAMBIÉN: OpenAI ve “gran crecimiento” en versión corporativa de ChatGPT
LEA TAMBIÉN: El año en el que Taylor Swift triunfó sobre la IA

Su objetivo es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.

La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramienta de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.

Responder mejor que “censurar”

Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de ‘contenido inapropiado’ no resulta la más adecuada.

“Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al ‘hater’ se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte”, explica Martín.

Ofrece mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” ese discurso de odio.

Por ejemplo, ante la afirmación “los inmigrantes vienen a quitarnos el trabajo”, esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.

“Hemos comparado lo que hace un humano con esto y en el 80% de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas”, asegura Martín.

Esta herramienta la podrían incorporar las propias, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.

“Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas”, explica Martín, para quien esta herramienta resolvería parte del problema.

Te puede interesar


Comienza a destacar en el mundo empresarial recibiendo las noticias más exclusivas del día en tu bandeja Aquí. Si aún no tienes una cuenta, Regístrate gratis y sé parte de nuestra comunidad.

TAGS RELACIONADOS