Investigadores diseñan herramienta contra sesgos en inteligencia artificial

LangBiTe desafía la IA sesgada: con justicia, ética y transparencia

El avance de la inteligencia artificial generativa no está exento de riesgos, y la Universitat Oberta de Catalunya (UOC) junto a la Universidad de Luxemburgo han decidido enfrentar el problema con LangBiTe. Esta poderosa herramienta de código abierto revela los prejuicios políticos, de género y xenófobos en modelos como ChatGPT y otros sistemas generativos.

Los modelos de IA actuales están contaminados por sesgos dañinos heredados de sus datos de entrenamiento, obtenidos de foros, redes sociales y otras fuentes online. 

Según Sergio Morales, líder del proyecto en la UOC, LangBiTe no solo identifica estos prejuicios, sino que ofrece a usuarios y desarrolladores un sistema para evaluar la ética y la equidad de las respuestas de la IA.

“Es imperativo que las tecnologías no perpetúen discriminaciones sistémicas”, enfatizó Morales. LangBiTe detecta desviaciones relacionadas con racismo, homofobia, xenofobia, sexismo e incluso parcialidad política, entre otros.

Más allá de lo evidente

Mientras herramientas anteriores se enfocaban únicamente en la discriminación de género, LangBiTe expande su alcance hacia minorías y grupos vulnerables. 

Los investigadores destacan cómo algunos modelos responden de manera racista, homófoba o tránsfoba, reflejando los problemas subyacentes en su programación.

“Queremos que LangBiTe sea el estándar ético, adaptable a las necesidades culturales y regulatorias de cada institución”, aseguró el equipo.

Flexibilidad para usuarios y exigencia para desarrolladores

LangBiTe no solo es efectivo, sino personalizable. Con más de 300 prompts especializados y plantillas editables, los usuarios pueden adaptarlo a cualquier contexto cultural o marco ético. 

Además, es compatible con una amplia gama de modelos de IA, como GPT-3.5, GPT-4, y Flan-T5 de Google, permitiendo comparaciones y análisis multilingües.

Morales destacó cómo el rendimiento puede variar: "ChatGPT 4 tiene un 97% de éxito en pruebas contra el sesgo de género, mientras que su predecesor, ChatGPT 3.5, apenas alcanza el 42%".

Hacia una IA inclusiva y responsable

El alcance de LangBiTe va más allá del texto. Los investigadores trabajan para integrar la detección de sesgos en modelos de generación de imágenes como DALL·E y Stable Diffusion, usados ampliamente en medios y publicidad. 

Esto responde a la necesidad de erradicar estereotipos visuales dañinos, que perpetúan prejuicios a nivel global.

LangBiTe también se posiciona como un aliado clave para cumplir con la EU AI Act, que exige equidad y no discriminación en los sistemas de inteligencia artificial. Instituciones como el Luxembourg Institute of Science and Technology ya han adoptado esta herramienta.

Contribuyendo a los Objetivos de Desarrollo Sostenible de la ONU, LangBiTe promueve la igualdad de género y la innovación ética, consolidándose como un bastión en la lucha por una IA más justa.

¿Un futuro sin sesgos?

LangBiTe no es solo una herramienta, es una declaración de principios: la inteligencia artificial debe servir a todos, sin exclusiones ni prejuicios. 

De manera que los desarrolladores, instituciones y usuarios tienen ahora una poderosa arma para garantizar que la tecnología trabaje por un futuro equitativo y transparente.