El proyecto E.D.I.A (Estereotipos y Discriminación en Inteligencia Artificial) desarrolló una herramienta accesible para evaluar sesgos en procesamiento de lenguaje natural (PLN), específicamente en word embeddings y modelos de lenguaje de gran escala. Este prototipo, alojado en Huggingface, permite que expertos en discriminación, sin habilidades técnicas avanzadas, participen en la detección de sesgos desde las etapas iniciales del desarrollo de tecnologías lingüísticas, evitando daños sociales posteriores.
El proyecto busca empoderar a especialistas en discriminación para auditar sesgos en herramientas de PLN que moldean aplicaciones cotidianas. Estas tecnologías suelen replicar y perpetuar los sesgos presentes en los datos de los que aprenden. Sin embargo, las evaluaciones tradicionales dependen de habilidades técnicas avanzadas en programación y estadística, excluyendo a los expertos en discriminación del núcleo del proceso.
Innovaciones del Prototipo
Visualizaciones Intuitivas: Sustituyen métricas técnicas con representaciones gráficas, permitiendo un análisis más accesible y comunicable.
Conceptos Simplificados: Evitan terminología matemática y estadística compleja, priorizando conceptos intuitivos.
Relaciones Contextuales: Representan gráficamente interacciones entre palabras, contextos de uso y expresiones multi-palabra, enriqueciendo el análisis.
Implementación y Pruebas
El prototipo fue evaluado en talleres interdisciplinarios en Argentina, con 100 asistentes de sectores como la academia, la industria, instituciones públicas y sociedad civil. Estas sesiones confirmaron la utilidad de la herramienta para:
Validar intuiciones sobre discriminación.
Planificar acciones correctivas.
Facilitar debates fundamentados con actores diversos.
Impacto y posible aplicación en Colombia
En Colombia, donde convergen diversas corporalidades y realidades lingüísticas, esta herramienta podría abordar desafíos específicos, como:
Sesgos relacionados con género, raza y clase en aplicaciones de inteligencia artificial.
Exclusión de lenguas indígenas y afrodescendientes en modelos lingüísticos.
Representaciones perjudiciales en medios digitales y plataformas sociales.
El prototipo y su metodología podrían tener potencial para integrarse en prácticas de investigación, políticas públicas y desarrollo tecnológico en Colombia. Además, sus características inclusivas podrían fomentar una mayor participación de comunidades diversas en la creación de tecnologías éticas y culturalmente relevantes.
Recursos Disponibles
Prototipo interactivo: Huggingface.
Código fuente y documentación: Repositorio en GitHub.
Video introductorio: E.D.I.A: Estereotipos y Discriminación en Inteligencia Artificial.
Con este enfoque, E.D.I.A demuestra que reducir barreras técnicas es esencial para construir inteligencia artificial inclusiva y culturalmente sensible, destacando el potencial de metodologías colaborativas en Colombia junto con el Sur Global.