una diversificación de las formas de interpretar que den lugar a un uso significativo de la tecnología como medio para dar sentido a lo humano como diferencia interrelacionada. Para lograrlo, es necesario conformar comunidades con horizontes epistémicos definidos e infraestructuras sólidas y sostenibles, que permitan la sofisticación de nuestras formas de interpretar ayudados por medios digitales.
Creo que resonamos en este párrafo y en el comentario anterior.
Este punto de vista, a su vez, nos permite colaborar con otros proyectos de humanidades digitales en el mundo pero también cuestionar las presuposiciones con respecto a la interoperabilidad y el ideal de la construcción de un sistema universalizante de comunicación, una intención babélica que se origina en centros de poder que asumen su propia comunicación como línea de base a la que los demás deben adaptarse. Es decir, las humanidades digitales en términos de conservación de la memoria permiten tanto construir lo propio y significativo como dialogar con una tradición más amplia. Lo propio aquí no es una visión nacionalista, por supuesto, sino la visión centrada en los propósitos y usos significativos de las comunidades que contruyen su historia y sus interpretaciones.
Sin embargo, creo que lo propio y la interoperabilidad no están en riña, sino que tienen que ver con cómo hay acceso diferenciado, pero interoperable a infraestructuras digitales dispuestas por y para las comunidades y alejadas de grandes oligopolios.
Por ejemplo, nuestro reciente proyecto de Cartofonías para la revitalización lingüística en La Chorrera, Amazonas usa tecnologías interoperables, pero se distancia de tecnologías hegemónicas y sus centros, de este modo no hospedamos el código en el privativo GitHub) ni usamos el motor wiki libre y complicado de la Wikimedia/Wikipedia, ni hospedamos las memorias en Meta/Instagram. Nuestra curaduría e interconexión de alternativas (Fossil, TiddlyWiki, Internet Archive) es interoperable pero alejadas de las hegemonías tecnoeconómicas libres o privativas. Las comunidades además son las que deciden sobre los accesos a los datos y una posible intranet, podría extender el computador en territorio dónde ahora están hospedados localmente, para que evolucione y crezca con condiciones de acceso distintas y más allá de lo que ahora están en línea.
una tensión entre dedicar energía y trabajo en hacer infraestructuras situadas o en dedicarlo a realizar proyectos concretos con infraestructuras existentes. Por supuesto, más que una oposición en blanco y negro, esta tensión establece unos ejes de posibilidad en los cuales distintos agentes practicantes de las humanidades digitales se mueven, como en las nubes metafóricas propuestas y dibujadas en el capítulo 2. Hacer la distinción es útil, de todos modos, para conceptualizar tales posibilidades. Además, se abre espacio para preguntas como ¿cómo intervenir en las infraestructuras ajenas?, ¿cómo apropiarlas adecuadamente?, ¿cómo establecer procesos colaborativos entre distintas escalas infraestructurales y distintos contextos?
La forma de superar estos binarismos y navegar estas tensiones, al menos desde la comunidad de Grafoscopio es desarrollar tecnologías propias que reorganizan stacks tecnológicos alternos y agregan metaherramientas a la mezcla, de manera que podamos disfrutar las ventajas de la interoperabilidad y la alta localización y recontextualización.
Así, en el presente, las discusiones que hubo en esos años han tomado otros rumbos, no porque se hayan resuelto, sino porque se han exacerbado los problemas, han aparecido unos nuevos y se han replanteado los conceptos: el cuestionamiento del desarrollismo, es decir, la creencia de que el desarrollo económico es el propósito primordial de las sociedades; la necesidad de una decolonización del conocimiento; la defensa del pluralismo y la interculturalidad; las intervención en el cierre de las brechas tecnológicas en un mundo globalizado pero muy desigual; la producción de tecnologías marginales y fuera del estado y las instituciones; o el trabajo para frenar grandes procesos de destrucción ecológica como el calentamiento global o los desequilibros sociales y ambientales causados por el extractivismo35Kreimer y Vessuri, «Latin American Science, Technology, and Society»; Eden Medina, Ivan da Costa Marques, y Christina Holmes, eds., Beyond Imported Magic: Essays on Science, Technology, and Society in Latin America, Inside Technology (London, England Cambridge, Massachusetts: The MIT Press, 2014)..
Summary of feminist principles' framework for AI
La Inteligencia Artificial puede ser una herramienta clave para abordar la VGD en Colombia mediante el desarrollo de chatbots o agentes conversacionales:
Asesorar y guiar para proveer información sobre derechos, rutas de denuncia y acceso a apoyo legal, psicológico y emocional.
Prevenir y detectar patrones de riesgo al analizar palabras clave, emojis o interacciones para identificar posibles crisis de violencia y generar alertas.
Empoderar comunidades para permitir que las víctimas accedan a redes de apoyo y recursos de manera anónima y segura, respetando principios de privacidad y datos.
Principios clave para el desarrollo de IA feminista
De acuerdo con los principios propuestos por Juliana Guerra (2022) y basados en experiencias previas con chatbots en otros países, las soluciones de IA deben:
Ser colaborativas y participativas para co-diseñarse con comunidades, activistas y expertas/os para reflejar las necesidades específicas del contexto colombiano.
Incorporar conocimientos situados para reconocer las particularidades socioculturales y las corporalidades diversas de las personas usuarias.
Garantizar privacidad y consentimiento al usar datos de manera transparente y proteger la identidad de las víctimas.
Fomentar la autonomía para crear herramientas de código abierto y accesibles, evitando la dependencia exclusiva de instituciones públicas.
Un chatbot inspirado en iniciativas como Maruchatbot o Soy Violetta podría ser diseñado en Colombia para:
Brindar orientación en español y lenguas indígenas.
Incorporar enfoques interseccionales que reconozcan las realidades de mujeres rurales, afrodescendientes y LGBTIQ+.
Detectar riesgos mediante Inteligencia Artificial, pero sin almacenar información sensible innecesaria.
Crear alianzas con organizaciones locales y académicas para garantizar sostenibilidad y contextualización.
Summary of Gender Digital Violence
En Colombia, la violencia de género digital (VGD) no solo afecta a mujeres por su mera presencia en plataformas digitales, sino que se agrava cuando participan activamente en debates, liderazgos políticos o en la defensa de derechos humanos y la igualdad de género. Esta violencia, una extensión de la violencia de género offline, tiene profundas consecuencias en la vida personal, emocional y pública de las mujeres, afectando su identidad, dignidad, integridad física y psicológica, y su derecho a la libertad de expresión.
La violencia política contra las mujeres, definida por la Organización de los Estados Americanos (OEA) como cualquier acción basada en el género que busca limitar o anular el ejercicio de sus derechos políticos, se manifiesta de forma recurrente en redes sociales. Estos espacios digitales, estratégicos para comunicadoras, activistas y lideresas, son utilizados para acoso, discursos de odio, ataques simbólicos y amenazas, con el objetivo de silenciar sus voces o inhibir su participación pública.
El impacto de la VGD y la violencia política digital se evidencia en la autocensura, la eliminación de perfiles en redes sociales y el retiro del debate público, perpetuando las barreras de género existentes. Esto afecta especialmente a mujeres indígenas, afrodescendientes, rurales y LGBTQ+, cuyas corporalidades y experiencias de violencia están atravesadas por múltiples formas de discriminación.
En Colombia, donde las desigualdades sociales y la violencia de género convergen con altos índices de violencia política, la Inteligencia Artificial podría desempeñar un papel esencial.
Monitoreo de violencia digital
Uso de Inteligencia Artificial para detectar patrones de discurso de odio, acoso y amenazas dirigidas a mujeres en redes sociales.
Mapeo de las dinámicas de violencia en diferentes regiones y plataformas.
Orientación personalizada
Creación de chatbots que brinden apoyo inmediato a víctimas de VGD, incluyendo traducción automática a lenguas indígenas y regionales, adaptándose a las realidades pluriculturales del país.
Provisión de información sobre recursos legales y psicológicos específicos para mujeres en riesgo.
Prevención y sensibilización
Implementación de campañas automatizadas y personalizadas para educar sobre la violencia de género digital y sus consecuencias, utilizando redes sociales para contrarrestar narrativas de odio.
Ética e inclusión
Cualquier solución tecnológica debe integrar un enfoque interseccional que considere las corporalidades y contextos diversos de las mujeres en Colombia, al respetar la privacidad y evitar prácticas extractivistas de datos. Además, es crucial incluir la participación activa de las mujeres afectadas en el diseño e implementación de estas herramientas, para garantizar su relevancia y efectividad.
La traducción, las corporalidades y la Inteligencia Artificial, puede transformar el abordaje de la VGD en Colombia, fortaleciendo la resiliencia de las mujeres y garantizando espacios digitales más seguros. Sin embargo, para que estas soluciones sean sostenibles, deben estar acompañadas de políticas públicas, colaboración interinstitucional y compromiso social para erradicar las raíces estructurales de la violencia de género.
We are essentially digitizing trees, animals, and plants and rivers, and boundaries, defining those using satellite imagery.
En Colombia, las corporalidades están profundamente vinculadas a la identidad cultural, territorial y espiritual. Para muchas comunidades indígenas, afrodescendientes y campesinas, el cuerpo no solo es físico, sino también un puente con la tierra y la naturaleza.
Estas comunidades entienden el territorio como un elemento vital de su existencia colectiva, lo que contrasta con las visiones occidentales que separan al individuo del entorno natural.
La digitalización de territorios, como se plantea en el uso de la Inteligencia Artificial para conservación, presenta desafíos éticos importantes. Clasificar y definir tierras y recursos naturales a través de imágenes satelitales y algoritmos puede despojar a estas comunidades de su conexión simbólica y material con el territorio, perpetuando desigualdades históricas y vulnerando sus derechos culturales y corporales.
La traducción en Colombia podría desempeñar un papel clave al mediar entre las perspectivas indígenas y las prácticas occidentales de conservación y digitalización de territorios.
Traducir no solo lenguas, sino también conceptos culturales como la relacionalidad con la naturaleza y el conocimiento colectivo, es esencial para evitar malentendidos y garantizar que las voces de las comunidades sean escuchadas.
Por ejemplo, cuando se desarrollan proyectos de conservación basados en la Inteligencia Artificial, la traducción puede ayudar a garantizar que los principios, usos y riesgos de estas tecnologías sean entendidos desde las cosmovisiones indígenas, en lugar de imponer terminologías y enfoques que no respeten sus prácticas y saberes.
La implementación de Inteligencia Artificial en conservación y digitalización de tierras en Colombia debería centrarse en que:
Las comunidades indígenas deban ser incluidas como actores principales en el diseño de tecnologías que afectan sus territorios. Esto requiere procesos de consulta previos, libres e informados, en línea con los estándares internacionales de derechos humanos.
En lugar de imponer un modelo de digitalización basado en la separación tierra-persona, la Inteligencia Artificial deba reflejar cómo estas comunidades perciben su conexión espiritual, cultural y económica con la naturaleza.
La Inteligencia Artificial deba reconocer y respetar el conocimiento colectivo de las comunidades. Esto incluye evitar la apropiación de datos que no consideren el carácter comunal de la identidad y el saber indígena, promoviendo en su lugar principios éticos como los planteados en la posición de Indigenous AI.
What is fairness?
Los cuerpos, la traducción y la Inteligencia Artificial vistos desde una posibilidad ética en la equidad revela tensiones profundas entre lo cuantificable y lo ético, especialmente cuando consideramos cómo la Inteligencia Artificial impacta los cuerpos. En el centro de estas tensiones yace un desafío, traducir conceptos éticos complejos, como la equidad, en métricas operativas que puedan implementarse en modelos matemáticos. Sin embargo, esta traducción no es neutral ni perfecta, es un acto cargado de decisiones políticas, éticas y culturales que afectan directamente a las corporalidades.
Primero que todo, el cuerpo en el centro del problema refleja que los cuerpos son los sujetos finales de las decisiones algorítmicas. Por ejemplo, en el caso de las métricas de paridad demográfica y de igualdad de oportunidades, los cuerpos se convierten en estadísticas como los números de aceptación o rechazo y probabilidades calculadas. Esto despersonaliza a los individuos y reduce sus complejas experiencias a puntos de datos que se integran en sistemas automatizados.
Además, el impacto sobre los cuerpos marginados no puede desvincularse de sus contextos culturales y sociales. Por ejemplo, la paridad demográfica puede corregir desigualdades numéricas, pero si la Inteligencia Artificial perpetúa estereotipos o malinterpreta características culturales en sus métricas de similitud, los cuerpos aún enfrentan injusticias.
segundo, la traducción vista desde las posibilidades éticas hasta la matemática implica que la traducción de conceptos éticos en modelos matemáticos, como los índices de entropía generalizada o las métricas de equidad grupal, enfrenta una paradoja fundamental ya que la ética es intrínsecamente contextual y fluida, mientras que las matemáticas buscan exactitud, consistencia y universalidad. Esto da lugar a dilemas como el teorema de imposibilidad, donde no es posible satisfacer simultáneamente múltiples métricas de equidad.
Este proceso de traducción puede ocultar o amplificar sesgos, dependiendo de cómo se define y mide la similitud entre individuos. Por ejemplo, al intentar medir similitud entre postulantes a un empleo, ¿cómo se traduce la experiencia laboral de una mujer en un contexto cultural donde históricamente se han excluido sus contribuciones? Traducir esta experiencia en un valor numérico puede distorsionar las realidades de los cuerpos que pretende representar.
Tercero, la Inteligencia Artificial como cuerpo traductor indica que no solo traduce datos, sino también cuerpos y experiencias, reduciéndolos a representaciones que interactúan con sistemas automatizados. Por lo tanto, la Inteligencia Artificial actúa como un “cuerpo traductor” que interpreta y reconfigura las relaciones de poder existentes. Un ejemplo es la dificultad de aplicar métricas de equidad grupal en contextos donde las desigualdades históricas han creado disparidades profundas en las oportunidades educativas y económicas.
Por último, el problema surge cuando la Inteligencia Artificial perpetúa, en lugar de mitigar, estas desigualdades. Por ejemplo, si una métrica de igualdad de oportunidades selecciona predominantemente a individuos del grupo mayoritario debido a sus mayores tasas de calificación previa, las dinámicas de poder se refuerzan, y los cuerpos del grupo minoritario quedan relegados.
Para lograr unas posibilidades éticas dentro de las cartografías de tecnodiversidades es necesario que:
Las métricas de equidad deben reevaluarse constantemente en función de los contextos sociales, políticos y culturales en los que se aplican. Esto implica un enfoque repetitivo y dinámico en la toma de decisiones algorítmicas.
Los cuerpos no pueden reducirse a datos estadísticos. Es necesario desarrollar métodos participativos que integren las experiencias vividas de los afectados por las decisiones algorítmicas en el diseño y evaluación de la Inteligencia Artificial.
En lugar de intentar traducir la ética directamente a matemática, podemos fomentar una interacción entre disciplinas, incluyendo la filosofía, las ciencias sociales y la ingeniería, para que la traducción sea más inclusiva y representativa.
Las métricas de similitud deben ser auditadas desde perspectivas interdisciplinarias para garantizar que no perpetúen sesgos ni deshumanicen a los sujetos.