Sesgo en los bots: la relación entre la IA y la violencia de género

A medida que la inteligencia artificial sigue transformando nuestro mundo, surgen una serie de preguntas fundamentales: ¿Quiénes determinan el desarrollo de la IA y qué repercusiones tiene su influencia? 

Por un lado, la IA ofrece un potencial revolucionario para combatir la violencia de género, desde identificar los sesgos de los sistemas del mundo real hasta apoyar a las sobrevivientes. Por otro lado, amplifica y automatiza los sesgos de sus creadores humanos, lo que a menudo exacerba los mismos problemas que podría ayudar a resolver.

Sesgos de género en el desarrollo de la IA

Los sistemas de IA aprenden a partir de datos generados, seleccionados y etiquetados por seres humanos. Esto significa que la IA solo puede ser tan neutral como las personas que la diseñan. Lo reconozcamos o no, todos absorbemos e interiorizamos los prejuicios del mundo que nos rodea; inevitablemente, estos también se traducen en los sistemas de IA que se han convertido en parte integral de nuestra vida cotidiana. Y, dado que menos de una cuarta parte de los profesionales de la IA y la ciencia de datos son mujeres, el campo en sí carece de una diversidad crítica, lo que garantiza que sean predominantemente las perspectivas masculinas las que guíen los procesos de toma de decisiones de la IA.

Las consecuencias de esto pueden ser de gran alcance. Los algoritmos refuerzan los estereotipos de género, desde herramientas de reclutamiento que clasifican a los candidatos masculinos en posiciones más altas hasta algoritmos de redes sociales que amplifican el contenido misógino. La IA, en lugar de servir como una herramienta imparcial, puede convertirse en un reflejo de los sistemas sociales en los que se crea.

La IA como herramienta para causar daño

La Convención sobre la eliminación de la discriminación contra la mujer ha calificado la violencia digitalizada como «la categoría más reciente de violencia de género». A medida que la IA se acelera, la naturaleza de la violencia de género evoluciona. Uno de los avances más preocupantes es el uso de la IA generativa para perpetuar el abuso basado en imágenes. En 2023, el 98 % del contenido deepfake no consentido era de naturaleza sexual, y el 99 % de las personas afectadas eran mujeres. La IA generativa ha facilitado la creación y distribución de contenido explícito no consentido, lo que ha victimizado a más mujeres y ha desensibilizado potencialmente a otras personas ante la violencia digital.

Las herramientas basadas en la inteligencia artificial también están facilitando la difusión de información errónea y el acoso en línea. Los algoritmos diseñados para impulsar la participación suelen dar prioridad a los contenidos provocativos o perjudiciales, lo que da más visibilidad a la ideología misógina.

¿Se puede utilizar la IA para hacer el bien?

A pesar de estos retos, la IA también ofrece oportunidades para abordar la violencia de género. Por ejemplo, se están desarrollando chatbots basados en IA para poner en contacto a las víctimas con los servicios de apoyo, mientras que otros les ayudan a explorar sus opciones legales. 

La IA también se está utilizando para identificar patrones de sesgo y discriminación, sacando a la luz las desigualdades en el empleo, la sanidad y los sistemas legales. Algunas herramientas incluso emplean la IA para detectar y eliminar imágenes no consentidas de los espacios digitales, lo que ofrece nuevas formas de combatir el abuso en línea de manera más eficaz. 

El camino a seguir

Un futuro con IA es inevitable, pero depende de nosotros darle forma. La IA es una fuerza poderosa que puede aprovecharse para reducir o reproducir los prejuicios y las desigualdades de género. A medida que avanzamos, debemos impulsar sistemas de IA éticos, diseñados para reducir, en lugar de reproducir, las desigualdades de género.

Para obtener más información sobre la relación entre la tecnología y el abuso, únete a nosotros el 4 de marzo de 2025 en la NO MORE Week Tech. Summit. Este evento gratuito en línea contará con paneles de expertos que analizarán los problemas más acuciantes que están transformando el panorama del abuso y ofrecerán soluciones viables para crear espacios digitales más seguros. Juntos, podemos decir «NO MÁS» al abuso facilitado por la tecnología y construir un futuro en el que todos puedan prosperar, libres de daños.

Vamos más allá de la concienciación: creemos un cambio.