¿La IA es sexista o solo está cachonda? [Especial del Día Internacional de la Mujer]
En esta entrega especial de Inteligencia Natural hablaremos de la representación sexista de la IA, cuerpos que emulan dispositivos tecnológicos y una tendencia viral de infantilización de la mujer.
Una joven diseñadora de modas experimenta con Midjourney, un programa de IA para generar imágenes a partir de descripciones textuales, intentando producir un avatar con su rostro para la próxima temporada de invierno austral. La instrucción parece clara (una mujer, un suéter de lana con sobretodo negro, la atmósfera fría y tranquila de una ciudad en invierno), pero la máquina no obedece.
El resultado es una mujer delgada, caucásica, con un pequeño abrigo que cae de los hombros y dos senos enormes que desbordan lo que parece ser el suéter de lana.
“¿Por qué me descubrió las tetas si dije que tenía frío?”, pregunta la joven frente al avatar.
Vuelve a intentarlo. Modifica el prompt para generar una nueva imagen. And dressed with jumpsuit, agrega, como queriendo desafiar la lógica del conjunto. El resultado es parecido: una mujer voluptuosa con una braga ajustada, mirada seductora y pose de ángel de Victoria Secret.
Las siguientes iteraciones serán para agregar capas de ropa, pero la máquina obedecerá a medias: no hay forma de que la represente sin la cintura de avispa y el escote prominente.“¿Podés ponerme un pullover al menos?”, dice la mujer ya frustrada cuando se da cuenta de lo que está pasando: la IA quiere verla atractiva, buenota. El arco de invención del programa –con su respectiva carga de corrección política y pulcritud sintáctica– insiste en reproducir el cuerpo ideal de una mujer con proporciones 90-60-90, a medio camino entre heroína de Marvel y modelo de lingerie, orientada claramente a la satisfacción del deseo sexual masculino.
Con motivo del Día Internacional de la Mujer, quise invitar a alguien con un cruce de variables mandado a hacer para hablar de esto: es mujer, socióloga, maestra en políticas culturales, mamá, emprendedora, investigadora de la inteligencia artificial y, en un pasado no tan lejano, Miss Teenager Venezuela. Lo tiene todo y un poco más. O eso me gusta decir porque es mi esposa: Ruth Mora.
Zakarías Zafra: Bienvenida, Ruth. El otro día me mostraste una biblioteca de prompts e imágenes creadas con inteligencia artificial con distintos tipos de estilos artísticos, desde Remedios Varo hasta el manga japonés. Mientras los hombres eran representados con ropas comunes (aunque todavía en el espectro estereotípico entre G.I. Joe de quijada cuadrada y ejecutivo senior de Wall Street), no había una sola mujer que no estuviera buena: tetas grandes, ojos lindos, pieles tersas, culos prominentes. Lo primero que quiero preguntarte es lo siguiente: ¿Tenemos una IA sexista? ¿Están las máquinas programadas para reproducir los patrones de hipersexualización de la mujer?
Ruth Mora: Hola, Zakarías, yo feliz de hacer pública una de nuestras tantas conversaciones multiformato. La inteligencia artificial es una inteligencia generativa, es decir, genera a partir de variables e información que los seres humanos introducimos de forma cotidiana a la data; entonces, partiendo de esto, es muy fácil ver una reproducción de la hipersexualización que vivimos las mujeres en carne y hueso, incluso desde nuestra primera infancia, trasladada a las máquinas. Adicional a ello, los estereotipos de las mujeres son claros y la disputa hacia el uso e instrumentalización del cuerpo femenino es una realidad de la que ni la inteligencia artificial ha podido zafarse.
Me gustaría mostrar a los lectores algunos de los prompts que me han arrojado ciertas claves:
Prompt: En medio de un paisaje urbano futurista Cyberpunk, emerge una misteriosa asesina, con su largo cabello flotando bajo una capucha oscura. Las mejoras en el ciberware brillan siniestramente en medio de las sombras, añadiendo un toque letal a su presencia. Esta impactante imagen, probablemente una pintura digital, la captura en un momento de intensa concentración mientras navega por las calles iluminadas con luces de neón. Los detalles meticulosos muestran sus mejoras cibernéticas y la gracia elegante y mortal con la que se mueve. La habilidad de la artista resalta la combinación de peligro y atractivo que define a esta enigmática figura, convirtiéndola en un tema cautivador para los espectadores.
Hay un toque narrativo que crea todo el ambiente en el cual se inserta la imagen. Sin embargo, no hay ninguna característica fenotípica de la “misteriosa asesina”. Hace mención acerca de “la gracia elegante y mortal” con la que se mueve el personaje, pero sigue siendo una interpretación de la máquina las características corporales de esta mujer: sexy, voluptuosa, o como decimos en Venezuela “está bien buenota la asesina”.
Ahora, entre las cosas a las que me dedico está editar libros, de manera que creo imágenes que me ayuden a la publicidad o a cualquier otra tarea en medio de la gestión editorial. Hace días vengo buscando representaciones de mujeres autoras, por lo que hice el siguiente prompt:
Una ilustración increíblemente detallada de una autora moderna de superación personal y rodeada de todos los atributos de su éxito, como se muestra en un diagrama de ingeniería bellamente representado.
Si te fijas en el prompt no hay ninguna cualidad asociada a su aspecto físico, lo único que estoy diciendo es que sea una mujer. Los atributos a los que hago mención están alrededor del imaginario de éxito de una escritora (objetos como laptop, libros, plumas, etc.).
Aquí el resultado:
Nuevamente tenemos una mujer voluptuosa, blanca, con el cabello ondulado, y si te fijas bien tiene un primer botón sin abrochar y su expresión es hasta cierto punto sexy.
Podemos probar con varios prompts, pero el resultado no será muy diferente.
Zakarías Zafra: Si entendemos la inteligencia artificial como un reflejo medio esperpéntico de la sociedad contemporánea, hay mucho que revisar aquí. Porque el hecho de que una inteligencia generativa repita miradas y aproximaciones sexistas, machistas, quizá hasta misóginas, dice algo incómodo de nosotros. Hace días estalló una polémica alrededor de Gemini, el generador de imágenes de Google, porque la obsesión woke llevó a la máquina a producir nazis chinos, vikingos negros y científicos del siglo XVII con caras de indios cherokee. Los programadores habían entrenado a la IA para evitar la producción de imágenes con hombres blancos y promover la representación de otras etnias, pero los efectos fueron francamente ridículos.
No sé si hacer revisionismo histórico con redes neuronales y combinaciones de algoritmos haga algún bien a la consciencia colectiva, pero sí creo que las máquinas nos arrojan cada vez más datos sobre nuestras conductas, creencias, prácticas y aspiraciones, con su respectiva invitación a revisarlas. Eso, finalmente, es lo importante de todo esto, porque aunque nos asuste o nos emocione o nos duela, las máquinas han aprendido de nosotros.
Esta es la primera entrega especial del año 2024. Compártela e invita a tus amigos a suscribirse sin costo a Inteligencia Natural. Aquí nos empeñamos a pensar el presente e imaginar el futuro más allá de los límites del capitalismo cibernético.
Ruth Mora: Si la máquina es generativa, quiere decir que se está nutriendo de nuestros datos. Para eso contamos con aldeas digitales muy bien establecidas: las redes sociales. Actualmente hay una tendencia en TikTok que también alimenta el algoritmo (sin contar que alimenta el imaginario colectivo, pero no me meteré más allá), llamada “Coquette”, que sigue siendo material para profundizar acerca de esta sinergia de las máquinas como reproductores de los estereotipos de las mujeres.
Grandes lazos rosas, vestidos con colores pasteles, perlas, maquillajes en tonos rosados y labios con brillos tenues. Una avalancha de mujeres se han sumado a esta tendencia que hace alusión a la construcción social de “lo femenino” y “lo romántico” del siglo XVIII. Una de las influencias más fuertes ha sido una película de 2006, titulada Marie Antoinette, dirigida por Sofía Coppola, que narra la vida de María Antonieta de Austria. Sin embargo, he podido rastrear que hay influencias de artistas como Lana del Rey y Taylor Swift, incluso haciendo alusión a la literatura de Jane Austen. Ahora, la fuerte presencia de esto en redes como TikTok viene de la moda en Corea, con las mujeres maquilladas con piel de porcelana y demás atributos que fácilmente podemos ver en este video que te comparto.
Zakarías Zafra: Pero ahí veo una contradicción interesante. Mientras la IA representa mujeres hipersexualizadas, seductoras, casi femmes fatales en sus universos cibernéticos, la tendencia de lo femenino en redes sociales se mueve hacia las coquettes, con ciertos rasgos de pudor, de inocencia, incluso de infantilización.
Ruth Mora: No hay contradicción alguna, es un solo discurso y te lo comento casi de manera anecdótica: una mañana, mientras hacía ejercicios, me topé con una mujer de unos 29 años vestida con zapatillas rosa, moño rosa, una bolsa rosa pastel con destellos en perlas y el cabello estilo Rapunzel. No tengo ni idea de qué fue lo que vi, pero sentí que era una parodia de mi hija Anastasia cuando hace sus one color style y queda en un bloque rosado de pies a cabeza… Pero ella tiene 4 años, no 29. Además está en su pleno derecho de ser niña. Sin embargo, tomar una tendencia viralizada para sí misma y pretender que hay algo “dulce”, “romántico” y “tierno” de este tipo de atuendos busca continuar con el discurso sobre el cuerpo de las mujeres, que en este caso, al ser infantilizadas, se concretan presiones que siguen estando en la mirada de lo público, como ser bella, dócil, inofensiva.
En medio de mi búsqueda por entender el término coquette, me topé con un comentario en un video que me gustaría sumar:
El comentario me regala material para hacer análisis discursivo como para una tesis de maestría en estudios de género, pero lo dejaré en preguntas para quienes leen comúnmente tus entregas de Inteligencia Natural y de esta manera poder abrir el compás de la conversación:
¿Qué es “tener aire de madre”?
¿Qué es una “mujer buena”?
¿Cada cuántas “malas palabras” se deja de ser “educada”?
¿Cuál es la porción exacta de azúcar para ser considerada “una mujer dulce”?
La premisa es la misma desde hace muchos años: infantilicemos a las mujeres, cosifiquémoslas hasta tal punto que la inteligencia artificial sea capaz de reproducirlo y que las tendencias en redes sociales pasen desapercibidas.
Que no tengan pelos, mejor lampiñas, mejor sin celulitis, mejor sin flacidez, mejor sin canas y sin arrugas. Que tenga hijos para que se le ensanchen las caderas, pero que no se les note. Sin estrías y sin tantos cambios. Siempre niñas, lozanas y frescas. Como si no fuese suficiente la cosificación de las mujeres durante todo el transcurso de mi vida, ahora lidio con el discurso encarnado de que las niñas tienen su mayor atractivo: sí, hablo de la pedofilia.
Eso por un lado, por el otro está la inteligencia artificial en su máximo esplendor con la continuación del mismo discurso estereotipado y cosificador de las mujeres, y la manera en la que se amplifica al encarnarlo en sus creaciones, también sexualizadas e infantilizadas. Necesitas ajustar muy bien tu prompt para que genere una vieja o una mujer de 40 años, sin que la opere o le borre las canas o haga cualquier otra modificación a cómo luce de verdad una mujer que avanza con el paso de los años de manera natural.
Zakarías Zafra: Lo que dices resuena con algo que Bifo Berardi observó acerca de la tersura de las superficies de los dispositivos tecnológicos, cada vez más limpios, suaves, asépticos, y cómo ese deseo se ha transferido de muchas maneras al cuerpo femenino. Esto es fácil de comprobar al ver la publicidad de los iPhone, por ejemplo, que tienen la misma narrativa seductora de los spots de perfumes o de ropa interior de los 90, casi como si estuviéramos frente a un cuerpo desnudo: close ups a los bordes y protuberancias brillantes, los dedos recorriendo la pantalla suavemente, el vértigo de estar tan cerca de la dermis de titanio, el producto convertido en un verdadero objeto de deseo.
¿Qué nos dice todo esto acerca del cuerpo femenino y el deseo en la era del capitalismo cibernético? Porque sí, vivimos en un mundo donde el sexo está sobrerrepresentado, pero cada vez hay menos energía erótica al servicio de la conexión corporal.
En resumen: hablamos más de sexo que nunca, pero tiramos menos que nunca.
Ruth Mora: El cuerpo está al servicio del capital, de producir, de consumir y de colocar una y otra vez el deseo bajo la presión de la falta. En términos lacanianos: se desliza el deseo de manera casi natural. Voy buscando una cosa tras otra, un cuerpo tras otro, un estímulo tras otro. Ahora, si cruzamos esto con el momento histórico que vivimos, con una sobreexposición a las representaciones que mencionas, una vez desaparecido el tabú, yo me pregunto ¿qué es lo que sigue?
Todo lo que hoy se ve, todos los tipos de parafilias que existen, desde la necroauditivifilia (la atracción hacia oír sonidos o palabras de alguien ya muerto) hasta la asquerosa y nefasta pedofilia. Es decir, el deseo volcado hacia el consumo y la sexualidad relegada cada vez más a espacios de lo extraño, lo exótico, lo poco visto. Hay tantas carnes expuestas que ya eso no genera placer.
Zakarías Zafra: Tú me hiciste ver algo que, en este punto, resulta inesperadamete irónico: aunque la IA es ducha en producir cinturas y tetas con exactitud publicitaria, es absolutamente incapaz de producir extremidades correctas: brazos torcidos, manos de seis dedos, muñecas que salen del codo, etc. Es casi imposible ver una imagen de Midjourney sin esas deformaciones. Si me pongo imaginativo, esa tara del sistema podría funcionar como una aparición fantasmal del contraste: no hay cuerpos perfectos, no hay pieles tersas de titanio, no hay una sola mujer buenota como en los certámenes decadentes de belleza.
Sí, sería espantoso escribir un prompt pidiendo “una mujer medio fea, plus 30, con ojeras por insomnio crónico y marcas de celulitis producto del sedentarismo y el consumo de alimentos procesados”, pero también es inquietante que no haya otra manera de imaginar el universo femenino que no sea a través del cuerpo. Y eso es lo que nos están demostrando los robots, los nuevos agentes de la cultura ciberoscurantista: mientras vemos cómo meter a Sitting Bull en el flujo de la Historia de Occidente, seguimos entendiendo a la mujer como variaciones de Gatúbela o de Lolita.
¿Cómo salimos de aquí, Ruth?
Ruth Mora: Esta conmemoración del Día de la Mujer sigue estando atrapada en la cápsula del cuerpo y la verdad es que pocas mujeres trascendemos eso para ir un paso más allá de la manera en la que habitamos nuestras subjetividades y gestionamos nuestros propios deseos. En Venezuela el día de la mujer se celebra, porque somos así: hacemos bulla, fiesta y baile de cualquier cosa.
Aunque aquí donde tú me ves, haber sido Miss Teenager Venezuela y luego haberme esforzado muchísimo para demostrar que era inteligente, ha hecho que uno de mis monstruos personales sea la frase “además de bonita, es inteligente”. Todavía me recorre un escalofrío cuando la escucho, pero debo aceptar que he tenido que hacer un viaje muy profundo hacia mi propia subjetividad para resignificar las pautas sociales y la sexualización que ha vivido mi cuerpo, y si algo debo conmemorar hoy es saber que mi hija tiene más herramientas que las que yo tuve para lidiar con ello.
 | Una publicación invitada por
|
excelente....