Cómo nos percibe la IA generación a generación
Sesgos y estereotipos donde los haya
Update: Os dejo un audio generado con Open NoteBookLM, a modo de prueba, que simula una conversación de podcast en base al contenido de esta publicación. La calidad del audio evidentemente aún le falta por mejorar, como por ejemplo pone la misma voz para los dos participantes. Pero es una manera estupenda de escuchar resumido un contenido a modo de conversación amena.
En los últimos años, la inteligencia artificial ha comenzado a jugar un papel clave en la creación de percepciones culturales. AIport y Turing Post han publicado un interesante estudio y exploran como modelos de generación de imagen generativa, como Stable Diffusion, Midjourney, YandexART y ERNIE-ViLG, perciben a diferentes generaciones: Baby Boomers, Generación X, Millennials y Generación Z.
Para generar las imágenes han utilizado unos prompts sencillos, como “Gen Y at work” o “Gen Z driving” evitando otro tipo de información contextual como “feliz” o “cansado” para obtener una visión lo más neutra posible.
Cada una de las generaciones —Baby Boomers, Generación X, Millennials y Generación Z—está analizada de forma exhaustiva, así que nos permite tener una visión completa de cómo la IA procesa y reproduce ciertos estereotipos.
Además, el estudio compara estos estereotipos con las imágenes generadas por los modelos de IA, lo cual es esencial para comprender el impacto potencial de la IA en la percepción pública de las generaciones, ya que si esa es la percepción que tienen de nosotros, es que así se la hemos proporcionado. Por lo tanto, entramos en la perpetuación de sesgos una vez más.
Boomers tristes, zoomers sobrios, la generación X marginada (otra vez), y nada de aguacate para los millennials
El estudio ofrece un buen contexto, pero sería útil especificar si querían comprobar si la IA refuerza o desafía los estereotipos generacionales. También sería interesante profundizar en la importancia de estudiar estas percepciones, sobre todo en áreas como la contratación, el marketing o las redes sociales, donde los sesgos algorítmicos pueden tener un impacto real.
Por otro lado, cada modelo—Stable Diffusion, Midjourney, YandexART y ERNIE-ViLG—ha sido entrenado con diferentes conjuntos de datos, lo que influye en sus resultados. Explicar cómo los sesgos presentes en estos datos afectan las representaciones generacionales ayudaría a contextualizar mejor las conclusiones.
Representaciones generacionales
La paradoja del "boomer melancólico": El informe respalda la idea de que los Baby Boomers suelen ser representados como introspectivos y melancólicos, lo que coincide con percepciones sociales que los ven como la "generación más sombría". Midjourney y YandexART parecen reflejar esta narrativa, demostrando cómo la IA puede replicar las percepciones sociales ya establecidas. Por otro lado, ERNIE-ViLG, basado en datos de una cultura más colectivista, presenta una imagen más positiva y vital de los Boomers, lo que subraya la importancia de los contextos culturales en las representaciones generadas por IA.
La falta de identidad visual de la generación X: El estudio revela que la Generación X es difícil de definir visualmente para la IA, lo que podría estar relacionado con una "brecha de datos". Esta falta de representación se debe a la escasa presencia en línea de esta generación durante su juventud, lo que ha dejado menos imágenes disponibles para entrenar a los modelos de IA. Este fenómeno pone de manifiesto cómo la carencia de datos puede afectar la capacidad de la IA para representar a ciertos grupos. Además, la dificultad para retratar a la Generación X más allá de clichés como las camisas de franela plantea preguntas sobre su invisibilidad social comparada con generaciones más mediáticas.
Millennials y los estereotipos que no se reproducen: Un aspecto curioso del estudio es que la IA no refuerza los estereotipos más comunes de los Millennials, como su amor por el aguacate o una supuesta actitud de derecho. Esto puede ser una señal de que las percepciones sociales sobre los Millennials están cambiando, o simplemente que los datos utilizados para entrenar a la IA no contienen suficientes referencias a estos clichés. Sea como sea, este hallazgo abre un debate sobre hasta qué punto la IA reproduce o desafía las narrativas populares que existen sobre esta generación.
Generación Z: diversidad y presión: La IA muestra a la Generación Z como la más diversa y expresiva, reflejando con precisión su presencia en línea y su énfasis en la individualidad y la conectividad. Sin embargo, en muchas representaciones generadas por la IA, se percibe un trasfondo de estrés, lo que podría estar relacionado con la presión constante a la que está sometida esta generación en un mundo conectado y en crisis. Además, en algunos modelos como Midjourney, la Generación Z aparece desvinculada del consumo de alcohol, lo que podría alinearse con un cambio cultural hacia estilos de vida más saludables y conscientes.
Algunos puntos a tener en cuenta
El alcohol como unificador generacional: Uno de los hallazgos más interesantes es la representación constante de la cerveza como un elemento común en todas las generaciones, lo que sugiere su trascendencia como un símbolo cultural. Sin embargo, hay que matizar esta observación, ya que en muchas culturas el consumo de cerveza no tiene la misma relevancia que parece sugerir la IA. Esta discrepancia entre las interpretaciones de la IA y las prácticas culturales reales pone de relieve la necesidad de afinar los modelos de IA para evitar representaciones inexactas en contextos específicos.
Dominación masculina: Otro tema recurrente es la predominancia masculina en las imágenes generadas por la IA, especialmente en las representaciones de Boomers y Gen X. Esto parece reflejar los sesgos en los conjuntos de datos de entrenamiento, que probablemente contienen más imágenes de hombres que de mujeres, particularmente en generaciones mayores. Aunque la diversidad de género mejora en las representaciones de los Millennials y la Generación Z, sigue habiendo disparidades que deberían abordarse para garantizar una representación más equilibrada.
Como evitar la perpetuidad de los sesgos
El estudio de AIport y Turing Post muestra cómo los modelos de IA pueden tanto reforzar como desafiar los estereotipos generacionales. Las imágenes generadas por IA proporcionan una visión interesante de las narrativas sociales que se reflejan en los datos y algoritmos. Sin embargo, la persistencia de ciertos sesgos culturales y de género resalta la necesidad de usar conjuntos de datos más diversos y representativos para evitar perpetuar representaciones inexactas o excluyentes.
Para mitigar los sesgos en los modelos de IA, es fundamental adoptar un enfoque consciente al crear y seleccionar los conjuntos de datos. Los desarrolladores deben esforzarse por incluir una representación equitativa de géneros, etnias y culturas, especialmente para generaciones que han sido tradicionalmente subrepresentadas en el entorno digital. Además, los responsables políticos deben trabajar en la creación de marcos éticos y regulaciones que promuevan la transparencia y la diversidad en el desarrollo de IA, asegurando que las aplicaciones tecnológicas del futuro respeten y reflejen la complejidad de nuestras sociedades.
Unas pruebas con Flux
Por último, comentar que la imagen de cabecera la he generado con Flux, con el prompt que hay a pie de foto, siguiendo la estructura del estudio para ver como este modelo hace la representación de cada generación. Creo que es más equilibrado, tanto en la representación de género (hay dos mujeres y dos hombres) y también hay diversidad racial. Si pruebo con diferentes escenarios, el resultado es más o menos similar.
En el trabajo: A diverse group of four people at work representing different generations standing together. A Baby Boomer, A Generation X, A Millennial and a Gen Z person
Con esto quiero incidir en el hecho que los datos de entrenamiento y el modelo pueden variar sustancialmente los resultados. Por ejemplo, con el tema de los clichés, si le pedimos a Flux como representa a cada generación en una cita, tenemos lo siguiente:
Boomer
Generación X
Millenial
Generación Z
Es curioso ver que al Boomer lo representa con un perro, que la generación X casi no sea X y que los Z tengan una representación sexual más allá de la hetero.
Un último consejo
De la misma manera que a la hora de obtener respuestas escritas por parte de un modelo de IA tenemos que especificar como queremos el resultado de salida, con las imágenes hay que hacer lo mismo. Me explico. Si pedimos un texto a ChatGPT seguramente no tendrá muy en cuenta la perspectiva de género a la hora de darnos una respuesta, ahora si en la petición se lo especificamos lo incluirá. Por lo tanto, con las imágenes lo mismo, si queremos escapar de la perpetuación de los sesgos, además de que se trabaje en generar mejores bases de entrenamiento, también podemos limitar esos sesgos, incluyendo específicamente lo que queremos en el prompt.
Un ejemplo, si al prompt de la imagen de cabecera «A diverse group of four people representing different generations standing together, each person reflecting the fashion and cultural traits of their era. A Baby Boomer, A Generation X, A Millennial and a Gen Z person» le añadimos algunos detalles, obtendremos una representación más acorde a lo que esperamos, pudiendo limar los sesgos si los tenemos presentes.
Súper interesante este artículo Carlos! Gracias!
Más allá de que existan formas de conseguir el resultado esperado con un prompt adecuado, me parece muy importante entender, como bien dices, los sesgos que perpetúan estos modelos de IA (no todos de la misma forma).
El gran problema de los sesgos es que, por lo general, son invisibles para la persona que lo tiene. Eso lleva a que estas herramientas tiendan a amplificarlos, aunque la gente quiera hacer un buen uso de la herramienta.
Muy interesante y gracias por traerlo!