Análisis de sesgos en la creación de imágenes con inteligencia artificial basado en el diseño de prompts. Una propuesta metodológica

Autores/as

DOI:

https://doi.org/10.33732/ASRI.986

Palabras clave:

Inteligencia artificial, sesgos algorítmicos, fotografía, ética visual, cultura visual

Resumen

Se propone una metodología basada en el diseño de prompts para el análisis de los sesgos presentes en la inteligencia artificial aplicada a la creación de imágenes. El trabajo plantea un sistema de cuatro niveles de contextualización progresiva del prompt, desde una descripción neutra hasta una referencia explícita al contexto sociocultural, aplicado al análisis cualitativo de un proyecto fotográfico de gran carga simbólica: una serie de cabinet cards afroamericanas de finales del siglo XIX. Se comparan imágenes generadas por GPT-4o, Gemini y Stable Diffusion empleando diferentes prompts, con fotografías originales mediante una matriz de análisis visual. El análisis identifica patrones de representación estereotipada y los resultados muestran cómo solo la contextualización específica de fenotipo, género y contexto sociocultural permite una representación coherente con el referente. El estudio propone estrategias para un uso crítico y ético de estas tecnologías.

Descargas

Los datos de descarga aún no están disponibles.

Biografía del autor/a

  • Elisa García Alonso, Universidad de Burgos
    Elisa García Alonso. Arquitecta, docente en FP e investigadora predoctoral en la Universidad de Burgos, donde también imparte docencia en métodos de investigación en ciencias del comportamiento. Su formación complementaria en neuropsicología, educación y fotografía artística moldea una línea de trabajo interdisciplinar centrada en los procesos de construcción del conocimiento. Su investigación examina la interacción entre espacio, cognición y tecnología, con especial atención a los sesgos epistemológicos que emergen en los sistemas de representación contemporáneos. Actualmente desarrolla proyectos vinculados al análisis crítico de la inteligencia artificial y al modo en que esta puede modelar narrativas y marcos de interpretación. En el ámbito artístico, ha realizado trabajos que abordan desigualdades como los estereotipos de género en contextos deportivos. También participa en investigaciones académicas sobre comportamiento, sesgos culturales y dinámicas de aprendizaje.
  • Nagore Monreal Diez de Ure
    Nagore Monreal Diez de Ure. Docente e investigadora en los ámbitos de la comunicación visual, el diseño y la fotografía, con una trayectoria profesional vinculada al marketing, la creación audiovisual y los proyectos educativos y culturales. Es licenciada en Comunicación Audiovisual y cuenta con formación de posgrado en Dirección de Comunicación, Marketing y Eventos, Diseño Gráfico y Profesorado, además de un máster en Fotografía Artística. Su formación se completa con estudios y práctica en decoración de interiores, entendida como disciplina visual y espacial aplicada a contextos creativos y educativos. Desarrolla su labor docente en educación formal y formación profesional, impartiendo asignaturas relacionadas con imagen, diseño, creatividad, comunicación visual y tecnologías digitales aplicadas al aprendizaje. Paralelamente, ha trabajado como diseñadora gráfica, fotógrafa y creadora audiovisual en proyectos institucionales y culturales. Sus principales líneas de investigación e interés se centran en la inteligencia artificial aplicada a la educación y a la creación visual, especialmente en la IA generativa integrada en programas de diseño y producción de imágenes. Desde un enfoque crítico y ético, analiza los sesgos de género, fenotipo y cultura presentes en los sistemas algorítmicos, así como su impacto en los procesos creativos, educativos y de representación visual contemporánea.
  • Alfonso da Silva López, Universidad de La Rioja
    Alfonso da Silva López. Profesor e investigador en la Universidad de La Rioja, donde desarrolla su labor en el ámbito de la didáctica de la expresión plástica y visual. Doctor en historia, cultura y territorio, máster en e-learning y máster en fotografía, su investigación se centra en la intersección entre arte, educación y prácticas creativas contemporáneas, explorando metodologías como el aprendizaje basado en artes, la investigación-creación y el aprendizaje-servicio. Su trabajo analiza el papel de la imagen como dispositivo crítico y educativo, con especial atención a la fotografía, la pintura y la ilustración como herramientas para la reflexión social y pedagógica. u línea de investigación se centra en el estudio de la educación artística desde un compromiso social, examinando el poder de la imagen en la construcción de narrativas críticas y la importancia de la cultura visual en desde una perspectiva pedagógica.

Referencias

Azoulay, A. (2019). Potential History: Unlearning Imperialism. Verso Books.

Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. John Wiley & Sons.

Braidotti, R. (2019). A theoretical framework for the critical posthumanities. Theory, Culture & Society, 36(6), 31–61. 10.1177/0263276418771486

Buolamwini, J. y Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html

Crawford, K. y Paglen, T. (2021). Excavating AI: The politics of images in machine learning training sets. AI & Society, 36(4), 1399–1399. 10.1007/s00146-021-01301-1

Edwards, F. L. y Thompson, G. B. (2010). The legal creation of raced space: The subtle and ongoing discrimination created through Jim Crow laws. Berkeley Journal of African-American Law and Policy, 12, 145.

Elsharif, W., Alzubaidi, M. y Agus, M. (2025). Cultural bias in text-to-image models: A systematic review of bias identification, evaluation, and mitigation strategies. IEEE Access, 13, 122636–122659. 10.1109/ACCESS.2025.3585745

Gascón-Vera, P., Mattucci, N. y Bonaut-Iriarte, J. (2025). Avatares y estereotipos. Sesgos algorítmicos de la sonrisa femenina generada por inteligencia artificial. Comunicación y Hombre, 21, 93–113. 10.32466/eufv-cyh.2025.21.869.93-113

Gaskins, N. R. (2022, septiembre 7). Interrogating AI bias through digital art. MediaWell, Social Science Research Council. 10.35650/JT.3039.d.2022

Haraway, D. (1988). Situated knowledges: The science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575–599. 10.2307/3178066

Hooks, B. (2014). Black Looks: Race and Representation. Routledge.

Locke, L. G. y Hodgdon, G. (2024). Gender bias in visual generative artificial intelligence systems and the socialization of AI. AI & Society. 10.1007/s00146-024-02129-1

Maluleke, V. H., Thakkar, N., Brooks, T., Weber, E., Darrell, T., Efros, A. A., Kanazawa, A. y Guillory, D. (2022). Studying bias in GANs through the lens of race. En S. Avidan, G. Brostow, M. Cissé, G. M. Farinella y T. Hassner (Eds.), Computer Vision – ECCV 2022, 344–360. Springer Nature Switzerland. 10.1007/978-3-031-19778-9_20

Mattiazzi, M. (2025). AI and language: New forms for old discriminations? A case study in Google Translate and Canva. Feminismo/s, 45, 118–138.

Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S. y Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 2053951716679679. 10.1177/2053951716679679

Omi, M. y Winant, H. (2008). Racial formation. En The New Social Theory Reader (2nd ed.). Routledge.

Polo, D. P. (2024). ChatGPT. Estudio sobre el sesgo de género y la diversidad LGTBIQ+ en la elaboración de cuentos infantiles por parte de la inteligencia artificial. En Caer en la red con Inteligencia (Artificial), 321–332. Marcial Pons, Ediciones Jurídicas y Sociales.

Rohrbach, J. (2020). Acting Out: Cabinet Cards and the Making of Modern Photography. University of California Press.

Scruggs, D. (2022). We Were Beautiful Then, too: Late 19th Century African American Cabinet Cards. Photoville. https://photoville.nyc/exhibition/we-were-beautiful-then-too/

Srinivasan, R. y Uchino, K. (2021). Biases in generative art: A causal look from the lens of art history. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 41–51. 10.1145/3442188.3445869

Tischauser, L. V. (2012). Jim Crow Laws. Bloomsbury Publishing.

Wan, Y., Subramonian, A., Ovalle, A., Lin, Z., Suvarna, A., Chance, C., Bansal, H., Pattichis, R. y Chang, K. W. (2024). Survey of bias in text-to-image generation: Definition, evaluation, and mitigation. arXiv. 10.48550/arXiv.2404.01030

Yang, Y. (2025). Racial bias in AI-generated images. AI & Society. 10.1007/s00146-025-02282-1

Publicado

31-10-2026

Cómo citar

Análisis de sesgos en la creación de imágenes con inteligencia artificial basado en el diseño de prompts. Una propuesta metodológica. (2026). ASRI. Arte y Sociedad. Revista de Investigación en Artes y Humanidad digitales., 31, e986. https://doi.org/10.33732/ASRI.986