Analysis of BIAS in the Creation of Images with Artificial Intelligence based on Prompt Design. A Methodological Proposal

Authors

DOI:

https://doi.org/10.33732/ASRI.986

Keywords:

Artificial intelligence, algorithmic biases, photography, visual ethics, visual culture

Abstract

A methodology based on prompt design is proposed for analysing biases present in artificial intelligence applied to image creation. This study proposes a four-level system for progressively contextualizing the prompt, ranging from a neutral description to an explicit reference to the sociocultural context, applied to the qualitative analysis of a highly symbolic photographic project: a series of late-19th-century African American cabinet cards. Images generated by GPT-4o, Gemini and Stable Diffusion using different prompts are compared with original photographs using a visual analysis matrix. The analysis identifies patterns of stereotypical representation, and the results show how only the specific contextualization of phenotype, gender, and sociocultural context allows for a representation consistent with the referent. The study proposes strategies for the critical and ethical use of these technologies.

Downloads

Download data is not yet available.

Author Biographies

  • Elisa García Alonso, Universidad de Burgos
    Elisa García Alonso. Arquitecta, docente en FP e investigadora predoctoral en la Universidad de Burgos, donde también imparte docencia en métodos de investigación en ciencias del comportamiento. Su formación complementaria en neuropsicología, educación y fotografía artística moldea una línea de trabajo interdisciplinar centrada en los procesos de construcción del conocimiento. Su investigación examina la interacción entre espacio, cognición y tecnología, con especial atención a los sesgos epistemológicos que emergen en los sistemas de representación contemporáneos. Actualmente desarrolla proyectos vinculados al análisis crítico de la inteligencia artificial y al modo en que esta puede modelar narrativas y marcos de interpretación. En el ámbito artístico, ha realizado trabajos que abordan desigualdades como los estereotipos de género en contextos deportivos. También participa en investigaciones académicas sobre comportamiento, sesgos culturales y dinámicas de aprendizaje.
  • Nagore Monreal Diez de Ure
    Nagore Monreal Diez de Ure. Docente e investigadora en los ámbitos de la comunicación visual, el diseño y la fotografía, con una trayectoria profesional vinculada al marketing, la creación audiovisual y los proyectos educativos y culturales. Es licenciada en Comunicación Audiovisual y cuenta con formación de posgrado en Dirección de Comunicación, Marketing y Eventos, Diseño Gráfico y Profesorado, además de un máster en Fotografía Artística. Su formación se completa con estudios y práctica en decoración de interiores, entendida como disciplina visual y espacial aplicada a contextos creativos y educativos. Desarrolla su labor docente en educación formal y formación profesional, impartiendo asignaturas relacionadas con imagen, diseño, creatividad, comunicación visual y tecnologías digitales aplicadas al aprendizaje. Paralelamente, ha trabajado como diseñadora gráfica, fotógrafa y creadora audiovisual en proyectos institucionales y culturales. Sus principales líneas de investigación e interés se centran en la inteligencia artificial aplicada a la educación y a la creación visual, especialmente en la IA generativa integrada en programas de diseño y producción de imágenes. Desde un enfoque crítico y ético, analiza los sesgos de género, fenotipo y cultura presentes en los sistemas algorítmicos, así como su impacto en los procesos creativos, educativos y de representación visual contemporánea.
  • Alfonso da Silva López, Universidad de La Rioja
    Alfonso da Silva López. Profesor e investigador en la Universidad de La Rioja, donde desarrolla su labor en el ámbito de la didáctica de la expresión plástica y visual. Doctor en historia, cultura y territorio, máster en e-learning y máster en fotografía, su investigación se centra en la intersección entre arte, educación y prácticas creativas contemporáneas, explorando metodologías como el aprendizaje basado en artes, la investigación-creación y el aprendizaje-servicio. Su trabajo analiza el papel de la imagen como dispositivo crítico y educativo, con especial atención a la fotografía, la pintura y la ilustración como herramientas para la reflexión social y pedagógica. u línea de investigación se centra en el estudio de la educación artística desde un compromiso social, examinando el poder de la imagen en la construcción de narrativas críticas y la importancia de la cultura visual en desde una perspectiva pedagógica.

References

Azoulay, A. (2019). Potential History: Unlearning Imperialism. Verso Books.

Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. John Wiley & Sons.

Braidotti, R. (2019). A theoretical framework for the critical posthumanities. Theory, Culture & Society, 36(6), 31–61. 10.1177/0263276418771486

Buolamwini, J. y Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html

Crawford, K. y Paglen, T. (2021). Excavating AI: The politics of images in machine learning training sets. AI & Society, 36(4), 1399–1399. 10.1007/s00146-021-01301-1

Edwards, F. L. y Thompson, G. B. (2010). The legal creation of raced space: The subtle and ongoing discrimination created through Jim Crow laws. Berkeley Journal of African-American Law and Policy, 12, 145.

Elsharif, W., Alzubaidi, M. y Agus, M. (2025). Cultural bias in text-to-image models: A systematic review of bias identification, evaluation, and mitigation strategies. IEEE Access, 13, 122636–122659. 10.1109/ACCESS.2025.3585745

Gascón-Vera, P., Mattucci, N. y Bonaut-Iriarte, J. (2025). Avatares y estereotipos. Sesgos algorítmicos de la sonrisa femenina generada por inteligencia artificial. Comunicación y Hombre, 21, 93–113. 10.32466/eufv-cyh.2025.21.869.93-113

Gaskins, N. R. (2022, septiembre 7). Interrogating AI bias through digital art. MediaWell, Social Science Research Council. 10.35650/JT.3039.d.2022

Haraway, D. (1988). Situated knowledges: The science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575–599. 10.2307/3178066

Hooks, B. (2014). Black Looks: Race and Representation. Routledge.

Locke, L. G. y Hodgdon, G. (2024). Gender bias in visual generative artificial intelligence systems and the socialization of AI. AI & Society. 10.1007/s00146-024-02129-1

Maluleke, V. H., Thakkar, N., Brooks, T., Weber, E., Darrell, T., Efros, A. A., Kanazawa, A. y Guillory, D. (2022). Studying bias in GANs through the lens of race. En S. Avidan, G. Brostow, M. Cissé, G. M. Farinella y T. Hassner (Eds.), Computer Vision – ECCV 2022, 344–360. Springer Nature Switzerland. 10.1007/978-3-031-19778-9_20

Mattiazzi, M. (2025). AI and language: New forms for old discriminations? A case study in Google Translate and Canva. Feminismo/s, 45, 118–138.

Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S. y Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 2053951716679679. 10.1177/2053951716679679

Omi, M. y Winant, H. (2008). Racial formation. En The New Social Theory Reader (2nd ed.). Routledge.

Polo, D. P. (2024). ChatGPT. Estudio sobre el sesgo de género y la diversidad LGTBIQ+ en la elaboración de cuentos infantiles por parte de la inteligencia artificial. En Caer en la red con Inteligencia (Artificial), 321–332. Marcial Pons, Ediciones Jurídicas y Sociales.

Rohrbach, J. (2020). Acting Out: Cabinet Cards and the Making of Modern Photography. University of California Press.

Scruggs, D. (2022). We Were Beautiful Then, too: Late 19th Century African American Cabinet Cards. Photoville. https://photoville.nyc/exhibition/we-were-beautiful-then-too/

Srinivasan, R. y Uchino, K. (2021). Biases in generative art: A causal look from the lens of art history. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 41–51. 10.1145/3442188.3445869

Tischauser, L. V. (2012). Jim Crow Laws. Bloomsbury Publishing.

Wan, Y., Subramonian, A., Ovalle, A., Lin, Z., Suvarna, A., Chance, C., Bansal, H., Pattichis, R. y Chang, K. W. (2024). Survey of bias in text-to-image generation: Definition, evaluation, and mitigation. arXiv. 10.48550/arXiv.2404.01030

Yang, Y. (2025). Racial bias in AI-generated images. AI & Society. 10.1007/s00146-025-02282-1

Published

2026-10-31

How to Cite

Analysis of BIAS in the Creation of Images with Artificial Intelligence based on Prompt Design. A Methodological Proposal. (2026). ASRI. Art and Society. Journal for Research in Arts and Digital Humanities, 31, e986. https://doi.org/10.33732/ASRI.986