Análisis de sesgos en la creación de imágenes con inteligencia artificial basado en el diseño de prompts. Una propuesta metodológica
DOI:
https://doi.org/10.33732/ASRI.986Palabras clave:
Inteligencia artificial, sesgos algorítmicos, fotografía, ética visual, cultura visualResumen
Se propone una metodología basada en el diseño de prompts para el análisis de los sesgos presentes en la inteligencia artificial aplicada a la creación de imágenes. El trabajo plantea un sistema de cuatro niveles de contextualización progresiva del prompt, desde una descripción neutra hasta una referencia explícita al contexto sociocultural, aplicado al análisis cualitativo de un proyecto fotográfico de gran carga simbólica: una serie de cabinet cards afroamericanas de finales del siglo XIX. Se comparan imágenes generadas por GPT-4o, Gemini y Stable Diffusion empleando diferentes prompts, con fotografías originales mediante una matriz de análisis visual. El análisis identifica patrones de representación estereotipada y los resultados muestran cómo solo la contextualización específica de fenotipo, género y contexto sociocultural permite una representación coherente con el referente. El estudio propone estrategias para un uso crítico y ético de estas tecnologías.Descargas
Referencias
Azoulay, A. (2019). Potential History: Unlearning Imperialism. Verso Books.
Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. John Wiley & Sons.
Braidotti, R. (2019). A theoretical framework for the critical posthumanities. Theory, Culture & Society, 36(6), 31–61. 10.1177/0263276418771486
Buolamwini, J. y Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html
Crawford, K. y Paglen, T. (2021). Excavating AI: The politics of images in machine learning training sets. AI & Society, 36(4), 1399–1399. 10.1007/s00146-021-01301-1
Edwards, F. L. y Thompson, G. B. (2010). The legal creation of raced space: The subtle and ongoing discrimination created through Jim Crow laws. Berkeley Journal of African-American Law and Policy, 12, 145.
Elsharif, W., Alzubaidi, M. y Agus, M. (2025). Cultural bias in text-to-image models: A systematic review of bias identification, evaluation, and mitigation strategies. IEEE Access, 13, 122636–122659. 10.1109/ACCESS.2025.3585745
Gascón-Vera, P., Mattucci, N. y Bonaut-Iriarte, J. (2025). Avatares y estereotipos. Sesgos algorítmicos de la sonrisa femenina generada por inteligencia artificial. Comunicación y Hombre, 21, 93–113. 10.32466/eufv-cyh.2025.21.869.93-113
Gaskins, N. R. (2022, septiembre 7). Interrogating AI bias through digital art. MediaWell, Social Science Research Council. 10.35650/JT.3039.d.2022
Haraway, D. (1988). Situated knowledges: The science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575–599. 10.2307/3178066
Hooks, B. (2014). Black Looks: Race and Representation. Routledge.
Locke, L. G. y Hodgdon, G. (2024). Gender bias in visual generative artificial intelligence systems and the socialization of AI. AI & Society. 10.1007/s00146-024-02129-1
Maluleke, V. H., Thakkar, N., Brooks, T., Weber, E., Darrell, T., Efros, A. A., Kanazawa, A. y Guillory, D. (2022). Studying bias in GANs through the lens of race. En S. Avidan, G. Brostow, M. Cissé, G. M. Farinella y T. Hassner (Eds.), Computer Vision – ECCV 2022, 344–360. Springer Nature Switzerland. 10.1007/978-3-031-19778-9_20
Mattiazzi, M. (2025). AI and language: New forms for old discriminations? A case study in Google Translate and Canva. Feminismo/s, 45, 118–138.
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S. y Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 2053951716679679. 10.1177/2053951716679679
Omi, M. y Winant, H. (2008). Racial formation. En The New Social Theory Reader (2nd ed.). Routledge.
Polo, D. P. (2024). ChatGPT. Estudio sobre el sesgo de género y la diversidad LGTBIQ+ en la elaboración de cuentos infantiles por parte de la inteligencia artificial. En Caer en la red con Inteligencia (Artificial), 321–332. Marcial Pons, Ediciones Jurídicas y Sociales.
Rohrbach, J. (2020). Acting Out: Cabinet Cards and the Making of Modern Photography. University of California Press.
Scruggs, D. (2022). We Were Beautiful Then, too: Late 19th Century African American Cabinet Cards. Photoville. https://photoville.nyc/exhibition/we-were-beautiful-then-too/
Srinivasan, R. y Uchino, K. (2021). Biases in generative art: A causal look from the lens of art history. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 41–51. 10.1145/3442188.3445869
Tischauser, L. V. (2012). Jim Crow Laws. Bloomsbury Publishing.
Wan, Y., Subramonian, A., Ovalle, A., Lin, Z., Suvarna, A., Chance, C., Bansal, H., Pattichis, R. y Chang, K. W. (2024). Survey of bias in text-to-image generation: Definition, evaluation, and mitigation. arXiv. 10.48550/arXiv.2404.01030
Yang, Y. (2025). Racial bias in AI-generated images. AI & Society. 10.1007/s00146-025-02282-1


















