Digital resources in the Social Sciences and Humanities OpenEdition Our platforms OpenEdition Books OpenEdition Journals Hypotheses Calenda Libraries OpenEdition Freemium Follow us

¿Cómo enseñar ética en tiempos de inteligencia artificial generativa? Un reto urgente en la educación superior

Por Francisco Javier García-Peñalvo*, MªJosé Casañ-Guerrero**, Marc Alier-Forment** y Juan Antonio Pereira-Varela***

 Universidad de Salamanca*

Universitat Politècnica de Catalunya**

Universidad del País Vasco***

 

Palabras clave: REP, ética, Inteligencia artificial generativa

 

La llegada de la inteligencia artificial generativa (IAGen), como los conocidos modelos tipo ChatGPT, ha transformado profundamente el panorama tecnológico. Pero también ha abierto una caja de Pandora ética que afecta de lleno a la educación. ¿Qué significa usar estas tecnologías de forma responsable? ¿Cómo se forman ingenieros que no solo desarrollen sistemas de IA potentes, sino también seguros, transparentes y alineados con valores humanos?

El artículo “La ética de la inteligencia artificial generativa en educación a debate. Perspectiva desde el desarrollo de un caso de estudio teórico-práctico” (García-Peñalvo et al., 2025) propone un enfoque pionero para introducir la reflexión ética sobre la IAGen en el aula universitaria. Concretamente, se basa en una experiencia docente en la asignatura “Aspectos Sociales y Medioambientales de la Informática” en la Universitat Politècnica de Catalunya (UPC). Allí se ha diseñado una propuesta pedagógica que combina teoría ética con análisis práctico de casos reales, utilizando incluso asistentes de IA como herramienta de reflexión.

De las máquinas a los dilemas: por qué enseñar ética en ingeniería informática

Desde hace décadas, existe conciencia de que las tecnologías digitales no son neutras. Tienen efectos en nuestra vida cotidiana, nuestros derechos y nuestras decisiones. Por eso, ya en los años 90 se empezaron a introducir asignaturas de ética en los estudios de informática, en línea con recomendaciones internacionales como las del IEEE y la ACM.

La irrupción reciente de la IA generativa, cuya visibilidad se disparó desde el lanzamiento de ChatGPT a finales de 2022, ha reactivado estos debates. Las tecnologías actuales ya no solo automatizan tareas mecánicas, sino que crean textos, imágenes, código o decisiones con alto nivel de complejidad.

Esta nueva generación de herramientas plantea interrogantes profundos sobre autoría, privacidad, sesgos, sostenibilidad o incluso el papel del profesorado. De ahí que los autores sostengan que es urgente formar a futuros profesionales capaces de pensar críticamente sobre el impacto social, ético y ambiental de la IA.

Fuente de la imagen: Pixabay

Una asignatura con 30 años de evolución

La experiencia descrita en el artículo se desarrolla en una asignatura optativa de 6 créditos impartida en los cursos finales del grado en Ingeniería Informática. Esta materia, con más de tres décadas de trayectoria, aborda de forma integrada historia de la tecnología, impacto social, medioambiental y ética de las TIC.

En los últimos años, y especialmente desde 2023, la asignatura se ha actualizado para incorporar contenidos específicos sobre inteligencia artificial. Este bloque incluye tanto aspectos técnicos como sociales: desde la evolución histórica de la IA hasta sus aplicaciones actuales en educación, trabajo o medioambiente, pasando por debates sobre privacidad, transparencia o alineamiento de valores.

Del miedo al pensamiento crítico: una mirada equilibrada

Una parte fundamental del enfoque teórico consiste en ayudar al alumnado a superar las narrativas apocalípticas o excesivamente optimistas sobre la IA. Es decir, ni “la IA va a destruirnos” ni “la IA lo resolverá todo”.

Para ello, se presentan diversas corrientes de pensamiento: desde las advertencias de Bostrom (2014) o Harari (2024) sobre los riesgos de la superinteligencia, hasta posiciones más realistas sobre los sesgos algorítmicos o los problemas prácticos de implementación.

Se subraya que la IA no es magia, sino una tecnología creada por personas, con decisiones de diseño y consecuencias reales. Por tanto, enseñar ética en este contexto implica también desmitificar la IA, comprender sus límites y fomentar la responsabilidad.

Como base práctica para el análisis, el equipo docente ha participado en el desarrollo y ha aplicadp en clase el “Safe AI in Education Manifesto” (Alier et al., 2024; García-Peñalvo et al., 2024), una propuesta de principios éticos para el uso seguro de IA en entornos educativos. Entre ellos destacan:

  • Supervisión humana: la IA debe complementar, no sustituir, al profesorado.
  • Confidencialidad: proteger los datos del alumnado.
  • Alineación pedagógica: las herramientas deben integrarse con los objetivos docentes.
  • Explicabilidad: los sistemas deben ser comprensibles y evitar opacidad.
  • Transparencia y honestidad sobre los límites de la IA.

Este manifiesto no solo sirve como contenido, sino también como herramienta de análisis de casos reales.

Caso práctico 1: ¿Cumple un asistente de IA con los principios éticos?

Una de las actividades centrales consiste en analizar el diseño de un asistente de IA creado específicamente para la asignatura, basado en el framework LAMB (Alier et al., 2025). Este asistente ofrece apoyo experto en un caso simulado sobre robots antropomórficos y permite realizar un análisis PESTLE (político, económico, social, tecnológico, legal y ambiental).

Los estudiantes usan esta herramienta para investigar, dialogar y tomar decisiones. Después, la propia herramienta se convierte en objeto de análisis: ¿respeta los principios del manifiesto? ¿Su diseño es transparente? ¿Cumple con las exigencias pedagógicas?

Este doble uso permite a los estudiantes reflexionar tanto como usuarios como evaluadores críticos.

Caso práctico 2: ¿Puede ChatGPT sustituir al profesorado?

Otro ejercicio plantea un escenario real: una escuela británica que hizo un experimento para sustituir a docentes por ChatGPT. A partir de esta experiencia, los estudiantes aplican la lista de verificación del manifiesto y analizan qué principios se cumplen y cuáles no.

La conclusión fue clara: sustituir completamente al profesorado viola la mayoría de los principios éticos y pedagógicos propuestos.

Caso práctico 3: ¿Y si la IA selecciona a quién contratar?

Para ampliar la reflexión, los estudiantes analizan en grupos otro caso en un contexto diferente: una empresa multinacional que automatiza sus procesos de selección de personal con IA. A partir de este ejemplo, debaten sobre:

  1. ¿Qué dilemas éticos aparecen?
  2. ¿Cómo puede la empresa abordarlos?
  3. ¿Qué costes tendría aplicar esas soluciones?
  4. ¿Debería seguir usándose este sistema?

Este caso permite aplicar los conceptos teóricos a otros sectores y refuerza la transferencia del aprendizaje.

Resultados: ¿funciona este enfoque?

Este enfoque teórico-práctico ha demostrado ser efectivo para integrar la reflexión ética en la formación técnica. Permite pasar de conceptos abstractos a situaciones concretas, fomenta el pensamiento crítico y favorece una comprensión interdisciplinar.

Además, se refuerza la idea de que para enseñar ética de la IA no basta con saber programación o filosofía. Se necesita un equipo docente con conocimientos técnicos, humanísticos, legales y pedagógicos. También es clave conectar los contenidos con los intereses reales del alumnado y usar ejemplos próximos a su futura profesión.

Conclusión: hacia una ética aplicada y realista de la IA

La experiencia relatada en este artículo demuestra que es posible enseñar ética de la IA en carreras técnicas de forma rigurosa, práctica y motivadora. Y que hacerlo no solo es recomendable, sino necesario, en un contexto donde las decisiones tecnológicas afectan cada vez más a derechos fundamentales, empleos, relaciones sociales y modelos educativos.

No se trata de asustar al alumnado, sino de darles herramientas para pensar, decidir y actuar con responsabilidad. Una IA al servicio de las personas no puede construirse sin una ética compartida. Y esta ética, como muestran los autores, empieza a gestarse en el aula.

Artículo original:

García-Peñalvo, F. J., Casañ-Guerrero, M. J., Alier-Forment, M., y Pereira-Varela, J. A. (2025). La ética de la inteligencia artificial generativa en educación a debate. Perspectiva desde el desarrollo de un caso de estudio teórico-práctico. Revista Española de Pedagogía83(291), 281–293. https://doi.org/10.22550/2174-0909.4577

Referencias:

Alier, M., García-Peñalvo, F. J., Casañ, M. J., Pereira, J. A., & Llorens-Largo, F. (2024). Safe AI in Education Manifesto. Version 0.4.0. https://manifesto.safeaieducation.org.

Alier, M., Pereira, J., Garcia-Peñalvo, F. J., Casañ, M. J., & Cabré, J. (2025). LAMB: An Open-Source Software Framework to Create Artificial Intelligence Assistants Deployed and Integrated into Learning Management Systems. Computer Standards & Interfaces, 92, Article 103940. https://doi.org/10.1016/j.csi.2024.103940

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

García-Peñalvo, F. J., Alier, M., Pereira, J., & Casañ, M. J. (2024). Safe, Transparent, and Ethical Artificial Intelligence: Keys to Quality Sustainable Education (SDG4). IJERI – International Journal of Educational Research and Innovation(22), 1-21. https://doi.org/10.46661/ijeri.11036

García-Peñalvo, F. J., Casañ-Guerrero, M. J., Alier-Forment, M., & Pereira-Valera, J. A. (2025). The ethics of generative artificial intelligence in education under debate. A perspective from the development of a theoreticalpractical case study. Revista Española de Pedagogía, 83(291), 281-293. https://doi.org/10.22550/2174-0909.4577

Harari, Y. N. (2024). Nexus: A Brief History of Information Networks from the Stone Age to Ai. Random House.

Cómo citar esta entrada:

García-Peñalvo, Francisco Javier; Casañ-Guerrero, María José; Alier-Forment, Marc, y Pereira-Varela, Juan Antonio (2025). ¿Cómo enseñar ética en tiempos de inteligencia artificial generativa? Un reto urgente en la educación superior. Aula Magna [Blog]. https://cuedespyd.hypotheses.org/19360


OpenEdition le sugiere que cite este post de la siguiente manera:
Aula Magna 2.0 (4 de julio de 2025). ¿Cómo enseñar ética en tiempos de inteligencia artificial generativa? Un reto urgente en la educación superior. Aula Magna 2.0. Recuperado 16 de enero de 2026 de https://doi.org/10.58079/14a41


Un comentario en “¿Cómo enseñar ética en tiempos de inteligencia artificial generativa? Un reto urgente en la educación superior”

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

This site uses Akismet to reduce spam. Learn how your comment data is processed.