Profesora Titular de Universidad en el Departamento de Métodos de Investigación y Diagnóstico en Educación II. Universidad Nacional de Educación a Distancia (UNED)
Palabras clave: EDUCACIÓN XX1, inteligencia artificial generativa, ChatGPT, producción científica, integridad científica
Si bien la inteligencia artificial no es una tecnología nueva, durante el último año ha alcanzado una extraordinaria popularidad y su uso se está expandiendo a diversas áreas de nuestra vida. Herramientas como ChatGPT, Microsoft Copilot, Google Bard, Llama, DALL·E o HeyGen, entre muchas otras, han despertado un notable interés al ser capaces de generar automáticamente contenido de diverso tipo (texto, imágenes, vídeos, etc.), en respuesta a ciertas instrucciones. Dicho interés se justifica por el potencial de estas tecnologías para reducir la carga de trabajo dedicada a tareas superfluas, lo que conllevaría a un aumento de la productividad.
Este entusiasmo también se ha extendido al ámbito de la producción científica, donde se confía en que los sistemas de inteligencia artificial generativa (IAG) puedan llegar a mejorar los procesos de redacción, revisión y publicación de los trabajos científicos. Sin embargo, su uso también plantea una serie de dilemas éticos que, como editores de revistas científicas, debemos considerar en nuestra tarea de garantizar la integridad, exactitud y transparencia de la investigación publicada. Con este propósito, en el Editorial del último número de Educación XX1 (vol. 27, núm. 1), se reflexiona acerca de las potencialidades, las implicaciones y las limitaciones de incorporar las herramientas basadas en inteligencia artificial en las diferentes actividades vinculadas con el proceso de publicación científica.
En lo que respecta al uso de la inteligencia artificial durante el proceso de elaboración del manuscrito, se analiza cómo atribuirse la autoría de un contenido generado por estas herramientas constituye una mala práctica científica, similar a plagiar un material publicado por terceros (Thorp, 2023). Se destaca que las publicaciones científicas deben promover que los autores sean transparentes respecto a cómo las han empleado, solicitándoles que certifiquen que no han utilizado tecnologías basadas en IAG durante la redacción de los originales, más allá de como posible herramienta de corrección de estilo, y que declaren cualquier uso de estas tecnologías durante el desarrollo de la investigación.
En lo que respecta al trabajo editorial, aunque estas tecnologías están evolucionando muy rápidamente, en su estado actual de desarrollo, no resulta posible confiar en el criterio de estas herramientas a la hora de evaluar los trabajos y, consecuentemente, aunque pueden apoyar en algunas tareas del proceso de revisión, no consideramos que puedan reemplazar el papel que vienen desempeñando el equipo editorial y los evaluadores externos. A su vez, a la hora de introducir la IAG durante el proceso de revisión de los manuscritos, resulta fundamental considerar la política de privacidad y de protección de datos de las herramientas empleadas, especialmente en lo referido al uso que realizarán de la información que se les proporciona.
Fuente de la imagen: Pexels
Por el contrario, dentro del proceso de publicación científica, hay algunas actividades en las que el uso de estas tecnologías puede aportar gran valor. Este es el caso de las tareas relacionadas con el proceso de producción editorial de los manuscritos aceptados y con el proceso de difusión de los artículos después de su publicación. Sin ánimo de ser exhaustivos, y siendo conscientes de que estas podrán variar conforme vayan evolucionando estas tecnologías, enumeraremos algunas de ellas: corrección de estilo del texto, adecuación de las referencias a las normas de citación establecidas por la revista, identificación de metadatos relevantes que faciliten la localización del manuscrito, ajuste de las aportaciones más destacadas (highlights) a un número determinado de caracteres, edición de imágenes que representen el contenido de los artículos para su difusión, redacción de tweets dirigidos a compartir las conclusiones de la investigación, o preparación de material multimedia para la difusión de los resultados. En todo caso, al integrarlas dentro de estos procesos, no podemos olvidar que debemos ser críticos y evaluar cuidadosamente cualquier resultado generado por estas tecnologías. Al fin de todo, son solo herramientas, y la responsabilidad derivada de un uso indebido de las mismas, es de quien las emplea.
Referencias:
Thorp, H. H. (2023). ChatGPT is fun, but not an author. Science, 379(6630), 313-313. https://doi.org/10.1126/science.adg787
Enlace al artículo: https://doi.org/10.5944/educxx1.39205
Cómo citar esta entrada:
López Martín, Esther (2024). Inteligencia artificial generativa en la publicación científica: potencialidades, implicaciones y limitaciones. Aula Magna 2.0 [Blog]. https://cuedespyd.hypotheses.org/14682
OpenEdition le sugiere que cite este post de la siguiente manera:
Aula Magna 2.0 (19 de enero de 2024). Inteligencia artificial generativa en la publicación científica: potencialidades, implicaciones y limitaciones. Aula Magna 2.0. Recuperado 12 de septiembre de 2024 de https://doi.org/10.58079/vmow