Empleo de ChatGPT en educación biomédica. Análisis de riesgos desde los principios éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial

  1. Biscaia Fernández, José Miguel 1
  2. González-Soltero, María del Rocío 1
  3. Biscaia Fernández, Carlos Julio 2
  4. Mohedano del Pozo, Rosa Belén 1
  5. Rodríguez-Learte, Ana Isabel 1
  1. 1 Universidad Europea de Madrid
    info

    Universidad Europea de Madrid

    Madrid, España

    ROR https://ror.org/04dp46240

  2. 2 Universidad Nacional de Educación a Distancia
    info

    Universidad Nacional de Educación a Distancia

    Madrid, España

    ROR https://ror.org/02msb5n36

Revista:
Revista Iberoamericana de Bioética

ISSN: 2529-9573

Año de publicación: 2024

Título del ejemplar: Artificial Intelligence and Bioethics

Número: 25

Tipo: Artículo

DOI: 10.14422/RIB.I25.Y2024.007 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Revista Iberoamericana de Bioética

Resumen

La inteligencia artificial generativa (IAG), con aplicaciones como ChatGPT, se ha convertido en una interesante herramienta en el ámbito de la educación biomédica. Entre sus bondades destaca la simplificación y mejora del proceso enseñanza-aprendizaje, favoreciendo la búsqueda de información, la creación y actualización de contenido, la simulación de escenarios clínicos, la atención personalizada o la evaluación inmediata. Sin embargo, son muchos los riesgos que comporta una herramienta tan novedosa y disruptiva. Debido a ello, con el objetivo de evaluar estas amenazas, utilizamos los Principios Éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial, concluyendo que el principal riesgo de estas aplicaciones deriva de su potencial capacidad discriminatoria, especialmente en referencia a la evaluación y categorización de los estudiantes; también, de la aparición de diferentes sesgos técnicos, de la falta de equidad, de control, de transparencia y de privacidad, o del plagio y la falsa autoría.

Referencias bibliográficas

  • Baigi, S., Sarbaz, M., Ghaddaripouri, K., Ghaddaripouri, M., Mousavi, A. S., & Kimiafar, K. (2023). Attitudes, knowledge, and skills towards artificial intelligence among healthcare students: A systematic review. Health Sciences Report, 6(3), 1-23. https://doi.org/10.1002/hsr2.1138
  • Catalina, Q. M., Fuster-Casanovas, A., Vidal-Alaball, J., Escalé-Besa, A., Marin-Gómez, F., Femenia, J., & Solé-Casals, J. (2023). Knowledge and perception of primary care healthcare professionals on the use of artificial intelligence as a healthcare tool. Digital Health, 9, 20552076231180511. https://doi.org/10.1177/20552076231180511
  • Chan, K., & Zary, N. (2019). Applications and Challenges of Implementing Artificial Intelligence in Medical Education: Integrative Review. JMIR Medical Education, 5(1), e13930. https://doi.org/10.2196/13930
  • Comisión Europea. (2019, abril). Ethics Guidelines for the Trusthworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
  • Consejo Europeo. (2022, noviembre). Reglamento de IA (2022). https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/es/pdf
  • Consejo Europeo. (2023, diciembre). Cronología-Inteligencia Artificial. https://www.consilium.europa.eu/es/policies/artificial-intelligence/timeline-artificial-intelligence/
  • Garg, R. K., Urs, V., Agarwal, A. A., Chaudhary, S. K., Paliwal, V., & Kar, S. (2023). Exploring the role of ChatGPT in patient care (diagnosis and treatment) and medical research: A systematic review. Health Promotion Perspectives, 13(3), 183-191. https://doi.org/10.34172/hpp.2023.22
  • Khanna, S. S., & Dhaimade, P. A. (2017). Artificial intelligence: transforming dentistry today. Indian Journal of Basic and Applied Medical Research, 6(3), 161-7.
  • Mayo, J. (2023). Inteligencia artificial generativa y educación médica. Educación Médica, 24(4), 1-3. https://doi.org/10.1016/j.edumed.2023.100851
  • McCoy, L., Nagaraj, S., Morgado, F., Harish, V., Das, S., & Celi L. A. (2020). What do medical students actually need to know about artificial intelligence? NPJ Digital Medicine, 3, 86. https://doi.org/10.1038/s41746-020-0294-7
  • Mehta, N., Harish, V., Bilimoria, K., Morgado, F., Ginsburg, S., Law, M., & Das, S. (2021). Knowledge and Attitudes on Artificial Intelligence in Healthcare: A Provincial Survey Study of Medical Students. MedEdPublish, 10, 75. https://doi.org/10.15694/mep.2021.000075.1
  • Mese, I., Taslicay, C. A., & Sivrioglu, A. K. (2023). Improving radiology workflow using ChatGPT and artificial intelligence. Clinical Imaging, 103, 109993. https://doi.org/10.1016/j.clinimag.2023.109993
  • Miao, F., Holmes, W., Ronghuai, H., & Hui, Z. (2021). Inteligencia Artificial y educación. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000379376
  • Montreal Declaration for a Responsible Development of Artificial Intelligence. (2018). Montreal University. https://montrealdeclaration-responsibleai.com/the-declaration/
  • Opara, E., Theresa, A. M., & Aduke, T. C. (2023). ChatGPT for Teaching, Learning and Research: Prospects and Challenges. Global academic journal of humanities and social sciences, 5(02), 33-40. https://doi.org/10.36348/gajhss.2023.v05i02.001
  • Parlamento Europeo. (2023, junio). Ley de IA de la Unión Europea. https://www.europarl.europa.eu/topics/es/article/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
  • Popel, M., Tomkova, M., Tomek, J., Kaiser, L., Uszkoreit, J., Bojar, O., & Zabokrtsky, Z. (2020). Transforming machine translation: a deep learning system reaches news translation quality comparable to human professionals. Nature Communications, 11, 4381. https://doi.org/10.1038/s41467-020-18073-9
  • Recomendación sobre la ética de la inteligencia artificial. (2021, noviembre). UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa/PDF/381137spa.pdf.multi
  • Sabzalieva, E., & Valentini, V. (2023). ChatGPT e Inteligencia Artificial en la educación superior. UNESCO. https://www.iesalc.unesco.org/wp-content/uploads/2023/04/ChatGPT-e-Inteligencia-Artificial-en-la-educacio%CC%81n-superior-Gui%CC%81a-de-inicio-ra%CC%81pido_FINAL_ESP.pdf
  • Sallam, M. (2023). ChatGPT Utility in Healthcare Education, Research, and Practice: Systematic Review on the Promising Perspectives and Valid Concerns. Healthcare, 11(6), 887. https://doi.org/10.3390/healthcare11060887
  • Sung, G., Guillain, L., & Schneider, B. (2023). Can AI help teachers write higher quality feedback? Lessons learned from using the GPT-3 engine in a makerspace course. In Proceedings of the 17th International Conference of the Learning Sciences-ICLS, pp. 2093-2094. International Society of the Learning Sciences.
  • Syed, W., Basil, A., & Al-Rawi, M. (2023). Assessment of Awareness, Perceptions, and Opinions towards Artificial Intelligence among Healthcare Students in Riyadh, Saudi Arabia. Medicina, 59(5), 828. https://doi.org/10.3390/medicina59050828
  • Teng, M., Singla, R., Yau, O., et al. (2022). Health Care Students’ Perspectives on Artificial Intelligence: Countrywide Survey in Canada. JMIR Medical Education, 8(1), e33390. https://doi.org/10.2196/33390
  • The Future of Life Institute (2017, agosto). Asilomar AI principles. https://futureoflife.org/open-letter/ai-principles/
  • Tolsgaard, M. G., Pusic, M. V., Sebok-Syer, S., Gin, B., Svendsen, M. B., Syer, M. D., Brydges, R., Cuddy, M. M., & Boscardin, C. K. (2023). The fundamentals of Artificial Intelligence in medical education research. AMEE Guide No. 156.
  • Topol, E. J. (2019). High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, 25(1), 44- 56. https://doi.org/10.1038/s41591-018-0300-7
  • Ullmann, S., & Schoop, M. (2022). Potentials of Chatbot Technologies for Higher Education: A Systematic Review. UK Academy for Information Systems Conference Proceedings. https://aisel.aisnet.org/ukais2022/11
  • Webster, C. (2021). Artificial intelligence and the adoption of new technology in medical education. Medical Education, 55(1), 6-7. https://doi.org/10.1111/medu.14409
  • Weidener, L., & Fischer, M. (2023). Teaching AI Ethics in Medical Education: A Scoping Review of Current Literature and Practices. Perspectives Medical Education, 12(1), 399-410. https://doi.org/10.5334/pme.954
Fuente de los datos: Dialnet