La inteligencia artificial en la prevención de conductas suicidasaspectos técnicos y consideraciones ético-legales

  1. José Miguel Biscaia Fernández
  2. Rosa Belén Mohedano del Pozo
  3. Carlos Julio Biscaia Fernández
Revista:
Revista de bioética y derecho: publicación del Máster en bioética y derecho

ISSN: 1886-5887

Año de publicación: 2023

Número: 59

Páginas: 181-203

Tipo: Artículo

DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Revista de bioética y derecho: publicación del Máster en bioética y derecho

Resumen

En este artículo reflexionamos sobre la potencialidad terapéutica de los nuevos desarrollos de la Inteligencia Artificial en el ámbito de la salud mental, en particular en la prevención de conductas suicidas. En primer lugar, analizamos los aspectos tecno-científicos más relevantes del Machine Learning en el entorno de las Redes Sociales, las aplicaciones móviles y los chatbots, así como las ventajas e inconvenientes de esta nueva Psiquiatría Computacional. A continuación, consideramos los límites y dificultades en el uso de estas tecnologías desde una perspectiva ética, además del marco legal para que estas aplicaciones preventivas sean garantistas en lo que a eficacia, seguridad, privacidad, transparencia, responsabilidad y equidad se refiere. Si bien las amenazas son considerables, concluimos que con una correcta identificación y gestión de las mismas el alcance terapéutico de estas herramientas se antoja alentador.

Referencias bibliográficas

  • Adamopoulou, Eleni y Moussiades, Lefteris (2020). Chatbots: History, technology, and applications. Machine Learning with Applications, 2(100006). https://doi.org/10.1016/j.mlwa.2020.100006.
  • Ahmed, Arfan; Ali, Nashva; Aziz, Sarah; Abd-alrazaq, Alaa; Hassan, Asmaa; Khalifa, Mohamed; Elhusein, Bushra; Ahmed, Maram; Ali, Siddig; Ahmed, Mohamed y Househ, Mowafa (2021). A review of mobile chatbot apps for anxiety and depression and their self-care features. Computer Methods and Programs in Biomedicine Update 1(100012). https://doi.org/10.1016/j.cmpbup.2021.100012.
  • Agencia Española de Protección de Datos (2020). Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. https://www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf.
  • Artificial Intelligence High-Level Expert Group (2020).
  • https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai.
  • Bachmann, Silke (2018). Epidemiology of Suicide and the Psychiatric Perspective. International Journal of Enviromental Research and Public Health, 15(7), 1425. http://doi.org/10.3390/ijerph15071425).
  • Bansal, Himanshu y Khan, Rizwan (2018). A review paper on human computer interaction. International Journal of Advanced Research in Computer Science and Software Engineering, 8(53). http://dx.doi.org/10.23956/ijarcsse.v8i4.630.
  • Beauchamp, Tom y Childress, James (2013). Principles of biomedical ethics. Oxford University Press.
  • Biscaia Fernández, José Miguel (2022). La gran pantalla como laboratorio y espejo para la roboética. Ética y Cine Journal, 12(2), 55-69. https://doi.org/10.31056/2250.5415.v12.n2.38328.
  • Busch, Katie; Fawcett, Jan y Jacobs, Douglas (2003). Clinical correlates of patient suicide. The Journal of Clinical Psychiatry, 64, 14-19. http://doi.org/10.4088/jcp.v64n0105.
  • Camacho, Sandra (2023). El acto de telemedicina: hacia un nuevo concepto de asistencia médico-personal. Revista de Bioética y Derecho, 54, 67-82.
  • Carta de los Derechos Fundamentales de la Unión Europea (2020). https://www.europarl.europa.eu/charter/pdf/text_es.pdf.
  • Chan, Melissa; Bhatti, Henna; Meader, Nick; Stockton, Sarah; Evans, Jonathan; O´Connor, Rory; Kapur, Nav y Kendall, Tim (2016). Predicting suicide following self-harm: systematic review of risk factors and risk scales. British Journal of Psychiatry, 209(4), 277-283. http://doi.org/10.1192/bjp.bp.115.170050.
  • Colombo, Gualtiero; Burnap, Pete; Hodorog, Andrei y Scourfield, Jonathan (2016). Analysing the connectivity and communication of suicidal users on Twitter. Computer Communication, 73(B), 291-300.
  • https://doi.org/10.1016/j.comcom.2015.07.018.
  • Coppersmith, Glen; Leary, Ryan; Crutchley, Patrick y Fine, Alex (2018). Natural Language Processing of social media as screening for suicide risk. Biomedical Informatics Insights, 10(1178222618792860).
  • https://doi.org/10.1177/1178222618792860.
  • Cummins, Nicholas; Matcham, Faith; Klapper, Julia y Schuller, Björn (2020). Artificial intelligence to aid the detection of mood disorders. En Barh, Debmalya (Ed.), Artificial Intelligence in Precision Health (pp. 231-255). Academic Press.
  • Dandapat, Sandipan (2011). Reviewed Work: Handbook of Natural Language Processing (second edition) by Nitin Indurkhya, Fred J. Damerau. Machine Traslation, 25(4), 377-381. https://doi.org/10.1007/s10590-011-9117-6.
  • Declaración de Montreal para la Responsabilidad en IA (2018).
  • https://www.montrealdeclaration-responsibleai.com/_files/ugd/ebc3a3_506ea08298cd4f8196635545a16b071d.pdf.
  • Desmet, Bart y Hoste, Véronique (mayo, 2014). Recognising Suicidal Messages in Dutch Social Media (pp. 830-835). En Ninth International Conference on Language Resources and Evaluation, Reykjavik.
  • Di Carlo, Francesco; Sociali, Antonella; Picutti, Elena; Pettorruso, Mauro; Vellante, Federica,;Verrastro, Valeria; Martinotti, Giovanni y di Giannantonio, Massimo (2021). Telepsychiatry and other cutting-edge technologies in COVID-19 pandemic: Bridging the distance in mental health assistance. International Journal of Clinical Practice, 75(1), 10.1111/ijcp.13716. https://doi.org10.1111/ijcp.13716.
  • Drapeau, Christopher y Mcintosh, John (2018). USA Suicide: 2018 Official Final Data. American Association of Suicidology.
  • https://suicidology.org/wp-content/ uploads/2020/02/2018datapgsv2_Final.pdf.
  • European Alliance Against Depression (enero, 2023). http://www.eaad.net/.
  • Evers, Khatinka (2011). Neuroética. Cuando la materia se despierta. Katz Editores.
  • Ezinmo, Óscar; Eterovich, Nicole y Martín, Elisa (2021). Reflexiones acerca de la tecnología en la prevención del suicidio. Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 1(4), 27-32.
  • https://www.clustersalutmental.com/wp-content/uploads/2022/03/Brains04_Innovation_Tech-PS.pdf.
  • Fitzpatrick, Kathleen; Darcy, Alison y Vierhile, Molly (2017). Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (Woebot): A randomized controlled trial. JMIR mental health, 4(2), e19. https://doi.org/10.2196/mental.7785.
  • Floridi, Luciano; Cowls, Josh; Beltrametti, Monica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelin, Robert; Pagallo, Ugo; Rossi, Francesca; Schafer, Burkhard; Valcke, Peggy y Vayena, Effy (2018). AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines (Dordr), 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5
  • Friston, Karl; Redish, David y Gordon, Joshua (2017). Computational nosology and precision psychiatry. Computational Psychiatry, 1, 2-23. https://doi.org/10.1162/CPSY_a_ 00001
  • Gamble, Alyson (2020). Artificial Intelligence and mobile apps for mental healthcare: a social informatics perspective. En International Conferences Internet Technologies & Society 2020.
  • Glenn, Catherine y Nock, Matthew (2014). Improving the short-term prediction of suicidal behavior. American Journal of Preventive Medicine, 47, S176-S180. https://doi.org/10.1016/j.amepre.2014.06.004.
  • Go, Eun y Sundar, Shyam (2019). Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions. Computers in Human Behavior, 97, 304-316. http://dx.doi.org/10.1016/j.chb.2019.01.020.
  • Guntuku, Sharath; Yaden, David; Kern, Margaret; Ungar, Lyle y Eichstaedt, Johannes (2017). Detecting depression and mental illness on social media: an integrative review. Current Opininion in Behavioral Sciences, 18, 43-49.
  • https://doi.org/10.1016/j.cobeha.2017.07.005.
  • He, Jianxing; Baxter, Sally; Xu, Jie; Xu, Jiming; Zhou, Xingtao y Zhang, Kang (2019). The practical implementation of artificial intelligence technologies in medicine. Nature Medicine, 25(1), 30-36. https://doi.org/0.1038/s41591-018-0307-0.
  • Huys, Quentin (2020). Computational psychiatry series. Biological Psychiatry. Cognitive Neuroscience and Neuroimaging, 5(9), 835-836. https://doi.org/10.1016/j. bpsc.2019.11.009.
  • Ienca, Marcello y Andorno, Roberto (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5. https://doi.org/10.1186/s40504-017-0050-1.
  • Instituto Nacional de Estadística (INE) (2021). Defunciones según la Causa de Muerte.
  • https://www.ine.es/ jaxiT3/Tabla.htm?t=10803.
  • Informe con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2017). Parlamento Europeo, Bruselas. https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html.
  • Informe sobre las repercusiones en materia de seguridad y responsabilidad civil de la IA, el internet de las cosas y la robótica (2020). Comisión Europea, Bruselas.
  • https://ec.europa.eu/transparency/regdoc/rep/1/2020/ES/COM-2020-64-F1-ES-MAIN-PART-1.PDF.
  • International Medical Device Regulators Forum (2013). Software as a Medical Device (SaMD): Key Definitions. https://www.imdrf.org/sites/default/files/docs/imdrf/final/technical/imdrf-tech-131209-samd-key-definitions-140901.pdf.
  • Jiang, Fei; Jiang, Young; Zhi, Hui; Dong, Yi; Li, Hao; Ma, Sufeng; Wang, Yilong; Dong, Qiang; Shen, Haipeng y Wang, YongJun (2017). Artificial intelligence in healthcare: past, present and future. Stroke and Vascular Neurology, 2(4), 230-243. https://doi.org/10.1136/svn-2017-000101.
  • Khanna, Anirudh; Pandey, Bishwajeet; Vashishta, Kushagra; Kalia, Kartik; Pradeepkumar, Bhale y Das, Teerath (2015). A Study of Today’s A.I. through Chatbots and Rediscovery of Machine Intelligence. International Journal of u- and e-Service, Science and Technology, 8(7), 277-284. http://dx.doi.org/10.14257/ijunesst.2015.8.7.28.
  • Klopfenstein, Lorenz; Delpriori, Saverio; Malatini, Silvia y Bogliolo, Alessandro (junio, 2017). The rise of bots: a survey of conversational interfaces, patterns, and paradigms. Proceedings of the 2017 Conference on Designing Interactive Systems (pp. 555- 565). New York: ACM.
  • Larsen, Mark; Huckvale, Kit; Nicholas, Jennifer; Torous, John; Birrell, Louis; Li, Emily y Reda, Bill (2019). Using science to sell apps: evaluation of mental health app store quality claims. NPJ Digital Medicine, 2, 18. https://doi.org/10.1038/s41746-019-0093-1
  • Lee, Sang; Kang, Won; Cho, Ah-Rang; Kim, Tae y Park, Jin (2018). Psychological Impact of the 2015 MERS outbreak on hospital workers and quarantined hemodialysis patient. Comprehensive Psychiatry, 87, 123-127.
  • https://doi.org/10.1016/j.comppsych.2018.10.003
  • Ley de Inteligencia Artificial, de 14 de junio de 2023, de la Unión Europea. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf.
  • Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. Boletín Oficial del Estado, 294, de 6/12/2018. https://www.boe.es/buscar/doc.php?id=BOE-A-2018-16673.
  • Ley 44/2003 de 21 de noviembre, de ordenación de las profesiones sanitarias. Boletín Oficial del Estado, 280, de 22/11/2003.
  • https://www.boe.es/buscar/act.php?id=BOE-A-2003-21340.
  • Ley 14/2007, de 3 de julio, de Investigación biomédica. Boletín Oficial del Estado, 159, de 4/07/2007.
  • https://www.boe.es/eli/es/l/2007/07/03/14.
  • Ley 33/2011, de 4 de octubre, General de Salud Pública. Boletín Oficial del Estado, 240, de 5/10/2011.
  • https://www.boe.es/buscar/act.php?id=BOE-A-2011-15623.
  • Lin, Eugene; Lin, Chieh-Hsin y Hsien-Yuan, Lane (2020). Precision Psychiatry Applications with Pharmacogenomics: Artificial Intelligence and Machine Learning Approaches. International Journal of Molecular Science, 21(3), 969. https://doi.org/10.3390/ijms21030969.
  • Lucas, Gale; Gratch, Jonathan; King, Aisha y Morency, Louis Philippe (2014). It’s only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94-100. https://doi.org/10.1016/j.chb.2014.04.043.
  • Marks, Mason (2019). Artificial Intelligence Based Suicide Prediction. 21 Yale Journal of Law and Technology, 21, 3.
  • https://yjolt.org/sites/default/files/21_yale_j.l._tech._special_issue_98.pdf.
  • Nock, Matthew; Park, Jennifer; Finn, Christine; Deliberto, Tara; Dour, Halina y Banaji, Mahzarin (2010). Measuring the suicidal mind: Implicit cognition predicts suicidal behavior. Psychological Science, 21(4), 511-517.
  • https://doi.org/10.1177/0956797610364762.
  • O'Dea, Bridianne; Wan, Stephen; Batterham, Philip; Calear, Alison; Paris, Cecile y Christensen, Helen (2015). Detecting suicidality on Twitter. Internet Interventions, 2(2), 183-188. https://doi.org/10.1016/j.invent.2015.03.005.
  • Organización Mundial de la Salud (OMS) (1997). Informática de la salud y telemedicina. 99 Reunión del Consejo Ejecutivo. https://apps.who.int/iris/bitstream/handle/10665/194008/EB99_30_spa.pdf.
  • Organización Mundial de la Salud (OMS) (2014). Preventing suicide: a global imperative.
  • https://apps.who.int/iris/ handle/10665/131056).
  • Organización Mundial de la Salud (OMS) (2021). Suicidio en todo el mundo en 2019.
  • https://www.who.int/publications/i/item/9789240026643.
  • Organización para la Cooperación y el Desarrollo Económico (OECD) (2022). Suicide rates (indicator).
  • https://doi.org/10.1787/a82f3459-en
  • Pamungkas, Endang (2018). Emotionally-Aware Chatbots: A survey. En Proceedings of ACM Conference (Conference’17), New York. https://doi.org/10.1145/1122445.1122456.
  • Pareto, Julia (2022). Robótica social asistencial. Implicaciones y desafíos éticos. Brains: Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 2(2): 39-43.
  • https://www.clustersalutmental.com/wp-content/uploads/2022/05/Brains_02_vol2_Journal.pdf.
  • Pascual, César (2021). Dificultades para la implantación de herramientas de IA en el Sistema Nacional de Salud. En Sánchez-Caro, Javier y Aberllán-García, Fernando (Coor.), Inteligencia Artificial en el campo de la salud. Un nuevo paradigma: aspectos clínicos, éticos y legales. Colección de bioética y derecho sanitario 26 (pp. 139-174). Fundación Merck Salud.
  • Patel, Vikram et al. (2018). The Lancet Commission on global mental health and sustainable development. The Lancet, 392(10157), 1553-1598. https://doi.org/10.1016/S0140-6736(18)31612-X
  • Pourmand, Ali; Roberson, Jeffrey; Caggiula, Amy; Monsalve, Natalia; Rahimi, Murwarit y Torres-Llenza, Vanessa (2019). Social Media and Suicide: A Review of Technology-Based Epidemiology and Risk Assessment. Telemedicine Journal and e-Health, 25(10), 880-888. https://doi.org/10.1089/tmj.2018.0203.
  • Ramírez-Cifuentes, Diana; Freire, Ana; Baeza-Yates, Ricardo; Puntí, Joaquim; Medina-Bravo, Pilar; Velázquez, Diego; Gonfaus, Josep y Gonzàlez, Jordi (2020). Detection of Suicidal Ideation on Social Media: Multimodal, Relational, and Behavioral Analysis. Journal of Medical Internet Research, 22(7), e17758. https://doi.org/10.2196/17758.
  • Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (RGPD).
  • https://www.boe.es/buscar/doc.php?id=DOUE-L-2016-80807.
  • Reina, Pastora (2014). El asociacionismo en la postvención de supervivientes al suicidio. En Anseán, Andoni (Coord.) Manual de prevención, intervención y postvención de la conducta suicida (pp. 951-964). Fundación Salud Mental España.
  • Replika (2018). https://replika.ai/
  • Romero, Miriam, Casadevante, Romero y Montoro, Helena (2020). Cómo construir un psicólogo-chatbot. Papeles del Psicólogo, 41(1), 7-34. https://doi.org/10.23923/pap.psicol2020.2920.
  • Sallent, Josuè (2022). Consideraciones del uso de datos y la inteligencia artificial aplicada a la industria del sector de salud mental. Brains: Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 2(2), 7-10.
  • https://www.clustersalutmental.com/wp-content/uploads/2022/05/Brains_02_vol2_Journal.pdf.
  • Sánchez-Caro, Javier y Abellán-García, Fernando (2021) Aspectos bioético-legales relacionados con la IA en la asistencia sanitaria y su repercusión en materia de responsabilidad. En Sánchez-Caro, Javier y Aberllán-García, Fernando (Coord.) Inteligencia Artificial en el campo de la salud. Un nuevo paradigma: aspectos clínicos, éticos y legales. Colección de bioética y derecho sanitario 26 (pp. 75-110). Fundación Merck Salud.
  • Selgelid, Michael (2009). La gobernanza del doble uso de las investigaciones, un dilema ético. Boletín de la OMS, 87, 720.
  • Sentinobot (2018). https://sentino.org/.
  • Solimini, Renata; Busardò, Francesco; Gibelli, Filippo; Sirignano, Ascanio y Ricci, Giovanna (2021). Ethical and Legal Challenges of Telemedicine in the Era of the COVID-19 Pandemic. Medicina (Kaunas), 57(12), 1314. https://doi.org/10.3390/ medicina57121314.
  • Ta, Vivian; Griffith, Caroline; Boatfield, Carolynn; Wang, Xinyu; Civitello, María; Bader, Haley; DeCero, Esther y Loggarakis, Alexia (2020). User Experiences of Social Support from Companion Chatbots in Everyday Contexts: Thematic Analysis. Journal of Medical Internet Research, 22(3), e16235. https://doi.org/10.2196/16235.
  • Terry, Nicolas y Gunter, Tracy (2018). Regulating mobile mental health apps. Behavioral Sciences & the Law, 36(2), 136-144. https://doi.org/10.1002/bsl.2339.
  • The European Parlament (2019). A comprehensive European industrial policy on artificial intelligence and robotics (2018/2088(INI)). https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_EN.html.
  • The Future of Life Institute (2017). Asilomar AI principles. https://futureofife.org/ai-principles/.
  • Tratado de Funcionamiento de la Unión Europea (2010). https://www.boe.es/doue/2010/083/Z00047-00199.pdf.
  • Turecki, Gustavo y Brent, David (2016). Suicide and Suicidal Behavior. Lancet. 387(10024), 1227-1239. https://doi.org10.1016/S0140-6736(15)00234-2.
  • US Food and Drug Administration and Center for Devices and Radiological Health Digital Health Program (2018). Digital Health Innovation Action Plan. https://www.fda.gov/media/106331/download.
  • Villanti, Andrea; Johnson, Amanda; Ilakkuvan, Vinu; Jacobs, Megan; Graham, Amanda y Rath, Jessica (2017). Social media use and access to digital technology in US young adults in 2016. Journal of Medical Internet Research, 19(6), e196.
  • https://doi.org 10.2196/jmir.7303.
  • Wallace, Richard (2009). The anatomy of A.L.I.C.E. En Epstein, Robert; Roberts, Gary y Beber, Grace (Eds.), Parsing the Turing test: philosophical and methodological issues in the quest for the thinking computer (pp. 181–210). Springer.
  • http: //dx.doi.org/10.1007/978-1-4020-6710-5_13.
  • Walsh, Colin; Ribeiro, Jessica y Franklin, Joseph (2017). Predicting Risk of Suicide Attempts Over Time Through Machine Learning, Clinical Psychological Science, 5(3), 457-469. https://doi.org/10.1177/2167702617691560.
  • Zero Suicide (2022). https://zerosuicide.edc.org/.
  • Zirikly, Ayah; Resnik, Philip; Uzuner, Özlem y Hollingshead, Kristy (junio, 2019). CLPsych 2019 Shared Task: Predicting the Degree of Suicide Risk in Reddit Posts. En Proceedings of the Sixth Workshop on Computational Linguistics and Clinical Psychology (pp. 24-33). Association for Computational Linguistics, Minnesota.
  • https://doi.org/10.18653/v1/w19-3003.
Fuente de los datos: Dialnet