“Tengo lo que creo que es el trabajo más genial del mundo”. Así inició su presentación el Dr. Adam Rodman el pasado 24 de julio durante la versión #50 de la Jornada Científica del Hospiten Paitilla, donde abordó el tema: “Ética médica y la inteligencia artificial”.
Rodman se describió como médico internista, profesor de Harvard Medical School e investigador en Google. “Estudio cómo los humanos toman decisiones, cómo la inteligencia artificial toma decisiones, cómo trabajan juntos… y cómo no trabajan juntos”, explicó al presentarse ante la audiencia panameña.
Con tono cercano y cargado de anécdotas, el especialista abordó los nuevos dilemas bioéticos que enfrenta la medicina en la era de la inteligencia artificial (IA). Incluso, para introducir el tema, mostró un video de una versión suya generada con IA.
“La IA generativa está siendo usada extensivamente en la educación médica. Mis estudiantes de medicina en Harvard, en un 80 a 90%, la usan todo el tiempo. La mayoría de los estudiantes de colegio lo usan rutinariamente. Hay un sentido muy interesante de optimismo alrededor del mundo”, comentó Rodman.
Llamó la atención sobre una curiosidad cultural: “Los hablantes de inglés se encuentran entre los más pesimistas sobre la IA, mientras que los hispanohablantes son mucho más optimistas. No estoy seguro del porqué, pero en medicina hay un gran optimismo sobre cómo estas tecnologías pueden mejorar el cuidado médico”.
Desafíos éticos de la IA médica
Durante su intervención, Rodman detalló áreas clave que requieren atención ética frente al avance acelerado de la inteligencia artificial en salud:
1. Efectos cognitivos en los humanos
Los modelos de lenguaje como ChatGPT modifican la forma en que pensamos. “Cambian cómo pensamos, en parte por el sesgo de automatización: la tendencia a confiar demasiado en un sistema automatizado”, explicó.
Rodman expresó su preocupación por el fenómeno que denominó “psicosis ChatGPT”, y advirtió sobre el “descalificamiento cognitivo”, es decir, la reducción de nuestras capacidades mentales a medida que dependemos más de estas herramientas.
“Cuanto más usamos estos modelos, menos crece nuestra cognición”, comenta.
2. Seguridad y alucinaciones de los modelos de IA
El médico hizo énfasis en el problema de las llamadas “alucinaciones” de la IA: respuestas incorrectas o inventadas, pero expresadas de forma convincente por los modelos.
“Un número de abogados [en Estados Unidos] ha tenido problemas en los juzgados porque presentaron informes que hacían referencia a modelos de lenguaje. En medicina, esto puede ser un gran problema”.
Agregó que aunque estas fallas están disminuyendo con nuevas tecnologías, siguen siendo una preocupación en campos de alto riesgo como el de la salud.
3. Impacto ambiental
Rodman destacó que el entrenamiento de modelos de IA demanda grandes cantidades de electricidad y agua, así como el uso de tierras raras para fabricar chips. “También hay degradación ambiental por la infraestructura, como centros de datos”, apuntó.
4. Valores
Una de las preguntas más profundas que lanzó Rodman al público fue: “¿Con quién se alinean los modelos de lenguaje: con el paciente, el médico, el sistema de salud, la aseguradora o la sociedad?”
Explicó que los LLM (Large Language Models) codifican valores explícitos en sus decisiones médicas, lo que genera tensiones éticas sobre a quién realmente están sirviendo estas tecnologías.
Rodman también abordó el tema de la desinformación en los modelos de IA. Recordó el reciente escándalo que involucró al chatbot Grok, de la empresa xAI de Elon Musk, cuando este elogió a Hitler. “Esto muestra cómo estas tecnologías pueden tener comportamientos extraños debido a su ‘sentido de identidad’ y ser vulnerables a ataques maliciosos”, alertó.
Una mirada al futuro
Para Rodman, la IA generativa ya forma parte del presente. “Está aquí y no se va”, dijo. Sin embargo, desestimó el temor a una IA “superhumana”: “No creo que obtengamos una inteligencia artificial que sea mejor que los humanos en todo, así que no se preocupen”.
Concluyó destacando el papel clave de los médicos en el futuro: “Los médicos estarán aquí y tendrán un papel importante trabajando con la IA. Pero, ¿cómo entrenamos a la próxima generación de médicos sabiendo que ya están usando inteligencia artificial para todo? Ese es el mayor desafío que enfrentaremos en los próximos 10 años”.
