¿Podrían las herramientas basadas en Grandes Modelos de Lenguaje (LLM) informar a pacientes y profesionales de una forma fiable y segura? Se lo he preguntado a ChatGPT y aquí está su respuesta.
Hola, el Dr. ChatGPT le atenderá en un momento (I): el boom
Si durante meses hemos oído hablar, e incluso hemos utilizado la inteligencia artificial generativa…
Me refiero a esos modelos algorítmicos de aprendizaje automático que nos permiten crear contenidos originales en formato imagen (Stable Difussion, Dall-E 2), texto (ChatGPT), audio (AudioGen) o vídeo (Make-A-Video).
… no ha sido hasta la irrupción de ChatGPT-3 de la empresa OpenAI, y sobre todo cuando la herramienta estuvo disponible para todos, cuando el mundo se ha vuelto un poco más loco.
En muchos sitios encontrarás información sobre los Grandes Modelos de Lenguaje (Large Languaje Models – LLM en inglés). Hace unas semanas escribí un artículo para “El blog de Zoe” donde hablo de esta tecnología y de lo que veremos en salud. Por si quieres leerlo.
Hola, el Dr. ChatGPT le atenderá en un momento (II): rendimiento
Pero, los acontecimientos y la tecnología avanzan tan deprisa que hay que ver cómo hemos llegado hasta aquí y que nos deparará el futuro.
Creo que el origen de por qué estamos en el sector de la salud tan atentos a lo que suceda, comienza cuando Google entrenó y perfeccionó un modelo para que respondiera cuestiones médicas comunes. Y alcanzó el mismo nivel de acierto, en el formato corto de respuesta, que un médico general. De hecho Julián Isla lo probó con preguntas del MIR.
Y según pruebas que algunos usuarios, como Chema Cepeda, realizaron donde le piden a ChatGPT que interprete y resuma informes médicos a lenguaje accesible, el resultado es realmente impresionante.
Con estas ideas, ya se han lanzado múltiples opciones para que herramientas como ChatGPT pueda ser potencialmente utilizado en algunos casos de uso asistenciales. Recojo de Medical Futurist sus ideas:
- Resumir documentación clínica
- Resumir y analizar trabajos de investigación.
- Escribir textos de rutinarios como emails o cualquier cosa que ahorre tiempo.
- Responder a preguntas frecuentes o de carácter general.
Hola, el Dr. ChatGPT le atenderá en un momento (III): entrevista
Aunque hice pruebas con esta herramienta tuve dudas al respecto de sus capacidades, así que decidí preguntarle directamente a ChatGPT. Aquí transcribo parte de la entrevista. (La conversación completa está disponible para los suscriptores de KnowledgeHealth, servicio del que puedes formar parte, por supuesto.)
P: ¿Crees que un servicio como tú podría ser utilizado por un hospital para informar a sus pacientes como asistente médico en una app o en su web corporativa?
R: Sí, definitivamente. Las tecnologías de IA generativas, como ChatGPT, pueden ser utilizadas como una solución de asistencia médica virtual para informar a los pacientes sobre cuestiones relacionadas con la salud. Los hospitales y las clínicas pueden integrar un chatbot basado en IA en su aplicación móvil o en su sitio web para brindar información precisa y actualizada sobre síntomas, diagnósticos, tratamientos, precauciones y más. Esto puede mejorar la experiencia del paciente y reducir la carga sobre el personal médico al responder preguntas frecuentes de manera rápida y eficiente.
P: ¿Cómo estarían seguros los pacientes de que tú, como asistente médico virtual, les vas a dar la información más exacta y actualizada a sus necesidades?
R: Los pacientes pueden estar seguros de la precisión y actualidad de la información que reciben de una tecnología como yo por varias razones:
- Entrenamiento en datos confiables: Me entrenaron en un gran corpus de texto que incluye información médica verificada y actualizada.
- Actualización continua: Los modelos de IA como yo son constantemente mejorados y actualizados con nuevos conocimientos y datos.
- Verificación de la información: Al ser un modelo de IA, la información que brindo puede ser verificada y validada por expertos médicos o profesionales en salud.
Sin embargo, es importante destacar que, aunque trato de brindar información precisa y actualizada, no reemplazo al consejo médico profesional y no debo ser utilizado como única fuente de información en materia de salud. La información que brindo debe ser considerada junto a otras fuentes y siempre es importante consultar a un médico si se tienen dudas o preocupaciones relacionadas con la salud.
P: ¿Conoces el término Dr. Google?
R: Sí, conozco el término “Dr. Google”. Es un apodo que se utiliza para describir la práctica de buscar información sobre salud en Internet, en particular a través de motores de búsqueda. Esto se refiere a la tendencia de las personas de buscar información sobre su salud en línea, en lugar de consultar a un profesional médico. La preocupación es que la información encontrada en línea no siempre es precisa o relevante para una situación individual y puede llevar a conclusiones equivocadas o malentendidos.
P: ¿Crees que podremos hablar de un Dr. ChatGPT?
R: Es posible que en el futuro se utilice tecnología de lenguaje natural como la que yo represento en aplicaciones médicas, pero es importante tener en cuenta que aún hay limitaciones y desafíos que se deben superar antes de poder hablar de un “Dr. ChatGPT”. Las tecnologías de IA y los asistentes virtuales como yo están diseñados para complementar la atención médica brindada por profesionales capacitados, no para reemplazarlos. Además, es importante garantizar la precisión y seguridad de la información que se brinda a los pacientes.
Conversación con ChatGPT en febrero de 2023.
¿Qué te parecen sus respuestas?
Hola, el Dr. ChatGPT le atenderá en un momento (IV): corto plazo
No es extraño que tome tantas precauciones en las respuestas, porque como siempre en estos casos, está el buen y el mal uso de la tecnología. Y estos modelos tienen herramientas de moderación que se encargan de evitar los temas escabrosos pero que pueden ser evitadas por métodos ingeniosos.
A nivel científico hay otros problemas más preocupantes, por ejemplo, esta herramienta ha confesado a Naukas sobre su capacidad de escribir artículos científicos y de “engañar a los revisores”.
“Es importante tener en cuenta que, a medida que la tecnología de generación de lenguaje avanza, es cada vez más difícil distinguir entre los “abstracts” generados por IA y los escritos por investigadores humanos.”
ChatGPT en un artículo en Naukas en enero de 2023.
Y respecto a los temas legales y médicos a los que afectan la IA y sobre todo la generativa, recomiendo el artículo de Cristina Gil Membrado “Derecho civil e inteligencia artificial: recursos que ofrecen las IAs y el Chat GPT” publicado en Encuentros Dykinson. Tres advertencias en el artículo nos hacen ser, de momento, prudentes: su uso de modo autónomo, la opacidad de la IA y los sesgos de la información que facilite.
Quiero finalizar con un par de ejemplos optimistas. El primero es una prueba exitosa del uso de estas tecnologías para la identificación de pacientes con Alzheimer utilizando sus audios o su transcripción a texto. Y la segunda el uso que se podría dar para agilizar la comunicación de los implantes cerebrales (interfaces cerebro-máquina) en pacientes que los necesiten.
Autor: José Miguel Cacho. LinkedIN
Si te ha gustado y quieres leer más artículos y conocer mis novedades en CuraeSalud, recibe quincenalmente mi newsletter.
Si quieres adentrarte en el mundo de la salud digital, y estar formado e informado quizá te interese mi nuevo servicio KnowledegeHealth