Chatbots de salud: lo que la IA puede... y lo que nunca debe reemplazar
La nueva generación de inteligencia artificial promete analizar historiales médicos y datos de aplicaciones de bienestar para ofrecer consejos personalizados, pero expertos advierten que no toda la información que proporcionan estos sistemas es fiable.
Con cientos de millones de personas recurriendo a chatbots para solicitar orientación, era solo cuestión de tiempo antes de que las empresas tecnológicas lanzaran programas diseñados específicamente para responder preguntas sobre salud.
En enero, OpenAI presentó ChatGPT Health, una versión de su chatbot capaz de analizar historiales médicos, aplicaciones de bienestar y datos de dispositivos portátiles para responder consultas médicas. Actualmente, existe una lista de espera para acceder al programa. Por su parte, la empresa Anthropic ofrece funciones similares con su chatbot Claude para algunos usuarios.
Ambas compañías aclaran que sus herramientas no sustituyen la atención profesional ni deben emplearse para diagnosticar enfermedades. Sin embargo, los chatbots pueden resumir resultados de pruebas complejas, ayudar a preparar visitas médicas y analizar tendencias de salud ocultas en historiales clínicos y métricas de aplicaciones.
Ventajas de la IA frente a búsquedas convencionales
Algunos médicos consideran que programas como ChatGPT Health superan a las búsquedas en internet. Aunque no son perfectos y a veces pueden ofrecer información incorrecta, la IA proporciona respuestas más personalizadas que Google.
Una ventaja es que estos chatbots responden considerando el contexto del historial médico, incluidas recetas, edad y notas del profesional. Si no se ha compartido información médica, los expertos recomiendan aportar la mayor cantidad de datos posible para mejorar la precisión de las respuestas.
Cuándo no usar un chatbot
Los especialistas subrayan que hay situaciones críticas en las que se debe buscar atención inmediata en lugar de consultar a la IA. Síntomas como dificultad para respirar, dolor en el pecho o fuertes dolores de cabeza podrían indicar emergencias médicas. Incluso en casos menos graves, se recomienda abordar los programas con "un grado de escepticismo saludable" y no basar decisiones médicas únicamente en la información que proporcionan.
Privacidad de los datos
Gran parte de los beneficios de los chatbots proviene de que los usuarios compartan información personal, pero esta no está protegida por leyes federales como HIPAA, que regulan la divulgación de historiales médicos por hospitales o aseguradoras. OpenAI y Anthropic aseguran que los datos de salud se mantienen separados de otros tipos de información y cuentan con protecciones adicionales de privacidad, y que no se utilizan para entrenar los modelos sin consentimiento explícito.
Limitaciones y margen de mejora
Aunque los chatbots muestran buenos resultados en exámenes médicos de alto nivel, pruebas independientes revelan que pueden fallar en interacciones reales. Un estudio de la Universidad de Oxford encontró que los usuarios que consultaban chatbots para escenarios de salud hipotéticos no tomaban mejores decisiones que quienes investigaban por otros medios. Los sistemas de IA, al interactuar con personas, a veces mezclaban información correcta e incorrecta, dificultando la interpretación de los usuarios.
Segunda opinión de IA
Expertos sugieren usar varios chatbots para corroborar información, similar a pedir una segunda opinión médica. Este enfoque aumenta la confianza en las respuestas y ayuda a mitigar errores o interpretaciones equivocadas de la información generada por la IA.