- Microsoft, Amazon y OpenAI lanzan herramientas de IA para salud, con 50 millones de preguntas diarias en Copilot reflejando demanda masiva.
- Investigadores advierten que los productos se lanzan antes de evaluaciones independientes, creando riesgos potenciales en un área de alto impacto.
- Los usuarios sin experiencia médica pueden no saber usar chatbots de salud efectivamente, una brecha que pruebas de laboratorio podrían no captar.
- La falta de datos de terceros deja en duda si estas herramientas ayudan más de lo que perjudican, impulsando llamados a estándares de transparencia.
La industria de la inteligencia artificial está experimentando una explosión sin precedentes en el desarrollo de herramientas orientadas a la salud. En las últimas semanas, gigantes tecnológicos como Microsoft, Amazon y OpenAI han presentado productos diseñados para ofrecer consejos médicos a través de chatbots avanzados. Microsoft lanzó Copilot Health, un espacio dentro de su aplicación donde los usuarios pueden conectar sus registros médicos y realizar consultas específicas. Amazon, por su parte, amplió el acceso a Health AI, una herramienta basada en modelos de lenguaje que antes estaba restringida a miembros de su servicio One Medical. Estas iniciativas se suman a ChatGPT Health de OpenAI, lanzado en enero, y a las capacidades de Claude de Anthropic para acceder a registros de salud con permiso.
Esto importa porque la IA está transformando el acceso a la salud, pero sin evaluaciones rigurosas, millones de usuarios podrían depender de herramientas no probadas, con implicaciones críticas para la seguridad pública.
La demanda impulsa la innovación
El motor detrás de esta tendencia es una demanda masiva y no satisfecha. Microsoft revela que su plataforma Copilot recibe 50 millones de preguntas relacionadas con la salud cada día, convirtiéndose en el tema de conversación más popular en su aplicación móvil. Karan Singhal, líder del equipo de Salud AI en OpenAI, confirma un aumento rápido en el uso de ChatGPT para consultas médicas incluso antes del lanzamiento de productos especializados. Esta avalancha de consultas refleja una realidad incómoda: el acceso al sistema de salud tradicional es difícil, costoso y, para muchas poblaciones, prácticamente inalcanzable. Girish Nadkarni, director de IA del Sistema de Salud Mount Sinai, señala que estas herramientas encuentran su nicho precisamente porque llenan un vacío crítico en la atención.
La brecha de evaluación independiente
A pesar del entusiasmo corporativo, seis investigadores académicos entrevistados para este análisis expresaron preocupaciones uniformes: los productos están llegando al mercado público antes de que expertos independientes puedan evaluar rigurosamente su seguridad y eficacia. Andrew Bean, candidato doctoral en el Oxford Internet Institute, argumenta que, si bien es plausible que los modelos hayan alcanzado un punto donde vale la pena implementarlos, la base de evidencia debe ser sólida. El riesgo radica en confiar en que las propias empresas evalúen sus herramientas en un área de alto riesgo como la salud, especialmente si esas evaluaciones no están disponibles para revisión externa. Incluso con investigaciones rigurosas internas, como las que realiza OpenAI, pueden existir puntos ciegos que la comunidad científica más amplia podría identificar.
Sin evaluaciones de terceros confiables, sigue siendo genuinamente incierto si las herramientas de IA para salud ayudan más de lo que perjudican.
Limitaciones de las pruebas de laboratorio
Los estudios actuales sugieren que los usuarios reales, que carecen de experiencia médica, podrían no saber cómo formular preguntas para obtener respuestas útiles de los chatbots de salud. Esta brecha entre el uso en condiciones controladas de laboratorio y el mundo real es un desafío que algunas evaluaciones podrían no capturar. Dominic King, vicepresidente de salud en Microsoft AI y ex cirujano, atribuye el lanzamiento de Copilot Health a los avances en las capacidades de la IA generativa para responder preguntas de salud. Sin embargo, admite que la demanda es la otra mitad de la ecuación. La visión ideal es que estos chatbots mejoren la salud de los usuarios mientras reducen la presión sobre el sistema sanitario, por ejemplo, ayudando en tareas de triaje para decidir si se necesita atención médica urgente.
Implicaciones y lo que viene
La proliferación de herramientas de IA para la salud plantea preguntas urgentes sobre regulación y transparencia. Sin evaluaciones de terceros confiables, sigue siendo genuinamente incierto si las herramientas actuales ayudan más de lo que perjudican. Nadie exige perfección, pero la falta de datos independientes crea un terreno fértil para riesgos potenciales. A medida que más empresas se unen a la carrera, la presión para establecer estándares de prueba y publicación de resultados se intensificará. El futuro de la IA en la salud dependerá de equilibrar la innovación acelerada con la responsabilidad de garantizar que estos sistemas no solo sean populares, sino también seguros y efectivos para todos los usuarios.