La inteligencia artificial generativa está transformando el sector salud, destacándose su impacto en la gestión del cuidado y el compromiso del paciente. Esta tecnología permite a los médicos ofrecer cuidados más precisos mediante sistemas automatizados y herramientas de apoyo diagnóstico que brindan sugerencias personalizadas oportunas. Un estudio reciente resalta que los estudiantes de medicina que recibieron retroalimentación de modelos de lenguaje grande (LLM, por sus siglas en inglés) en simulaciones clínicas mejoraron notablemente su toma de decisiones frente a quienes no la recibieron.
Los modelos de lenguaje grande, pieza central de la mayoría de los sistemas de IA generativa, posibilitan una interacción natural en múltiples ámbitos, desde facturación y diagnóstico hasta tratamiento e investigación, operando de manera independiente bajo supervisión humana. Sin embargo, para su uso es crucial comprender los riesgos y efectos en la atención médica, lo que requerirá planificar y ejecutar un enfoque seguro y responsable.
En la fase de diseño de aplicaciones de IA generativa para la salud, es esencial establecer políticas que definan insumos y resultados. Estas pautas ayudan a construir un sistema de IA responsable. Los desafíos incluyen evitar confabulaciones, respuestas erróneas pero confiadas, y gestionar el sesgo que podría aumentar desigualdades entre grupos.
La transparencia y responsabilidad son clave en el desarrollo de estas aplicaciones. Documentar fuentes de datos, decisiones de diseño y limitaciones a través de «fichas de modelo» permite evaluar el sistema y que los usuarios tomen decisiones informadas.
Integrar mejores prácticas de seguridad a cada nivel de las aplicaciones es fundamental para proteger la privacidad de los pacientes y la seguridad de los datos. Estos sistemas pueden ser atacados mediante inyección de prompts, por lo que se necesitan evaluaciones de riesgo y salvaguardias para controlar entradas y salidas.
La IA generativa tiene el potencial de revolucionar el cuidado de la salud, mejorando la calidad del servicio, la experiencia del paciente y la seguridad clínica. Para diseñar y operar estas aplicaciones, es vital considerar limitaciones y establecer gobernanza que garantice la seguridad y confianza necesarias.
