La Organización Mundial de la Salud (OMS) ha publicado una nueva publicación que enumera consideraciones regulatorias clave sobre la inteligencia artificial (IA) para la salud. La publicación enfatiza la importancia de establecer la seguridad y eficacia de los sistemas de IA, poner rápidamente a disposición de quienes los necesitan los sistemas apropiados y fomentar el diálogo entre las partes interesadas, incluidos desarrolladores, reguladores, fabricantes, trabajadores de la salud y pacientes.
Con la creciente disponibilidad de datos sobre atención médica y el rápido progreso en las técnicas analíticas (ya sean de aprendizaje automático, basadas en lógica o estadísticas), las herramientas de inteligencia artificial podrían transformar el sector de la salud. La OMS reconoce el potencial de la IA para mejorar los resultados de salud mediante el fortalecimiento de los ensayos clínicos; mejorar el diagnóstico médico, el tratamiento, el autocuidado y la atención centrada en la persona; y complementar los conocimientos, habilidades y competencias de los profesionales de la salud. Por ejemplo, la IA podría ser beneficiosa en entornos con falta de especialistas médicos, por ejemplo, en la interpretación de escáneres de retina e imágenes radiológicas, entre muchos otros.
Sin embargo, las tecnologías de inteligencia artificial (incluidos los grandes modelos lingüísticos) se están implementando rápidamente, a veces sin una comprensión completa de su funcionamiento, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes. Al utilizar datos de salud, los sistemas de IA podrían tener acceso a información personal confidencial, lo que requiere marcos legales y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad, que esta publicación pretende ayudar a establecer y mantener.
«La inteligencia artificial es muy prometedora para la salud, pero también plantea serios desafíos, incluida la recopilación de datos poco ética, amenazas a la ciberseguridad y amplificación de los sesgos o la desinformación», afirmó el Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. «Esta nueva guía ayudará a los países a regular la IA de manera efectiva, para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos».
En respuesta a las crecientes necesidades de los países de gestionar responsablemente el rápido aumento de las tecnologías sanitarias de IA, la publicación describe seis áreas para la regulación de la IA para la salud.
- Para fomentar la confianza, la publicación enfatiza la importancia de la transparencia y la documentación , por ejemplo documentando todo el ciclo de vida del producto y rastreando los procesos de desarrollo.
- Para la gestión de riesgos , cuestiones como el «uso previsto», el «aprendizaje continuo», las intervenciones humanas, los modelos de formación y las amenazas a la ciberseguridad deben abordarse de forma integral, con modelos lo más simples posible.
- Validar los datos externamente y tener claro el uso previsto de la IA ayuda a garantizar la seguridad y facilitar la regulación.
- Un compromiso con la calidad de los datos , por ejemplo mediante una evaluación rigurosa de los sistemas antes del lanzamiento, es vital para garantizar que los sistemas no amplifiquen los sesgos y los errores.
- Los desafíos que plantean regulaciones importantes y complejas, como el Reglamento General de Protección de Datos (GDPR) en Europa y la Ley de Responsabilidad y Portabilidad de Seguros Médicos (HIPAA) en los Estados Unidos de América, se abordan haciendo hincapié en la comprensión del alcance de la jurisdicción. y requisitos de consentimiento, al servicio de la privacidad y la protección de datos.
- Fomentar la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales puede ayudar a garantizar que los productos y servicios cumplan con la regulación durante todo su ciclo de vida.
Los sistemas de IA son complejos y dependen no solo del código con el que están construidos, sino también de los datos con los que están entrenados, que provienen de entornos clínicos y de interacciones con los usuarios, por ejemplo. Una mejor regulación puede ayudar a gestionar los riesgos de que la IA amplifique los sesgos en los datos de entrenamiento.
Por ejemplo, puede resultar difícil para los modelos de IA representar con precisión la diversidad de poblaciones, lo que genera sesgos, imprecisiones o incluso fracasos. Para ayudar a mitigar estos riesgos, se pueden utilizar regulaciones para garantizar que se informen los atributos (como el género, la raza y el origen étnico) de las personas que aparecen en los datos de capacitación y que los conjuntos de datos se hagan representativos intencionalmente.
La nueva publicación de la OMS tiene como objetivo esbozar los principios clave que los gobiernos y las autoridades reguladoras pueden seguir para desarrollar nuevas orientaciones o adaptar las orientaciones existentes sobre IA a nivel nacional o regional.
