La OMS publica el primer informe mundial sobre inteligencia artificial (IA) en salud y seis principios rectores para su diseño y uso
La inteligencia artificial (IA) es muy prometedora para mejorar la prestación de servicios de salud y medicina en todo el mundo, pero solo si la ética y los derechos humanos se colocan en el centro de su diseño, implementación y uso, según la nueva guía de la OMS publicada hoy.
El informe, Ética y gobernanza de la inteligencia artificial para la salud, es el resultado de 2 años de consultas realizadas por un panel de expertos internacionales designados por la OMS.
“Como toda tecnología nueva, la inteligencia artificial tiene un enorme potencial para mejorar la salud de millones de personas en todo el mundo, pero como toda tecnología, también puede ser mal utilizada y causar daños”, dijo el Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. "Este nuevo informe importante proporciona una guía valiosa para los países sobre cómo maximizar los beneficios de la IA, minimizando sus riesgos y evitando sus trampas".
La inteligencia artificial se puede utilizar, y en algunos países ricos ya se está utilizando para mejorar la velocidad y precisión del diagnóstico y la detección de enfermedades; para ayudar con la atención clínica; fortalecer la investigación en salud y el desarrollo de medicamentos, y apoyar diversas intervenciones de salud pública, como la vigilancia de enfermedades, la respuesta a brotes y la gestión de sistemas de salud.
La IA también podría capacitar a los pacientes para que tomen un mayor control de su propia atención médica y comprendan mejor sus necesidades cambiantes. También podría permitir que los países de escasos recursos y las comunidades rurales, donde los pacientes a menudo tienen acceso restringido a los trabajadores de la salud o los profesionales médicos, superen las brechas en el acceso a los servicios de salud.
Sin embargo, el nuevo informe de la OMS advierte contra la sobreestimación de los beneficios de la IA para la salud, especialmente cuando esto ocurre a expensas de las inversiones y estrategias básicas necesarias para lograr la cobertura sanitaria universal.
También señala que las oportunidades están vinculadas a desafíos y riesgos, incluida la recopilación y el uso poco éticos de datos de salud; sesgos codificados en algoritmos y riesgos de la IA para la seguridad del paciente, la ciberseguridad y el medio ambiente.
Por ejemplo, si bien la inversión del sector público y privado en el desarrollo y despliegue de la IA es fundamental, el uso no regulado de la IA podría subordinar los derechos e intereses de los pacientes y las comunidades a los poderosos intereses comerciales de las empresas de tecnología o los intereses de los gobiernos en la vigilancia y la vigilancia. control social.
El informe también enfatiza que los sistemas capacitados principalmente con datos recopilados de personas en países de ingresos altos pueden no funcionar bien para personas en entornos de ingresos bajos y medios.
Por lo tanto, los sistemas de IA deben diseñarse cuidadosamente para reflejar la diversidad de entornos socioeconómicos y de atención de la salud. Deben ir acompañadas de capacitación en habilidades digitales, participación comunitaria y sensibilización, especialmente para millones de trabajadores de la salud que requerirán alfabetización digital o reciclaje si sus roles y funciones están automatizados, y que deben lidiar con máquinas que podrían desafiar la decisión. toma de decisiones y autonomía de proveedores y pacientes.
En última instancia, guiados por las leyes existentes y las obligaciones de derechos humanos, y las nuevas leyes y políticas que consagran los principios éticos, los gobiernos, los proveedores y los diseñadores deben trabajar juntos para abordar las preocupaciones sobre la ética y los derechos humanos en cada etapa del diseño, desarrollo e implementación de una tecnología de inteligencia artificial. .
Seis principios para garantizar que la IA funcione para el interés público en todos los países
Para limitar los riesgos y maximizar las oportunidades intrínsecas al uso de la IA para la salud, la OMS proporciona los siguientes principios como base para la regulación y la gobernanza de la IA:
Protegiendo la autonomía humana: En el contexto de la atención de la salud, esto significa que los seres humanos deben mantener el control de los sistemas de atención de la salud y las decisiones médicas; Se debe proteger la privacidad y la confidencialidad, y los pacientes deben dar un consentimiento informado válido a través de los marcos legales apropiados para la protección de datos.
Promover el bienestar y la seguridad humanos y el interés público. Los diseñadores de tecnologías de IA deben satisfacer los requisitos reglamentarios de seguridad, precisión y eficacia para casos de uso o indicaciones bien definidos. Deben estar disponibles medidas de control de calidad en la práctica y mejora de la calidad en el uso de IA.
Asegurar transparencia, explicabilidad e inteligibilidad. La transparencia requiere que se publique o documente suficiente información antes del diseño o implementación de una tecnología de IA. Dicha información debe ser fácilmente accesible y facilitar una consulta pública significativa y un debate sobre cómo se diseña la tecnología y cómo debe o no debe usarse.
Fomento de la responsabilidad y la rendición de cuentas. Aunque las tecnologías de IA realizan tareas específicas, es responsabilidad de las partes interesadas asegurarse de que se utilicen en las condiciones adecuadas y por personas debidamente capacitadas. Deben estar disponibles mecanismos efectivos para interrogar y reparar a las personas y grupos que se vean afectados negativamente por decisiones basadas en algoritmos.
Garantizar la inclusión y la equidad. La inclusión requiere que AI para la salud se diseñe para fomentar el uso y acceso equitativo más amplio posible, independientemente de la edad, sexo, género, ingresos, raza, etnia, orientación sexual, capacidad u otras características protegidas por los códigos de derechos humanos.
Promover una IA que sea receptiva y sostenible. Los diseñadores, desarrolladores y usuarios deben evaluar de manera continua y transparente las aplicaciones de IA durante el uso real para determinar si la IA responde de manera adecuada y apropiada a las expectativas y requisitos. Los sistemas de IA también deben diseñarse para minimizar sus consecuencias ambientales y aumentar la eficiencia energética. Los gobiernos y las empresas deben abordar las interrupciones anticipadas en el lugar de trabajo, incluida la capacitación para que los trabajadores de la salud se adapten al uso de sistemas de inteligencia artificial y las posibles pérdidas de empleos debido al uso de sistemas automatizados.
Estos principios guiarán el trabajo futuro de la OMS para apoyar los esfuerzos para garantizar que todo el potencial de la IA para la atención médica y la salud pública se utilice en beneficio de todos.
De https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -diseño-y-uso
