La OMS insta a la precaución en el uso de grandes modelos lingüísticos de IA para la salud pública

La Organización Mundial de la Salud emitió una advertencia sobre el uso de herramientas basadas en grandes modelos lingüísticos generados por inteligencia artificial (IA), destacando la necesidad de precaución para proteger la seguridad, autonomía y bienestar de las personas, así como la preservación de la salud pública.

Entre las plataformas mencionadas se encuentran ChatGPT, Bard, Bert, y otras que imitan procesos y producción de comunicación humana, suscitando un creciente interés en el ámbito de la salud.

“La OMS reitera la importancia de aplicar los principios éticos y la gobernanza adecuada, enumerados en sus orientaciones sobre Ética y gobernanza de la inteligencia artificial en el ámbito de la salud, que son fundamentales en la formulación, desarrollo y despliegue de la IA en el ámbito de la salud”, informó la OMS en su comunicado.

Señaló que es imperativo examinar los riesgos asociados con estos modelos lingüísticos al mejorar el acceso a la información de salud, respaldar la toma de decisiones y fomentar diagnósticos en entornos con recursos limitados, con el fin de reducir la inequidad y proteger la salud pública.

A pesar del respaldo entusiasta de la OMS al uso adecuado de tecnologías, incluidos los grandes modelos lingüísticos, en el ámbito de la salud, existe preocupación por la falta de precauciones sistemáticas. Esto incluye la necesidad de observar valores fundamentales como transparencia, inclusión, colaboración pública, supervisión de expertos y rigor en las evaluaciones.

Añadió que la adopción apresurada de sistemas no probados podría resultar en errores por parte del personal de salud, causar daños a los pacientes, erosionar la confianza en la IA y obstaculizar los beneficios a largo plazo.

Algunas de las preocupaciones destacadas incluyen el sesgo en los datos de entrenamiento, generación de respuestas incorrectas, uso indebido de datos sin consentimiento previo, y la posibilidad de difundir desinformación convincente.

La OMS, comprometida con aprovechar la IA para mejorar la salud humana, recomendó a las instancias normativas garantizar la seguridad del paciente mientras las empresas tecnológicas buscan comercializar estos modelos.

La OMS subrayó la importancia de aplicar principios éticos y gobernanza adecuada, establecidos en sus orientaciones sobre ética y gobernanza de la inteligencia artificial en salud.

Estos principios incluyen proteger la autonomía, promover el bienestar y seguridad, garantizar transparencia, promover responsabilidad y rendición de cuentas, asegurar inclusividad y equidad, y promover una IA sostenible y con capacidad de respuesta. La organización insta a evaluar las pruebas de beneficios antes de la adopción generalizada en servicios de atención de salud y medicina.