La Organización Mundial de la Salud (OMS) pidió tener "cuidado" en el uso de herramientas de IA como ChatGPT en la atención médica. Advirtió que los datos utilizados para entrenar estos sistemas pueden estar "sesgados" y generar información engañosa que puede causar daño a los pacientes.
La OMS dijo que estaba entusiasmada con el potencial de la IA. Sin embargo, considera que la cautela que normalmente se ejercería para cualquier tecnología nueva no se está aplicando en el caso de ChatGPT, Bard y otros modelos conversacionales.
"La adopción precipitada de sistemas no probados podría generar errores por parte de los trabajadores de la salud", dijo el organismo de la ONU en un comunicado publicado hoy. Explicó que, además de afectar la salud de los pacientes, estos errores podrían erosionar la confianza en la IA y, por lo tanto, socavar los posibles beneficios a largo plazo de esta tecnología.
La OMS, en este sentido, exigió que una supervisión rigurosa para que la IA se utilice de manera segura y eficaz. "Esto incluye la adhesión generalizada a los valores clave de transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa", puntualizó.
Las preocupaciones de la OMS sobre la IA
A la OMS le preocupan los chatbots de IA en varios sentidos. Por un lado, están los sesgos y los "errores graves" en la información que redactan estos sistemas. "Pueden usarse indebidamente para generar y difundir desinformación altamente convincente", que al público le resultará difícil diferenciar del contenido de salud confiable, sostiene el organismo.
Estos modelos, por otro lado, son capacitados con datos para los cuales es posible que no se haya proporcionado previamente el consentimiento para dicho uso. "Pueden no proteger los datos confidenciales (incluidos los datos de salud) que un usuario proporciona a una aplicación para generar una respuesta", dice el comunicado.
La OMS instó a los gobiernos a regular y reglamentar los desarrollos de IA para garantizar la seguridad y la protección de los pacientes. "Es imperativo que se examinen cuidadosamente los riesgos", insistió.
Los principios éticos propuestos por la OMS
Antes del actual "boom" de la IA, la OMS ya había hecho la tarea. El organismo publicó en 2021 una guía sobre Ética y Gobernanza de la IA para la Salud. Fue resultado de un trabajo de año y medio de un equipo integrado por expertos en ética, tecnología digital, derecho, derechos humanos y representantes Ministerios de Salud.
El documento contiene un conjunto de recomendaciones para lograr que todas las partes interesadas, tanto en el sector público y privado, rindan cuentas y que sus decisiones respondan a las necesidades de los trabajadores de la salud y al bienestar de las personas. Establece principios básicos como garantizar la inclusión y la equidad, fomentar la responsabilidad y la promoción de una IA sostenible.