Web Analytics Made Easy - Statcounter
Pensando en futuro

La OMS publica orientaciones sobre la ética y la gobernanza de la IA para grandes modelos multimodales

Inteligencia artificial 53036
Inteligencia artificial 53036

La Organización Mundial de la Salud (OMS) ha publicado nuevas orientaciones sobre la ética y la gobernanza de los grandes modelos multimodales, un tipo de tecnología de inteligencia artificial (IA) generativa en plena expansión y con varias aplicaciones en la atención de salud.

Las orientaciones incluyen más de 40 recomendaciones para la consideración de los gobiernos, las empresas tecnológicas y los proveedores de atención de salud con el fin de garantizar el uso adecuado de los grandes modelos multimodales en la promoción y protección de la salud de las poblaciones.

Los grandes modelos multimodales pueden aceptar más de un tipo de entrada de datos, como textos, vídeos e imágenes, y generan diversos productos que no están limitados al tipo de datos introducidos. También imitan de manera excepcional la comunicación humana y tienen capacidad para desempeñar tareas para las que no se les ha programado de manera específica. Estos modelos se han adoptado más rápidamente que ninguna otra aplicación destinada al público general y varias plataformas –como ChatGPT, Bard y Bert– pasaron a formar parte del imaginario colectivo en 2023.

"Las tecnologías de IA generativa tienen el potencial de mejorar la atención de salud, pero esto solo es posible si quienes las desarrollan, regulan y utilizan identifican los riesgos asociados y los tienen en cuenta" - Dr. Jeremy Farrar, Director Científico de la OMS

"Las tecnologías de IA generativa tienen el potencial de mejorar la atención de salud, pero esto solo es posible si quienes las desarrollan, regulan y utilizan identifican los riesgos asociados y los tienen en cuenta", declaró el Dr. Jeremy Farrar, Director Científico de la OMS, añadiendo que "necesitamos información transparente y políticas para gestionar el diseño, desarrollo y uso de los grandes modelos multimodales para mejorar los resultados de salud y superar las inequidades persistentes en materia de salud".

Posibles beneficios y riesgos

En las nuevas orientaciones de la OMS se describen cinco aplicaciones generales de los grandes modelos multimodales en la salud:

  1. Diagnóstico y atención clínica, como dar respuesta a las preguntas escritas de los pacientes;
  2. Uso guiado por el paciente, como la investigación sobre los síntomas y el tratamiento;
  3. Tareas administrativas y de oficina, como documentar y resumir las visitas de los pacientes en los registros de salud electrónicos;
  4. Formación de personal médico y de enfermería, por ejemplo para que los estudiantes puedan simular visitas con pacientes;  y
  5. Investigación científica y desarrollo de medicamentos, incluida la identificación de compuestos nuevos.

 

Si bien los grandes modelos multimodales comienzan a emplearse para fines médicos concretos, se ha documentado también el riesgo de que emitan declaraciones falsas, inexactas, sesgadas o incompletas, lo que podría resultar perjudicial si se utiliza esta información para tomar decisiones de salud. Además, puede que los grandes modelos multimodales estén entrenados con información de baja calidad o con sesgos, por ejemplo vinculados a la raza, la etnia, la ascendencia familiar, el sexo, la identidad de género o la edad.

En las orientaciones también se detallan riesgos más generales para los sistemas de salud, como la accesibilidad y la asequibilidad de los grandes modelos multimodales con mejor desempeño. Los grandes modelos multimodales también pueden fomentar el «sesgo de automatización» en los profesionales de la salud y los pacientes, ya sea debido a que se pasan por alto errores que, de otro modo, se podrían haber detectado o porque se delegan indebidamente decisiones difíciles a un gran modelo multimodal. Estos modelos, al igual que otras formas de IA, también son vulnerables a los riesgos para la ciberseguridad que podrían poner en peligro la información de los pacientes o la fiabilidad de los algoritmos y la prestación de atención de salud en sentido general.

Para crear grandes modelos multimodales que sean seguros y eficaces, la OMS subraya la necesidad de que las diversas partes interesadas (gobiernos, empresas tecnológicas, proveedores de atención de salud, pacientes y la sociedad civil) participen en todas las etapas del desarrollo y el despliegue de estas tecnologías, incluidas su supervisión y regulación.

«Los gobiernos de todos los países deben liderar de forma cooperativa los esfuerzos para regular de manera eficaz el desarrollo y el uso de las tecnologías de IA, como los grandes modelos multimodales», dijo el Dr. Alain Labrique, Director de Salud Digital e Innovación en la División Científica en la OMS.

Principales recomendaciones

Las nuevas orientaciones de la OMS incluyen recomendaciones para los gobiernos, que son los principales responsables de establecer las normas para el desarrollo y el despliegue de los grandes modelos multimodales, así como de su integración y uso con fines médicos y de salud pública. Por ejemplo, los gobiernos deben:

- Financiar o poner en marcha infraestructuras no lucrativas o públicas –como  la potencia computacional y los conjuntos públicos de datos– que sean accesibles para los desarrolladores de los sectores público, privado y no lucrativo, lo que requiere que los usuarios se adhieran a sus principios y valores éticos a cambio de obtener acceso.

- Utilizar leyes, políticas y reglamentaciones para garantizar que los grandes modelos multimodales y las aplicaciones que se emplean en la atención de salud y en la medicina, independientemente del riesgo o el beneficio asociado con el uso de tecnología de IA, cumplan las obligaciones éticas y las normas de derechos humanos que afecten a, por ejemplo, la dignidad, autonomía o privacidad de una persona.

- Designar un organismo regulador, existente o de nueva creación, para evaluar y aprobar los grandes modelos multimodales y las aplicaciones de su uso en atención de salud o medicina, según los recursos disponibles.

- Introducir auditorías y evaluaciones del impacto obligatorias, realizadas por terceras partes independientes y en las que se incluyan la protección de datos y los derechos humanos, cuando una de esas tecnologías se despliegue a gran escala. Las auditorías y las evaluaciones del impacto deben publicarse e incluir los resultados e impactos desglosados por tipo de usuario, por ejemplo por edad, raza o discapacidad.

Las orientaciones también incluyen las siguientes recomendaciones básicas para los desarrolladores de los grandes modelos multimodales, quienes deben asegurarse de que:

- Los grandes modelos multimodales no están diseñados exclusivamente por científicos e ingenieros. Los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos los proveedores de servicios médicos, los investigadores científicos, los profesionales de la atención de salud y los pacientes, deben participar en el proceso desde las etapas más tempranas del desarrollo de la IA de manera estructurada, inclusiva y transparente, y tener la oportunidad de plantear dilemas éticos, expresar sus preocupaciones y aportar información para la aplicación de la IA que se esté evaluando.

- Los grandes modelos multimodales están diseñados para desempeñar tareas muy definidas con la precisión y fiabilidad necesarias para mejorar la capacidad de los sistemas de salud y promover los intereses de los pacientes. Los desarrolladores también deben ser capaces de predecir y comprender los posibles resultados secundarios.

Más noticias
Corp Comm Image AH Plus Pack Shot Dentsply Sirona
Novedades

Para celebrar este aniversario, Dentsply Sirona publica un manual científico con estudios clínicos seleccionados que validan la evidencia clínica de la eficacia y fiabilidad de AH Plus® y demuestran su eficacia en los diversos escenarios de tratamiento.

R2 Figure 2. HLD teeth fossils Hualongdong jpg
Investigación

El CENIEH participa en esta investigación internacional que identifica en el yacimiento chino de Hualongdong una población homínida con rasgos compartidos con Homo sapiens, lo que desafía las clasificaciones evolutivas tradicionales en Asia

Monica Garcia Gomez ministra Sanidad
Actualidad

La principal novedad es la incorporación progresiva de las personas mayores de 65 años como nuevo colectivo beneficiario.

Alineadores transparentes pexels itslauravillela 28407748
Investigación

Según una investigación de la Facultad de Odontología de Londres de la Universidad del Gran Manchester (Reino Unido) sobre el impacto de la ortodoncia en el microbioma oral.

Foto recurso 1
Entrevistas a doctores/as

La Dra. Miriam Alexandre, Coordinadora médica del área de Prostodoncia, Estética y Odontología General de Vitaldent DONTEGROUP, nos habla en esta entrevista sobre la relación entre el cloro y la salud bucodental, advirtiendo sobre los efectos del cloro en dientes y encías y la importancia de enjuagarse con agua dulce tras un baño en la piscina.

Endodoncia AEDE
Actualidad

Se trata de una práctica que apuesta por la extracción innecesaria de dientes para curar enfermedades crónicas, como la artritis reumatoide y la enfermedad de Alzheimer, sin ninguna base científica. 

DS World 2025 Sevilla (1)
Eventos

DS World 2025 se celebrará el próximo mes de septiembre en Sevilla, bajo el lema “Experience the Future of Connected Dentistry” consolidándose como una de las citas clave en el calendario dental internacional.

Dr. Pradies
Actualidad

El Equipo de Robótica del Máster de Odontología Restauradora basado en las Nuevas Tecnologías de la Universidad Complutense de Madrid ha culminado de forma exitosa el día 23 de julio la primera cirugía en Europa de colocación de implantes con tecnología robótica autónoma.

Logo SEdO Alineadores Zaragoza Mesa de trabajo 1
Eventos

El IV Congreso de Alineadores y Nuevas Tecnologías (SEdO Alineadores 2025) se celebrará los días 19 y 20 de septiembre en Zaragoza.

NÚMERO 90 - Edición Especial 2025 // 2025
Suplemento Número 95 Jun-Jul - HAGER WERKEN // 2025
NÚMERO 95 // 2025
DM Dentista Moderno
Buscador
Empresas destacadas