La Agencia Europea de Medicamentos, EMA y los jefes de las agencias reguladoras de medicamentos (HMA) han publicado principios y recomendaciones de alto nivel para todo el personal de la Red Reguladora de Medicamentos Europea (EMRN) que utilizan Modelos Lingüísticos Amplios (LLM) en su trabajo.
Los LLM son una categoría de Inteligencia Artificial generativa, cuyas aplicaciones pueden ayudar significativamente a los reguladores de medicamentos en sus tareas y procesos. Ya sea que se utilicen para consultar la extensa documentación que los reguladores reciben de manera rutinaria, para automatizar procesos de extracción de datos y conocimiento o como asistentes virtuales de IA en tareas administrativas cotidianas, los LLM tienen un enorme potencial transformador.
A través de un comunicado de la EMA, se dio a conocer que los modelos lingüísticos amplios también presentan desafíos, como la variabilidad de los resultados, la obtención de respuestas irrelevantes o inexactas (las llamadas alucinaciones) y posibles riesgos para la seguridad de los datos. El objetivo de los principios rectores es fomentar la comprensión de las capacidades y limitaciones de estas aplicaciones entre el personal de los organismos reguladores de toda la UE para que puedan aprovechar el potencial de los LLM de manera eficaz y evitar obstáculos y riesgos.
Una forma de orientar a la industria de los medicamentos
Los Principios Rectores cubren diversos aspectos del uso de Inteligencia Artificial, desde garantizar la seguridad en la introducción de datos hasta aplicar el pensamiento crítico y la verificación cruzada de los resultados, pasando por saber a quién consultar cuando surgen inquietudes. El uso responsable de los títulos requiere familiaridad con las herramientas. Se enfatiza la importancia del aprendizaje continuo para mantenerse al día con un campo que cambia rápidamente.
Los Principios Rectores son un documento vivo que se actualizará periódicamente y la EMA lo presentará a la red en un seminario web el 13 de septiembre de 2024. Este es uno de los diversos eventos y oportunidades de intercambio de información organizados en el contexto del plan de trabajo sobre IA.
“Además, los principios alientan a los organismos reguladores a realizar esfuerzos para apoyar a su personal en el uso de los modelos lingüísticos amplios, lo que incluye definir la gobernanza sobre su uso, especificar los casos de uso permitidos, brindar capacitación y monitorear los riesgos”, menciona el comunicado.
Los Principios Rectores son uno de los resultados del plan de trabajo plurianual sobre IA hasta 2028, elaborado por la EMA y los directores de las agencias de medicamentos. Este plan de trabajo orienta a la Agencia y a la EMRN en el uso de la IA, maximizando los beneficios y gestionando los riesgos, y facilitando el intercambio de información.
