Durante los últimos años, la Inteligencia Artificial ha pasado de ser una tecnología emergente a convertirse en una realidad cada vez más presente en la industria Life Sciences. Desde asistentes para la generación de documentación hasta modelos predictivos, sistemas de apoyo a la toma de decisiones o herramientas para optimizar procesos, los casos de uso aumentan constantemente y su adopción parece inevitable.
Sin embargo, mientras la tecnología evoluciona a gran velocidad, también lo hacen las preguntas que debemos hacernos como profesionales de Calidad, Compliance y Validación.
En este artículo Anna Dachs Soler, Life Sciences Business Strategy Manager & Senior GxP Consultant, Auditor & Trainer de Ambit Iberia, nos explica qué necesita tener en cuenta tu organización para utilizar Inteligencia Artificial en entornos GxP.
Preguntas que debemos hacernos en entornos GxP
Tras mi reciente participación en el Good Manufacturing Practice Multistakeholder Workshop: Expert Contributions to Artificial Intelligence Guidance Development (Annex 22), organizado por la European Medicines Agency (EMA), comparto algunas de las ideas más relevantes para la evolución de los sistemas GxP.
El objetivo del workshop no era presentar un nuevo borrador regulatorio ni comunicar qué deberán hacer las compañías en el futuro. La EMA reunió a representantes de la industria farmacéutica, fabricantes de soluciones basadas en IA, asociaciones como ISPE (International Society for Pharmaceutical Engineering), expertos en Calidad y autoridades regulatorias para escuchar diferentes perspectivas y comprender mejor qué aspectos deberían contemplarse en el desarrollo del futuro Anexo 22.
Fue allí que el debate se centró alrededor de preguntas clave:
- ¿Cómo podemos garantizar que un sistema basado en Inteligencia Artificial sigue siendo fiable con el paso del tiempo?
- ¿Cómo demostramos que continúa siendo adecuado para el uso previsto?
- ¿Qué controles serán necesarios cuando un modelo evolucione?
- ¿Hasta dónde debe llegar la supervisión humana?
- ¿Cómo generaremos la evidencia necesaria para demostrar que seguimos teniendo el proceso bajo control?
Sin embargo, el fin no se trataba de dar respuestas. Se trataba de construirlas conjuntamente.
Y hubo una pregunta que permaneció presente durante prácticamente todas las conversaciones, y que todas las compañías empiezan a hacerse:
“¿Qué necesita realmente una organización para utilizar Inteligencia Artificial en un entorno GxP con garantías?”
La IA no cambia los principios GxP; sino la forma de aplicarlos.
"Pensaba que la conversación giraría alrededor de algoritmos, modelos fundacionales, LLMs o nuevas capacidades de la Inteligencia Artificial. Sin embargo, la realidad fue muy diferente. Lo que apareció de forma recurrente durante las sesiones del workshop fueron conceptos que cualquier profesional GxP conoce desde hace años: Gestión del Riesgo, Intended Use, Lifecycle Management, Change Control, Monitorización, Evidencia, Supervisión humana, Responsabilidades y Revisión periódica. Y fue entonces cuando entendí cuál era realmente el cambio de paradigma: La Inteligencia Artificial no está sustituyendo los principios GxP. Está obligándonos a reinterpretarlos para una tecnología con un comportamiento diferente al software tradicional."
Cuando hablamos de Inteligencia Artificial es fácil pensar que estamos entrando en un terreno completamente nuevo. Sin embargo, buena parte de las preguntas planteadas durante el workshop tienen mucho más que ver con principios clásicos de Calidad que con algoritmos.
- El enfoque basado en el riesgo continúa siendo el eje principal.
- La definición del uso previsto sigue siendo crítica.
- La gestión del ciclo de vida mantiene toda su relevancia.
- La necesidad de evidencia continúa siendo incuestionable.
- Y el cambio controlado sigue siendo un requisito imprescindible.
Lo que cambia es el objeto sobre el que aplicamos esos principios.
Ya no hablamos únicamente de aplicaciones deterministas cuyo comportamiento permanece estable tras su validación. Ahora hablamos de modelos capaces de trabajar con incertidumbre, de evolucionar, de adaptarse o de comportarse de forma probabilística. Y eso obliga a replantear cómo demostramos que siguen siendo adecuados para el uso previsto durante toda su vida útil. No significa abandonar los principios GxP. Significa adaptarlos a una nueva realidad tecnológica.
Figura 1. Del software tradicional al AI Governance
Del proyecto de validación al control continuo
Otro aspecto que me llamó especialmente la atención fue comprobar cómo la conversación evoluciona desde la validación puntual hacia la generación continua de evidencia. Durante años nos hemos acostumbrado a plantear preguntas como:
- ¿Está validado el sistema?
- ¿Se han ejecutado las pruebas?
- ¿Se ha aprobado para producción?
Sin embargo, cuando hablamos de Inteligencia Artificial, estas preguntas ya no parecen suficientes. Ahora aparecen otras mucho más relevantes:
- ¿Cómo sabemos que el modelo sigue funcionando como esperábamos?
- ¿Cómo detectamos una pérdida de rendimiento?
- ¿Cómo identificamos cambios en los datos o en el contexto de uso?
- ¿Qué indicadores debemos monitorizar?
- ¿Cuándo debemos reevaluar el modelo?
- ¿Cómo justificamos que sigue siendo adecuado para el uso previsto?
En definitiva, la validación deja de ser un punto final para convertirse en un proceso continuo de generación de evidencia. Y probablemente esta sea una de las mayores diferencias respecto al paradigma tradicional.
El papel de los guardrails de IA
Uno de los conceptos más repetidos durante el encuentro fue el de los guardrails (mecanismos diseñados para controlar el comportamiento de un sistema de IA). Sin embargo, no deberían entenderse como el objetivo final.
Los guardrails son únicamente una parte del sistema de control. Su función es reducir riesgos, detectar situaciones no previstas o limitar determinados comportamientos del modelo. Pero por sí solos no garantizan que un sistema esté bajo control.
Ese control sigue dependiendo de aspectos mucho más amplios:
- una correcta evaluación del riesgo
- una definición clara del uso previsto
- una estrategia adecuada de monitorización
- una gestión eficaz del cambio
- una supervisión humana proporcional al riesgo
- un modelo de gobierno que permita mantener la confianza durante todo el ciclo de vida.
En otras palabras, los guardrails son una herramienta. No sustituyen a un sistema de calidad.
Una responsabilidad compartida
Otro de los aspectos que considero especialmente enriquecedores del workshop fue la diversidad de perfiles participantes. No solo estaban presentes representantes de autoridades regulatorias o compañías farmacéuticas. También participaron fabricantes de soluciones basadas en Inteligencia Artificial que compartieron cómo están abordando estos retos desde el propio desarrollo de la tecnología.
Creo que esta visión resulta especialmente relevante porque la confianza no dependerá únicamente del usuario que implanta la IA. También dependerá del fabricante que la desarrolla. Los fabricantes deberán ser capaces de demostrar cómo diseñan, controlan y monitorizan sus soluciones. Las organizaciones reguladas, por su parte, deberán comprender suficientemente esas soluciones para poder evaluar su adecuación dentro de su contexto GxP.
La responsabilidad, por tanto, deja de estar concentrada en un único actor. Pasa a convertirse en un modelo colaborativo donde fabricantes, usuarios y reguladores comparten un mismo objetivo: garantizar que la Inteligencia Artificial pueda utilizarse con confianza.
Figura 2. El ecosistema del AI Governance
AI Governance: mucho más que validar modelos
Si tuviera que resumir una de las principales conclusiones que me llevé del workshop, probablemente sea ésta:
“La Inteligencia Artificial no está sustituyendo los principios GxP. Está acelerando la evolución hacia un modelo de gestión más continuo, basado en el riesgo, la evidencia y la adaptación constante.”
Esto no significa que conceptos como la monitorización continua, la revisión periódica, la gestión del cambio o la mejora continua sean nuevos. Todos ellos forman parte desde hace años del ciclo de vida de los sistemas informatizados y de metodologías que muchas organizaciones ya han ido incorporando, especialmente en entornos Agile o Computer Software Assurance (CSA).
Lo que cambia con la IA es que este enfoque deja de ser simplemente recomendable para convertirse en una necesidad.
A diferencia del software tradicional, un sistema basado en Inteligencia Artificial puede ver afectado su rendimiento por cambios en los datos, en el contexto de uso o incluso en el propio entorno donde opera, sin que necesariamente haya cambiado el código de la aplicación.
Por ello, la confianza ya no puede sustentarse únicamente en una validación inicial. Debe construirse y mantenerse mediante un proceso continuo de evaluación del riesgo, monitorización, generación de evidencia, supervisión humana y gestión del cambio.
Es precisamente esta evolución la que, en mi opinión, representa el verdadero significado de AI Governance.
Figura 3. La IA acelera la evolución del ciclo de vida GxP
La gestión continua del riesgo, la evidencia y el cambio no es un concepto nuevo en GxP. Sin embargo, la naturaleza dinámica de la Inteligencia Artificial hace que este enfoque cobre aún mayor relevancia para mantener el estado de control durante todo el ciclo de vida del sistema.
Responder a la IA a partir de los principios GxP
Si tuviera que resumir el principal aprendizaje que me llevo de este workshop sería el siguiente: La Inteligencia Artificial no está creando una disciplina completamente nueva para los profesionales GxP. Está obligándonos a reinterpretar muchos de los principios que llevamos décadas aplicando para responder a una tecnología con un comportamiento diferente.
Y, en cierto modo, eso es una buena noticia. Porque significa que ya disponemos de una base muy sólida sobre la que construir. La gestión del riesgo, el ciclo de vida, la generación de evidencia, el control del cambio o la supervisión humana seguirán siendo igual de importantes. Lo que cambiará será la forma en la que los aplicamos.
Creo que el verdadero reto no consistirá en incorporar más Inteligencia Artificial. Consistirá en demostrar, de forma continua, que sabemos utilizarla de manera responsable, que comprendemos sus limitaciones y que somos capaces de mantenerla bajo control durante todo su ciclo de vida. Y probablemente ahí resida una de las mayores oportunidades para la Calidad y el Compliance en los próximos años.
*Este artículo recoge mis principales reflexiones personales tras asistir al workshop de la EMA sobre el desarrollo del futuro Anexo 22 para Inteligencia Artificial. No pretende resumir el contenido de las presentaciones, sino compartir las ideas que considero más relevantes para la evolución de los sistemas GxP.
En Ambit Iberia somos expertos desde hace más de 20 años en el desarrollo de estrategias y soluciones IT. Ayudamos a los sectores farmacéutico, producto sanitario y producto sanitario de IVD (in vitro diagnosis) a cumplir con la regulación en todo el ciclo de vida del producto. Diseñamos e implementamos infraestructuras innovadoras gracias a una oferta de servicios globales como palanca facilitadora de la transformación digital. Si necesitas ayuda, contáctanos.
Cuéntanos tu opinión