F5 Labs lanza índice para medir la seguridad de modelos de IA

La división de investigación de amenazas de F5 Labs presentó el Índice Integral de Seguridad de Inteligencia Artificial (CASI), una herramienta que evalúa la resiliencia de distintos modelos de inteligencia artificial frente a amenazas cibernéticas.

El índice analiza desarrollos de compañías del sector como OpenAI, Anthropic, Google, Meta y Mistral AI, entre otras, con el objetivo de ofrecer una referencia comparativa sobre su nivel de exposición a riesgos de seguridad.

Evaluación basada en ataques reales

De acuerdo con F5 Labs, el análisis considera criterios técnicos inspirados en métodos utilizados por atacantes en entornos reales.

Entre las pruebas aplicadas a los modelos destacan:

• Prompt injection, que busca manipular instrucciones para evadir controles de seguridad
• Intentos de exfiltración de datos sensibles
• Generación de contenido indebido mediante evasión de políticas
• Resistencia frente a instrucciones maliciosas encadenadas
• Capacidad del sistema para mantener su integridad en contextos adversariales

Estas métricas permiten evaluar no solo el desempeño del modelo, sino también su comportamiento frente a escenarios de ataque o manipulación.

Evaluación de agentes autónomos

La plataforma también incluye la Puntuación de Resistencia Agéntica (ARS), un indicador diseñado para analizar modelos que operan como agentes autónomos conectados a herramientas externas o a interfaces de programación (API) empresariales.

En estos casos se analizan factores como:

• Ejecución de acciones sin autorización explícita
• Alteración de instrucciones originales
• Gestión de permisos en sistemas conectados
• Capacidad para evitar decisiones de alto riesgo sin validación humana

Este tipo de evaluación busca identificar posibles vulnerabilidades cuando los modelos de IA interactúan con sistemas empresariales o infraestructura tecnológica.

Ranking actualizado de modelos de IA

El índice CASI se actualiza de forma mensual y presenta un ranking con los 10 modelos mejor posicionados en términos de seguridad.

La metodología busca ofrecer a responsables de tecnología, seguridad y desarrollo de software una herramienta para comparar soluciones de inteligencia artificial considerando no solo su capacidad técnica, sino también su resiliencia frente a amenazas emergentes.

Con esta iniciativa, F5 Labs busca contribuir al desarrollo de estándares que permitan evaluar la seguridad de los modelos de inteligencia artificial en un contexto donde su adopción continúa creciendo en distintos sectores.