NVIDIA impulsa una alianza abierta para reforzar la seguridad de modelos y agentes de IA

NVIDIA anunció el lanzamiento de Open Secure AI Alliance junto con empresas de nube, ciberseguridad, software empresarial e investigación. La iniciativa busca desarrollar y compartir tecnologías abiertas para evaluar, gobernar y proteger sistemas de inteligencia artificial y agentes autónomos.

Entre los participantes iniciales figuran Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens y la Linux Foundation. La alianza se apoyará en trabajos existentes de Akrites y la comunidad OpenSSF.

El programa plantea una defensa integral del agente de IA que cubra identidad, permisos, aislamiento, formatos seguros de modelos, registro de actividad, evaluaciones y flujos de desarrollo seguro. NVIDIA aportará modelos, pesos, datos e investigación sobre arneses de agentes, incluido el marco abierto NOOA para facilitar pruebas, trazabilidad, auditoría y gobierno del comportamiento.

Para las empresas, el valor potencial está en disponer de componentes inspeccionables y adaptables que complementen plataformas cerradas. Esto puede reducir dependencia de un único proveedor, facilitar controles locales sobre datos sensibles y acelerar la validación de agentes antes de concederles acceso a sistemas corporativos.

La creación de la alianza no elimina los riesgos propios de los modelos abiertos ni sustituye los controles internos. Las organizaciones deberían evaluar estas herramientas como componentes de una arquitectura de seguridad, manteniendo supervisión humana y límites explícitos para los agentes.