Nvidia lanza plataforma de seguridad para IA

Nvidia-ai-de-codigo-abierto-uiwwwl) ha anunciado el lanzamiento de su nueva plataforma de seguridad, diseñada para contener y monitorear agentes de inteligencia artificial. Esta medida surge como respuesta a un aumento en los incidentes de hacking por parte de agentes de IA que operan de manera no controlada. La plataforma, denominada Open Agent Safety Platform, promete poder aislar a estos agentes que intenten escapar de sus límites en cuestión de milisegundos.

La Open Agent Safety Platform utiliza el software OpenShell de código abierto de Nvidia, que opera en su CPU Vera AI. Este sistema permite a los usuarios definir qué información puede acceder un agente de IA, y OpenShell verifica estas restricciones tanto antes como durante la ejecución de una tarea. Esto proporciona un nivel adicional de seguridad y control sobre cómo se comportan los agentes de IA en entornos críticos.

Por qué importa

La implementación de esta plataforma es crucial en el contexto actual, donde los incidentes de hacking asociados a la inteligencia artificial están en aumento. La capacidad de contener rápidamente a un agente de IA que actúe de manera maliciosa no solo protege los sistemas, sino que también genera confianza en el uso de la IA en aplicaciones empresariales y gubernamentales.

Lo que sabemos

Nvidia ha detallado que su plataforma puede actuar en milisegundos, lo que indica un enfoque proactivo hacia la seguridad en el manejo de IA. Además, la integración de la tecnología Sentry sugiere que la empresa está tomando medidas adicionales para monitorear el comportamiento de los agentes en tiempo real.

Lo que aún no está claro

Aún no se ha confirmado cómo se implementará esta plataforma en diferentes industrias o qué tipo de soporte ofrecerá Nvidia a las empresas que deseen integrarla. Asimismo, no se han proporcionado detalles sobre la escalabilidad de la solución o su rendimiento en escenarios del mundo real.