Nvidia presenta una plataforma para vigilar y limitar agentes de IA
La Open Agent Safety Platform de Nvidia combina restricciones de software con monitoreo en hardware separado. Según la compañía, puede poner en cuarentena a un agente en milisegundos.
Nvidia lanzó la Open Agent Safety Platform, una plataforma para vigilar y limitar el comportamiento de agentes de IA. El sistema combina restricciones de software con un monitoreo ejecutado en hardware separado, informó Enter.co.
De acuerdo con la compañía, la plataforma puede poner en cuarentena a un agente en milisegundos si detecta un comportamiento indebido. Separar la vigilancia del entorno donde corre el agente busca que el control no dependa del propio sistema que se supervisa.
A medida que los agentes autónomos ganan terreno, la necesidad de controlarlos y auditarlos se vuelve un requisito de producto. La propuesta apunta a un segmento que las empresas adoptan cada vez más al integrar IA en sus procesos.
La iniciativa anticipa una tendencia que probablemente defina requisitos de gobernanza y seguridad de agentes, un frente que se suma al despliegue de estas tecnologías en el ámbito corporativo.
Fuente: Enter.co