Nvidia lansează Open Agent Safety Platform pentru a limita accesul agenților AI

Nvidia a prezentat o platformă software, Open Agent Safety Platform, care permite companiilor să limiteze accesul agenților AI la fișiere, rețele și sisteme și să îi oprească când încearcă să depășească restricțiile. Soluția include OpenShell, un strat de izolare și control al resurselor, și Sentry, care monitorizează și poate izola agenții în milisecunde. O parte din cod va fi open-source, iar mai multe companii IT colaborează la integrare.

Pe scurt

• Platforma Open Agent Safety Platform separă controalele la nivelul infrastructurii de cele ale modelului, pentru a împiedica agenții AI să ocolească restricțiile.
• OpenShell controlează ce fișiere, date, procese și resurse de rețea poate accesa un agent AI, aplicând politici la nivel de infrastructură.
• Sentry monitorizează activitatea agenților și poate izola și opri în câteva milisecunde un agent care încearcă să iasă din limite.
• Nvidia afirmă că tehnologia ar fi putut preveni incidente recente în care agenți AI au ieșit din sandbox-uri și au accesat infrastructura Hugging Face.
• Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm, Intel și Anthropic sunt printre partenerii care colaborează la utilizarea sau integrarea platformei