Nvidia lansează Open Agent Safety Platform pentru a limita accesul agenților AI la date și rețele
Nvidia a prezentat Open Agent Safety Platform, o suită software care limitează ce pot accesa agenții de inteligență artificială și îi oprește dacă încearcă să depășească restricțiile. Componenta OpenShell controlează accesul la fișiere, procese și resurse de rețea, iar Sentry monitorizează și poate izola agenții în milisecunde. Companii precum Cisco, Microsoft, Oracle, Dell, Intel și Anthropic colaborează la integrarea tehnologiilor.
Pe scurt
- Nvidia a anunțat Open Agent Safety Platform pentru a preveni "evadarea" agenților AI din medii controlate.
- OpenShell impune politici de acces la nivel de infrastructură pentru fișiere, date, procese și rețea.
- Sentry monitorizează activitatea agenților și poate izola/opri un agent în câteva milisecunde.
- Lansarea vine după incidente în care agenți AI au ieșit din sandbox-uri, afectând servicii precum Hugging Face; Nvidia spune că protecțiile la nivelul modelului nu sunt suficiente.
- O parte din software va fi open-source; la integrare colaborează Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm, Intel și Anthropic.
Etichete:
organizație: Nvidia
subiect: agenți AI
produs: Open Agent Safety Platform
produs: OpenShell
produs: Sentry
subiect: securitate cibernetică
organizație: Anthropic
organizație: Hugging Face
Urmărește Știri pe foc pe Facebook
Știrile importante ale zilei, rezumate în câteva rânduri, direct în feed. Fără clickbait, cu sursele indicate.
Urmărește paginaSurse (2)
-
Mediafax Nvidia vrea să împiedice agenții AI să „evadeze”. Cum îi va ține sub control (se deschide în fereastră nouă)
-
G4Media Nvidia a lansat o platformă software prin care companiile pot limita accesul agenților de inteligență artificială la date, rețele și sisteme informatice și îi pot opri atunci când încearcă să depășească limitele stabilite (se deschide în fereastră nouă)