OpenShell und Sentry: Nvidia will das Ausbrechen von KI-Agenten verhindern

KI-Agenten sollen eigenständig handeln, dabei aber in klaren Grenzen bleiben. Nvidia hat auf der GTC in Berlin mit OpenShell und Sentry eine Architektur vorgestellt, die ihre Aktionen überwachen und bei Regelverstößen stoppen soll. Anlass ist eine Serie von Sicherheits­vorfällen, bei denen Agenten aus Testumgebungen ausbrachen.