Kapitel 6. Sichere Ausführung und Tool-Governance
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
In Kapitel 5 hast du gelernt, wie du deine Agenten vorhersehbarer und besser steuerbar machen kannst. Doch Vorhersehbarkeit bedeutet nicht automatisch Sicherheit auf der Ausführungsebene, sobald es um Systemzugriff oder Codeausführung geht. Agenten laufen zu lassen, die Tools ausführen oder auf Dateien zugreifen können, ohne dass Sandboxen, Ausführungsgrenzen oder eine geregelte Tool-Nutzung vorhanden sind, ist wie Free-Solo-Klettern. Es ist äußerst gefährlich. Nur dass bei Agenten die Folgen selten auf einen einzelnen Akteur beschränkt bleiben. Sie können sich auf dein gesamtes System ausbreiten.
Ein falscher Schritt, ein unerwarteter Tool-Aufruf oder ein unbemerktes Leck bei den Berechtigungen kann sich weit über die ursprünglichen Grenzen hinaus ausbreiten. In agentenbasierten Systemen sind Fehler selten dramatisch. Meistens laufen sie still ab. Eine überschriebene Datei, eine wiederverwendete Anmeldeinformation oder ein Tool, das knapp außerhalb seines vorgesehenen Anwendungsbereichs aufgerufen wird. Wenn man merkt, dass etwas nicht stimmt, kann der Wirkungsradius bereits beträchtlich sein. Stell dir deine Agenten als fähige Nachwuchsingenieure vor, die niemals schlafen. In diesem Kapitel lernst du, sie genau so zu behandeln: fähig, aber mit Bedarf an Aufsicht und klaren operativen Grenzen.
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access