Das agentische Unternehmen (German Edition)

Kapitel 7. Aufbau vertrauenswürdiger Systeme

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In Kapitel 6 von „ “ ging es um die praktischen Grundlagen für den sicheren Aufbau und den täglichen Betrieb von Multi-Agenten-Systemen – Schutzmaßnahmen, Moderationsagenten, Umgang mit Unsicherheiten und Not-Aus-Schalter. In diesem Kapitel wenden wir uns der Frage zu, die diese Mechanismen eigentlich beantworten sollen: Wann und unter welchen Bedingungen sollten Menschen und Organisationen autonomen Agenten vertrauen, dass sie in ihrem Namen handeln?

Agenten dienen den Menschen. Doch so wie die menschliche Natur nun einmal ist, fällt es den Menschen schwer, sich auf Maschinen – oder sogar auf andere Menschen – zu verlassen, denen sie nicht vertrauen. Vertrauen – oder der Mangel daran – ist kein neues Thema in der Technik; es fasziniert die Gesellschaft und das Kino schon seit langem.

Stanley Kubricks „2001: Odyssee im Weltraum“ (1968) schilderte die Komplexität der Mensch-Maschine-Beziehungen anhand der spannungsgeladenen Interaktionen zwischen HAL, einem HAL-9000-Computer „mit menschlicher Persönlichkeit“, und der Besatzung des Raumschiffs, darunter Dave Bowman, der Missionskommandant – den HAL mit dem mittlerweile berühmten Gruß „Hallo, Dave“ anspricht. Als HAL, dem der Betrieb des Raumschiffs anvertraut wurde, ein Fehler unterstellt wird, löst der Vertrauensverlust der Besatzung im Gegenzug HALs eigenes ...