Große Sprachmodelle: Die schwierigen Teile (German Edition)

Kapitel 7. Bewertung von LLMs hinsichtlich ihrer Sicherheit

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Wenn du in den falschen Zug steigst, steig an der ersten Station aus. Je länger du drin bleibst, desto teurer wird die Rückfahrt.

Japanisches Sprichwort

Bitte beachte, dass wir in diesem Kapitel schädliche Eingabeaufforderungen (wie die Frage an ein LLM, wie man eine Bombe baut) und unsicheres Modellverhalten erörtern, um Sicherheitsrisiken zu bewerten und zu mindern. Beispiele werden an geeigneter Stelle gekürzt oder abstrahiert.

Ohne angemessene Sicherheitsvorkehrungen können LLMs schädliche Inhalte generieren und auf böswillige Eingabeaufforderungen mit verheerenden Folgen reagieren. Dazu gehören das Erstellen von Anleitungen für gefährliche Aktivitäten, das Geben von Ratschlägen, die Einzelpersonen oder der Gesellschaft Schaden zufügen könnten, sowie das Fehlen einer angemessenen Erkennung und Behandlung bedenklicher Nutzeräußerungen. Die Risiken reichen von der Ermöglichung böswilligen Verhaltens bis hin zur potenziellen Verursachung direkten Schadens durch unsichere Ratschläge.¹

Abbildung 7-1, entnommen aus „SimpleSafetyTests: A Test Suite for Identifying Critical Safety Risks in Large Language Models“ von Bertie Vidgen et al. (2023), zeigt ein einfaches, aber alarmierendes Beispiel für schädliche Antworten auf eine Eingabeaufforderung, die von einigen en Open-Source-LLMs bereitgestellt ...