Große Sprachmodelle: Die schwierigen Teile (German Edition)

Kapitel 6. Sicherheitsaspekte beiLLM

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Handle schnell und sei verantwortungsbewusst.

Andrew Ng

Bevor wir uns mit Benchmarks, Sicherheitsvorkehrungen und der Code-Implementierung befassen, müssen wir eine Grundlage schaffen, um die Sicherheit von LLMs umfassend zu betrachten. Sicherheit im Zusammenhang mit LLMs ist eine vielschichtige Herausforderung, die technische Schwachstellen, ethische Überlegungen, organisatorische Richtlinien und gesellschaftliche Auswirkungen umfasst. Dieses Kapitel liefert den konzeptionellen Rahmen, den wir benötigen, um fundierte Entscheidungen zu treffen, wenn wir uns in den folgenden Kapiteln den praktischen Tools und Techniken zuwenden. Zu verstehen, warum Sicherheit wichtig ist, was schiefgehen kann und wie führende Organisationen diese Herausforderungen angehen, wird unsere technischen Entscheidungen beeinflussen – von der Auswahl der zu verwendenden Benchmarks über die zu implementierenden Sicherheitsvorkehrungen bis hin zur Strukturierung unseres Alignment-Trainings.

Wir beginnen mit allgemeinen Prinzipien der KI-Sicherheit, da LLM-spezifische Bedenken in einem breiteren Kontext stehen, nämlich dem, sicherzustellen, dass KI-Systeme sich zuverlässig und zum Wohle aller verhalten. Fragen wie „Wie stellen wir sicher, dass Systeme das tun, was wir beabsichtigen?“ und „Wie verhindern wir unbeabsichtigte Folgen?“ gelten ...