Chapitre 3. Sûreté et sécurité de l'IA générative
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
L'objectif d'un cadre de sûreté et de sécurité efficace n'est pas d'arrêter l'innovation en matière d'IA ; il s'agit d'augmenter la réalisation de projets d'IA de qualité qui répondent à des compromis risques/récompenses appropriés.
La confiance est apparue comme un obstacle important à l'adoption des applications d'IA générative, en partie pour les applications grand public, mais plus encore pour les entreprises. Dans cette section, nous examinons les éléments de la confiance et proposons des suggestions et des techniques pour atténuer les préjudices tels que les atteintes à la réputation, les fuites de données ou les problèmes de conformité réglementaire.
Il est très important de comprendre que nous ne pouvons qu'atténuer les risques, mais jamais les éliminer. Au moment où nous écrivons ces lignes, début 2025, même les dernières applications d'IA générative de pointe telles que ChatGPT-4o et les générateurs d'images équivalents ont tous été piratés ou jailbreakés, et le code permettant de le faire a été largement partagé.
L'avantage des LLMs faciles d'accès a également conduit à une prolifération de l'utilisation de l'IA qui n'est souvent ni détectée ni gérée. De nombreuses entreprises n'ont aucun moyen de détecter quels modèles sont en cours d'exécution, à quelles informations les modèles ont accès ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access