Chapitre 7. Ne fais confiance à personne
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
Avant la récente obsession pour la série télévisée Stranger Things de Netflix, les années 1990 avaient The X-Files - l'unede mes émissions préférées de tous les temps. Il s'agissait de deux agents du FBI qui enquêtaient sur des phénomènes étranges comme les monstres, les extraterrestres et les conspirations gouvernementales. Le protagoniste de la série, Fox Mulder, avait deux phrases d'accroche. L'une d'entre elles était pleine d'espoir : La vérité est là. L'autre était profondément paranoïaque : Ne fais confiance à personne.
Dans ce chapitre, nous nous concentrerons sur la deuxième phrase. Nous passerons brièvement en revue la myriade de risques inhérents aux architectures LLM typiques et noterons que même s'il est utile de mettre en œuvre les mesures d'atténuation discutées précédemment, il n'y a tout simplement aucun moyen de supposer que les résultats de ton modèle sont toujours dignes de confiance. Nous adopterons le mantra de Mulder "Ne fais confiance à personne" et explorerons comment tu peux appliquer une approche de confiance zéro à ton application LLM. La paranoïa n'est pas de la folie quand la menace est réelle !
La confiance zéro n'est pas seulement un mot à la mode ; c'est un cadre rigoureux conçu pour supposer que les menaces peuvent provenir de n'importe où, même au sein de tes systèmes de confiance. ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access