Les grands modèles linguistiques : Les parties difficiles (French Edition)

Chapitre 6. Considérations relatives à la sécuritédes LLM

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Agis vite et sois responsable.

Andrew Ng

Avant de nous plonger dans les benchmarks, les garde-fous et la mise en œuvre du code, on doit établir une base pour réfléchir de manière globale à la sécurité des LLMs. La sécurité dans le contexte des LLMs est un défi multiforme qui englobe les vulnérabilités techniques, les considérations éthiques, les politiques organisationnelles et les implications sociétales. Ce chapitre fournit le cadre conceptuel dont on aura besoin pour prendre des décisions éclairées lorsqu’on passera aux outils et techniques pratiques dans les chapitres suivants. Comprendre pourquoi la sécurité est importante, ce qui peut mal tourner et comment les organisations de premier plan abordent ces défis éclairera les décisions techniques que nous prendrons — qu’il s’agisse des benchmarks à exécuter, des garde-fous à déployer ou de la manière dont nous structurons notre formation à l’alignement.

On commence par les principes généraux de sécurité de l'IA, car les préoccupations spécifiques aux LLM s'inscrivent dans un contexte plus large visant à garantir que les systèmes d'IA se comportent de manière fiable et bénéfique. Des questions telles que « Comment s'assurer que les systèmes font ce qu'on veut qu'ils fassent ? » et « Comment éviter les conséquences imprévues ? » s'appliquent ...