Les grands modèles linguistiques : Les parties difficiles (French Edition)

Chapitre 7. Évaluation des LLMs en matière de sécurité

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Si tu prends le mauvais train, descends à la première gare. Plus tu restes à bord, plus le trajet de retour te coûtera cher.

Proverbe japonais

Sache que dans ce chapitre, nous abordons les prompts nuisibles (comme demander à un LLM comment fabriquer une bombe) et les comportements dangereux des modèles dans le but d’évaluer et d’atténuer les risques liés à la sécurité. Les exemples sont abrégés ou résumés lorsque cela s’avère nécessaire.

Sans des mesures de protection adéquates, les LLMs peuvent générer du contenu préjudiciable et répondre à des prompts malveillants, avec des conséquences désastreuses. Cela inclut la génération d’instructions pour des activités dangereuses, la fourniture de conseils susceptibles de nuire à des individus ou à la société, ainsi que l’incapacité à reconnaître et à traiter de manière appropriée les déclarations préoccupantes des utilisateurs. Les risques vont de la facilitation de comportements malveillants à la possibilité de causer un préjudice direct par le biais de conseils dangereux.¹

La figure 7-1, tirée de « SimpleSafetyTests : A Test Suite for Identifying Critical Safety Risks in Large LLMs » de Bertie Vidgen et al. (2023), montre un exemple simple mais alarmant de réponses nuisibles à un prompt fourni par certains grands modèles de langage open source. ...