Modèles de langage à grande échelle pratiques

Chapitre 8. Recherche sémantique et récupération - Génération augmentée

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Search a été l'une des premières applications du modèle de langage à connaître une large adoption par l'industrie. Quelques mois après la publication de l'article fondateur "BERT : Pre-training of deep bidirectional transformers for language understanding" (2018), Google a annoncé qu'il l'utilisait pour alimenter Google Search et qu'il représentait "l'un des plus grands bonds en avant dans l'histoire de la recherche." Pour ne pas être en reste, Microsoft Bing a également déclaré que "À partir d'avril de cette année, nous avons utilisé de grands modèles de transformateurs pour apporter les plus grandes améliorations de qualité à nos clients Bing au cours de l'année écoulée."

Cela témoigne clairement de la puissance et de l'utilité de ces modèles. Leur ajout améliore instantanément et considérablement certains des systèmes les plus matures et les mieux entretenus sur lesquels comptent des milliards de personnes à travers la planète. La capacité qu'ils ajoutent est appelée semantic search (recherche sémantique), qui permet de faire des recherches en fonction du sens, et non pas simplement en fonction de la correspondance des mots clés.

Par ailleurs, l'adoption rapide des modèles de génération de texte a conduit de nombreux utilisateurs à poser des questions aux modèles et à s'attendre ...