Deep Learning avec Keras et TensorFlow

324

Chapitre 8. Traitement automatique du langage naturel avec les RNR et les attentions

La solution consiste à calculer une mesure de similitude entre la requête et chaque

clé du dictionnaire, puis d’utiliser la fonction softmax pour convertir ces scores de

similitude en poids dont la somme totale est égale à 1. Si la clé qui représente le verbe

est de loin la plus semblable à la requête, alors le poids de cette clé sera proche de 1.

Ensuite, le modèle peut calculer une somme pondérée des valeurs correspondantes

et, si le poids de la clé « verb » est proche de 1, alors la somme pondérée sera proche

de la représentation du mot «

played ». En résumé, ...