IA durable

Chapitre 7. Inférence allégée

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Si un arbre tombe dans la forêt et que personne n'est là pour l'entendre, est-ce qu'il fait un bruit ? Nous avons tous entendu cet idiome dans différents contextes. Pour les praticiens de l'IA, la question qui se pose est la suivante : si un modèle est développé et que personne ne l'utilise, qu'advient-il de toutes les ressources utilisées pour son développement ?

Tous les modèles d'IA sont développés dans l'espoir d'être largement utilisés. Il n'est cependant pas acquis que tous les modèles trouveront preneurs. Cela nous amène à une question philosophique sur la manière d'allouer les ressources dès le départ lors du développement de toute technologie à forte intensité de ressources.¹ Nous reviendrons sur ce dilemme au chapitre 9.

Dans ce chapitre, nous nous concentrerons sur l'efficacité des ressources et la durabilité des modèles d'IA au moment du déploiement. Techniquement, l'utilisation d'un modèle d'IA après l'entraînement à des fins de prédiction est connue sous le nom d'inférence. Je présente d'abord une vue d'ensemble des coûts d'inférence des modèles d'IA modernes, puis j'examine quelques méthodes efficaces pour améliorer ces coûts. Bon nombre des méthodes examinées au chapitre 6 pour améliorer l'efficacité de l'entraînement, telles que la quantification et l'élagage des réseaux neuronaux, peuvent également être ...