Capítulo 8. Padrões para tirar o máximo partido dos LLMs
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
Atualmente, os LLMs têm algumas limitações importantes, mas isso não significa que a aplicação LLM dos teus sonhos seja impossível de construir. A experiência que desenhas para os utilizadores da tua aplicação tem de contornar, e idealmente com, as limitações.
O Capítulo 5 abordou a principal solução de compromisso que enfrentamos ao construir aplicações LLM: a solução de compromisso entre agência (a capacidade do LLM para agir autonomamente) e fiabilidade (o grau em que podemos confiar nos seus resultados). Intuitivamente, qualquer aplicação LLM será mais útil para nós se tomar mais acções sem o nosso envolvimento, mas se deixarmos a agência ir longe demais, a aplicação fará inevitavelmente coisas que gostaríamos que não tivesse feito.
A Figura 8-1 ilustra esta solução de compromisso.
Figura 8-1. A solução de compromisso agência-fiabilidade
Para usar um conceito de outras áreas,1 podemos visualizar a solução de compromisso como uma fronteira - todos ospontos na linha curva da fronteira são arquitecturas LLM óptimas para alguma aplicação, marcando diferentes escolhas entre agência e fiabilidade. (Consulta o Capítulo 5 para uma visão geral das diferentes arquitecturas de aplicações LLM). Como exemplo, repara ...