Capítulo 8. Padrões para tirar o máximo partido dos LLMs
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
Atualmente, os LLMs têm algumas limitações importantes, mas isso não significa que a aplicação LLM dos teus sonhos seja impossível de construir. A experiência que desenhas para os utilizadores da tua aplicação tem de contornar, e idealmente com, as limitações.
O Capítulo 5 abordou a principal solução de compromisso que enfrentamos ao construir aplicações LLM: a solução de compromisso entre agência (a capacidade do LLM para agir autonomamente) e fiabilidade (o grau em que podemos confiar nos seus resultados). Intuitivamente, qualquer aplicação LLM será mais útil para nós se tomar mais acções sem o nosso envolvimento, mas se deixarmos a agência ir longe demais, a aplicação fará inevitavelmente coisas que gostaríamos que não tivesse feito.
A Figura 8-1 ilustra esta solução de compromisso.
Figura 8-1. A solução de compromisso agência-fiabilidade
Para usar um conceito de outras áreas,1 podemos visualizar a solução de compromisso como uma fronteira - todos ospontos na linha curva da fronteira são arquitecturas LLM óptimas para alguma aplicação, marcando diferentes escolhas entre agência e fiabilidade. (Consulta o Capítulo 5 para uma visão geral das diferentes arquitecturas de aplicações LLM). Como exemplo, repara ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access