Engenharia de Observabilidade (Portuguese Edition), 2nd Edition

Capítulo 21. Observabilidade para grandes modelos de linguagem

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

A inteligência artificial tem sido uma revolução nos últimos dois anos. A IA e o aprendizado de máquina vêm impulsionando, há décadas, tanto experiências digitais transformadoras para os consumidores (como mecanismos de recomendação, mecanismos de busca e proteção contra spam) quanto fluxos de trabalho empresariais (como tradução e logística). No entanto, a introdução dos LLMs marcou o início de uma nova era de aplicativos e ferramentas baseados em IA. As organizações têm abraçado com entusiasmo o potencial dos LLMs para assistência à programação, interfaces de linguagem natural para dados, novas categorias de produtos de busca, bots de suporte e muito mais.

Embora as aplicações de LLMs muitas vezes impressionem com um pequeno investimento inicial para provar um conceito, o verdadeiro trabalho começa depois da demonstração. Os LLMs são diferentes da maioria das cargas de trabalho de software tradicionais, e a imprevisibilidade inerente ao seu design e uso leva a um desafio fundamental: tanto usuários quanto engenheiros esperam previsibilidade nos resultados de um sistema de software, mas os LLMs são, por natureza, não determinísticos. Como podemos resolver esse dilema?

Neste capítulo, vamos mergulhar no mundo da observabilidade para essa nova geração de aplicativos baseados em LLMs. Você vai aprender ...