LLMOps

Prefácio

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Já perdi a conta a quantas vezes me perguntaram: "Qual é a diferença entre um engenheiro LLM/AI e um engenheiro LLMOps?" É uma daquelas perguntas que estão sempre a surgir, quer esteja numa reunião, numa conferência ou simplesmente a tomar um café com alguém da área.

Costumava começar por explicar as distinções técnicas entre as funções. Mas, com o tempo, apercebi-me do verdadeiro problema: as pessoas não compreendem totalmente o que é necessário para manter as luzes acesas com grandes modelos de linguagem (LLMs) em produção durante um longo período.

No momento em que escrevo isto, no início de 2025, os principais modelos, técnicas e melhores práticas estão a mudar todos os dias. Por isso, muito poucas pessoas compreendem a sua complexidade. A maioria das pessoas ainda pensa em operacionalização, ou "Ops", como implantação, mas no contexto do LLM, Ops é realmente sobre a racionalização de pessoas, processos e tecnologia para tornar esses modelos seguros, robustos e confiáveis na produção.

As empresas e os seus departamentos de recursos humanos estão a tentar perceber o que tudo isto significa para as suas equipas e para os seus projectos e, neste livro, fiz o meu melhor para responder a essa pergunta. Este livro não é um tutorial sobre a definição de papéis ou sobre como construir e implementar um LLM; embora aborde esses dois tópicos, isso já não é ...