LLMOps

Capítulo 6. Implantação de LLMs com API em primeiro lugar

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Escolhendo as ferramentas certas para implantar LLMs pode fazer ou quebrar seu projeto.

As ferramentas de código aberto dão-te mais controlo, mas exigem mais trabalho, enquanto os serviços geridos são mais fáceis de configurar e escalar, mas muitas vezes têm um custo mais elevado. Um repositório popular de ferramentas de código aberto e dados é o HuggingFace, que contém muitos modelos e ferramentas pré-treinados para ajudar em tarefas como a tokenização, o ajuste fino e o processamento de dados.

O modelo de negócio que escolheres terá impacto nas tuas receitas, custos e experiência do utilizador e, por conseguinte, também na tua decisão de implantação. Compreendendo as necessidades dos teus utilizadores, avaliando os teus custos e considerando a concorrência, podes escolher um modelo de negócio que satisfaça as tuas necessidades e proporcione valor aos teus utilizadores. As opções incluem:

Infraestrutura como um serviço (IaaS)

Este modelo é adequado para organizações que pretendem criar e implementar as suas próprias aplicações LLM, mas não pretendem gerir a infraestrutura subjacente.

Com IaaS, as organizações podem fornecer e configurar recursos de computação de forma rápida e fácil, sem a necessidade de um investimento inicial significativo. Fornece flexibilidade e controlo sobre a infraestrutura, ...