Concebe grandes aplicações de modelos de linguagem

Capítulo 6. Afinação

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

No capítulo anterior, discutimos os vários factores que têm de ser tidos em conta na escolha do LLM certo para as tuas necessidades específicas, incluindo indicações sobre como avaliar os LLMs para poderes fazer uma escolha informada. De seguida, vamos utilizar estes LLMs para resolver as nossas tarefas.

Neste capítulo, vamos explorar o processo de adaptação de um LLM para resolver a sua tarefa de interesse, usando o ajuste fino. Go apresenta um exemplo completo de afinação, cobrindo todas as decisões importantes que é necessário tomar. Também discutiremos a arte e a ciência de criar conjuntos de dados de ajuste fino.

A necessidade de afinação

Porque é que precisamos de afinar os LLMs? Porque é que um LLM pré-treinado com poucos prompts não é suficiente para as nossas necessidades? Vejamos alguns exemplos para percebermos melhor a questão:

Caso de utilização 1

Considera que estás a trabalhar na tarefa caprichosa de detetar todas as frases escritas no pretérito num corpo de texto e transformá-las para o futuro. Para resolver esta tarefa, podes fornecer alguns exemplos de frases no pretérito e pares de entrada-saída que representem frases no pretérito e as correspondentes frases no futuro. No entanto, o LLM não parece ser capaz de resolver esta tarefa de forma satisfatória para ti, cometendo erros tanto na identificação como na transformação. ...