book

IA e ML para programadores em PyTorch

by Laurence Moroney

July 2025

Intermediate to advanced

444 pages

11h 55m

Portuguese (Portugal, Brazil)

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Quem deve ler este livroPor que escrevi este livroNavegando neste livroTecnologia que precisas de compreenderRecursos onlineConvenções usadas neste livroUsando exemplos de códigoAprendizagem online da O'ReillyComo nos contactarAgradecimentos
O que é aprendizado de máquina?Limitações da programação tradicionalDa programação à aprendizagemO que é o PyTorch?Usar o PyTorchInstalando o Porch em PythonUsar o PyTorch no PyCharmUsar o PyTorch no Google ColabComeçando com o aprendizado de máquinaVer o que a Network+ aprendeuResumo
Como funciona a visão computacionalA base de dados MNIST da modaNeurônios para visãoProjetando a rede neuralO código completoTreina a rede neuralExplorando a saída do modeloSupera o ajusteParada antecipadaResumo
ConvoluçõesAgrupamentoImplementando Redes Neurais ConvolucionaisExplorando a rede convolucionalConstruindo uma CNN para distinguir entre cavalos e humanosO conjunto de dados "Cavalos ou humanosLidando com os dadosArquitetura da CNN para "Cavalos ou Humanos"Adicionando validação ao conjunto de dados "Cavalos ou humanosTestar imagens de "Cavalos ou HumanosAumento de imagemAprendizagem por transferênciaClassificação multiclasseRegularização de desistênciaResumo
Introdução aos conjuntos de dadosExplorando a classe FashionMNISTClasses genéricas de conjuntos de dadosImageFolderDatasetFolderDados falsosUsando divisões personalizadasO processo ETL para gerenciar dados no aprendizado de máquinaOtimizando a fase de carregamentoUsando a classe DataLoaderAgruparEmbaralhamentoCarregamento paralelo de dadosAmostragem de dados personalizadaParalelizando o ETL para melhorar o desempenho do treinamentoResumo
Codificando linguagem em númerosIntrodução à tokenizaçãoTransformando frases em seqüênciasRemovendo palavras de parada e limpando o textoEliminação de etiquetas HTMLEliminação de palavras-chaveEliminar a pontuaçãoTrabalhar com fontes de dados reaisObtendo conjuntos de dados de textoObtendo texto de arquivos CSVObtendo texto de arquivos JSONResumo
Estabelecendo o significado das palavrasUm exemplo simples: Positivos e negativosVai um pouco mais fundo: VetoresIncorporação em PyTorchConstruindo um detetor de sarcasmo usando EmbeddingsReduzindo o Overfitting em Modelos de LinguagemColocando tudo juntoUsando o modelo para classificar uma sentençaVisualizando os EmbeddingsUsando Embeddings pré-treinadosResumo
A base da recorrênciaEstendendo a recorrência para a linguagemCriando um classificador de texto com RNNsEmpilhando LSTMsUsando Embeddings pré-treinados com RNNsResumo
Transformando seqüências em seqüências de entradaCriando o modeloGerando textoPrevendo a próxima palavraCombinando previsões para gerar textoAmpliar o conjunto de dadosMelhorando a arquitetura do modeloIncorporar dimensõesInicializando os LSTMsTaxa de aprendizagem variávelMelhorar os dadosCodificação baseada em caracteresResumo

Atributos comuns de séries temporaisTendênciaSazonalidadeAutocorrelaçãoRuídoTécnicas de previsão de séries temporaisPrevisão ingénua para criar uma linha de baseMedindo a precisão da previsãoPrevisões menos ingênuas: Usando uma média móvel para previsãoAprimorando a análise de média móvelResumo
Criando um conjunto de dados em WindowsCriando uma versão em Windows do conjunto de dados de séries temporaisCriando e treinando uma DNN para ajustar os dados de seqüênciaAvaliando os resultados da DNNAjustando a taxa de aprendizadoResumo
Convoluções para dados de sequênciaCodificando convoluçõesExperimentando os hiperparâmetros Conv1DUsando dados meteorológicos da NASALendo dados GISS em PythonUsando RNNs para Modelagem de SequênciasExplorar um conjunto de dados maiorUsando outros métodos recorrentesUsando DropoutUsando RNNs bidirecionaisResumo
TensoresDados de imagemDados de textoTensores fora de um modeloResumo
Apresentando o TorchServeConfigurando o TorchServePreparando seu ambienteConfigurando o teu ficheiro config.propertiesDefinir o teu modeloCriando o Arquivo HandlerCriando o arquivo de modeloIniciando o servidorTestando a InferênciaVai mais longeServindo com FlaskCriando um ambiente para o FlaskCriando um Servidor Flask em PythonResumo
O Hub do Rosto AbraçadoUsando o Hugging Face HubUsando um modelo do Hugging Face HubHub do PyTorchUsando Modelos de Visão PyTorchProcessamento de Linguagem NaturalOutros modelosResumo
Entendendo os transformadoresArquiteturas de CodificadorA Arquitetura do DescodificadorA arquitetura codificador-decodificadorA API de transformadoresComeçando com transformadoresConceitos BásicosPipelinesTokenizadoresResumo
Afinando um LLMConfiguração e dependênciasCarregando e examinando os dadosInicialização do modelo e do TokenizerPré-processamento dos dadosAgrupa os dadosDefinição de métricasConfigurar o treinamentoInicialização do treinadorTreinamento e avaliaçãoGravar e testar o modeloAjustando uma LLM com promptPreparando os dadosCriando os carregadores de dadosDefinindo o modeloTreinando o modeloAvaliação durante o treinamentoRelatar métricas de treinamentoSalvando o prompt EmbeddingsFazendo inferência com o modeloResumo
Começando com OllamaExecutando o Ollama como um servidorConstruindo um aplicativo que usa um LLM OllamaO cenárioConstruindo uma prova de conceito em PythonCriando um aplicativo da Web para OllamaO ficheiro app.jsO ficheiro index.htmlResumo
O que é RAG?Começar a usar o RAGEntendendo a similaridadeCriando o banco de dadosFazendo uma busca por similaridadeColocando tudo juntoUsando o conteúdo do RAG com um LLMEstendendo para modelos hospedadosResumo
O que são modelos de difusão?Usando difusores de rosto abraçadoImagem a imagem com difusoresPintura com difusoresResumo
Treinando um LoRA com difusoresObtendo difusoresObtendo dados para o ajuste fino de um LoRAAfinando um modelo com difusoresPublicando seu modeloGerando uma imagem com o LoRA personalizadoResumo

Content preview from IA e ML para programadores em PyTorch

Capítulo 8. Utilizar o ML para criar texto

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com

Com o lançamento do ChatGPT em 2022, as palavras IA generativa entraram no léxico comum. Esta aplicação simples que te permitia conversar com uma IA baseada na Cloud parecia quase milagrosa na forma como conseguia responder às tuas perguntas com conhecimento de quase tudo na experiência humana. Funcionava utilizando uma evolução muito avançada para além das redes neurais recorrentes que viste no último capítulo, utilizando uma técnica chamada transformadores.

Um transformador aprende os padrões que transformam um pedaço de texto em outro. Com uma arquitetura de transformador suficientemente grande e um conjunto de texto suficientemente grande para aprender, o modelo GPT (GPT significa generative pretrained transformers) poderia prever os próximos tokens a seguir a um pedaço de texto. Quando o GPT foi envolvido numa aplicação que o tornou mais fácil de utilizar, nasceu toda uma nova indústria.

Embora a criação de modelos com transformadores esteja fora do âmbito deste livro, analisaremos a sua arquitetura em pormenor no Capítulo 15.

Os princípios envolvidos no treinamento de modelos com transformadores podem ser replicados com arquiteturas menores e mais simples, como RNNs ou LSTM. Vamos explorar isso neste capítulo e com um corpus muito mais pequeno de texto - canções tradicionais irlandesas.

Assim, por exemplo, considera ...