book

Deep Learning para programadores com fastai e PyTorch

Name: Deep Learning para programadores com fastai e PyTorch
ISBN: 9798341641723

by Jeremy Howard, Sylvain Gugger

April 2025

Intermediate to advanced

624 pages

17h 41m

Portuguese (Portugal, Brazil)

O'Reilly Media, Inc.

Read now

Unlock full access

Prefácio
A quem se destina este livroO que precisas de saberO que vais aprenderAprendizagem em linha da O'ReillyComo contactar-nos
Prefácio
I. Deep Learning na prática
1. A tua viagem no Deep Learning
Deep Learning é para todosRedes Neuronais: Uma breve históriaQuem somosComo aprender Deep LearningOs teus projectos e a tua mentalidadeO software: PyTorch, fastai, e Jupyter (e porque é que isso não importa)O teu primeiro modeloObtendo um servidor de Deep Learning com GPUExecutar o teu primeiro bloco de notasO que é a aprendizagem automática?O que é uma Network+?Um pouco de jargão da Deep LearningLimitações inerentes à aprendizagem automáticaComo funciona o nosso reconhecedor de imagensO que o nosso reconhecedor de imagens aprendeuReconhecedores de imagem podem lidar com tarefas não relacionadas com imagensRecapitulação do jargãoDeep Learning não se destina apenas à classificação de imagensConjuntos de validação e conjuntos de testeUtiliza o discernimento na definição dos conjuntos de testesUm momento de "Escolhe a tua própria aventuraQuestionárioPesquisa adicional
2. Do modelo à produção
A prática do Deep LearningIniciar o teu projetoO estado do Deep LearningA abordagem da unidade de traçãoRecolha de dadosDos dados aos DataLoadersAumento de dadosTreinar o teu modelo e utilizá-lo para limpar os teus dadosTransformar o teu modelo numa aplicação onlineUtilização do modelo para inferênciaCriar uma aplicação Notebook a partir do modeloTransformar o teu bloco de notas numa verdadeira aplicaçãoImplementar a tua aplicaçãoComo evitar um desastreConsequências imprevistas e ciclos de feedbackComeça a escrever!QuestionárioPesquisa adicional
3. Ética dos dados
Principais exemplos de ética dos dadosBugs e recursos: Algoritmo com erros usado para benefícios de saúdeLoops de feedback: O sistema de recomendações do YouTubePreconceito: Professora Latanya Sweeney "presa"Porque é que isto é importante?Integrar a aprendizagem automática no design de produtosTópicos em ética de dadosRecurso e responsabilizaçãoLoops de feedbackPreconceitoDesinformaçãoIdentificar e abordar questões éticasAnalisar um projeto em que estás a trabalharProcessos a implementarO poder da diversidadeEquidade, responsabilidade e transparênciaPapel da políticaA eficácia da regulamentaçãoDireitos e políticaAutomóveis: Um precedente históricoConclusãoQuestionárioPesquisa adicionalDeep Learning na prática: Estás feito!
II. Compreender as aplicações do fastai
4. Sob o capô: treinando um classificador de dígitos
Pixels: Os fundamentos da visão computacionalPrimeira tentativa: Similaridade de pixelsMatrizes do NumPy e Tensores do PyTorchComputação de métricas usando BroadcastingDescida de Gradiente EstocásticoCálculo de gradientesPisar com uma taxa de aprendizagemUm exemplo de SGD de ponta a pontaResumir a descida de gradienteA função de perda MNISTSigmoideSGD e Mini-LotesJuntar tudoCriar um optimizadorAdicionar uma não-linearidadeVai mais fundoRecapitulação do jargãoQuestionárioPesquisa adicional
5. Classificação de imagens
De cães e gatos a raças de animais de estimaçãoPré-dimensionamentoVerificação e depuração de um DataBlockPerda de entropia cruzadaVer Activações e EtiquetasSoftmaxProbabilidade logarítmicaPega no troncoInterpretação do modeloMelhorar o nosso modeloO localizador de taxas de aprendizagemDescongelamento e aprendizagem por transferênciaTaxas de Aprendizagem DiscriminativaSeleção do número de épocasArquitecturas mais profundasConclusãoQuestionárioPesquisa adicional
6. Outros problemas de visão por computador
Classificação de vários rótulosOs dadosConstrução de um DataBlockEntropia cruzada bináriaRegressãoMontagem dos dadosTreinar um modeloConclusãoQuestionárioPesquisa adicional

7. Treina um modelo de última geração
ImagenetteNormalizaçãoRedimensionamento progressivoAumento do tempo de testeMisturaSuavização de etiquetasConclusãoQuestionárioPesquisa adicional
8. Filtragem colaborativa - mergulha fundo
Um primeiro olhar sobre os dadosAprende os factores latentesCriar os DataLoadersFiltragem colaborativa a partir do zeroDiminuição do pesoCriar o teu próprio módulo de incorporaçãoInterpretação de embeddings e viesesUtilizar fastai.collabDistância de incorporaçãoBootstrap de um modelo de filtragem colaborativaDeep Learning para filtragem colaborativaConclusãoQuestionárioPesquisa adicional
9. Mergulha fundo na modelagem tabular
Embeddings categóricosPara além da Deep LearningO conjunto de dadosCompetições do KaggleOlha para os dadosÁrvores de decisãoDatas de tratamentoUtilizar TabularPandas e TabularProcCriar a árvore de decisãoVariáveis categóricasFlorestas aleatóriasCriar uma floresta aleatóriaErro fora do sacoInterpretação do modeloVariância da árvore para a confiança da previsãoImportância da caraterísticaRemoção de variáveis de baixa importânciaRemoção de caraterísticas redundantesDependência parcialFuga de dadosIntérprete de árvoresExtrapolação e redes neuraisO problema da extrapolaçãoEncontrar dados fora do domínioUtilizar uma Network+ NeuralMontagemImpulsionarCombinação de Embeddings com outros métodosConclusãoQuestionárioPesquisa adicional
10. Mergulha fundo na PNL: RNNs
Pré-processamento de textoTokenizaçãoTokenização de palavras com fastaiTokenização de subpalavrasNumerização com fastaiColocar os nossos textos em lotes para um modelo linguísticoTreinar um classificador de textoModelo de linguagem utilizando DataBlockAfinar o modelo linguísticoGuardar e carregar modelosGeração de textoCriação dos DataLoaders do classificadorAfinar o classificadorDesinformação e modelos linguísticosConclusãoQuestionárioPesquisa adicional
11. Processamento de dados com a API de nível médio do fastai
Vai mais fundo na API em camadas do fastaiTransformaçõesEscrever a tua própria transformaçãoCanalizaçãoTfmdLists e conjuntos de dados: Coleções transformadasTfmdListsConjuntos de dadosAplicar a API de dados de nível médio: SiamesePairConclusãoQuestionárioPesquisa adicionalCompreender as aplicações do fastai: Conclui
III. Fundamentos da Deep Learning
12. Um modelo de linguagem a partir do zero
Os dadosO nosso primeiro modelo de língua a partir do zeroO nosso modelo de linguagem em PyTorchA Nossa Primeira Rede Neural RecorrenteMelhorar a RNNAtualizando o estado de um RNNCriar mais sinalRNNs multicamadasO modeloActivações que explodem ou desaparecemLSTMConstruir um LSTM a partir do zeroTreinar um modelo de linguagem usando LSTMsRegularizar um LSTMAbandonoRegularização da ativação e regularização da ativação temporalTreinar um LSTM regularizado com pesosConclusãoQuestionárioPesquisa adicional
13. Redes Neuronais Convolucionais
A magia das convoluçõesMapeamento de um núcleo convolucionalConvoluções em PyTorchPassos e acolchoamentoCompreender as equações de convoluçãoA nossa primeira rede neural convolucionalCriar a CNNCompreender a aritmética de convoluçãoCampos ReceptivosUma nota sobre o TwitterImagens a coresMelhorar a estabilidade do treinoUma linha de base simplesAumenta o tamanho do loteFormação 1cycleNormalização de lotesConclusãoQuestionárioPesquisa adicional
14. ResNets
Go Back to ImagenetteConstruir uma CNN moderna: ResNetSalta as ligaçõesUma ResNet de última geraçãoCamadas de estrangulamentoConclusãoQuestionárioPesquisa adicional
15. Arquiteturas de aplicações: mergulha fundo
Visão computacionalcnn_learnerunet_learnerUma rede siamesaProcessamento de linguagem naturalTabularConclusãoQuestionárioPesquisa adicional
16. O processo de formação
Estabelecer uma linha de baseUm optimizador genéricoMomentumRMSPropAdãoDecaimento do peso desacopladoChamadas de retornoCriar um CallbackOrdenação de callbacks e excepçõesConclusãoQuestionárioPesquisa adicionalFundamentos da Deep Learning: Conclui
IV. Deep Learning a partir do zero
17. Uma rede neural a partir das fundações
Criando uma camada de rede neural do zeroModelar um neurónioMultiplicação de matrizes a partir do zeroAritmética por elementosRadiodifusãoResumo de EinsteinOs passes para a frente e para trásDefinir e inicializar uma camadaGradientes e o retrocessoRefactorizar o modeloGo to PyTorchConclusãoQuestionárioPesquisa adicional
18. Interpretação CNN com CAM
CAM e ganchosGradiente CAMConclusãoQuestionárioPesquisa adicional
19. Um aprendiz fastai do zero
DadosConjunto de dadosMódulo e parâmetroSimples CNNPerdaAprendizChamadas de retornoProgramar o ritmo de aprendizagemConclusãoQuestionárioPesquisa adicional
20. Reflexões finais
A. Criar um blogue
Criar um blogue com GitHub PagesCriar o repositórioConfigurar a tua página inicialCriar mensagensSincronizar o GitHub e o seu computadorJupyter para blogues
B. Lista de verificação do projeto de dados
Cientistas de dadosEstratégiaDadosAnalíticaImplementaçãoManutençãoRestrições
Índice

Content preview from Deep Learning para programadores com fastai e PyTorch

Capítulo 15. Arquiteturas de aplicativos: mergulha fundo

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com

Estamos agora na excitante posição em que podemos entender completamente as arquiteturas que temos usado para nossos modelos de ponta para visão computacional, processamento de linguagem natural e análise tabular. Neste capítulo, vamos preencher todos os detalhes que faltam sobre o funcionamento dos modelos de aplicação do fastai e mostrar-te como construí-los.

Também voltaremos ao pipeline de pré-processamento de dados personalizados que vimos noCapítulo 11 para as redes siamesas e mostraremos como usar os componentes da biblioteca fastai para criar modelos personalizados pré-treinados para novas tarefas.

Começamos com a visão por computador.

Visão computacional

Para aplicações de visão por computador, usamos as funções cnn_learner eunet_learner para construir os nossos modelos, dependendo da tarefa.Nesta secção, vamos explorar como construir os objectos Learner que usámos nas Partes I e II deste livro.

cnn_learner

Vamos ver o que acontece quando usamos a funçãocnn_learner. Começamos por passar a esta função uma arquitetura a utilizar para o corpoda rede. Na maioria das vezes, usamos uma ResNet, que já sabes como criar, por isso não precisamos de nos aprofundar mais nisso. Os pesos pré-treinados são descarregados conforme necessário e carregados na ResNet.

Depois, para a aprendizagem por transferência, ...

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.

Julian F.

Head of Cybersecurity

I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.

Addison B.

Field Engineer

I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.

Amir M.

Data Platform Tech Lead

I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.

Mark W.

Embedded Software Engineer

Publisher Resources

ISBN: 9798341641723

Cloud Computing

Data Engineering

Data Science

AI & ML

Programming Languages

Software Architecture

IT/Ops

Security

Design