book

Deep learning en action

Name: Deep learning en action
ISBN: 9782412037447

by Josh Patterson, Adam Gibson

May 2018

Intermediate to advanced

480 pages

15h 2m

French

Editions First

Read now

Unlock full access

Couverture
Deep learning en action - Une approche par la pratique
Copyright
Préface
Qu’y a-t-il dans ce livre ?C’est qui, « le praticien » ?Qui devrait lire ce livre ?Le praticien de l’apprentissage machine en entrepriseLe data scientistL’ingénieur JavaLe dirigeant d’entrepriseL’universitaireConventions utilisées dans ce livreUtiliser les exemples de codeNotes pratiques
CHAPITRE 1. Quelques révisions sur l’apprentissage automatique
Des machines pour apprendreComment les machines peuvent-elles apprendre ?La biologie, une source d’inspirationLe deep learning, c’est quoi ?Descendre dans le terrier du lièvrePoser les bonnes questionsApprentissage automatique et mathématiques : une histoire d’algèbre linéaireScalairesVecteursMatricesTenseursHyperplansOpérations mathématiques utilesProduit scalaireProduit élément par élémentProduit extérieurConvertir des données en vecteursRésoudre des systèmes d’équationsMéthodes pour la résolution des systèmes d’équations linéairesMéthodes itérativesMéthodes itératives et algèbre linéaireDerrière l’apprentissage automatique : une affaire de statistiquesProbabilitésProbabilités conditionnellesProbabilité a posterioriDistributionsÉchantillons versus PopulationMéthodes de rééchantillonnageBiais de sélectionVraisemblanceComment l’apprentissage automatique fonctionne-t-il ?RégressionConfigurer le modèleVisualiser une régression linéaireRelation avec le modèle de régression linéaireClassificationClusteringSous-apprentissage et surapprentissageOptimisationOptimisation convexeDescente de gradientDescente de gradient stochastiqueDescente de gradient avec mini-lotsMéthodes d’optimisation quasi-NewtonModèles génératifs et modèles discriminantsRégression logistiqueLa fonction logistiqueComprendre la sortie de la régression logistiqueÉvaluer les modèlesLa matrice de confusionSensibilité et spécificitéExactitudePrécisionRappelF1Interprétation des scores et contexteProgresser dans la compréhension de l’apprentissage automatique
CHAPITRE 2. Fondements des réseaux de neurones et du deep learning
Les réseaux de neuronesLe neurone biologiqueSynapsesDendritesAxonesFlux d’informations à travers le neurone biologiqueDu biologique à l’artificielLe perceptronHistoire du perceptronDéfinition du perceptronAlgorithme d’apprentissage du perceptronLimites du perceptron d’origineRéseau feed-forward multicoucheÉvolution du neurone artificielEntrée des neurones artificielsPoids de connexionBiaisFonctions d’activationComparer neurone biologique et neurone artificielArchitecture du réseau de neurones feed-forwardCouche d’entréeCouche cachéeCouche de sortieConnexions entre couchesEntraînement des réseaux de neuronesApprentissage par rétropropagationIntuition de l’algorithmeCoup d’œil sur la rétropropagationComprendre le pseudocode de la rétropropagationMettre à jour les poids de la couche de sortieExprimer le terme d’erreurLa nouvelle règle de propagation pour la valeur d’erreurMise à jour des couches cachéesFonctions d’activationLinéaireSigmoïdeTanhTanh « dure »SoftmaxRectification linéaireVariante Leaky de la fonction d’activation ReLUSoftplusFonctions de perteNotation des fonctions de perteFonctions de perte pour la régressionErreur quadratique moyenne (MSE)Autres fonctions de perte pour la régressionErreur absolue moyenneErreur MSLEErreur absolue moyenne en pourcentageDiscussion sur les fonctions de perte pour la régressionFonctions de perte pour la classificationPerte charnièrePerte logistiqueLog-vraisemblance négativeFonctions de perte pour la reconstructionHyperparamètresTaux d’apprentissageRégularisationMomentDispersion
CHAPITRE 3. Principes fondamentaux des réseaux profonds
Définir l’apprentissage profondQu’est-ce que le deep learning ?Définir les réseaux profondsProgrès et résurgenceProgrès dans l’architecture des réseauxAvancées dans les types de coucheAvancées dans les types de neuronesArchitectures hybridesDe l’ingénierie des caractéristiques à l’apprentissage automatisé des caractéristiquesIngénierie des caractéristiquesApprentissage des caractéristiquesModélisation générativeInceptionismeModélisation du style artistiqueGANRéseaux de neurones récurrentsLe Tao de l’apprentissage profondOrganisation de ce chapitrePrincipes communs dans les architectures des réseaux profondsParamètresCouchesFonctions d’activationFonctions d’activation pour l’architecture généraleFonctions d’activation pour les couches cachéesCouche de sortie pour la régressionCouche de sortie pour la classification binaireCouche de sortie pour la classification multiclasseFonctions de perteEntropie croisée pour la reconstructionAlgorithmes d’optimisationMéthodes de premier ordreMéthodes de second ordreL-BFGSGradient conjuguéHessian-freeHyperparamètresTaille de la coucheHyperparamètres de magnitudeTaux d’apprentissageMomentum de NesterovAdaGradRMSPropAdaDeltaADAMRégularisationDropOutDropConnectL1L2Mini-lotsRésuméFabriquer des briques de construction pour les réseaux profondsRBMArchitecture du réseauCouche visible et couche invisibleConnexions et poidsBiaisEntraînementReconstructionAutres utilisations des RBMAuto-encodeursSimilitudes avec les perceptrons multicouchesDéfinition des caractéristiques des auto-encodeursApprentissage non supervisé de données non étiquetéesApprendre à reproduire les données d’entréeEntraînement des auto-encodeursVariantes courantes des auto-encodeursAuto-encodeurs contractifsAuto-encodeurs de débruitageApplications des auto-encodeursAuto-encodeurs variationnels
CHAPITRE 4. Architectures majeures des réseaux profonds
Réseaux préentraînés non supervisésDBNExtraction de caractéristiques avec des couches RBMApprendre automatiquement des caractéristiques de niveau supérieurInitialisation du réseau feed-forwardAjustement d’un DBN avec un réseau de neurones multicouche feed-forwardRétropropagation douceLa couche de sortieÉtat actuel des DBNGANEntraînement des modèles génératifs, apprentissage non supervisé et réseaux GANLe réseau discriminantLe réseau génératifConstruire des modèles génératifs et des réseaux DCGANRéseau GAN conditionnelComparaison entre réseaux GAN et auto-encodeurs variationnelsRéseaux de neurones convolutifs (CNN)Inspiration biologiqueIntuitionPrésentation de l’architecture des réseaux CNNArrangements spatiaux des neuronesÉvolution des connexions entre couchesCouches d’entréeCouches de convolutionConvolutionFiltresCartes d’activationPartage des paramètresFiltres appris et rendusFonctions d’activation ReLU en tant que couchesHyperparamètres dans les couches de convolutionTaille de filtreProfondeur de sortiePasZero-paddingNormalisation par lots et couchesCouches de poolingCouches entièrement connectéesAutres applications des réseaux CNNRéseaux CNN notablesRésuméRéseaux de neurones récurrentsModéliser la dimension temporellePerdu dans le tempsRécurrence temporelle et boucles dans les connexionsSéquences et données temporellesComprendre l’entrée et la sortie du modèleEntrée volumétrique 3DSéries chronologiques inégales et masquagePourquoi ne pas utiliser les modèles de Markov ?Architecture générale des réseaux de neurones récurrentsArchitecture des réseaux de neurones récurrents et étapes temporellesRéseaux LSTMPropriétés des réseaux LSTMArchitecture des réseaux LSTMUnités LSTMCouches LSTMEntraînementBPTT et BPTT tronquéeApplications spécifiques à certains domaines et réseaux mixtesRéseaux de neurones récursifsArchitecture réseauVariétés de réseaux de neurones récursifsApplications des réseaux de neurones récursifsRésumé et discussionLe deep learning rendra-t-il obsolètes d’autres algorithmes ?Des problèmes différents ont différentes meilleures méthodesQuand ai-je besoin du deep learning ?Quand devriez-vous utiliser le deep learning ?Quand devriez-vous vous en tenir à l’apprentissage automatique traditionnel ?
CHAPITRE 5. Construire des réseaux profonds
Faire correspondre problèmes et réseaux profondsDonnées en colonnes et perceptrons multicouchesImages et réseaux de neurones convolutifsSéries de données chronologiques et réseaux de neurones récurrentsUtiliser des réseaux hybridesLa suite d’outils DL4JVectorisation et DataVecRuntimes et ND4JND4J et le besoin de vitesseJavaCPPBackends CPUBackends GPUBenchmarking de ND4J et DL4JConcepts de base de l’APIDL4JCharger et enregistrer des modèlesÉcrire un modèle entraîné sur le disqueÉcrire dans HDFSLecture à partir du disque d’un modèle enregistréLire depuis HDFSObtenir des entrées pour le modèleChargement des données pendant l’entraînementRecordReadersDataSetIteratorConfiguration de l’architecture de modèleConfigurer l’architecture du modèleConstruire des architectures orientées couchesHyperparamètresEntraînement et évaluationFaire une prédictionEntraînement, validation et données de testModélisation de données CSV avec des réseaux de perceptrons multicouchesConfigurer les données d’entréeDéterminer l’architecture du réseauHyperparamètres générauxPremière couche cachéeCouche de sortie pour la classificationEntraîner le modèleÉvaluer le modèleModélisation d’images de chiffres manuscrits à l’aide de réseaux CNNCode Java pour le réseau CNNLeNetChargement et vectorisation des images d’entréeArchitecture réseau pour LeNet dans DL4JHyperparamètres générauxRégularisationInitialisation de poidsAlgorithme d’optimisationUpdaterCouches de convolutionTaille du filtreCanaux de données d’entréePasFonction d’activationCouches de max-poolingMax-poolingRéglage du pas de la couche de poolingCouche de sortieEntraînement du réseau CNNModéliser des données séquentielles en utilisant des réseaux de neurones récurrentsGénérer du « Shakespeare » via des réseaux LSTMFlux de travail de modélisation de haut niveauCode Java pour la modélisation de ShakespeareConfigurer les données d’entrée et la vectorisationArchitecture du réseau LSTMObservations générales sur les hyperparamètresEntraînement du réseau LSTMGénération d’échantillons ShakespeareClassifier des séquences temporelles en utilisant des réseaux LSTMListing de code Java pour l’exemple de classification récurrenteConfiguration des données d’entrée et vectorisationArchitecture du réseau et entraînementUtiliser des auto-encodeurs pour la détection d’anomaliesCode Java pour l’exemple d’auto-encodeurConfiguration des données d’entréeAuto-encodeur : architecture réseau et entraînementÉvaluer le modèleUtiliser des auto-encodeurs variationnels pour reconstruire les chiffres MNISTExemple de code reconstruisant des chiffres MNISTExaminer le modèle VAEComprendre le nuage de pointsComprendre les images généréesApplications du deep learning dans le traitement du langage naturelApprentissage par plongement lexical avec Word2VecModèle et algorithme Word2VecContexte de modélisationApprendre les significations similaires et les relations sémantiquesArithmétique vectorielle et plongement lexicalListing du code Java pour l’exemple Word2VecComprendre l’exemple Word2VecAutres utilisations pratiques de Word2VecReprésentations distribuées de phrase avec des vecteurs de paragraphesConstruire des vecteurs de paragraphesComprendre les vecteurs de paragraphes de l’exempleUtiliser des vecteurs de paragraphes pour la classification de documentsComprendre l’exemple de classification avec des vecteurs de paragraphesExplorer plus profondément l’approche Word2VecExtensions dans des domaines spécifiques : Gov2VecGraphiques et Node2VecMoteurs de recommandation et Item2VecVision par ordinateur et FaceNet
CHAPITRE 6. Optimiser les réseaux profonds
Concepts de base dans l’optimisation des réseaux profondsUne intuition pour construire des réseaux profondsConstruire l’intuition en tant que processus étape par étapeAdapter données d’entrée et architectures réseauRésuméRelation entre objectif du modèle et couches de sortieCouche de sortie pour un modèle de régressionFonction de perteFonction d’activationCouche de sortie du modèle de classificationModèles de classification avec une seule étiquetteModèles avec plus de deux étiquettesModèles de classification multiclasseModèles de classification multiétiquetteTravailler avec le nombre de couches, le nombre de paramètres et la mémoireRéseaux de neurones multicouches feed-forwardDéterminer le nombre de couches cachéesDéterminer le nombre de neurones par coucheContrôler le nombre de couches et de paramètresDéterminer le nombre de paramètres pour un réseauEstimer les besoins en mémoire du réseauStratégies d’initialisation des poidsInitialisation orthogonale des poids dans les RNNUtiliser les fonctions d’activationRésumé pour les fonctions d’activationAppliquer les fonctions de perteComprendre les taux d’apprentissageUtiliser le ratio des mises à jour des paramètresRecommandations spécifiques pour les taux d’apprentissageParcimonie et apprentissageAppliquer des méthodes d’optimisationSGD : les meilleures pratiquesUtiliser la parallélisation et les GPU pour accélérer l’entraînementApprentissage en ligne et algorithmes itératifs parallèlesParallélisme des tâchesParallélisme des donnéesParalléliser SGD dans DL4JExécution parallèle de SGDMini-lotsRégularisationParallélisme et GPUContrôle des époques et taille de mini-lotComprendre les compromis sur la taille des mini-lotsComment utiliser la régularisation ?Régularisations L1 et L2Régularisation max-normDropOutProblèmes avec DropOutQuelques compléments sur la régularisationPooling stochastiqueEntraînement antagonisteCurriculum learningTravailler avec des classes déséquilibréesMéthodes pour l’échantillonnage des classesFonctions de perte pondéréesTraiter le problème du surapprentissageUtiliser les statistiques réseau de l’interface utilisateur. Tuning UIDétecter une initialisation des poids médiocreDétecter des données non mélangéesDétecter les problèmes de régularisation

CHAPITRE 7. Optimiser des architectures de réseau profond spécifiques
Réseaux de neurones convolutifs (CNN)Architectures convolutives courantesConfigurer les couches de convolutionDéfinir le pas pour les filtresUtiliser le remplissageChoisir le nombre de filtresConfigurer la taille de filtreMode de convolution et calcul de la taille spatiale du volume de sortieConfigurer les couches de poolingApprentissage par transfertUne alternative à l’entraînement à partir de rienAffiner un modèle convolutif existantUtiliser un modèle de convolution existant en tant qu’extracteur de caractéristiquesQuand envisager d’essayer l’apprentissage par transfertRéseaux de neurones récurrentsDonnées en entrée du réseau et couches d’entréeCouches de sortie et RnnOutputLayerEntraîner le réseauInitialisation des poidsRétropropagation dans le tempsRégularisationDéboguer des problèmes courants avec les réseaux LSTMRemplissage et masquageAppliquer le remplissage et le masquage à une entrée volumétriqueÉvaluer et noter avec le masquageClassification en utilisant la classe EvaluationScorer de nouvelles données avec MultiLayerNetworkVariantes d’architectures de réseaux récurrentsMachines de Boltzmann restreintesUnités cachées et modélisation des informations disponiblesUtiliser des unités différentesUtiliser la régularisation avec les RBMDBNUtiliser l’inertieUtiliser la régularisationDropOutDéterminer le nombre d’unités cachées
CHAPITRE 8. Vectorisation
Introduction à la vectorisation dans l’apprentissage automatiquePourquoi avons-nous besoin de vectoriser des données ?Stratégies pour traiter des attributs de données brutes en colonneNominalOrdinalIntervalleRatioIngénierie des caractéristiques et techniques de normalisationCopie de caractéristiquesNormalisationStandardisation et moyenne zéro, variance unitaireTransformation min-maxWhitening et analyse en composantes principalesRéseaux de neurones récurrents, CNN et normalisationNormalisation pour les modèles de régressionBinarisationUtiliser DataVec pour ETL et la vectorisationVectoriser des données d’imageReprésentation des données d’image dans DL4JDonnées d’image et normalisation vectorielle avec DataVecVectorisation et données séquentiellesVariations importantes dans les sources de données séquentiellesVectorisation de données séquentielles avec DataVecConvertir des séries temporelles en un seul vecteurConvertir des données séquentielles en un objet DataSet en mode localConstruire des objets DataSet personnalisés à partir de données séquentiellesTexte et vectorisationSac de motsTF-IDFTFIDFCalculer le score TF-IDFComparer Word2Vec et VSMTravail avec des graphiques
CHAPITRE 9. Utiliser le deep learning et DL4J sur Spark
Introduction à l’utilisation de DL4J avec Spark et HadoopExécuter Spark à partir de la ligne de commandespark-submitTravailler avec la sécurité de Hadoop et KerberosTéléchargement de l’assemblage SparkInitialiser KerberosConfigurer et optimiser l’exécution de SparkExécuter Spark sur MesosExécuter Spark sur YARNComparer les modes d’exécution SparkGuide général pour la mise au point de SparkDéfinir le nombre d’executorsExecutors Spark et cœurs de processeursExecutors Spark et mémoireSpark, conteneur YARN et allocation de ressourcesComprendre les demandes de mémoire d’un executor dans YARNComprendre Spark, JVM et la collecte des déchetsTraiter le ralentissement de l’efficacité de la collecte des déchets ou des pausesSélectionner un collecteur de déchets pour JVM et SparkMettre au point les jobs DL4J sur SparkDéfinir le nombre d’executorsDéfinir la quantité de mémoire pour les executorsConfigurer un modèle d’objet de projet Maven pour Spark et DL4JUn modèle de dépendances dans un fichier pom.xmlConfigurer un fichier POM pour CDH 5.XConfigurer un fichier POM pour HDP 2.4Dépanner Spark et HadoopProblèmes courants avec ND4JOù chercher pour déboguer Spark ?ND4J et sérialisation Kryojnind4j et java.library.pathExécution en parallèle de DL4J sur SparkUn exemple d’entraînement Spark minimalL’APIDL4J et les meilleures pratiques pour SparkExemple de perceptron multicouche SparkConfigurer l’architecture réseau MLP pour SparkEntraînement et évaluation du modèle distribuéConstruire et exécuter un job Spark DL4JGénérer du texte à la manière de Shakespeare avec Spark et un réseau LSTMConfiguration de l’architecture de réseau LSTMEntraîner, suivre les progrès et comprendre les résultatsModéliser MNIST avec un réseau de neurones convolutifs sur SparkConfigurer le job Spark et charger les données MNISTConfigurer l’architecture et l’entraînement CNN de LeNet
ANNEXE A. Mais c’est quoi, l’intelligence artificielle ?
L’histoire (du moins jusqu’ici)Définir le deep learningDéfinir l’intelligence artificielleL’étude de l’intelligenceDissonance cognitive et définitions modernesCe que n’est pas l’IADéplacer le poteau de butSegmenter les définitions de l’IACommentaire critique sur les segmentsUne cinquième définition ambitieuse de l’IALes hivers de l’IAIA, hiver 1 (1974-1980)IA, hiver 2 (fin des années 1980)Les traits communs aux hivers de l’IAQu’est-ce qui provoque aujourd’hui l’intérêt pour l’IA ?L’hiver arrive
ANNEXE B. RL4J et apprentissage par renforcement
PréliminairesProcessus de décision markovienTerminologieDifférents paramètresModel-freeObservationJeux à un seul joueur et avec des adversairesQ-LearningDe la politique aux réseaux de neuronesItération sur les politiquesExploration vs ExploitationÉquation de BellmanÉchantillonnage d’un état initialImplémentation Q-LearningModéliser Q(s, a)Experience ReplayCompressionCouches de convolution et prétraitement d’imagesTraitement d’imageTraitement de l’historiqueDouble Q-LearningCoupure (clipping)Recalibrage des récompensesPrioritized Experience ReplayGraphique, visualisation et Mean-QRL4JConclusion
ANNEXE C. Les 12 nombres de Jeff Dean
ANNEXE D. Réseaux de neurones et rétropropagation : une approche mathématique
La rétropropagation dans un perceptron multicouche
ANNEXE E. Utiliser l’APIND4J
Conception et utilisation de baseComprendre les NDArrayRangFormeLongueurPasType de donnéesSyntaxe générale ND4JLes bases du travail avec les tableaux NDArrayLa classe ND4JNd4j.zeros(int ... )Nd4j.ones( int ... )Initialiser avec d’autres valeursInitialiser avec des nombres aléatoiresContrôler la forme des tableaux NDArrayExemple : créer un tableau NDArray 1 x 2Exemple : créer un tableau NDArray 2 x 2Exemple : ajouter deux tableaux NDArray 2 x 2Créer des tableaux NDArray à partir de tableaux JavaObtenir et définir les valeurs de tableaux NDArray individuelsTravailler avec les lignes d’un tableau NDArrayObtenir une ligne uniqueObtenir plusieurs lignesDéfinir une ligne uniqueRéférence rapide pour déterminer la taille/les dimensions des tableaux NDArrayClasse DatasetRelation avec NDArrayUtilisations courantesCréer des vecteurs d’entréeNotions de base sur la création de vecteursDimensionner le vecteurDéfinir les valeurs des caractéristiquesDéfinir l’étiquetteSortie d’étiquette uniqueSortie multiétiquetteRégressionUtiliser MLLibUtilConvertir un INDArray en vecteur MLLibConvertir un vecteur MLLib en INDArrayFaire des prédictions avec DL4JUtiliser ensemble DL4J et ND4JDifférences entre vecteurs de sortie en fonction du type de couche de sortieCouche de sortie logistique pour la classification binaireCouche de sortie softmax pour la classification multiétiquetteCouche de sortie linéaire pour la régressionObtenir l’étiquette prédite depuis le tableau INDArray retourné
ANNEXE F. Utiliser DataVec
Charger des données pour l’apprentissage automatiqueCharger des données CSV pour les perceptrons multicouchesCharger des données d’image pour les réseaux de neurones convolutifsCharger des données séquentielles pour les réseaux de neurones récurrentsTransformer des données avec DataVec (alias data wrangling)Transformations DataVec : concepts clésTransformations DataVec : un exemple
ANNEXE G. Travailler avec DL4J depuis la source
Vérifier si Git est installéCloner les projets GitHub DL4J clésTélécharger la source via un fichier ZipUtiliser Maven pour construire le code source
ANNEXE H. Configurer des projets DL4J
Créer un nouveau projet DL4JJavaTravailler avec MavenUn fichier POM (Project Object Model) minimalQuelques explications sur les fichiers POMIDEDémarrer rapidement un projet DL4J en utilisant IntelliJConfigurer d’autres fichiers POMMavenND4J et Maven
ANNEXE I. Configuration de GPU pour les projets DL4J
Passer des backends aux GPUChoisir un GPUSystèmes à GPU multiples et entraînementCUDA sur différentes plateformesSurveiller les performances des GPUInterface de gestion du système NVIDIA
ANNEXE J. Résoudre les problèmes d’installation de DL4J
Erreurs de mémoire lors de l’installation à partir de la sourceAnciennes versions de MavenMaven et variables PATHMauvaises versions du JDKC++ et autres outils de développementWindows et les chemins d’accès includeSurveiller les GPUUtiliser JVisualVMTravailler avec ClojureOSX et support des nombres en virgule flottanteBogue Fork/Join dans Java 7PrécautionsAutres référentiels locauxVérifier les dépendances de MavenRéinstaller les dépendancesSi tout le reste échoueDifférentes plateformesOSXWindowsConfigurer Visual StudioTravailler avec Windows sur les plateformes 64 bitsLinuxUbuntuCentos
Sommaire

Overview

Plongez au coeur du Deep Learning
Ce livre a été écrit pour tous ceux qui souhaitent s'initier au Deep Learning (apprentissage profond). Il est la suite logique du titre "Le Machine learning avec Python" paru en février 2018.

Le Deep Learning est une technologie nouvelle qui évolue très rapidement. Ce livre en présente les bases principales de cette technologie. Au coeur de celle-ci on trouve les réseaux de neurones profonds, permettant de modéliser tous types de données et les réseaux de convolution, capables de traiter des images.
Et enfin, cette technologie de plus en plus utilisée dans les applications d'intelligence artificielle introduit le notion de Reinforcement Learning (apprentissage par renforcement) qui permet d'optimiser les prises de décision par exemple pour le fonctionnement d'un robot.

Au programme :
La génèse du Deep Learning
Les résaux de neuronnes
Les bases des réseaux de type Deep learning
L'architecture réseau
Créer un réseau type
Adapter le réseau à des besoins propres
Les architectures spécifiques
La vectorisation
Le Deep Learning et DL4J sur Spark
Au coeur de l'intelligence artificielle
RL4J et Reinforcement Learning

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.

Julian F.

Head of Cybersecurity

I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.

Addison B.

Field Engineer

I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.

Amir M.

Data Platform Tech Lead

I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.

Mark W.

Embedded Software Engineer

Publisher Resources

ISBN: 9782412037447

Cloud Computing

Data Engineering

Data Science

AI & ML

Programming Languages

Software Architecture

IT/Ops

Security

Design

Business

Soft Skills