book

Praxiseinstieg Machine Learning mit Scikit-Learn und TensorFlow

by Aurélien Géron

January 2018

Intermediate to advanced

576 pages

16h 23m

German

dpunkt

Read now

Unlock full access

Was ist Machine Learning?Warum wird Machine Learning verwendet?Arten von Machine-Learning-SystemenÜberwachtes/unüberwachtes LernenBatch- und Online-LearningInstanzbasiertes versus modellbasiertes LernenDie wichtigsten Herausforderungen beim Machine LearningUnzureichende Menge an TrainingsdatenNicht repräsentative TrainingsdatenMinderwertige DatenIrrelevante MerkmaleOverfitting der TrainingsdatenUnderfitting der TrainingsdatenZusammenfassungTesten und ValidierenÜbungen
Der Umgang mit realen DatenBetrachte das GesamtbildDie Aufgabe absteckenWähle ein Qualitätsmaß ausÜberprüfe die AnnahmenBeschaffe die DatenErstelle eine ArbeitsumgebungDie Daten herunterladenWirf einen kurzen Blick auf die DatenstrukturErstelle einen TestdatensatzErkunde und visualisiere die Daten, um Erkenntnisse zu gewinnenVisualisieren geografischer DatenSuche nach KorrelationenExperimentieren mit Kombinationen von MerkmalenBereite die Daten für Machine-Learning-Algorithmen vorAufbereiten der DatenBearbeiten von Text und kategorischen MerkmalenEigene TransformerSkalieren von MerkmalenPipelines zur TransformationWähle ein Modell aus und trainiere esTrainieren und Auswerten auf dem TrainingsdatensatzBessere Auswertung mittels KreuzvalidierungOptimiere das ModellGittersucheZufällige SucheEnsemble-MethodenAnalysiere die besten Modelle und ihre FehlerEvaluiere das System auf dem TestdatensatzNimm das System in Betrieb, überwache und warte esProbieren Sie es aus!Übungen
MNISTTrainieren eines binären KlassifikatorsQualitätsmaßeMessen der Genauigkeit über KreuzvalidierungKonfusionsmatrixRelevanz und SensitivitätDie Wechselbeziehung zwischen Relevanz und SensitivitätDie ROC-KurveKlassifikatoren mit mehreren KategorienFehleranalyseKlassifikation mit mehreren LabelsKlassifikation mit mehreren AusgabenÜbungsaufgaben
Lineare RegressionDie NormalengleichungKomplexität der BerechnungDas GradientenverfahrenBatch-GradientenverfahrenStochastisches GradientenverfahrenMini-Batch-GradientenverfahrenPolynomielle RegressionLernkurvenRegularisierte lineare ModelleRidge-RegressionLasso-RegressionElastic NetEarly StoppingLogistische RegressionAbschätzen von WahrscheinlichkeitenTrainieren und KostenfunktionEntscheidungsgrenzenSoftmax-RegressionÜbungen

Lineare Klassifikation mit SVMsSoft-Margin-KlassifikationNichtlineare SVM-KlassifikationPolynomieller KernelHinzufügen von ähnlichkeitsbasierten MerkmalenDer Gaußsche RBF-KernelKomplexität der BerechnungSVM-RegressionHinter den KulissenEntscheidungsfunktion und VorhersagenZielfunktionen beim TrainierenQuadratische ProgrammeDas duale ProblemKernel-SVMOnline-SVMsÜbungen
Trainieren und Visualisieren eines EntscheidungsbaumsVorhersagen treffenSchätzen von Wahrscheinlichkeiten für KategorienDer CART-Trainings-AlgorithmusKomplexität der BerechnungGini-Unreinheit oder Entropie?Hyperparameter zur RegularisierungRegressionInstabilitätÜbungen
Abstimmverfahren unter KlassifikatorenBagging und PastingBagging und Pasting in Scikit-LearnOut-of-Bag-EvaluationZufällige Patches und SubräumeRandom ForestsExtra-TreesWichtigkeit von MerkmalenBoostingAdaBoostGradient BoostingStackingÜbungen
Der Fluch der DimensionalitätDie wichtigsten Ansätze zur DimensionsreduktionProjektionManifold LearningHauptkomponentenzerlegung (PCA)Erhalten der VarianzHauptkomponentenDie Projektion auf d DimensionenVerwenden von Scikit-LearnDer Anteil erklärter VarianzAuswählen der richtigen Anzahl DimensionenPCA als KomprimierungsverfahrenInkrementelle PCARandomisierte PCAKernel PCAAuswahl eines Kernels und Optimierung der HyperparameterLLEWeitere Techniken zur DimensionsreduktionÜbungen
InstallationErstellen und Ausführen eines ersten GraphenGraphen verwaltenLebenszyklus des Werts von KnotenLineare Regression mit TensorFlowImplementieren des GradientenverfahrensManuelle Berechnung der GradientenVerwenden von AutodiffVerwenden von OptimierungsverfahrenDaten in den Trainingsalgorithmus einspeisenModelle speichern und wiederherstellenGraphen und Lernkurven mit TensorBoard visualisierenName ScopesModularitätTeilen von VariablenÜbungen
Von biologischen zu künstlichen NeuronenBiologische NeuronenLogische Berechnungen mit NeuronenDas PerzeptronMehrschichtiges Perzeptron und BackpropagationEin MLP mit der TensorFlow-API trainierenEin DNN direkt mit TensorFlow trainierenKonstruktionsphaseAusführungsphaseVerwenden des neuronalen NetzesFeinabstimmung der Hyperparameter eines neuronalen NetzesAnzahl verborgener SchichtenAnzahl Neuronen pro verborgene SchichtAktivierungsfunktionenÜbungen
Das Problem schwindender/explodierender GradientenInitialisierung nach Xavier und HeNicht sättigende AktivierungsfunktionenBatch-NormalisierungGradient ClippingWiederverwenden vortrainierter SchichtenWiederverwenden eines TensorFlow-ModellsModelle aus anderen Frameworks wiederverwendenEinfrieren der unteren SchichtenCaching der eingefrorenen SchichtenVerändern, Auslassen oder Ersetzen der oberen SchichtenModell-ZoosUnüberwachtes VortrainierenVortrainieren anhand einer HilfsaufgabeSchnellere OptimiererMomentum OptimizationBeschleunigter Gradient nach NesterovAdaGradRMSPropAdam-OptimierungScheduling der LernrateVermeiden von Overfitting durch RegularisierungEarly Stoppingℓ1- und ℓ2-RegularisierungDrop-outMax-Norm-RegularisierungData AugmentationPraktische TippsÜbungen
Mehrere Recheneinheiten auf einem ComputerInstallationDas RAM der GPU verwaltenOperationen auf Recheneinheiten platzierenParalleles AusführenControl DependenciesMehrere Recheneinheiten auf mehreren ServernÖffnen einer SessionMaster- und Worker-DiensteOperationen auf Tasks pinnenSharding von Variablen über mehrere ParameterserverZustände mit Resource Containers zwischen Sessions teilenAsynchrone Kommunikation mit TensorFlow-QueuesDaten direkt aus dem Graphen ladenParallelisieren neuronaler Netze auf einem TensorFlow-ClusterEin neuronales Netz pro RecheneinheitIn-Graph- und Between-Graph-ReplikationParallelisierte ModelleParallelisierte DatenÜbungen
Der Aufbau des visuellen CortexConvolutional LayerFilterStapeln mehrerer Feature MapsImplementierung in TensorFlowSpeicherbedarfPooling LayerArchitekturen von CNNsLeNet-5AlexNetGoogLeNetResNetÜbungen
Rekurrente NeuronenGedächtniszellenEin- und AusgabesequenzenEinfache RNNs in TensorFlowStatisches Aufrollen entlang der ZeitachseDynamisches Aufrollen entlang der ZeitachseEingabesequenzen unterschiedlicher LängeAusgabesequenzen unterschiedlicher LängeTrainieren von RNNsTrainieren eines Sequenz-KlassifikatorsTrainieren der Vorhersage von ZeitreihenKreative RNNsDeep-RNNsEin Deep-RNN über mehrere GPUs verteilenDrop-out verwendenDie Schwierigkeit, über viele Schritte zu trainierenLSTM-ZellenPeephole-VerbindungenGRU-ZellenNatürliche SprachverarbeitungWord EmbeddingsEin Encoder-Decoder-Netz zur maschinellen ÜbersetzungÜbungen
Effiziente Repräsentation von DatenHauptkomponentenzerlegung mit einem unvollständigen linearen AutoencoderStacked AutoencoderImplementierung mit TensorFlowKopplung von GewichtenTrainieren mehrerer Autoencoder nacheinanderVisualisieren der RekonstruktionenVisualisieren von MerkmalenUnüberwachtes Vortrainieren mit Stacked AutoencoderDenoising AutoencoderImplementierung mit TensorFlowSparse AutoencoderImplementierung in TensorFlowVariational AutoencoderGenerieren von ZiffernWeitere AutoencoderÜbungen
Lernen zum Optimieren von BelohnungenSuche nach PoliciesEinführung in OpenAI GymNeuronale Netze als PoliciesAuswerten von Aktionen: Das Credit-Assignment-ProblemPolicy-GradientenMarkov-EntscheidungsprozesseTemporal Difference Learning und Q-LearningErkundungspoliciesApproximatives Q-LearningMs. Pac-Man mit dem DQN-Algorithmus spielen lernenÜbungenVielen Dank!

Content preview from Praxiseinstieg Machine Learning mit Scikit-Learn und TensorFlow

KAPITEL 9

Einsatzbereit mit TensorFlow

TensorFlow ist eine mächtige Open-Source-Bibliothek für numerische Berechnungen, die sich besonders für Machine Learning in großem Stil eignet. Ihr Grundprinzip ist einfach: Sie definieren einen Graphen von Berechnungen in Python (beispielsweise den in Abbildung 9-1), anschließend führt TensorFlow diesen Graphen mithilfe von optimiertem C++-Code aus.

Abbildung 9-1: Ein einfacher Berechnungsgraph

Vor allem aber lässt sich ein Graph in mehrere Abschnitte aufteilen, die auf mehreren CPUs oder GPUs ausgeführt werden können (wie in Abbildung 9-2 dargestellt). TensorFlow unterstützt auch verteiltes Rechnen, sodass ...

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Start your free trial

Machine Learning mit Python und ScikitLearn und TensorFlow

Publisher Resources

ISBN: 9781492065838

Praxiseinstieg Machine Learning mit Scikit-Learn und TensorFlow

by Aurélien Géron

KAPITEL 9

Einsatzbereit mit TensorFlow

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

You might also like

Machine Learning mit Python und ScikitLearn und TensorFlow

Machine Learning mit Python - Das Praxis-Handbuch für Data Sience, Predictive Analytics und Deep Learning

Einführung in Machine Learning mit Python

Deep Learning mit Python und Keras - Das Praxis-Handbuch vom Entwickler der Keras-Bibliothek

Publisher Resources

KAPITEL 9

Einsatzbereit mit TensorFlow

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,and much more.

You might also like

Machine Learning mit Python und ScikitLearn und TensorFlow

Machine Learning mit Python - Das Praxis-Handbuch für Data Sience, Predictive Analytics und Deep Learning

Einführung in Machine Learning mit Python

Deep Learning mit Python und Keras - Das Praxis-Handbuch vom Entwickler der Keras-Bibliothek

Publisher Resources

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.