Praxiseinstieg Machine Learning mit Scikit-Learn, Keras und TensorFlow, 2nd Edition

Mit GPUs die Berechnungen beschleunigen

In Kapitel 11 haben wir mehrere Techniken erwähnt, die das Trainieren erheblich beschleunigen können: bessere Initialisierung der Gewichte, Batchnormalisierung, ausgefeilte Optimierer und so weiter. Allerdings kann das Trainieren eines großen neuronalen Netzes auf einem einzelnen Computer mit einer einzelnen CPU trotz dieser Techniken Tage oder sogar Wochen dauern.

In diesem Abschnitt werden wir uns anschauen, wie wir unsere Modelle mithilfe von GPUs beschleunigen können. Auch werden Sie erfahren, wie Sie die Berechnungen auf mehrere Devices verteilen können, unter anderem auf die CPU und mehrere GPU-Devices (siehe Abbildung 19-9). Zunächst werden wir alles auf einer einzelnen Maschine laufen lassen, aber ...