August 2018
Intermediate to advanced
528 pages
17h 44m
Polish
W rozdziale 11. omówiliśmy kilka technik, które znacząco przyśpieszają proces uczenia: lepszą inicjację wag, normalizację wsadową, zaawansowane optymalizatory i tak dalej. Jednak nawet przy zastosowaniu tych metod trenowanie dużej sieci neuronowej na komputerze wyposażonym w jeden procesor może trwać dni, a nawet tygodnie.
Ten rozdział został poświęcony zagadnieniu rozproszenia obliczeń wykonywanych w środowisku TensorFlow pomiędzy wiele urządzeń (procesory i procesory/karty graficzne) i ich równoległego przetwarzania (patrz rysunek 12.1). Najpierw rozdzielimy operacje obliczeniowe pomiędzy różne podzespoły stanowiące część jednego komputera, a następnie pomiędzy urządzenia ...