Vorwort
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Als ich 2019 anfing, mit Transformern zu arbeiten, haben sie mich sofort fasziniert. Zwei Jahre später entwickelte ich meine eigene Deep-Learning-Architektur auf Basis von Attention, und im selben Jahr hielt ich meine erste Vorlesung an der Universität über Vision-Transformer. Was mich damals beeindruckte und bis heute beeindruckt, ist, wie vielseitig diese Architektur tatsächlich ist. Sobald man versteht, wie Transformer funktionieren, erkennen sich Muster. Man erkennt, wie dieselben Prinzipien für Bilder, Videos, Audio und darüber hinaus gelten. Der tiefere Einblick liegt nicht darin, jeden Bereich als separates Problem zu behandeln, wie es im Deep Learning oft der Fall ist, sondern darin, zu erkennen, wie natürlich sich die Transformer-Architektur über verschiedene Bereiche hinweg erstreckt.
Wie sich herausstellt, spielt es keine Rolle, ob man diskrete Token, Bildausschnitte oder Spektrogramm-Frames modelliert. Die Kernlogik bleibt dieselbe. Man kann die Darstellungsachse ändern, aber die zugrunde liegende Architektur bleibt intakt. Das ist die Eleganz von Transformern, zumindest für mich, und der Grund, warum ich mich entschlossen habe, dieses Buch zu schreiben: um meine Leidenschaft für Transformer zu teilen und dich diese Eleganz in deinem eigenen Tempo entdecken zu lassen.
Was mich außerdem immer wieder fasziniert, ist, was passiert, ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access