Angewandtes maschinelles Lernen und KI für Ingenieure

Kapitel 13. Natürliche Sprachverarbeitung

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Es ist nicht schwer, mit Scikit-Learn maschinelle Lernmodelle zu erstellen, die Texte auf ihre Stimmung hin analysieren, Spam erkennen und Texte auf andere Weise klassifizieren. Heutzutage werden moderne Textklassifizierungen jedoch meist mit neuronalen Netzen durchgeführt. Du weißt bereits, wie man neuronale Netze erstellt, die Zahlen und Bilder als Eingabe akzeptieren. Darauf aufbauend lernst du nun, wie du Deep-Learning-Modelle erstellst, die Text verarbeiten - ein Teilbereich des Deep Learning, der als natürliche Sprachverarbeitung oder kurz NLP bekannt ist.

NLP umfasst eine Vielzahl von Aktivitäten wie Textklassifizierung, Erkennung von benannten Personen, Schlüsselwortextraktion, Beantwortung von Fragen und Sprachübersetzung. Die Genauigkeit von NLP-Modellen hat sich in den letzten Jahren aus verschiedenen Gründen verbessert. Dazu gehören nicht zuletzt neuere und bessere Methoden zur Umwandlung von Wörtern und Sätzen in dichte Vektordarstellungen, die die Bedeutung einbeziehen, sowie eine relativ neue Architektur neuronaler Netze, der sogenannte Transformer, der die bedeutungsvollsten Wörter herausfinden und sogar zwischen verschiedenen Bedeutungen desselben Wortes unterscheiden kann.

Ein Element, das praktisch alle neuronalen Netze, die Text verarbeiten, gemeinsam haben, ist eine Einbettungsschicht ...