Kapitel 12: Über das grundlegende Training hinaus

Ein Großteil des Aufwands beim Trainieren von ChatGPT muss dafür aufgebracht werden, ihm große Mengen an vorhandenen Texten aus dem Web, aus Büchern usw. »zu zeigen«. Es gibt aber noch einen weiteren – offensichtlich ziemlich wichtigen – Teil.

Sobald das »Rohtraining« mit dem originalen Textkorpus abgeschlossen ist, kann das neuronale Netz in ChatGPT damit beginnen, seine eigenen Texte zu generieren, vorgegebene Beispiele fortzusetzen usw. Doch während die Ergebnisse dieser Versuche oft vernünftig zu wirken scheinen, neigen sie dazu – besonders bei längeren Texten – in oft recht nicht menschlicher Weise »abzudriften«. Das lässt sich nicht einfach so durch zum Beispiel traditionelle statistische ...

Get Das Geheimnis hinter ChatGPT - Wie die KI arbeitet und warum sie funktioniert now with the O’Reilly learning platform.

O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.