Large Language Models selbst programmieren

EParametereffizientes Feintuning mit LoRA

Die Low-Rank Adaptation (LoRA) ist eine der am weitesten verbreiteten Techniken zum parametereffizienten Feintuning. Die folgende Diskussion basiert auf dem Beispiel des Feintunings zur Spam-Klassifizierung in Kapitel 6. Das LoRA-Feintuning lässt sich jedoch auch auf die überwachte Anweisungsoptimierung anwenden, mit der sich Kapitel 7 beschäftigt hat.

E.1Einführung in LoRA

LoRA ist eine Technik, die ein vortrainiertes Modell so anpasst, dass es besser zu einem bestimmten, oftmals kleineren Datensatz passt, indem nur eine kleine Teilmenge der Gewichtsparameter des Modells angepasst wird. Der niederrangige (Low-Rank-)Aspekt bezieht sich auf das mathematische Konzept, Modellanpassungen auf einen weniger ...