Praxiseinstieg Large Language Models E-Book

Sinan Ozdemir

• Herausgeber: O'Reilly
• Kategorie: Wissenschaft und neue Technologien
• Serie: Animals
• Sprache: Deutsch

Seitenzahl: 317

Veröffentlichungsjahr: 2024

Beschreibung

Der Schnellstart in die praktische Arbeit mit LLMs - Das Buch bietet einen Überblick über zentrale Konzepte und Techniken von LLMs wie z.B. ChatGPT und zeigt das Potenzial von Open-Source- und Closed-Source-Modellen - Es erläutert, wie Large Language Models funktionieren und wie sie für Aufgaben des Natural Language Processing (NLP) genutzt werden - Auch für interessierte Nicht-Data-Scientists mit Python-Kenntnissen verständlich - Themen z.B.: die ChatGPT-API, Prompt-Engineering, Chatbot-Personas, Cloud-Bereitstellung; deckt auch GPT-4 ab Large Language Models (LLMs) wie ChatGPT sind enorm leistungsfähig, aber auch sehr komplex. Praktikerinnen und Praktiker stehen daher vor vielfältigen Herausforderungen, wenn sie LLMs in ihre eigenen Anwendungen integrieren wollen. In dieser Einführung räumt Data Scientist und KI-Unternehmer Sinan Ozdemir diese Hürden aus dem Weg und bietet einen Leitfaden für den Einsatz von LLMs zur Lösung praktischer Probleme des Natural Language Processings. Sinan Ozdemir hat alles zusammengestellt, was Sie für den Einstieg benötigen: Schritt-für-Schritt-Anleitungen, Best Practices, Fallstudien aus der Praxis, Übungen und vieles mehr. Er stellt die Funktionsweise von LLMs vor und unterstützt Sie so dabei, das für Ihre Anwendung passende Modell und geeignete Datenformate und Parameter auszuwählen. Dabei zeigt er das Potenzial sowohl von Closed-Source- als auch von Open-Source-LLMs wie GPT-3, GPT-4 und ChatGPT, BERT und T5, GPT-J und GPT-Neo, Cohere sowie BART. - Lernen Sie die Schlüsselkonzepte kennen: Transfer Learning, Feintuning, Attention, Embeddings, Tokenisierung und mehr - Nutzen Sie APIs und Python, um LLMs an Ihre Anforderungen anzupassen - Beherrschen Sie Prompt-Engineering-Techniken wie Ausgabe-Strukturierung, Gedankenketten und Few-Shot-Prompting - Passen Sie LLM-Embeddings an, um eine Empfehlungsengine mit eigenen Benutzerdaten neu zu erstellen - Konstruieren Sie multimodale Transformer-Architekturen mithilfe von Open-Source-LLMs - Optimieren Sie LLMs mit Reinforcement Learning from Human and AI Feedback (RLHF/RLAIF) - Deployen Sie Prompts und benutzerdefinierte, feingetunte LLMs in die Cloud

Leseprobe

Lob für»Praxiseinstieg Large Language Models«

»Indem er das Potenzial sowohl von Open-Source- als auch von Closed-Source-Modellen abwägt, präsentiert sich Praxiseinstieg Large Language Models als umfassender Leitfaden für das Verständnis und die Verwendung von LLMs, der die Kluft zwischen theoretischen Konzepten und praktischer Anwendung überbrückt.«

– Giada Pistilli, Principal Ethicist bei Hugging Face

»Eine erfrischende und inspirierende Ressource. Vollgepackt mit praktischen Anleitungen und klaren Erläuterungen, die Sie in diesem spektakulären Gebiet klüger machen.«

– Pete Huang, Autor von The Neuron

»Wenn es darum geht, große Sprachmodelle (Large Language Models, LLMs) zu erstellen, erweist es sich mitunter als schwierig, umfassende Ressourcen zu finden, die alle wesentlichen Aspekte abdecken. Meine Suche nach einer solchen Ressource hatte jedoch kürzlich ein Ende, als ich dieses Buch entdeckte.

Sinan zeichnet sich unter anderem durch seine Fähigkeit aus, komplexe Konzepte auf einfache Weise zu präsentieren. Der Autor hat hervorragende Arbeit geleistet, indem er komplizierte Ideen und Algorithmen aufgeschlüsselt hat, sodass Leser sie verstehen können, ohne sich überfordert zu fühlen. Er erklärt jedes Thema sorgfältig und baut dabei auf Beispielen auf, die als Sprungbrett für ein besseres Verständnis dienen. Dieser Ansatz bereichert die Lernerfahrung und macht selbst die kompliziertesten Aspekte der LLM-Entwicklung für Leserinnen und Leser mit unterschiedlichem Wissensstand zugänglich.

Eine weitere Stärke dieses Buchs ist die Fülle an Coderessourcen. Das Einbeziehen von praktischen Beispielen und Codefragmenten ist ein Gamechanger für jeden, der experimentieren und die gelernten Konzepte anwenden will. Diese Coderessourcen vermitteln dem Leser praktische Erfahrungen und ermöglichen ihm, die eigenen Kenntnisse zu testen und aufzubessern. Dies ist von unschätzbarem Wert, da es ein tieferes Verständnis der Materie fördert und es dem Leser erlaubt, sich wirklich mit dem Inhalt auseinanderzusetzen.

Zusammenfassend lässt sich sagen, dass dieses Buch ein Glückstreffer für jeden ist, der sich für den Aufbau von LLMs interessiert. Die außergewöhnliche Qualität der Erklärungen, der klare und prägnante Schreibstil, die reichhaltigen Coderessourcen und die umfassende Abdeckung aller wesentlichen Aspekte machen es zu einer unverzichtbaren Ressource. Ob Sie nun Anfänger oder erfahrener Praktiker sind, dieses Buch wird zweifellos Ihr Verständnis und Ihre praktischen Fertigkeiten in der LLM-Entwicklung erweitern. Ich empfehle Praxiseinstieg Large Language Models jedem, der sich auf die aufregende Reise begeben will, LLM-Anwendungen zu erstellen.«

– Pedro Marcelino, Machine Learning Engineer,Mitbegründer und CEO @overfit.study

Copyright und Urheberrechte:

Die durch die dpunkt.verlag GmbH vertriebenen digitalen Inhalte sind urheberrechtlich geschützt. Der Nutzer verpflichtet sich, die Urheberrechte anzuerkennen und einzuhalten. Es werden keine Urheber-, Nutzungs- und sonstigen Schutzrechte an den Inhalten auf den Nutzer übertragen. Der Nutzer ist nur berechtigt, den abgerufenen Inhalt zu eigenen Zwecken zu nutzen. Er ist nicht berechtigt, den Inhalt im Internet, in Intranets, in Extranets oder sonst wie Dritten zur Verwertung zur Verfügung zu stellen. Eine öffentliche Wiedergabe oder sonstige Weiterveröffentlichung und eine gewerbliche Vervielfältigung der Inhalte wird ausdrücklich ausgeschlossen. Der Nutzer darf Urheberrechtsvermerke, Markenzeichen und andere Rechtsvorbehalte im abgerufenen Inhalt nicht entfernen.

PraxiseinstiegLarge Language Models

Strategien und Best Practices für den Einsatzvon ChatGPT und anderen LLMs

Sinan Ozdemir

Deutsche Übersetzung vonFrank Langenau

Sinan Ozdemir

Lektorat: Alexandra Follenius

Übersetzung: Frank Langenau

Copy-Editing: Sibylle Feldmann, www.richtiger-text.de

Satz: III-satz, www.drei-satz.de

Herstellung: Stefanie Weidner

Umschlaggestaltung: Karen Montgomery, Michael Oréal, www.oreal.de

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

ISBN:

Print  978-3-96009-240-7

PDF   978-3-96010-853-5

ePub  978-3-96010-854-2

1. Auflage 2024

Translation Copyright © 2024 dpunkt.verlag GmbH

Wieblinger Weg 17

69123 Heidelberg

Authorized German translation of the English edition of QUICK START GUIDE TO LARGE LANGUAGE MODELS: Strategies and Best Practices for Using ChatGPT and Other LLMs 1st Edition by Sinan Ozdemir, published by Pearson Education, Inc, publishing as Addison-Wesley Professional © 2024 Pearson Education, Inc.

All rights reserved. No part of this book may be reproduced or transmitted in any form or by any means, electronic or mechanical, including photocopying, recording or by any information storage retrieval system, without permission from Pearson Education, Inc.

German language edition published by dpunkt.verlag GmbH, Copyright © 2024.

Dieses Buch erscheint in Kooperation mit O’Reilly Media, Inc. unter dem Imprint »O’REILLY«. O’REILLY ist ein Markenzeichen und eine eingetragene Marke von O’Reilly Media, Inc. und wird mit Einwilligung des Eigentümers verwendet.

Schreiben Sie uns:

Falls Sie Anregungen, Wünsche und Kommentare haben, lassen Sie es uns wissen: [email protected].

Die vorliegende Publikation ist urheberrechtlich geschützt. Alle Rechte vorbehalten. Die Verwendung der Texte und Abbildungen, auch auszugsweise, ist ohne die schriftliche Zustimmung des Verlags urheberrechtswidrig und daher strafbar. Dies gilt insbesondere für die Vervielfältigung, Übersetzung oder die Verwendung in elektronischen Systemen.

Es wird darauf hingewiesen, dass die im Buch verwendeten Soft- und Hardware-Bezeichnungen sowie Markennamen und Produktbezeichnungen der jeweiligen Firmen im Allgemeinen warenzeichen-, marken- oder patentrechtlichem Schutz unterliegen.

Alle Angaben und Programme in diesem Buch wurden mit größter Sorgfalt kontrolliert. Weder Autor noch Verlag noch Übersetzer können jedoch für Schäden haftbar gemacht werden, die in Zusammenhang mit der Verwendung dieses Buches stehen.

Inhalt

Vorwort

Einleitung

Teil I: Einführung in Large Language Models

1Überblick über Large Language Models

Was sind Large Language Models?

Definition von LLMs

Hauptmerkmale von LLMs

Wie LLMs funktionieren

Gängige moderne LLMs

BERT

GPT-3 und ChatGPT

T5

Domänenspezifische LLMs

Anwendungen von LLMs

Klassische NLP-Aufgaben

Freitexterzeugung

Informationsabruf/neuronale semantische Suche

Chatbots

Zusammenfassung

2Semantische Suche mit LLMs

Die Aufgabe

Asymmetrische semantische Suche

Die Lösung im Überblick

Die Komponenten

Engines für Text-Embeddings

Chunking von Dokumenten

Vektordatenbanken

Pinecone

Open-Source-Alternativen

Neueinstufen der abgerufenen Ergebnisse

API

Alles zusammen

Performance

Die Kosten von Closed-Source-Komponenten

Zusammenfassung

3Erstes Prompt Engineering und ein Chatbot mit ChatGPT

Prompt Engineering

Ausrichtung in Sprachmodellen

Einfach fragen

Few-Shot-Learning

Strukturierung der Ausgabe

Personas fordern auf

Mit Prompts modellübergreifend arbeiten

ChatGPT

Cohere

Open-Source-Prompt-Engineering

Einen Frage-Antwort-Bot mit ChatGPT aufbauen

Zusammenfassung

Teil II: Das Beste aus LLMs herausholen

4LLMs mit individuellem Feintuning optimieren

Transfer Learning und Feintuning: die Grundlagen

Der Feintuning-Prozess im Detail

Vortrainierte Closed-Source-Modelle als Grundlage

Die OpenAI-API für das Feintuning

Die GPT-3-API für das Feintuning

Fallstudie 1: Stimmungsklassifizierung von Amazon-Rezensionen

Richtlinien und bewährte Methoden für Daten

Individuelle Beispiele mit der OpenAI-CLI vorbereiten

Die OpenAI-CLI einrichten

Hyperparameter auswählen und optimieren

Unser erstes feingetuntes LLM

Feingetunte Modelle mit quantitativen Metriken bewerten

Qualitative Bewertungstechniken

Feingetunte GPT-3-Modelle in Anwendungen integrieren

Fallstudie 2: Klassifizierung der Kategorien von Amazon-Rezensionen

Zusammenfassung

5Fortgeschrittenes Prompt Engineering

Prompt-Injection-Angriffe

Eingaben und Ausgaben validieren

Beispiel: Validierungspipelines mit NLI aufbauen

Prompts im Stapel verarbeiten

Prompts verketten

Verkettung als Schutz gegen Prompt Injection

Verkettung, um Prompt Stuffing zu verhindern

Beispiel: Sicherheit durch Verkettung multimodaler LLMs

Prompting mit Gedankenkette

Beispiel: Grundlegende Arithmetik

Noch einmal: Few-Shot-Learning

Beispiel: Grundschularithmetik mit LLMs

Testen und iterative Entwicklung von Prompts

Zusammenfassung

6Embeddings und Modellarchitekturen anpassen

Fallstudie: Ein Empfehlungssystem aufbauen

Das Problem und die Daten einrichten

Das Problem der Empfehlung definieren

Unser Empfehlungssystem im Überblick

Ein benutzerdefiniertes Beschreibungsfeld generieren, um Artikel zu vergleichen

Mit Basis-Embeddern eine Baseline einrichten

Die Feintuning-Daten vorbereiten

Open-Source-Embedder mithilfe von Sentence Transformers feintunen

Zusammenfassung der Ergebnisse

Zusammenfassung

Teil III: Fortgeschrittene LLM-Nutzung

7Jenseits der Basismodelle: LLMs kombinieren

Fallstudie: Visuelles Frage-Antwort-System

Einführung in unsere Modelle: der Vision Transformer, GPT-2 und DistilBERT

Projektion und Fusion verborgener Zustände

Was ist Cross-Attention, und warum ist sie entscheidend?

Unser benutzerdefiniertes multimodales Modell

Unsere Daten: Visual QA

Die VQA-Trainingsschleife

Zusammenfassung der Ergebnisse

Fallstudie: Reinforcement Learning from Feedback

Unser Modell: FLAN-T5

Unser Belohnungsmodell: Sentiment und grammatische Korrektheit

Die Bibliothek Transformer Reinforcement Learning

Die RLF-Trainingsschleife

Zusammenfassung der Ergebnisse

Zusammenfassung

8Feintuning fortgeschrittener Open-Source-LLMs

Beispiel: Multilabel-Klassifizierung mit BERT für Anime-Genres

Die Performance für die Multilabel-Genre-Vorhersage von Anime-Titeln mit dem Jaccard-Koeffizienten messen

Eine einfache Feintuning-Schleife

Allgemeine Tipps zum Feintuning von Open-Source-LLMs

Zusammenfassung der Ergebnisse

Beispiel: LaTeX-Generierung mit GPT-2

Prompt Engineering für Open-Source-Modelle

Zusammenfassung der Ergebnisse

SAWYER: Sinans Versuch, kluge und dennoch fesselnde Antworten zu geben

Schritt 1: Überwachtes Feintuning mit Anweisungen

Schritt 2: Training des Belohnungsmodells

Schritt 3: Reinforcement Learning mit (geschätzter) menschlicher Rückkopplung

Zusammenfassung der Ergebnisse

Die sich ständig verändernde Welt des Feintunings

Zusammenfassung

9LLMs in die Produktion überführen

Closed-Source-LLMs in der Produktion bereitstellen

Kostenprognosen

API-Schlüsselverwaltung

Open-Source-LLMs in der Produktion bereitstellen

Ein Modell für Inferenz vorbereiten

Interoperabilität

Quantisierung

Beschneiden

Wissensdestillation

Fallstudie: Unsere Anime-Genre-Vorhersage destillieren

Kostenprognosen mit LLMs

Die Plattform Hugging Face

Zusammenfassung

Ihre Beiträge sind wichtig

Weitermachen!

Teil IV: Anhänge

Anhang A: LLM-FAQs

Anhang B: LLM-Glossar

Anhang C: Archetypen von LLM-Anwendungen

Index

Vorwort

Obwohl die Verwendung von großen Sprachmodellen – Large Language Models (LLMs) – schon in den letzten fünf Jahren stetig zugenommen hat, ist das Interesse daran geradezu explodiert, als OpenAI sein Produkt ChatGPT veröffentlichte. Der KI-Chatbot hat die Leistungsfähigkeit von LLMs demonstriert und eine einfach zu bedienende Schnittstelle eingeführt, die es Menschen aus allen Gesellschaftsschichten ermöglicht, die Vorteile dieses bahnbrechenden Tools zu nutzen. Jetzt, da diese Untergruppe der Verarbeitung natürlicher Sprache – Natural Language Processing (NLP) – zu einem der meistdiskutierten Bereiche des maschinellen Lernens geworden ist, wollen viele Menschen sie in ihre eigenen Angebote integrieren. Diese Technologie fühlt sich tatsächlich so an, als könnte es sich um künstliche Intelligenz handeln, auch wenn es lediglich um die Vorhersage von aufeinanderfolgenden Token anhand eines probabilistischen Modells geht.

Praxiseinstieg Large Language Models ist ein exzellenter Überblick über das Konzept der LLMs sowie deren praktische Anwendung, und zwar für Programmiererinnen und Programmierer mit und ohne Vorkenntnisse in Data Science. Die Mischung aus Erklärungen, visuellen Darstellungen und praktischen Codebeispielen macht das Buch zu einer fesselnden und leicht verständlichen Lektüre, die dazu anregt, immer wieder umzublättern. Sinan Ozdemir deckt viele Themen in einer anschaulichen Art und Weise ab und macht dieses Buch damit zu einer der besten Informationsquellen, die zur Verfügung stehen, um etwas über LLMs, ihre Fähigkeiten und den Umgang mit ihnen zu lernen und damit die besten Ergebnisse zu erzielen.

Sinan wechselt geschickt zwischen verschiedenen Aspekten von LLMs und gibt dem Leser alle Informationen, die er braucht, um LLMs effektiv zu nutzen. Beginnend mit der Diskussion, wo LLMs innerhalb von NLP angesiedelt sind, und der Erklärung von Transformern und Encodern, geht er auf Transfer Learning und Feintuning, Attention und Tokenisierung in einer verständlichen Art und Weise ein. Außerdem befasst er sich mit vielen weiteren Aspekten von LLMs, zu denen gehören: die Kompromisse zwischen Open-Source-Modellen und kommerziellen Optionen, wie man Vektordatenbanken nutzt (schon für sich genommen ein sehr beliebtes Thema), das Schreiben eigener APIs mit Fast API, das Erstellen von Embeddings und das Überführen von LLMs in die Produktion – etwas, das sich für jede Art von Machine-Learning-Projekt als Herausforderung erweisen kann.

Ein großer Teil dieses Buchs beschäftigt sich sowohl mit visuellen Schnittstellen – wie zum Beispiel ChatGPT – als mit auch Schnittstellen für die Programmierung. Sinan stellt hilfreichen Python-Code zur Verfügung, der leicht verständlich ist und klar veranschaulicht, was im Einzelnen passiert. Im Rahmen des Prompt Engineering führt er vor, wie sich drastisch bessere Ergebnisse von LLMs erzielen lassen, und – was noch besser ist – er demonstriert, wie man diese Prompts sowohl in der visuellen GUI als auch über die Python-Bibliothek von OpenAI bereitstellen kann.

Dieses Buch hat mich so inspiriert, dass ich versucht war, dieses Vorwort mit ChatGPT zu schreiben, um all das zu demonstrieren, was ich gelernt habe. Dies zeigt, wie gut geschrieben, ansprechend und informativ das Buch ist. Auch wenn ich dazu in der Lage gewesen wäre, habe ich dieses Vorwort doch selbst geschrieben, um meine Gedanken und Erfahrungen über LLMs auf die authentischste und persönlichste Art und Weise zu formulieren, die ich kenne. Mit Ausnahme des letzten Teils des letzten Satzes, der von ChatGPT stammt, einfach weil ich es konnte.

Für jemanden, der mehr über die vielen Aspekte von LLMs lernen möchte, ist dies das richtige Buch. Es wird Ihnen helfen, die Modelle zu verstehen und sie in Ihrem täglichen Leben effektiv zu nutzen. Und was vielleicht am wichtigsten ist: Sie werden diese Reise genießen.

– Jared Lander, Editor der Reihe bei Addison-Wesley

Einleitung

Hallo! Mein Name ist Sinan Ozdemir. In bin ein ehemaliger theoretischer Mathematiker, der zum Universitätsdozenten wurde, dann zum KI-Enthusiasten, zum erfolgreichen Start-up-Gründer, zum KI-Lehrbuchautor und zum Berater für Risikokapitalgeber. Heute bin ich auch Ihr Reiseleiter durch das riesige Museum des Wissens, das die Entwicklung von Large Language Models (LLMs), also großen Sprachmodellen, und deren Anwendungen darstellt. Mit diesem Buch verfolge ich zwei Ziele: das Gebiet der LLMs zu entmystifizieren und Sie mit praktischem Wissen auszustatten, damit Sie in der Lage sind, mit LLMs zu experimentieren, zu programmieren und zu bauen.

Aber dies ist kein Schulungsraum, und ich bin kein typischer Professor. Ich bin nicht hier, um Sie mit komplizierter Terminologie zu überschütten. Vielmehr möchte ich komplexe Konzepte leicht verdaulich, nachvollziehbar und – was noch wichtiger ist – anwendbar machen.

Aber jetzt genug von mir. Dieses Buch ist nicht für mich – es ist für Sie. Ich möchte Ihnen einige Tipps dazu geben, wie Sie dieses Buch lesen können, wie Sie dieses Buch noch einmal lesen können (wenn ich meine Arbeit richtig gemacht habe) und wie Sie sicherstellen können, dass Sie alles, was Sie brauchen, aus diesem Text herausholen.

Leserkreis und Voraussetzungen

Für wen ist dieses Buch gedacht, werden Sie fragen. Nun, meine Antwort ist einfach: für jeden, der neugierig auf LLMs ist, den ehrgeizigen Programmierer, die unermüdlich Lernende. Ganz gleich, ob Sie sich bereits mit maschinellem Lernen (Machine Learning) beschäftigt haben oder erst am Rand stehen und Ihre Zehenspitzen in diesen riesigen Ozean tauchen, dieses Buch ist Ihr Leitfaden, Ihre Landkarte, um in den Gewässern der LLMs zu navigieren.

Aber ich will ehrlich zu Ihnen sein: Um das meiste aus dieser Reise herauszuholen, ist eine gewisse Erfahrung mit Machine Learning und Python von unschätzbarem Vorteil. Das heißt nicht, dass Sie ohne diese Kenntnisse nicht überleben werden, aber ohne diese Werkzeuge könnten die Gewässer ein wenig unruhig erscheinen. Wenn Sie unterwegs lernen, ist das aber auch prima! Einige der Konzepte, die wir erforschen werden, erfordern nicht unbedingt eine umfangreiche Programmierung, die meisten jedoch schon.

Ich habe auch versucht, in diesem Buch ein Gleichgewicht zwischen tiefem theoretischem Verständnis und praktischen Fertigkeiten herzustellen. Jedes Kapitel ist mit Analogien gefüllt, um das Komplexe einfach zu machen, gefolgt von Codeauszügen, die die Konzepte zum Leben erwecken. Im Wesentlichen habe ich dieses Buch als Ihr LLM-Dozent und Tutor geschrieben, um dieses faszinierende Gebiet zu entwirren und zu vereinfachen, anstatt Sie mit akademischem Fachjargon zu überhäufen. Ich möchte, dass Sie aus jedem Kapitel mit einem klareren Verständnis des Themas und dem Wissen, wie es in der Praxis anzuwenden ist, herausgehen.

Wie man an dieses Buch herangeht

Wie eben erwähnt, werden Sie einen leichteren Zugang zu diesem Buch haben, wenn Sie bereits Erfahrung in Machine Learning mitbringen, als wenn Sie komplett bei null anfangen. Dennoch steht der Weg offen für jeden, der in Python programmieren kann und bereit ist zu lernen. Dieses Buch ermöglicht verschiedene Stufen der Beteiligung, je nach Ihrem Hintergrund, Ihren Zielen und Ihrer verfügbaren Zeit. So können Sie tief in die praktischen Abschnitte eintauchen, mit dem Code experimentieren und die Modelle optimieren, oder Sie beschäftigen sich mit den theoretischen Teilen und eignen sich ein solides Verständnis von der Funktionsweise der LLMs an, ohne eine einzige Zeile Code zu schreiben. Sie haben die Wahl.

Wenn Sie das Buch durcharbeiten, sollten Sie daran denken, dass jedes Kapitel in der Regel auf vorherigen Arbeiten aufbaut. Die Kenntnisse und Fertigkeiten, die Sie in einem Abschnitt erwerben, werden in den nachfolgenden Kapiteln zu wertvollen Werkzeugen. Die Herausforderungen, denen Sie sich stellen müssen, sind Teil des Lernprozesses. Es kann sein, dass Sie manchmal etwas durcheinanderkommen, frustriert sind und vielleicht auch gar nicht weiterkommen. Als ich das visuelle Frage-Antwort-System (Visual Question-Answering, VQA) für dieses Buch entwickelte, hatte ich wiederholt mit Fehlschlägen zu kämpfen. Das Modell hat nur Unsinn ausgespuckt, immer wieder die gleichen Phrasen. Aber dann, nach unzähligen Wiederholungen, begann es, sinnvolle Ergebnisse zu erzeugen. Dieser Moment des Triumphs, das Hochgefühl, einen Durchbruch erzielt zu haben, war jeden Fehlversuch wert. Dieses Buch bietet Ihnen ähnliche Herausforderungen und folglich auch die Chance auf ähnliche Triumphe.

Aufbau dieses Buchs

Das Buch umfasst vier Teile.

Teil I: Einführung in Large Language Models

Die Kapitel in Teil I bieten eine Einführung in LLMs (Large Language Models) oder mit großen Datenmengen trainierte Sprachmodelle.

Kapitel 1: Überblick über Large Language Models

Dieses Kapitel bietet einen breiten Überblick über die Welt von LLMs. Es behandelt die Grundlagen: Was sind sie, wie funktionieren sie, und warum sind sie wichtig? Am Ende dieses Kapitel besitzen Sie solide Grundkenntnisse, um den Rest des Buchs zu verstehen.

Kapitel 2: Semantische Suche mit LLMs

Aufbauend auf den in Kapitel 1 gelegten Grundlagen, untersucht Kapitel 2, wie sich LLMs für eine der einflussreichsten Anwendungen der Sprachmodelle einsetzen lassen – die semantische Suche. Wir erstellen ein Suchsystem, das die Bedeutung Ihrer Abfrage versteht und nicht nur Schlüsselwörter vergleicht.

Kapitel 3: Erstes Prompt Engineering und ein Chatbot mit ChatGPT

Die Kunst und Wissenschaft, effektive Prompts zu erstellen, ist entscheidend, um die Vorzüge von LLMs nutzen zu können. Kapitel 3 bietet eine praktische Einführung in das Prompt Engineering mit Richtlinien und Techniken, um das Beste aus Ihren LLMs herauszuholen. Zum Schluss erstellen wir einen Chatbot, der auf ChatGPT aufsetzt und die API nutzt, die wir in Kapitel 2 aufgebaut haben.

Teil II: Das Beste aus LLMs herausholen

In Teil II erklimmen Sie die nächste Ebene.

Kapitel 4: LLMs mit individuellem Feintuning optimieren

In der Welt der LLMs gibt es keine Einheitslösung. Kapitel 4 erläutert, wie Sie LLMs mit Ihren eigenen Datensets feintunen können. Anhand von praktischen Beispielen und Übungen lernen Sie, wie Sie Ihre Modelle im Handumdrehen anpassen.

Kapitel 5: Fortgeschrittenes Prompt Engineering

Jetzt tauchen wir tiefer in die Welt des Prompt Engineering ein. Kapitel 5 befasst sich mit fortgeschrittenen Strategien und Techniken, die Ihnen helfen, noch mehr aus Ihren LLMs herauszuholen – zum Beispiel Validierung der Ausgabe und semantisches Few-Shot-Learning.

Kapitel 6: Embeddings und Modellarchitekturen anpassen

In Kapitel 6 erkunden wir die eher technische Seite von LLMs. Wir zeigen, wie man Modellarchitekturen und Embeddings modifiziert, um sie besser auf die eigenen spezifischen Anwendungsfälle und Anforderungen abzustimmen. Außerdem passen wir LLM-Architekturen an unsere Bedürfnisse an und führen ein Feintuning an einer Empfehlungsengine durch, die die Modelle von OpenAI übertrifft.

Teil III: Fortgeschrittene LLM-Nutzung

Kapitel 7: Jenseits der Basismodelle: LLMs kombinieren

Kapitel 7 untersucht einige der Modelle und Architekturen der nächsten Generation, die die Grenzen dessen verschieben, was mit LLMs möglich ist. Wir kombinieren mehrere LLMs und richten ein Framework ein, damit Sie Ihre eigenen LLM-Architekturen mit PyTorch aufbauen können. Außerdem stellt dieses Reinforcement Learning (bestärkendes Lernen) aus Rückkopplungen vor, um LLMs auf Ihre Bedürfnisse auszurichten.

Kapitel 8: Feintuning fortgeschrittener Open-Source-LLMs

In Fortsetzung von Kapitel 7 bietet Kapitel 8 praktische Richtlinien und Beispiele für das Feintuning fortgeschrittener Open-Source-LLMs, wobei der Schwerpunkt auf der praktischen Umsetzung liegt. Wir werden LLMs nicht nur mithilfe von generischer Sprachmodellierung feintunen, sondern auch mit fortgeschrittenen Methoden wie Reinforcement Learning aus Rückkopplungen, um unsere eigenes auf Anweisungen ausgerichtetes LLM namens SAWYER zu kreieren.

Kapitel 9: LLMs in die Produktion überführen

Dieses letzte Kapitel fasst alles zusammen, indem es die praktischen Überlegungen zur Bereitstellung von LLMs in Produktionsumgebungen untersucht. Unter anderem geht es darum, wie man Modelle skaliert, Echtzeitanfragen verarbeitet und sicherstellt, dass unsere Modelle robust und zuverlässig sind.

Teil IV: Anhänge

Die drei Anhänge enthalten eine Liste mit häufig gestellten Fragen (FAQs), ein Glossar mit Fachbegriffen und eine Referenz auf Archetypen von LLM-Anwendungen.

Anhang A: LLM-FAQs

Als Berater, Ingenieur und Dozent erhalte ich täglich eine Menge von Fragen zu LLMs. Einige der wichtigsten Fragen habe ich hier zusammengestellt.

Anhang B: LLM-Glossar

Das Glossar bietet einen Überblick über einige der wichtigsten Begriffe, die in diesem Buch verwendet werden.

Anhang C: Archetypen von LLM-Anwendungen

In diesem Buch erstellen wir viele Anwendungen mit LLMs, sodass Anhang C als Ausgangspunkt für jeden gedacht ist, der eine eigene Anwendung bauen möchte. Für einige häufige Anwendungen von LLMs schlägt dieser Anhang vor, auf welche LLMs Sie sich konzentrieren sollten und welche Daten Sie möglicherweise benötigen. Und Sie erfahren ebenfalls, auf welche häufig vorkommenden Fallstricke Sie eventuell stoßen und wie Sie mit ihnen umgehen können.

Was unterscheidet dieses Buch von anderen?

Zunächst einmal habe ich eine Vielzahl von Erfahrungen in dieses Werk einfließen lassen: von meinem Hintergrund in theoretischer Mathematik über meinen Einstieg in die Welt der Start-ups und meine Erfahrungen als ehemaliger Hochschullehrer bis hin zu meinen derzeitigen Rollen als Unternehmer, Machine Learning Engineer und Risikokapitalberater. Jede dieser Erfahrungen hat mein Verständnis von LLMs geprägt, und ich habe all mein Wissen in dieses Buch einfließen lassen.

Eine der Besonderheiten, die Sie in diesem Buch finden, ist die praktische Anwendung von Konzepten. Und ich meine es ernst, wenn ich »praktisch« sage. Dieses Buch ist voll von praktischen Erfahrungen, die Ihnen helfen werden, die Realität der Arbeit mit LLMs zu verstehen.

Darüber hinaus geht es in diesem Buch nicht nur darum, das Gebiet zu verstehen, wie es sich heute darstellt. Wie bereits häufig gesagt: Die Welt der LLMs ändert sich stündlich. Dennoch bleiben einige Grundlagen konstant, und ich lege großen Wert darauf, diese im gesamten Buch hervorzuheben. Auf diese Weise sind Sie nicht nur für das Hier und Jetzt, sondern auch für die Zukunft gerüstet.

Im Wesentlichen spiegelt dieses Buch nicht nur mein Wissen wider, sondern auch meine Leidenschaft für die Entwicklung von KI und LLMs. Es ist eine Destillation (Wortspiel beabsichtigt – siehe Kapitel 8) meiner Erfahrungen, meiner Einsichten und meiner Begeisterung für die Möglichkeiten, die LLMs uns eröffnen. Es ist eine Einladung an Sie, gemeinsam mit mir dieses faszinierende, sich schnell entwickelnde Gebiet zu erforschen.

Codebeispiele

Zusätzliches Material (Codebeispiele in Jupyter Notebooks, Daten und Abbildungen) finden Sie zum Herunterladen unter https://github.com/sinanuozdemir/quickstart-guide-to-llms.

Dieses Buch soll Ihnen bei Ihrer Arbeit helfen. Ganz allgemein gilt: Wenn in diesem Buch Beispielcode angeboten wird, können Sie ihn in Ihren Programmen und Dokumentationen verwenden. Sie müssen sich dafür nicht unsere Erlaubnis einholen, es sei denn, Sie reproduzieren einen großen Teil des Codes. Schreiben Sie zum Beispiel ein Programm, das mehrere Teile des Codes aus diesem Buch benutzt, brauchen Sie keine Erlaubnis. Verkaufen oder vertreiben Sie Beispiele aus O’Reilly-Büchern, brauchen Sie eine Erlaubnis. Beantworten Sie eine Frage, indem Sie dieses Buch und Beispielcode daraus zitieren, brauchen Sie keine Erlaubnis. Binden Sie einen großen Anteil des Beispielcodes aus diesem Buch in die Dokumentation Ihres Produkts ein, brauchen Sie eine Erlaubnis.

Wir freuen uns über eine Erwähnung, verlangen sie aber nicht. Eine Erwähnung enthält üblicherweise Titel, Autor, Verlag und ISBN, zum Beispiel: »Praxiseinstieg Large Language Models von Sinan Ozdemir, O’Reilly 2024, ISBN 978-3-96009-240-7.«

Falls Sie befürchten, zu viele Codebeispiele zu verwenden oder die oben genannten Befugnisse zu überschreiten, kontaktieren Sie uns unter [email protected].

In diesem Buch verwendete Konventionen

Die folgenden typografischen Konventionen kommen in diesem Buch zum Einsatz:

Kursiv

Steht für neue Begriffe, URLs, E-Mail-Adressen, Dateinamen und Dateierweiterungen.

Nichtproportionalschrift

Wird für Programmlistings verwendet, aber auch innerhalb von Absätzen, um sich auf Programmelemente wie Variablen oder Funktionsnamen, Datenbanken, Datentypen, Umgebungsvariablen, Anweisungen und Schlüsselwörter zu beziehen.

Fette Nichtproportionalschrift

Steht für Befehle oder anderen Text, der genau so einzugeben ist.

Kursive Nichtproportionalschrift

Steht für Text, der von den Benutzerinnen und Benutzern durch Werte ersetzt werden soll, die sich eventuell aus dem Kontext ergeben.

Dieses Element enthält einen allgemeinen Hinweis.

Zusammenfassung

Damit sind wir nun am Ende des Vorworts oder am Beginn unserer gemeinsamen Reise angekommen, je nachdem, wie Sie es betrachten. Sie haben einen Eindruck davon bekommen, wer ich bin, warum es dieses Buch gibt, was Sie erwarten können und wie Sie das Beste aus ihm herausholen können.

Jetzt liegt der Rest bei Ihnen. Ich lade Sie dazu ein, in die Welt der LLMs einzutauchen. Ob Sie nun ein erfahrener Data Scientist oder eine neugierige Enthusiastin sind – es ist mit Sicherheit etwas für Sie dabei. Ich möchte Sie ermutigen, sich aktiv mit dem Buch zu beschäftigen – den Code auszuführen, ihn zu optimieren, ihn zu zerstören und wieder zusammenzusetzen. Erkunden Sie, experimentieren Sie, machen Sie Fehler, lernen Sie.

Lassen Sie uns eintauchen!

Danksagung

Familie: An meine unmittelbaren Familienmitglieder: Danke, Mom, dass du immer wieder die Kraft und den Einfluss des Lehrens verkörpert hast. Es war deine Leidenschaft für Bildung, die mich den tiefen Wert der Weitergabe von Wissen erkennen ließ, was ich nun in meiner Arbeit umzusetzen versuche. Dad, dein lebhaftes Interesse an neuen Technologien und ihrem Potenzial hat mich immer dazu inspiriert, die Grenzen auf meinem eigenen Gebiet zu erweitern. Meine Schwester, deine ständigen Ermahnungen, die menschlichen Auswirkungen meiner Arbeit zu berücksichtigen, haben mich auf dem Boden der Tatsachen gehalten. Deine Einsichten haben mir bewusster gemacht, auf welche Weise meine Arbeit das Leben der Menschen berührt.

Zuhause: An meine Lebensgefährtin Elizabeth: Deine Geduld und dein Verständnis waren von unschätzbarem Wert, als ich mich in unzähligen Nächten ins Schreiben und Programmieren vertieft habe. Danke, dass du mein Geschwafel ertragen und mir geholfen hast, komplexen Ideen einen Sinn zu verleihen. Du warst eine Stütze, ein Resonanzboden und ein Leuchtturm, wenn der Weg unklar erschien. Deine Standhaftigkeit während dieser Reise hat mich inspiriert, und ohne dich wäre dieses Werk nicht das, was es ist.

Prozess der Buchveröffentlichung: Ein herzliches Dankeschön an Debra Williams Cauley, die mir die Möglichkeit gegeben hat, einen Beitrag zur KI- und LLM-Community zu leisten. Das Wachstum, das ich als Pädagoge und Autor während dieses Prozesses erfahren habe, ist unermesslich. Ich entschuldige mich zutiefst für die wenigen (oder doch mehr) Abgabetermine, die ich verpasst habe, weil ich mich in den Feinheiten der LLMs und des Feintunings verloren hatte. Ich schulde auch Jon Krohn Dank dafür, dass er mich für diese Reise empfohlen hat, und für seine kontinuierliche Unterstützung.

TEIL I

Einführung in Large Language Models

KAPITEL 1

Überblick über Large Language Models

Im Jahr 2017 stellte ein Team von Google Brain ein fortschrittliches Deep-Learning-Modell für künstliche Intelligenz (KI) namens Transformer vor. Seitdem ist der Transformer zum Standard geworden, um verschiedenste Aufgaben bei der Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) in Wissenschaft und Industrie zu bewältigen. Höchstwahrscheinlich haben Sie in den letzten Jahren bereits mit dem Transformer-Modell interagiert, ohne sich dessen bewusst zu sein, denn Google verwendet BERT, um seine Suchmaschine zu verbessern, indem es die Suchanfragen der Nutzer besser versteht. Die Modelle der GPT-Familie von OpenAI haben ebenfalls Aufmerksamkeit erregt, da sie in der Lage sind, wie von Menschen geschaffene Texte und Bilder zu erzeugen.

Diese Transformer treiben nun Anwendungen voran wie etwa Copilot von GitHub (eine Entwicklung von OpenAI in Zusammenarbeit mit Microsoft), der es ermöglicht, Kommentare und Codefragmente in voll funktionsfähigen Quellcode umzuwandeln, der sogar andere große Sprachmodelle (Large Language Models, LLMs) aufrufen kann, um NLP-Aufgaben zu erfüllen (siehe Beispiel 1-1).

Beispiel 1-1: Mithilfe des Copilot-LLM eine Ausgabe vom BART-LLM von Facebook erhalten

In Beispiel 1-1 habe ich Copilot verwendet, um nur eine Python-Funktionsdefinition und einige von mir verfasste Kommentare zu übernehmen. Und ich habe den ganzen Code geschrieben, damit die Funktion das tut, was ich geschrieben habe. Hier gibt es kein Rosinenpicken, sondern nur eine voll funktionsfähige Python-Funktion, die ich wie folgt aufrufen kann:

classify_text('hi I am spam') # spam

Es scheint, dass wir von LLMs umgeben sind, aber was machen sie hinter den Kulissen? Finden wir es heraus!

Was sind Large Language Models?

Large Language Models (LLMs, große Sprachmodelle) sind KI-Modelle, die in der Regel (aber nicht unbedingt) von der Transformer-Architektur abgeleitet sind und dazu dienen, menschliche Sprache, Code und vieles mehr zu verstehen und zu erzeugen. Diese Modelle werden anhand großer Mengen von Textdaten trainiert, sodass sie die Komplexität und die Nuancen menschlicher Sprache erfassen können. LLMs können ein breites Spektrum sprachbezogener Aufgaben erfüllen – von der einfachen Textklassifizierung bis hin zur Texterzeugung –, und das mit hoher Genauigkeit, Geläufigkeit und mit Stil.

Im Gesundheitswesen nutzt man LLMs, um elektronische Krankenakten (Electronic Medical Record, EMR) zu verarbeiten, klinische Studien abzugleichen und Medikamente zu entwickeln. Im Finanzwesen setzt man sie bei der Betrugserkennung, zur Stimmungsanalyse von Finanznachrichten und sogar für Handelsstrategien ein. Außerdem werden LLMs zur Automatisierung des Kundendiensts durch Chatbots und virtuelle Assistenten herangezogen. Aufgrund ihrer Vielseitigkeit und hohen Leistungsfähigkeit werden auf Transformer basierende LLMs in einer Vielzahl von Branchen und Anwendungen immer wertvoller.

In diesem Text werde ich den Begriff »Verstehen« recht häufig verwenden. In diesem Zusammenhang beziehe ich mich in der Regel auf das Verstehen natürlicher Sprache (Natural Language Understanding, NLU) – einen Forschungszweig des NLP, der sich mit der Entwicklung von Algorithmen und Modellen befasst, die menschliche Sprache genau interpretieren können. Wie wir sehen werden, glänzen NLU-Modelle bei Aufgaben wie Klassifizierung, Stimmungsanalyse und Erkennen benannter Entitäten. Allerdings ist es wichtig, zu beachten, dass diese Modelle zwar komplexe Sprachaufgaben erfüllen können, nicht aber über ein wirkliches Verständnis verfügen, wie Menschen es haben.

Der Erfolg der LLMs und Transformer ist auf die Kombination mehrerer Ideen zurückzuführen. Die meisten dieser Ideen gab es schon vor Jahren, und sie wurden auch zur etwa gleichen Zeit aktiv erforscht. Mechanismen wie Attention (Aufmerksamkeit), Transfer Learning und das Heraufskalieren neuronaler Netze, die das Gerüst für Transformer bilden, erlebten etwa zur gleichen Zeit einen Durchbruch. Abbildung 1-1 skizziert einige der größten Fortschritte im NLP der letzten Jahrzehnte, die alle zur Erfindung des Transformers führten.

Abbildung 1-1: Ein kurzer geschichtlicher Abriss des modernen NLP verdeutlicht die Verwendung von Deep Learning für die Sprachmodellierung, Fortschritte bei groß angelegten semantischen Token-Embeddings (Word2vec), Sequenz-zu-Sequenz-Modelle mit Attention (worauf wir später in diesem Kapitel ausführlich zurückkommen) und schließlich den Transformer im Jahr 2017.

Die Transformer-Architektur selbst ist ziemlich beeindruckend. Sie lässt sich hochgradig parallelisieren und in einer Weise skalieren, wie es vorhergehenden NLP-Modellen nach dem jeweiligen Stand der Technik nicht möglich war. Somit können auch wesentlich größere Datensets verarbeitet und längere Trainings absolviert werden, als es mit älteren NLP-Modellen realisierbar war. Der Transformer verwendet eine spezielle Art der Attention-Berechnung, die sogenannte Self-Attention (Selbstaufmerksamkeit), die es jedem Wort in einer Sequenz erlaubt, alle anderen Wörter in der Sequenz »zu beachten« (nach dem Kontext zu suchen), sodass man weitreichende Abhängigkeiten und kontextuelle Beziehungen zwischen Wörtern erfassen kann. Natürlich ist keine Architektur perfekt. Transformer sind immer noch auf ein Eingabefenster beschränkt, das die maximale Länge des Texts darstellt, den sie zu einem bestimmten Zeitpunkt verarbeiten können.

Seit die Transformer-Architektur im Jahr 2017 eingeführt wurde, ist das Ökosystem rund um die Nutzung von Transformern regelrecht explodiert. Die treffend benannte »Transformers«-Bibliothek und ihre unterstützenden Pakete haben es Praktikern ermöglicht, Modelle zu verwenden, zu trainieren und zu teilen, was die Akzeptanz dieses Modells erheblich beschleunigt hat, sodass es jetzt von Tausenden Organisationen (Tendenz steigend) eingesetzt wird. Beliebte LLM-Repositorys wie Hugging Face sind auf der Bildfläche erschienen und bieten Zugang zu leistungsstarken Open-Source-Modellen für eine breite Nutzerschaft. Kurz gesagt, die Verwendung und das Erzeugen eines Transformers war noch nie so einfach.

Und genau hier kommt dieses Buch ins Spiel.

Ich möchte Ihnen zeigen, wie man alle Arten von LLMs für praktische Anwendungen einsetzt, trainiert und optimiert, wobei Sie genügend Einblicke in die inneren Abläufe des Modells erhalten, damit Sie optimale Entscheidungen in Bezug auf Modellauswahl, Datenformat, Parameter zum Feintuning und vieles mehr treffen können.

Mein Ziel ist es, Transformer für Softwareentwicklerinnen und -entwickler, Data Scientists, Analystinnen und Analysten sowie Nichtfachleute gleichermaßen zugänglich zu machen. Um das zu erreichen, sollten wir auf einem gemeinsamen Niveau beginnen und zunächst etwas mehr über LLMs lernen.

Definition von LLMs

Um nur ein wenig zurückzugehen, sollten wir zuerst über die konkrete NLP-Aufgabe sprechen, für die LLMs und Transformer eingesetzt werden, was die Ausgangsbasis für ihre Fähigkeit bildet, eine Vielzahl von Aufgaben zu lösen. Sprachmodellierung ist ein Teilgebiet der NLP, das sich mit dem Erstellen von statistischen bzw. Deep-Learning-Modellen befasst, um die Wahrscheinlichkeit einer Sequenz von Token in einem bestimmten Vokabular (einem begrenzten und bekannten Satz von Token) vorherzusagen. Im Allgemeinen unterscheidet man zwei Arten von Sprachmodellierungsaufgaben: Autocodierungsaufgaben und autoregressive Aufgaben (siehe Abbildung 1-2).

Ein Token ist die kleinste Einheit mit einer semantischen Bedeutung, die dadurch entsteht, dass ein Satz oder ein Textstück in kleinere Einheiten zerlegt wird. Es ist die grundlegende Eingabe für ein LLM. Token können Wörter sein, aber auch »Teilwörter«, wie wir später in diesem Buch noch genauer sehen werden. Einige Leser sind vielleicht mit dem Begriff »n-Gram« vertraut, der sich auf eine Sequenz von n aufeinanderfolgenden Token bezieht.

Abbildung 1-2: Sowohl beim Autoencoding als auch bei der autoregressiven Sprachmodellierung geht es darum, ein fehlendes Token zu ergänzen, aber nur beim Autoencoding kann der Kontext auf beiden Seiten des fehlenden Tokens gesehen werden.

Autoregressive Sprachmodelle werden so trainiert, dass sie das nächste Token in einem Satz vorhersagen, und zwar nur auf der Grundlage der vorherigen Token in der Phrase. Diese Modelle entsprechen dem Decoder-Teil des Transformer-Modells, wobei eine Maske auf den gesamten Satz angewendet wird, sodass die Attention-Köpfe nur die Token sehen können, die vorher kamen. Autoregressive Modelle sind ideal für die Erzeugung von Text. Ein gutes Beispiel für diesen Modelltyp ist GPT.

Autoencoding-Sprachmodelle werden trainiert, um den ursprünglichen Satz aus einer beschädigten Version der Eingabe zu rekonstruieren. Diese Modelle entsprechen dem Encoder-Teil des Transformer-Modells und haben Zugriff auf die vollständige Eingabe ohne irgendeine Maske. Autoencoding-Modelle erstellen eine bidirektionale Repräsentation des gesamten Satzes. Sie lassen sich an verschiedenste Aufgaben – beispielsweise Texterzeugung – anpassen, aber ihre Hauptanwendung ist die Satz- oder Token-Klassifizierung. Ein typisches Beispiel dieses Modells ist BERT.

Zusammenfassend lässt sich sagen, dass LLMs Sprachmodelle sind, die entweder autoregressiv, autoencodierend oder eine Kombination aus beidem sind. Moderne LLMs basieren in der Regel auf der Transformer-Architektur (die wir in diesem Buch verwenden), können aber auch auf einer anderen Architektur beruhen. Charakteristisch für LLMs ist, dass sie sehr groß sind und mit großen Trainingsdatensätzen arbeiten. Dadurch sind sie in der Lage, komplexe Sprachaufgaben wie Texterzeugung und -klassifizierung mit hoher Genauigkeit und wenig bis gar keinem Feintuning durchzuführen.

Tabelle 1-1 zeigt die Datenträgergröße, den Speicherbedarf, die Anzahl der Parameter und die ungefähre Größe der Vortrainingsdaten für mehrere beliebte LLMs. Diese Angaben sind nur Richtwerte und können je nach der spezifischen Implementierung und der verwendeten Hardware variieren.

Tabelle 1-1: Vergleich beliebter LLMs

Aber Größe ist nicht alles. Schauen wir uns einige der wichtigsten Merkmale von LLMs an und gehen wir dann der Frage nach, wie sie lesen und schreiben lernen.

Hauptmerkmale von LLMs

Die ursprüngliche Transformer-Architektur, wie sie 2017 entwickelt wurde, war ein Sequenz-zu-Sequenz-Modell, d.h., sie bestand aus zwei Hauptkomponenten:

Einem

Encoder

, der die Aufgabe hat, Rohtext zu übernehmen, ihn in seine Kernkomponenten aufzuspalten (mehr dazu später), diese Komponenten in Vektoren zu konvertieren (ähnlich dem Word2vec-Prozess) und Attention zu nutzen, um den Kontext des Texts zu verstehen.

Einem

Decoder

, der für die Generierung von Text prädestiniert ist, indem er eine modifizierte Art von Attention verwendet, um das nächstbeste Token vorherzusagen.

Wie Abbildung 1-3 zeigt, umfasst der Transformer viele andere Unterkomponenten (auf die wir nicht näher eingehen werden), die ein schnelleres Training, Verallgemeinerbarkeit und eine bessere Performance fördern. Die heutigen LLMs sind größtenteils Varianten des ursprünglichen Transformers.

Modelle wie BERT und GPT zerlegen den Transformer in nur einen Encoder oder nur einen Decoder, um Modelle zu erstellen, die beim Verstehen bzw. Generieren brillieren.

Abbildung 1-3: Der ursprüngliche Transformer besteht aus zwei Hauptkomponenten: einem Encoder, der dafür prädestiniert ist, Text zu verstehen, und einem Decoder, der dafür prädestiniert ist, Text zu erzeugen. Die Kombination dieser beiden Komponenten macht das gesamte Modell zu einem »Sequenz-zu-Sequenz-Modell«. (Quelle: Llion Jones, Abdruck mit freundlicher Genehmigung)

Wie schon erwähnt, lassen sich LLMs im Allgemeinen drei Hauptkategorien zuordnen:

Autoregressive Modelle

wie GPT sagen das nächste Token in einem Satz auf der Grundlage der vorherigen Token voraus. Diese LLMs sind effektiv, wenn es darum geht, kohärenten Freitext in einem gegebenen Kontext zu erzeugen.

Abbildung 1-4: Diese Aufschlüsselung der wichtigsten Merkmale von LLMs orientiert sich daran, wie sie von der ursprünglichen Transformer-Architektur abgeleitet wurden.(Quelle: Llion Jones, Abdruck mit freundlicher Genehmigung)

Autoencoding-Modelle

wie BERT erstellen eine bidirektionale Repräsentation eines Satzes, indem sie einige der eingegebenen Token maskieren und versuchen, diese aus den verbleibenden Token vorherzusagen. Diese LLMs sind in der Lage, kontextuelle Beziehungen zwischen Token schnell und in großem Umfang zu erfassen, was sie zum Beispiel zu hervorragenden Kandidaten für Textklassifizierungsaufgaben macht.

Kombinationen

aus autoregressiven und autoencodierenden Modellen wie T5 können den Encoder und den Decoder nutzen, um beim Generieren von Text universeller und flexibler zu sein. Derartige Kombinationsmodelle können gegenüber reinen Decoder-basierten autoregressiven Modellen vielfältigere und kreativere Texte in unterschiedlichen Kontexten generieren, da sie in der Lage sind, mithilfe des Encoders zusätzlichen Kontext zu erfassen.

Abbildung 1-4 zeigt die Aufschlüsselung der Hauptmerkmale von LLMs auf der Grundlage dieser drei Kategorien.

Mehr Kontext, bitte

Unabhängig davon, wie das LLM konstruiert ist und welche Teile des Transformers es verwendet, geht es in allen Fällen um Kontext (siehe Abbildung 1-5). Das Ziel ist es, jedes Token so zu verstehen, wie es sich zu den anderen Token im Eingabetext verhält. Seit der Einführung von Word2vec um das Jahr 2013 herum sind NLP-Praktikerinnen und -Forscher neugierig darauf, wie sich semantische Bedeutung (im Grunde Wortdefinitionen) und Kontext (mit den umgebenden Token) am besten kombinieren lassen, um möglichst aussagekräftige Token-Embeddings zu erstellen. Der Transformer stützt sich auf die Attention-Berechnung, um diese Kombination zu realisieren.

Abbildung 1-5: LLMs sind sehr gut darin, Zusammenhänge zu verstehen. Das Wort »Python« kann je nach Kontext verschiedene Bedeutungen haben. Wir könnten über eine Schlange sprechen oder über eine ziemlich coole Programmiersprache. (Quelle Schlange: Arizzona Design/Shutterstock; Quelle Laptop: RAStudio/Shutterstock)

Es genügt nicht, die Art der gewünschten Transformer-Ableitung zu wählen. Allein die Entscheidung für einen Decoder bedeutet nicht, dass Ihr Transformer auf magische Weise gut im Verstehen von Text wird. Werfen wir also einen Blick darauf, wie diese LLMs tatsächlich lesen und schreiben lernen.

Wie LLMs funktionieren

Die Art und Weise, wie ein LLM vortrainiert und feingetunt wird, macht den Unterschied zwischen einem Modell mit akzeptabler Leistung und einem hochmodernen, hochpräzisen LLM aus. Wir müssen uns kurz ansehen, wie LLMs vortrainiert werden, um zu verstehen, wofür sie prädestiniert sind, worin sie schlecht abschneiden und ob wir sie mit unseren eigenen Daten aktualisieren müssen.

Vortraining

Jedes LLM auf dem Markt ist mit einem großen Korpus von Textdaten und auf spezifische Aufgaben im Zusammenhang mit Sprachmodellierung vortrainiert worden. Während des Vortrainings versucht das LLM, die allgemeine Sprache und die Beziehungen zwischen den Wörtern zu lernen und zu verstehen. Jedes LLM wird auf verschiedene Korpora und für verschiedene Aufgaben trainiert. Zum Beispiel wurde BERT ursprünglich mit zwei öffentlich zugänglichen Textkorpora trainiert (siehe Abbildung 1-6):

English Wikipedia