LLMs verstehen
Eine fortlaufende Reihe darüber, wie Sprachmodelle funktionieren, welche Technik dahintersteckt und wo anschauliche Begriffe in die Irre führen können.
Kapitel 01
Wie funktioniert ein LLM?
Training, Texterzeugung und der Weg vom Modell zum Agenten.
Kapitel 02
Warum sprechen wir über KI, als wäre sie ein Mensch?
Warum technische Begriffe schnell menschlicher klingen, als die Vorgänge dahinter sind.
Kapitel 03
Warum ist die GPU schneller als die CPU?
Viele ähnliche Rechnungen gleichzeitig und die Grenzen dieses Vorteils.
Kapitel 04
Warum braucht ein LLM so viel Speicher?
Gewichte, Arbeitsdaten und der mit dem Text wachsende KV-Cache.
Kapitel 05
Was ist Quantisierung?
Wie angenäherte Gewichte Speicher sparen und was sich dadurch ändern kann.
Kapitel 06
Was bedeutet die Größe eines Modells?
Was die Zahl der Parameter zeigt – und warum sie kein Qualitätsurteil ist.
Kapitel 07
Was ist ein Kontextfenster?
Wie sich ein Gespräch aufbaut und was Compaction und Session Handoff erhalten sollen.
Kapitel 08
Ist dem LLM kalt? Temperature und andere Regler für die Textausgabe
Wie Temperature, Top-p, Top-k und Min-p die nächste Fortsetzung auswählen.
Kapitel 09
Warum halluziniert ein LLM?
Warum plausible falsche Aussagen entstehen und was der Begriff „Halluzination“ verdeckt.
Kapitel 10
Was sind Embeddings und RAG?
Passende Textstellen finden und als Kontext für die Antwort bereitstellen.
Kapitel 11
Prompting, RAG oder Fine-Tuning?
Demnächst
Kapitel 12
Was ist ein Mixture-of-Experts-Modell?
Demnächst
Kapitel 13
Kann man LLM-Benchmarks vertrauen?
Demnächst
Kapitel 14
Lokal oder über eine API?
Demnächst
1 / 14
My two cents zum OpenAI-/Hugging-Face-Incident
Eine Einordnung des Angriffs auf Hugging Face: über vergebene Zugriffsrechte, fehlende technische Grenzen, unzureichende Überwachung und die Verantwortung der Betreiber.