Edelhack

Die Webseite wird überarbeitet.

Edelhack

  1. LLMs verstehen

    Eine fortlaufende Reihe darüber, wie Sprachmodelle funktionieren, welche Technik dahintersteckt und wo anschauliche Begriffe in die Irre führen können.

    Kapitel 01

    Wie funktioniert ein LLM?

    Training, Texterzeugung und der Weg vom Modell zum Agenten.

    Kapitel 02

    Warum sprechen wir über KI, als wäre sie ein Mensch?

    Warum technische Begriffe schnell menschlicher klingen, als die Vorgänge dahinter sind.

    Kapitel 03

    Warum ist die GPU schneller als die CPU?

    Viele ähnliche Rechnungen gleichzeitig und die Grenzen dieses Vorteils.

    Kapitel 04

    Warum braucht ein LLM so viel Speicher?

    Gewichte, Arbeitsdaten und der mit dem Text wachsende KV-Cache.

    Kapitel 05

    Was ist Quantisierung?

    Wie angenäherte Gewichte Speicher sparen und was sich dadurch ändern kann.

    Kapitel 06

    Was bedeutet die Größe eines Modells?

    Demnächst

    Kapitel 07

    Was ist ein Kontextfenster?

    Demnächst

    Kapitel 08

    Was bewirken Temperature und Top-p?

    Demnächst

    Kapitel 09

    Warum macht ein LLM falsche Aussagen?

    Demnächst

    Kapitel 10

    Was sind Embeddings und RAG?

    Demnächst

    Kapitel 11

    Prompting, RAG oder Fine-Tuning?

    Demnächst

    Kapitel 12

    Was ist ein Mixture-of-Experts-Modell?

    Demnächst

    Kapitel 13

    Kann man LLM-Benchmarks vertrauen?

    Demnächst

    Kapitel 14

    Lokal oder über eine API?

    Demnächst

    1 / 14