Ein angestrahlter Computerschrank wirft das schemenhafte Gesicht einer Frau an eine Wand.

Woher diese Sprache kommt

Die Geschichte beginnt lange vor heutigen Chatbots. Warren McCulloch und Walter Pitts beschrieben 1943 ein mathematisches Modell für Nervennetze. Dafür reduzierten sie Nervenzellen auf stark vereinfachte Schaltelemente, die sich mit Logik beschreiben ließen. Das war keine digitale Nachbildung eines Gehirns. Es war eine von der Biologie inspirierte Rechenidee. [1]

Frank Rosenblatt griff diese Verbindung von Biologie und Rechentechnik in den 1950er-Jahren mit dem Perzeptron auf. Sein Fachartikel von 1958 beschrieb es als ein Modell für die Speicherung und Organisation von Informationen im Gehirn und sprach ausdrücklich von Lernkurven. Begriffe wie Wahrnehmen, Erkennen und Lernen gehörten damit zur fachlichen Beschreibung eines technischen Modells. Sie waren keine Behauptung, die Maschine besitze menschliche Erfahrungen oder ein eigenes Innenleben. [2]

Außerhalb dieses Fachrahmens bekamen dieselben Wörter schnell eine zusätzliche Bedeutung. Bei der öffentlichen Vorstellung des Perzeptrons im Juli 1958 sprach Rosenblatt von einer Maschine mit einer „eigenen Idee“. Die New York Times schrieb, sie lerne durch Handeln und werde dabei klüger. Aus einer technischen Beschreibung wurde so eine Erzählung über menschenähnliche Fähigkeiten. Das Problem lag nicht in den Fachbegriffen selbst, sondern darin, dass ihre alltägliche Bedeutung ungeprüft auf die Maschine übertragen wurde. [3]

Joseph Weizenbaums Programm ELIZA zeigte bereits 1966, wie schnell die technische Fachbedeutung im Gespräch von einer menschlichen Deutung überlagert wird. ELIZA suchte in Eingaben nach Schlüsselwörtern und formte daraus passende Rückfragen. Trotzdem schrieben Menschen dem Programm Verständnis und Einfühlungsvermögen zu. Weizenbaum erklärte, dass die Gesprächspartner selbst das fehlende Wissen und die vermeintliche Einsicht ergänzten. [8]

Als Fachsprache sind solche biologischen Vergleiche nützlich. Sie geben einer neuen technischen Idee einen verständlichen Namen und zeigen, woher sie stammt. Der Vergleich beschreibt aber keine vollständige Gleichheit. Ein künstliches Neuron ist keine Nervenzelle, und maschinelles Lernen ist nicht derselbe Vorgang wie menschliches Lernen. Die Fachbegriffe bleiben sinnvoll, solange wir ihre technische Bedeutung von der vertrauten Alltagsbedeutung unterscheiden. [1] [2]

Moderne Sprachmodelle sind keine bloß vergrößerten Perzeptrons. Sie gehören aber weiterhin zur technischen Familie der künstlichen neuronalen Netze. Auch sie verarbeiten Informationen in miteinander verbundenen Recheneinheiten, deren Gewichte beim Training angepasst werden. Die Verfahren und Größenordnungen haben sich grundlegend verändert, doch Begriffe wie Neuron, Netz, Gewicht und Lernen sind aus dieser Entwicklung erhalten geblieben. [1] [2] [4]

Später kamen weitere Begriffe hinzu. Der Transformer, auf dem heutige Sprachmodelle beruhen, verwendet „Attention“ als Namen für eine genau definierte Gewichtungsrechnung. Die Software um das Modell speichert Kontext und wird deshalb mit „Memory“ beschrieben. Führt ein solches System selbstständig mehrere Schritte und Softwareaufrufe aus, sprechen wir von einem „Agenten“. So verbindet die heutige Fachsprache ältere biologische Vergleiche mit neueren Bezeichnungen für konkrete technische Funktionen. [5] [6] [7]

Was diese Wörter heute bedeuten

Neuron

Ein künstliches Neuron ist eine Recheneinheit innerhalb eines Netzes. Es verarbeitet Zahlen aus anderen Einheiten, gewichtet sie und gibt ein berechnetes Ergebnis weiter. Der Name verweist auf die biologische Inspiration, macht diese Recheneinheit aber nicht zu einer kleinen Gehirnzelle. [1]

Lernen

Wenn Fachleute sagen, dass ein Modell lernt, meinen sie einen technischen Vorgang: Während des Trainings werden seine Parameter verändert. Dazu gehören die Gewichte, die das Verhalten des Modells bestimmen. Durch diese Anpassungen bildet das Modell Muster aus den Trainingsdaten ab. Der Fachbegriff beschreibt damit eine messbare Veränderung des Modells. Er behauptet nicht, dass die Software Erfahrungen sammelt oder ihre Fehler wie ein Mensch versteht. [4]

Gedächtnis

Auch „Gedächtnis“ bezeichnet in der Informatik nicht eine einzige Fähigkeit. Gemeint sein können die im Modell gespeicherten Gewichte, der aktuelle Gesprächskontext oder Informationen in einer externen Datenbank. Eine Chatsoftware kann frühere Nachrichten speichern und bei der nächsten Anfrage erneut an das Modell schicken. Das wirkt wie eine Erinnerung, ist technisch aber ein neuer Modellaufruf mit erneut bereitgestellten Informationen. Der Fachbegriff bleibt nützlich, solange erkennbar ist, welche Form von Speicher gemeint ist. [5]

Attention

„Attention“, auf Deutsch Aufmerksamkeit, bezeichnet ebenfalls einen konkreten Rechenvorgang. Ein Transformer berechnet damit, welche Teile der Eingabe für den aktuellen Schritt stärker gewichtet werden. Das Wort beschreibt also, wie Informationen rechnerisch ausgewählt und miteinander verbunden werden. Es behauptet nicht, dass das Modell sich bewusst konzentriert oder etwas aus eigenem Interesse wichtig findet. [6]

Reasoning / Denken

„Reasoning“ kann erzeugte Zwischenschritte, die Zerlegung einer Aufgabe oder besondere Verfahren für mehrstufige Aufgaben bezeichnen. Sichtbare „Gedanken“ oder „Denkprotokolle“ sind dabei selbst erzeugter Text. Sie können den Lösungsweg verständlicher machen, bilden aber nicht vollständig ab, was im Modell berechnet wurde. Der Begriff bezeichnet deshalb ein technisches Verfahren oder eine Ausgabeform, kein bewusstes Nachdenken. [10]

Halluzination

Als „Halluzination“ bezeichnet man eine plausibel klingende, aber falsche oder nicht belegte Ausgabe. Das Wort beschreibt einen Fehler des erzeugten Inhalts. Es bedeutet nicht, dass das Modell etwas wahrnimmt, das nicht existiert. Das US-amerikanische NIST weist deshalb darauf hin, dass der Begriff die Software vermenschlichen kann, und verwendet stattdessen „Konfabulation“. [11]

Entscheidung

Wenn ein System „entscheidet“, wählt es anhand seiner Eingaben, berechneten Werte und vorgegebenen Regeln eine Ausgabe oder Aktion aus. Diese Auswahl kann reale Folgen haben. Der Fachbegriff behauptet aber nicht, dass das System moralisch abwägt oder für die Folgen verantwortlich ist. [7] [12]

Tool / Werkzeug

Ein Tool oder Werkzeug ist eine Funktion, ein Programm oder ein Dienst, den ein Agentensystem aufrufen kann. Das Modell kann einen solchen Aufruf in seiner Ausgabe anfordern. Ausgeführt wird er von der steuernden Software. Das Ergebnis wird anschließend für den nächsten Modellaufruf bereitgestellt. [7] [9]

Harness

Als Harness bezeichnet man die steuernde Software um ein Modell. Sie stellt Anfragen zusammen, speichert Zustände, startet Modellaufrufe, verarbeitet die Ausgaben und führt angeforderte Werkzeuge aus. Das Modell erzeugt Ausgaben; das Harness macht daraus einen fortlaufenden technischen Ablauf. [9]

Agent

Auch „Agent“ ist zunächst ein technischer Funktionsbegriff. Bei heutigen LLM-Systemen bezeichnet er das Zusammenspiel aus Modell, steuernder Software, gespeichertem Kontext, angebundener Software und vergebenen Zugriffsrechten. Ein solches System kann innerhalb dieser Vorgaben selbstständig mehrere Schritte ausführen. „Selbstständig“ bedeutet hier, dass nicht jeder einzelne Schritt von einem Menschen ausgelöst werden muss. Es bedeutet nicht, dass der Agent eigene Ziele oder einen eigenen Willen besitzt. [7]

Autonomie

„Autonom“ oder „selbstständig“ beschreibt, wie viele Schritte ein System ohne einzelne menschliche Bestätigung ausführen kann. Dieser Handlungsspielraum entsteht durch das Harness, die verfügbaren Werkzeuge und die vergebenen Berechtigungen. Mehr Autonomie bedeutet daher mehr technischen Spielraum, nicht eigene Ziele oder Unabhängigkeit von der bereitgestellten Infrastruktur. [7] [12]

Warum wir heute so leicht durcheinanderkommen

Diese Wörter sind über Jahrzehnte als technische Fachsprache entstanden. Heute begegnen sie uns jedoch häufig außerhalb ihres Fachrahmens. Chatbots sprechen in der Ich-Form, tragen Namen und antworten mit menschlich klingenden Stimmen. Produkttexte erzählen von Systemen, die denken, lernen und selbstständig handeln. Dadurch hören wir nicht mehr nur die technische Bedeutung, sondern automatisch auch die vertraute menschliche Bedeutung der Wörter. [13] [14]

Für die folgenden Artikel behalten wir die Fachbegriffe bei. Wir fragen aber immer, welchen konkreten technischen Vorgang sie gerade bezeichnen. So können wir darüber sprechen, was ein System tatsächlich berechnet, speichert oder ausführt, ohne ihm deshalb Gefühle, Absichten oder Verantwortung zuzuschreiben. Seine realen Fähigkeiten und Risiken werden dadurch nicht kleiner. Sie werden lediglich genauer beschrieben.

Im nächsten Kapitel

Als Nächstes geht es um das Rechnen selbst: Eine GPU kann die vielen gleichartigen Berechnungen eines LLM schneller ausführen als eine CPU, obwohl sie nicht für jede Aufgabe schneller ist.

Nächster Artikel →

Deeper into the Rabbit Hole

Wenn du tiefer einsteigen möchtest, führen diese Texte und Videos die wichtigsten Linien weiter:

Texte

Videos

Quellen

  1. Warren S. McCulloch und Walter Pitts: A Logical Calculus of the Ideas Immanent in Nervous Activity, 1943.
  2. Frank Rosenblatt: The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain, 1958.
  3. Melanie Lefkowitz, Cornell Chronicle: Professor’s Perceptron Paved the Way for AI – 60 Years Too Soon, 2019.
  4. Google for Developers: Machine Learning Glossary — parameter.
  5. Anthropic: Context windows.
  6. Ashish Vaswani et al.: Attention Is All You Need, 2017.
  7. Anna Gutowska, IBM: What Are AI Agents?.
  8. Joseph Weizenbaum: ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine, 1966.
  9. OpenAI: Hugging Face Incident Technical Report, 2026.
  10. Fabien Roger et al.: Let’s Think Dot by Dot: Hidden Computation in Transformer Language Models, 2024.
  11. NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
  12. High-Level Expert Group on AI: Requirements of Trustworthy AI, 2019.
  13. Gavin Abercrombie et al.: Mirages. On Anthropomorphism in Dialogue Systems, 2023.
  14. Michelle Cohn et al.: Believing Anthropomorphism: Examining the Role of Anthropomorphic Cues on Trust in Large Language Models, 2024.