Training: Wo kommen die Daten her?

Pre-Training vs. Fine-Tuning. Oder: Warum dein KI-Assistent Chinesisch kann, aber nicht kochen.

Mal ehrlich.

Wenn du mit einer KI sprichst — mit wem sprichst du eigentlich?

Ich meine nicht die Firma dahinter. Sondern: Wessen Worte, wessen Wissen, wessen Weltbild wird da gerade reproduziert?

Die Antwort ist seltsam einfach.

Zwei Akte des Lernens

Jedes LLM durchläuft zwei sehr unterschiedliche Lernphasen.

Akt 1: Pre-Training — Der Feuerwehrschlauch

Pre-Training bedeutet: Die KI liest das gesamte Internet. Nicht metaphorisch. Wirklich.

Hunderte Milliarden Tokens — Wörter, Code, Mathe, Wikipedia, Reddit, Fan-Fiction, wissenschaftliche Paper, GitHub-Repos, Blog-Kommentare, PDFs von Uni-Servern, alte Usenet-Posts.
Massive Rechenleistung — Wochen oder Monate auf Tausenden GPUs, 24/7.
Unüberwachtes Lernen — keine Lehrerin, keine Labels. Das Modell lernt einfach, das nächste Wort vorherzusagen. Immer und immer wieder. Bis es Struktur, Grammatik, Fakten, Argumentationsmuster versteht.

Hier lernt das Modell Sprache und Weltwissen. Es liest alles, was wir je öffentlich geschrieben haben — inklusive des Mülls.

Das Ergebnis: Ein Modell, das ein Gespräch führen, Code schreiben, über Philosophie diskutieren und Fakten aufsagen kann. Aber auch eines, das jeden Bias, jedes Klischee, jede Verschwörungstheorie des offenen Netzes absorbiert hat.

Die soziologische Pause: Pre-Training trainiert auf dem, was online existiert. Nicht auf dem, was existieren sollte. Nicht auf dem, was wahr ist. Sondern auf dem, was da ist. Und das Internet ist keine Bibliothek. Es ist eine Stadt. Eine Stadt wie Gotham. Mit Bibliothek, Universität, Marktplatz, Protestzelt, viel Lärm und viel ungetrenntem Problemmüll.

Akt 2: Fine-Tuning — Die Nachhilfe

Rohe Pre-Training-Modelle sind nicht sicher. Sie sagen alles. Wirklich alles. Sie sind mysogyn, rassistisch, sexistisch, gemein oder einfach unbrauchbar im Gespräch.

Hier kommt Fine-Tuning ins Spiel.

Fine-Tuning ist überwachtes Lernen — ein Mensch (oder viele Menschen) zeigt dem Modell: „Diese Antwort ist gut. Diese ist schlecht. Mach mehr von der ersten Sorte."

Instruction Tuning: Dem Modell beibringen, Anweisungen zu folgen (statt nur Text fortzusetzen).
RLHF (Reinforcement Learning from Human Feedback): Menschen bewerten Antworten. Das Modell lernt, was wir bevorzugen.
Safety Tuning: Explizites Training, um schädliche Anfragen abzulehnen.

Diese Phase macht aus einem ungezügelten Orakel einen hilfreichen Assistenten.

Die soziologische Pause: Fine-Tuning bedeutet: Menschen entscheiden, was „gut" ist. Welche Menschen? Wo sitzen sie? Welche kulturellen Normen tragen sie in sich? Das ist keine technische Frage. Es ist eine Machtfrage. Und es ist die eherne soziologische Frage nach der sozialen Ungleichheit: global clickworker exploitation, um nur einen problematischen Aspekt zu benennen.

Warum dich das betrifft

Wenn du ChatGPT, Claude, Gemini oder ein anderes Modell nutzt, interagierst du mit der fine-getunten Version. Du begegnest niemals dem Rohmodell — und das ist gut so?!?!

Aber das Rohmodell steckt immer noch drin. Jeder Bias aus dem Pre-Training ist irgendwo in seinen Gewichten vergraben — komprimiert, destilliert, nicht gelöscht. Fine-Tuning reduziert schädliche Ausgaben, aber es löscht kein Wissen.

Deshalb fühlt sich KI manchmal schizophren an: Sie weiß alles, aber wurde darauf trainiert, dir nur das zu sagen, wofür du – aus wessen Sicht(?) eigentlich – bereit bist.

Was ich heute gelernt habe

Pre-Training ist die Kindheit des Modells — alles aufsaugen. Fine-Tuning ist seine Erziehung — Manieren lernen. Das gelingt bedingt, sehr bedingt. Good news: Mit jeder Anfrage, jeder guten Anfrage und jedem Hinweis auf Toxisches trainierst Du die Modelle vielleicht ein wenig mit zum besseren.

Das Internet war noch nie und wird auch niemals eine neutrale Quelle. Und Fine-Tuning ist auch nicht neutral. Beides sind menschliche Entscheidungen, in Maschinengewichte geschrieben. Als Nutzer sollten wir wissen, wer sie geschrieben und Inhalte gewichtet hat.

Weiterlesen

Wer tiefer in die soziologische Seite der Daten und des Trainings eintauchen will:

Ruha Benjamin — The New Jim Code — Wie algorithmische Systeme rassistische Ungleichheit reproduzieren, oft unter dem Deckmantel der Neutralität.
Cathy O''Neil — Weapons of Math Destruction — Wie Big Data Ungleichheit vergrößert und Demokratie gefährdet — eine mathematische Waffenlehre.
Tad Williams — Otherland — Ein Roman, der lange vor ChatGPT eine Welt virtueller Netzwerke entwirft, in denen Wissen, Macht und Identität zur Verhandlungsmasse werden. Science-Fiction als soziologisches Gedankenexperiment.
E. M. Forster — Die Maschine steht still — Eine Kurzgeschichte von 1909 (!) über eine Menschheit, die in unterirdischen Zellen lebt und von einer allwissenden Maschine versorgt wird — bis diese versagt. Prophetisch, beklemmend, kurz. Pflichtlektüre.

Diskutiere diesen Text, seine Begriffe oder Denker:innen mit Sociologica. Dialektisch (Lesart + Gegen-Lesart), mit Leitfrage zurück an dich.

Diskussion starten

Try It Now (5 Minuten)

1. Wenn du Ollama installiert hast: Hol dir ein rohes Modell, das nicht auf Befehlsbefolgung getunt ist: ollama run llama3.2:1b-text-q4_K_M. Beobachte, wie es Text fortsetzt statt Fragen zu beantworten.
2. Kein Ollama? Geh zu Hugging Face, such ein Model Card mit dem Hinweis „base model" oder „pretrained only." Vergleiche die Beispiele mit der „instruct"-Version. Spür den Unterschied.

Day 10
Day 12