KI-Grundlagen
Knowledge Lounge
Das Vokabular und die mentalen Modelle, um KI-Gesprächen zu folgen, bessere Fragen zu stellen und Signal von Rauschen zu trennen.
Was KI tatsächlich ist
Nutze die Pfeile, um durch die vier Folien zu blättern.
Software, die lernt
Klassische Software folgt Regeln, die eine Programmiererin geschrieben hat. Macht eine Nutzerin X, macht das Programm Y. KI funktioniert anders: Statt Regeln gibst du ihr Beispiele. Das Modell passt sich an, bis es das richtige Ergebnis besser vorhersagt. Niemand schreibt eine Regel für jeden Fall. Die Regeln entstehen aus den Daten.
Was „Lernen“ hier bedeutet
Wenn ein Modell lernt, passt es Milliarden interner Zahlenwerte an, die Parameter genannt werden. Jede Anpassung ist eine winzige Reaktion darauf, falschgelegen zu haben. Über Millionen Beispiele hinweg wird das Modell so nach und nach besser. Es gibt keine Einsicht, kein Verstehen, keinen Moment der Erkenntnis. Nur Arithmetik, in gewaltigem Maßstab.
Nicht die Roboter aus den Filmen
KI ist kein denkender Akteur mit Zielen und Absichten. Sie ist eine Funktion: Etwas geht hinein, etwas kommt heraus. Ein Sprachmodell versteht nicht, was du schreibst. Es sagt vorher, was als Nächstes kommen sollte, basierend auf Mustern, die es im Training aufgenommen hat. Dieser Unterschied zählt in dem Moment, in dem etwas schiefgeht.
Schwach, nicht stark
Jedes KI-System, das heute existiert, ist schwache KI: Es beherrscht eine Art von Aufgabe gut. ChatGPT erzeugt Text. Midjourney erzeugt Bilder. AlphaFold sagt Proteinstrukturen vorher. Was sie gemeinsam haben: Jedes wurde auf spezifischen Daten für eine spezifische Aufgabe trainiert. Starke KI, die Art aus Science-Fiction, existiert nicht.
Wie Sprachmodelle funktionieren
Nutze die Pfeile, um durch die vier Folien zu blättern.
Tokens, keine Wörter
Sprachmodelle verarbeiten keine Wörter. Sie verarbeiten Tokens: Textfragmente, ungefähr in der Größe einer Silbe oder eines kurzen Worts. Aus dem Wort „Verständnis“ wird so etwas wie „Ver“, „ständ“, „nis“. Das Modell sieht eine Folge dieser Fragmente, nicht Sätze so, wie du sie liest.
Das Spiel um das nächste Token
Ein Sprachmodell tut eine Sache: Es sagt das nächste Token vorher. Ausgehend von allem bisher Gesagten weist es jedem möglichen nächsten Token eine Wahrscheinlichkeit zu und wählt eines aus. Dann tut es das erneut. Und wieder. Was sich wie ein Gespräch anfühlt, ist eine sehr schnelle, sehr lange Folge dieser Vorhersagen.
Wo das Wissen wohnt
Das Wissen eines Sprachmodells ist in seinen Parametern kodiert: Milliarden numerischer Gewichte, angepasst während des Trainings. Es gibt keine Datenbank, die durchsucht wird. Es läuft kein Faktenchecker im Hintergrund. Beantwortet ein Modell eine Frage, rekonstruiert es eine Antwort aus gelernten Verteilungen. Deshalb ist Halluzination kein Fehler, der behoben werden kann. Sie ist ein strukturelles Merkmal davon, wie diese Systeme funktionieren.
Sprachgewandtheit ist nicht Genauigkeit
Ein Sprachmodell optimiert darauf, dass das nächste Token angesichts von allem Vorherigen wahrscheinlich ist. Das erzeugt Text, der natürlich und kohärent klingt. Es garantiert nicht, dass der Inhalt wahr ist. Die Lücke zwischen Sprachgewandtheit und Genauigkeit ist das Wichtigste, was man bei der Nutzung dieser Systeme im Kopf behalten sollte.
Wie KI-Modelle entstehen
Vier Begriffe, die in der KI-Berichterstattung ständig auftauchen. Klicke jeden an, um den Unterschied zu verstehen.
Wie KI-Modelle entstehen
Ein Basismodell wird auf einem gewaltigen Datensatz trainiert: einem großen Teil des öffentlichen Internets, dazu Bücher, Code und weitere Texte. Das Modell sieht ein Token, sagt das nächste vorher, bekommt Feedback, ob es richtiglag, und passt sich an. Über Milliarden Beispiele hinweg konvergieren die Parameter allmählich. Das Training eines Spitzenmodells kostet zig Millionen Dollar und dauert Monate. Es passiert einmal.
Fine-Tuning nimmt ein trainiertes Basismodell und trainiert es auf einem kleineren, spezifischeren Datensatz weiter. Das formt sein Verhalten: hilfreicher, stärker auf eine Domäne fokussiert oder an bestimmten Richtlinien ausgerichtet. GPT, Claude und Gemini sind alles feingetunte Versionen von Basismodellen. Fine-Tuning ist viel günstiger als Training von Grund auf, aber das Basismodell muss bereits existieren.
Reinforcement Learning from Human Feedback, Verstärkungslernen aus menschlichem Feedback. Nach dem ersten Training bewerten Menschen Modellausgaben: diese Antwort ist besser als jene. Das Modell wird dann trainiert, Antworten zu erzeugen, die Menschen bevorzugen. So werden aus rohen Sprachmodellen Assistenten. Hier werden auch Werte und Leitplanken verankert, was diesen Schritt zu einem der folgenreichsten im gesamten Prozess macht.
Inferenz ist, wenn das Modell läuft: Du schickst einen Prompt, es erzeugt eine Antwort. Während der Inferenz findet kein Lernen statt. Die Parameter des Modells sind fest. Damit interagierst du jedes Mal, wenn du ein Sprachmodell nutzt. Inferenz kostet deutlich weniger als Training, bleibt aber bei Milliarden Anfragen pro Tag im großen Maßstab bedeutsam.
Kontext, Gedächtnis und Grenzen
Nutze die Pfeile, um durch die vier Folien zu blättern.
Das Kontextfenster
Jedes Sprachmodell hat ein Kontextfenster: die maximale Textmenge, die es gleichzeitig sehen kann. Alles außerhalb des Fensters existiert für das Modell nicht. Es kann sich nicht daran erinnern, nicht darauf verweisen, nicht darüber nachdenken. Das Kontextfenster ist kein Arbeitsspeicher. Es ist eher wie ein Whiteboard mit einer harten Größenbegrenzung.
Gedächtnis ist das falsche Wort
Wenn ein Modell sich an etwas aus einem früheren Teil eines Gesprächs zu erinnern scheint, liegt das daran, dass dieser frühere Text noch im Kontextfenster steht. Wird das Gespräch zu lang, oder startest du eine neue Sitzung, ist dieser Text weg. Das Modell hat standardmäßig kein dauerhaftes Gedächtnis. Es kennt dich nicht vom letzten Mal.
Was das in der Praxis begrenzt
Ein Modell kann kein ganzes Buch in einem Durchgang lesen. Es kann nicht über ein ganzes Jahr E-Mails nachdenken. Es kann ohne externen Speicher kein Projekt über Wochen hinweg verfolgen. Jeder KI-Assistent, der Gedächtnis zu haben scheint, nutzt etwas anderes: eine Datenbank, eine Zusammenfassungs-Pipeline oder ein Retrieval-System. Das Modell selbst vergisst in dem Moment, in dem sich das Fenster schließt.
Kontextlängen wachsen schnell
Frühe GPT-Modelle hatten Kontextfenster von 4.000 Tokens, ungefähr ein paar Seiten. Heute unterstützen Claude und Gemini eine Million Tokens und mehr. Größere Kontextfenster beseitigen das Gedächtnisproblem nicht vollständig, verschieben die Grenze aber deutlich nach außen. Was mit einem Fenster von einer Million Tokens möglich ist, unterscheidet sich grundlegend davon, was vor zwei Jahren möglich war.
Modelle und die Menschen, die sie bauen
Was weißt du eigentlich über jedes davon? Dreh um, um es herauszufinden.
Modelle und die Menschen, die sie bauen
Wer baut die Modelle, mit denen du interagierst?
↻ AufdeckenDie wichtigsten Labore. OpenAI (GPT), Anthropic (Claude), Google (Gemini), Meta (Llama, Open Source), Mistral (Open Source, europäisch). Jedes verfolgt einen anderen Ansatz bei Offenheit, Sicherheit und Einsatz.
Was ist der Unterschied zwischen Open-Source- und geschlossenen Modellen?
↻ AufdeckenKontrolle und Infrastruktur. Geschlossene Modelle (GPT, Claude, Gemini) laufen auf den Servern des Anbieters, Zugriff per API. Open-Source-Modelle (Llama, Mistral) lassen sich herunterladen und lokal betreiben. Open Source ermöglicht volle Kontrolle, braucht aber Infrastruktur.
Was ist ein Foundation Model?
↻ AufdeckenEin trainierter Ausgangspunkt. Ein großes Basismodell, trainiert auf breiten Daten, fähig zu vielen Aufgaben. GPT, Claude und Gemini sind alles Foundation Models. Sie dienen als Grundlage für spezialisiertere Anwendungen per Fine-Tuning.
Was misst „Modellgröße“ eigentlich?
↻ AufdeckenParameter. Modellgröße wird in Parametern gemessen: den numerischen Gewichten, die während des Trainings angepasst werden. GPT-3 hatte 175 Milliarden. Größere Modelle performen im Allgemeinen besser, kosten aber mehr im Betrieb. Qualität der Trainingsdaten und Fine-Tuning zählen genauso viel wie die reine Größe.
Was nach dem Chat kommt
Der Wandel vom Chatbot zum Agenten ist die folgenreichste Veränderung, die sich gerade im Einsatz von KI vollzieht. Klicke jedes Konzept an, um es zu verstehen.
Was nach dem Chat kommt
Ein Prompt ist die Eingabe, die du einem Modell gibst: eine Frage, eine Anweisung oder ein Kontext. Prompting ist sowohl der Akt, das zu tun, als auch eine wachsende Disziplin, es gut zu tun. Dasselbe Modell kann sehr unterschiedliche Ausgaben erzeugen, je nachdem, wie der Prompt strukturiert ist. Deshalb wurde Prompt Engineering zu einer Berufsbezeichnung, und deshalb wird es wahrscheinlich aufhören, eine zu sein, sobald Modelle besser darin werden, Absicht zu interpretieren.
Sprachmodelle können mit externen Werkzeugen verbunden werden: einer Websuche, einem Taschenrechner, einem Code-Interpreter, einer Datenbank. Nutzt ein Modell ein Werkzeug, erzeugt es eine Anweisung, das Werkzeug führt sie aus, und das Ergebnis kommt zurück ins Kontextfenster. Das Modell antwortet unter Nutzung des Ergebnisses. Das erweitert erheblich, was Modelle können, über das Erzeugen von Text aus dem Gedächtnis hinaus.
Ein Agent ist ein Modell, das ein Ziel entgegennimmt, es in Schritte zerlegt und diese Schritte autonom mit verfügbaren Werkzeugen ausführt, manchmal unter Aufruf anderer Modelle. Agenten warten nicht darauf, dass ein Mensch jeden Schritt genehmigt. Sie planen, handeln, prüfen Ergebnisse und passen an. Das ist die dominierende Richtung der KI-Entwicklung in 2025 und 2026.
Ist KI autonom, ändern sich die Fehlerarten. Ein Chatbot gibt eine schlechte Antwort. Ein Agent führt eine falsche Aktion aus. Der Unterschied zwischen falsch antworten und falsch handeln ist erheblich. Zu verstehen, was Agenten schon zuverlässig können und was nicht, ist gerade das praktisch relevanteste Wissen für alle, die mit oder in der Nähe von KI-Systemen arbeiten.
Ein Nugget, eine Idee: Wende sie heute noch einmal an. Wissen wird erst durch Wiederholung zu Können.