Es war eigentlich nur als Vorbereitung gedacht; ein solides Fundament legen, bevor das eigentliche Forschungsprojekt beginnt.

Mein Plan war einfach. Ich wollte lesen und verstehen, wie Sprachmodelle grundsätzlich funktionieren. Dann die Methodik entwickeln und mit der eigentlichen Forschungsarbeit beginnen. So jedenfalls hatte ich mir das vorgestellt.

Doch kaum hatte ich angefangen zu lesen, war es wie ein Sog.

Aus einem Artikel wurden drei. Aus drei wurden Bücher, wissenschaftliche Veröffentlichungen und Vorträge. Ich las über Machine Learning und Deep Learning, über neuronale Netze, Trainingsdaten und Wahrscheinlichkeiten, über Prompt Engineering und die Architektur großer Sprachmodelle.

Mit jeder Antwort entstanden neue Fragen. Und irgendwann merkte ich, dass ich längst nicht mehr las, weil ich musste. Ich las, weil ich verstehen wollte. Diese Vorbereitungsphase hat deutlich mehr Zeit in Anspruch genommen als geplant. Und ich bereue keine Minute davon.

Denn eines wurde mir schnell klar: Wer ernsthaft mit KI forschen will – und das tue ich – muss verstehen, womit man es zu tun hat. Nicht oberflächlich, nicht schlagwortartig, sondern wirklich.

Nur so wird am Ende mein Projekt auch wissenschaftlichen Standards gerecht werden. Dieser Beitrag ist das Ergebnis einer  faszinierenden Reise in eine Welt, die mich vollkommen in ihren Bann gezogen hat.

Chatbots sind längst Teil unseres Alltags.

Viele von uns nutzen sie regelmäßig – beruflich oder privat. Trotzdem wissen die wenigsten, wie diese Systeme eigentlich funktionieren. Faszinierend ist die Anwendung auf jeden Fall! Das Computerprogramm ist in der Lage mit Menschen zu kommunizieren. Und das auf eine Weise, die vielleicht vergessen lässt, dass so ein Dialog tatsächlich eine reine Mensch-Maschine-Interaktion ist.

Schon vor meinem geplanten Projekt hatte ich mich mit dieser Technologie näher befasst. Anfangs stellte ich ganz einfache Testfragen. Nicht aus wissenschaftlichem Interesse, sondern aus Neugier. Was kann so ein Sprachmodell eigentlich? Kann es tatsächlich mehr, als E-Mails formulieren oder Texte zusammenfassen?

Wo liegen seine Grenzen?

An diesem Punkt stellte ich mir eine Frage, die zunächst erstaunlich einfach klang: Was ist Künstliche Intelligenz eigentlich – und was ist sie nicht?

Schon nach kurzer Zeit wurde mir klar, dass ich einem weit verbreiteten Irrtum aufgesessen war. Ich hatte unbewusst angenommen, ein Sprachmodell verfüge über eine Art digitales Wissen. Tatsächlich ist das nicht der Fall.

Ein Sprachmodell versteht auch nichts im menschlichen Sinn. Es besitzt weder Bewusstsein noch Erfahrungen. Es kennt keine Wahrheit. Und trotzdem entstehen Antworten, die erstaunlich präzise wirken.

Gerade deshalb wurde mir klar, wie wichtig diese Vorbereitungsphase für mein Forschungsprojekt ist. Wer Sprachmodelle untersuchen und bewerten möchte, sollte zunächst verstehen, wie sie arbeiten. Sonst bewertet man leicht das, was man glaubt zu sehen – und nicht das, was tatsächlich geschieht.

Je mehr ich lernte, desto spannender wurde für mich die zugrundeliegende Technologie.

Was mich dabei am meisten faszinierte, war die Erkenntnis, dass hinter all dem ein rein mathematisches, statistisches System steckt. Mit riesigen Datenmengen trainiert, produziert es tatsächlich nichts anders als Wahrscheinlichkeiten.

Gerade dieser Widerspruch ließ mich nicht mehr los. Wie kann ein solches System Texte schreiben, die wirken, als hätte jemand nachgedacht? Je tiefer ich in die Funktionsweise großer Sprachmodelle eintauchte, desto faszinierter war ich.

Wer mich kennt, weiß; zu neuen Themen möchte ich möglichst alles wissen. Doch diese Vorbereitungsphase hat mich mehr als überrascht. Nicht weil sie komplexer war als erwartet, sondern weil sie mich so vollständig in ihren Bann gezogen hat.

Was als solide Wissensbasis geplant war, wurde zu einer echten intellektuellen Entdeckungsreise.

Aber es gibt ja auch einen sehr konkreten Grund, warum diese Tiefe notwendig war und nicht optional. In der nächsten Phase meines Forschungsprojekts werde ich vier verschiedene Sprachmodelle testen und evaluieren. Ich werde sie methodisch und mit wissenschaftlichem Anspruch vergleichen.

Für dieses Vorhaben muss ich verstehen, wie sie funktionieren, wie sie trainiert werden und warum sie manchmal Halluzinieren. Ich muss wissen, wie Antworten überhaupt entstehen und wie man durch gezieltes Prompten valide, vergleichbare Ergebnisse erzeugt. Ohne ein solides Wissensfundament wäre eine solche Evaluation nicht mehr als ein subjektiver Eindruck. Was ich jedoch brauche sind belastbare Ergebnisse.

Rückblickend habe ich wahrscheinlich deutlich mehr gelesen, als für mein Forschungsprojekt unbedingt notwendig gewesen wäre. Aber ich bereue keine einzige Stunde. Denn aus einer Vorbereitung wurde eine Entdeckungsreise.

Und genau diese Reise möchte ich in diesem Blog mit Ihnen teilen. Nicht, weil ich den Anspruch habe, künstliche Intelligenz vollständig zu erklären. Ich bin keine Informatikerin und außerdem entwickelt sich dieses Forschungsgebiet auch viel zu schnell.

In den kommenden Beiträgen werde ich nach und nach die Fragen aufgreifen, über die ich selbst gestolpert bin. Manche davon klangen zunächst überraschend einfach. Die Antworten waren es selten. Vielleicht geht es Ihnen beim Lesen ähnlich wie mir damals: Mit jeder Antwort entstehen neue Fragen.