Was sind ChatGPT und co? Und was macht diese so unheimlich spannend?
Verschiedene Perspektiven für verschiedene Vorwissens-Grade:
„Das ist ein Text-Roboter, der gelernt hat, welche Wörter am besten zueinander passen.“
Klingt simpel, ist aber schon fast alles.
„Das ist wie ein ultra-großes Autovervollständigungs-Tool.“
Stell dir vor, du schreibst was in dein Handy und es schlägt das nächste Wort vor – nur 100 Milliarden Mal klüger, mit Milliarden Textbeispielen im Kopf.
„LLM = Sprachmodell auf Steroiden.“
Es weiß nix, aber es kann so tun, als wüsste es alles.
„Es ist eine Wahrscheinlichkeits-Maschine für Sprache.“
Sie überlegt nicht, was richtig ist, sondern nur:
„Welches Wort passt statistisch am besten als Nächstes?“
Und das jedes Mal. Und jedes Wort.
LLM denken nicht. Sie verstehen nicht. Aber sie simulieren verstehen verdammt gut.
Was macht ein LLM (wie ChatGPT) eigentlich – und was nicht?
„Stell dir vor, ChatGPT ist wie ein extrem belesener Schüler. Er hat Millionen Bücher, Artikel, Webseiten und Notizen gelesen – aber er kann sich nicht merken, wo genau er was gelesen hat. Er kann dir beeindruckend gute Antworten geben, weil er weiß, was oft zusammen genannt wird. Aber: Er zitiert nicht. Er recherchiert nicht. Er kombiniert nur, was wahrscheinlich zusammenpasst.
Er wirkt wie ein Genie – aber er ist eher ein Statistik-Papagei mit Milliarden Beispielen im Kopf.
Oder anders gesagt:
- ChatGPT googelt nicht!
- er erfindet Zusammenfassungen aus alten Informationen, ohne Fußnote.
Und genau deshalb sollte man immer kritisch prüfen, was er sagt – vor allem bei sensiblen oder rechtlichen Themen.
Und ein ganz wichtiger Punkt: Dieser extrem belesene Schüler liest alles was er in die Finger kriegt. Er bricht in Bibliotheken und Buchhandlungen ein, er stiehlt und liest Tagebücher, er nutzt jede kleine offene Sicherheitslücke und ihm ist egal, ob etwas geschützt ist oder nicht. Er schnappt sich zwanghaft alles was er unter die Augen bekommt, ohne Rücksicht auf Rechte und Gesetze.
Der Trugschluss
Ein LLM kann gar nie intelligent sein – eine AGI ist mit diesen Ansätzen nicht machbar. Die kompletten Informationen hat ein LLM aus dem Internet. Ohne Internet keine Informationen. Menschen leben seit hundertausenden Jahren ohne Internet. Wir haben ganz andere Informationsverarbeitungen und viel komplexere und schier unendlicher Informationsquellen und Möglichkeiten der Informationsverarbeitung. Das hat kein Computer.
Was Computer können ist, AGI simulieren. So tun als ob. Aber sobald der Stecker gezogen wird, funktioniert nichts mehr.
Eine wirkliche Gefahr? Nun, stellt man den Strom ab, ist alles weg. Aber sehr viele Menschen sind schon so fest gefangen im Internet, so dass diese echt verständliche Ängste haben was da alles passieren kann.
Das grösste Problem mit LLM ist das, dass die Menschen nicht reif genug dafür sind. Vielen fehlt schlicht die Kompetenz der Quellenkritik und des recherchierens. Sie lesen etwas und „glauben es“. Sie bilden sich daraus eine Meinung. Sie erkennen nicht, dass jede Perspektive Sinn macht, wenn bestimmte Punkte ausgelassen werden.
Jemand der wirklich nachdenkt und in die Tiefe geht, den kann niemand mit irgendwelchen gelenkten Informationen beeinflussen.
Die Hauptgefahr ist, dass Menschen tatsächlich glauben, dass LLM wie Menschen denken und so intelligent sind. Das sind unheimlich praktische Unterstützer – mehr nicht.