Der Philosoph und Literaturtheoretiker Roland Barthes publizierte 1968 seinen berühmten Essay «Tod des Autors» (1968). Darin entpersönlichte Barthes den Autor gewissermassen zum ausführenden Modul des linguistischen Apparats namens Sprache: einer Maske, die Identität vorgaukelt: «Der moderne Schreiber (wird) im selben Moment wie sein Text geboren. Er hat überhaupt keine Existenz, die seinem Schreiben voranginge oder es überstiege; er ist in keiner Hinsicht das Subjekt, dessen Prädikat sein Buch wäre». Deshalb wollte Barthes den Autor durch den subjektlosen «Schreiber» – den «Skriptor» – ersetzt sehen.
Barthes erkannte im Schreiber eigentlich avant la lettre die Arbeitsweise des Textgenerators GPT. Dieser schöpft eklektisch aus einem gigantischen Reservoir von Wörtern, verwandelt sie in mathematisch behandelbare Objekte – Tokens – und rechnet mit ihnen. Bisher war der Textgenerator eine Voraussagemaschine von Texten: Next-Token-Prediction. Nun lernt er, «verständig» auf bestimmte Anfragen oder Instruktionen – auf Prompts – zu reagieren. Eine neue Kompetenz gewinnt an Bedeutung: das Prompt-Engineering, die kreative Form des Befehlens.
Wahrscheinlich wird der Textgenerator bald schon einen neuen Standard des Schreibens definieren, der seine Benutzung nicht mehr als blosse Trickserei abqualifiziert. Für den Schriftsteller Clemens Setz lassen sich deshalb Schreiben und Prompten tendenziell nicht mehr unterscheiden.[1] Er lobt eine «neue Aufrichtigkeit», die nicht so tut, als wäre der Mensch allein Autor der Texte. Vielmehr repräsentiere das Prompten eine neue Kulturtechnik, in der Mensch und KI-Assistent eine Symbiose eingehen. «Zukünftige Generationen könnten sich kopfschüttelnd wundern, wie die frühere Menschheit überhaupt je irgendetwas Authentisches und Aufrichtiges auszudrücken imstande war, wenn sie doch gerade in der Situation der Schrifterzeugung immer so mutterseelenallein war, von niemandem betreut als vom eigenen Gehirn».
Setz sieht einen «tertiären Analphabetismus» aufkommen. Der tertiäre Analphabet «lernt fast ausschliesslich eine Sache (..): das Wünschen». Seine Kompetenz ist das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Der tertäre Analphabet kann, «wenn die Wunscherfüllung geliefert wird, nicht mehr persönlich nachprüfen, ob der Wunsch korrekt verstanden wurde, das kann dann nur das Leben selbst entscheiden». Das Leben selbst: das ist der akzeptierte Zeitungsartikel, die bestandene Prüfung, das erfolgreiche Bewerbungsschreiben. Man muss nicht mehr verstehen, wie sie zustandegekommen sind – Hauptsache, man reüssiert.
Nun klingt das alles ziemlich überzogen – mindestens aus drei Gründen. Erstens ist der schreibende Mensch nie «mutterseelenallein» mit seinem Gehirn. Tatsächlich erweist sich auch das Schreiben mit der Feder bereits als ein symbiotischer Akt von Mensch und Werkzeug. Es gibt keinen Schreiber, der frei von Technik wäre. All die Werkzeuge und Geräte, mit denen sich der Mensch umgibt – dazu gehört nota bene auch das Buch – , sind ja sozusagen Extensionen seines Gehirns, in dem Sinne, dass das Gehirn seine hochflexible Struktur dem jeweiligen Gerätegebrauch anpasst.
Zum Schreiben gehört insbesondere auch das Lesen – es handelt sich um komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere.
Zweitens hat die «tertiäre Analphabetisierung» etwas Paradoxes. Prompten ist das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Aber ist Formulieren denn nicht Eingeben in geschriebener Form, selbst wenn dieses Eingeben schliesslich auch vokalisiert erfolgen kann? Zum Schreiben gehört insbesondere auch das Lesen – es handelt sich um komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere. Und damit auch das Promptenkönnen. Droht dem vom KI-Assistenten begleiteten tertiären Analphabeten nicht das Schicksal des Chatbot-Junkies?
So stark, dass die Pädagogen und Psychologen immer erfolgloser gegen das Schummeln vorzugehen suchen. Schummeln ist die neue Aufrichtigkeit.
2022 liess OpenAI ChatGPT auf den Technikkonsumenten los, und innerhalb von drei Jahren hat sich dieses Ding zu einem kulturellen Game Changer entwickelt. So stark, dass die Pädagogen und Psychologen immer erfolgloser gegen das Schummeln vorzugehen suchen. Es gibt auch Software, die den Schülern das Schummeln verleiden soll. Für Setz eine hoffnungslose Massnahme. Denn Schummeln sei die neue Aufrichtigkeit. «Absolut jede Art von Lernen ist (..) tendenziell ‘Cheating’, oder, anders formuliert, geschieht in Gesellschaft des KI-Assistenten».
Hier stellt sich aber drittens die Frage, was diese Gesellschaft bedeutet. Könnte der Schreibassistent dem Schreiben, statt es zu ersetzen, nicht vielleicht eine neue, zeitadaptierte Bedeutung verleihen? Paläoanthropologie, Evolutionsbiologie, Neurologie und Kognitionspsychologie weisen uns längst schon auf das Zusammenwirken von Hand und Hirn hin. Und aus diesem Zusammenwirken hat sich so etwas wie ein «Schreibhirn» entwickelt. Eine neuronale Struktur, die der Schreibaktivität entspricht. Man spricht von einer «breit gestreuten Hirnkonnektivität» durch Schreiben.[2]
Inwieweit diese Struktur sich durch die neue Kulturtechnik des Promptens verändert, bleibt abzuwarten. Aber man sollte sich nicht vom einfältigen Narrativ leiten lassen, dass Neues Altes ersetzt. Schon Platon warnte davor, dass die Schrift das Gespräch verdränge und damit das Medium echten Verstehens verkümmern lasse. Das ist nicht geschehen. Vielmehr hat sich zwischen Reden und Schreiben ein dynamisches kulturelles Zusammenspiel von Ausdrucksmöglichkeiten gebildet. Gewiss, das Gleichgewicht dieses Zusammenspiels sieht sich heute durch die digitalen Medien herausgefordert. Und die Diagnosen, die eine Abschwächung der Lese- und Schreibfähigkeiten heranwachsender Generationen prognostizieren, sind ernst zu nehmen.
Aus einer zuversichtlichen Perspektive betrachtet kann man im «Schreiber» von Barthes wie im «tertiären Analphabeten» von Setz Figuren sehen, die uns gerade zum Wiedererlernen des Schreibens im Duett mit dem Textgenerator animieren, zum Reskilling alter Fähigkeiten. Man lässt den KI-Assistenten schreiben und pflegt im Austausch mit ihm zugleich das eigene Schreiben. So wie der Algorithmus meine «Idiosynkrasien» lernt, lerne ich seine Tricks. Symbiose von Mensch und GPT bedeutet so gesehen die Geburt eines neuartigen «Schreibsubjekts».
Darin zeichnet sich der Prozess einer allgemeineren Symbiose von Mensch und Maschine ab – ein Prozess von eminent anthropologischer Bedeutung. Viel intimer als bisher arbeiten Mensch und Maschine zusammen, so dass man geradezu sagen könnte, die Maschine werde ein Teil des Ich, oder das Ich ein Teil der Maschine. In einem kürzlich veröffentlichten Blogbeitrag schrieb Sam Altman von OpenAI, dass «ChatGPT bereits mächtiger ist als jeder Mensch, der je gelebt hat. Hunderte von Millionen Menschen verlassen sich jeden Tag darauf für zunehmend wichtige Aufgaben». Die KI-Tools «vervielfachen die Leistungsfähigkeit derjenigen, die sie nutzen, deutlich».
Wir überschätzen kurzfristig die Wirkung einer Technologie, und wir unterschätzen sie langfristig.
In den KI-Kreisen gilt das Gesetz von Roy Amara: Wir überschätzen kurzfristig die Wirkung einer Technologie, und wir unterschätzen sie langfristig. Wir kennen die langfristigen Folgen einer breiten KI-Akzeptanz nicht. Schon jetzt sollten uns allerdings die kognitiven Kosten der Symbiose beschäftigen. Die Tendenz ist nicht unwahrscheinlich, dass sich der Mensch immer mehr der Maschine anpasst – dass er wie sein Assistent zu schreiben beginnt, auch ohne dessen Hilfe. Die Lernplattform Fobizz bewertet automatisch Schülerarbeiten. Eine Analyse des Tools zeigt, dass es jene Texte als beste beurteilt, die mit ChatGPT geschrieben wurden.[3] Wie es scheint, verstehen sich die smarten Maschinen am optimalsten untereinander. Es kümmert sie ja auch nicht, was sie schreiben. Wie dies der amerikanische Philosoph der frühen KI – John Haugeland – einmal formuliert hat, ist ihnen die Welt scheissegal: they don’t give a damn.
[1] https://www.derstandard.at/story/3000000275725/schriftsteller-clemens-j-setz-chatgpt-und-seine-folgen
[2] https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2023.1219945/full
