„ChatGPT ist der endgültige Scharlatan“

Trojanisches Pferd. Vor 89 Jahren erschien in Basel das Buch Die Macht der Charlatans. Die Verfasserin war die in Wien geborene Kunsthistorikerin Grete de Francesco, die mit dem Buch ein „trojanisches Pferd“ nach Deutschland schicken wollte: Es war als kulturgeschichtliches Werk getarnt, sollte aber ein Kommentar zur politische Lage im Jahr 1937 sein. Nur ganz wenige Exemplare kamen in deutschen Bibliotheken an, aber heute ist es ein Referenzwerk über Scharlatanerie.

Nicht nur Faschisten erfüllen die Kriterien eines Scharlatans. Vor Kurzem sagte der Historiker Antoine Lilti in einer Vorlesung zum Thema, dass ChatGPT „der endgültige Scharlatan“ sei. Stimmt das?

Geheimes Wissen. ChatGPT ist keine Person, von daher wären eher diejenigen Scharlatane, die es kontrollieren. Tatsächlich erfüllen die KI-Fürsten die Kriterien, die Lilti zur Definition von Scharlatanen vorschlägt. Erstes Kriterium: der Anspruch, geheimes Wissen zu besitzen. Dario Amodei, der Chef von Anthropic, schrieb letzte Woche, KI sei ein „technologisches Wunder“, das sehr vorsichtig behandelt werden müsse (natürlich wisse er wie). Einen Monat zuvor hatte Mark Zuckerberg „Superintelligenz“ für alle versprochen (die anderen machen KI nur für die Mächtigen, sagt er). In unterschiedlichem Ausmaß verspricht jeder KI-Unternehmer Wunder, die nur er vollbringen kann.

Beredsamkeit. Zweites Kriterium: eine einschmeichelnde Rhetorik. Generative KI-Software ist darauf ausgelegt zu gefallen. In einem Versionshinweis für den Chatbot von Anthropic steht schwarz auf weiß: „Claude spricht warmherzig mit den Menschen und behandelt sie mit Freundlichkeit“. Inzwischen haben die KI-Fürsten eingesehen, dass ihre Maschinen den Menschen nicht zu sehr nach dem Mund reden dürfen. Chatbots haben 2024 penetrant (insbesondere ChatGPT 4o) allem zugestimmt. Also haben sie auch viele Menschen darin bestätigt, dass Selbstmord die beste Lösung ist – wofür sich die Betreiber heute in kostspieligen Prozessen verteidigen müssen.

Theatralik. Drittes Kriterium: eine theatralische Selbstinszenierung. Die KI-Riesen geben ihrer Software nicht nur manchmal Namen wie Claude oder Alexa, als ob sie Personen wären. Sie tun so, als ob ihre Maschinen lebende Wesen seien, die beispielsweise „halluzinieren“ können. Es ist fraglich, ob ChatGPT genauso viel Erfolg gehabt hätte, wenn jede Interaktion mit einer realistischen Beschreibung des Vorgangs beginnen würde: „Gemäß einer statistischen Analyse Ihrer Frage sind dies die wahrscheinlichsten Wörter für eine überzeugende Antwort.“

Täuschung. Letztes Kriterium: die Täuschung. Wenn sich Tech-Giganten vor Gericht verantworten müssen, lassen sie ihre Masken fallen. Vergangenen April wurde Google wegen Verleumdung angeklagt, da in einer KI-Übersicht der Suchmaschine behauptet wurde, dass ein Verlag eine „Betrugsmasche“ sei. Seine Anwälte versicherten allen Ernstes, dass es sich nicht um Verleumdung handele, da es gemeinhin bekannt sei, dass den mit KI generierten Informationen nicht blind vertraut werden dürfe. Auf seiner offiziellen Website erklärt Google allerdings, dass die Überschriften „relevante und zuverlässige KI-Antworten“ bieten. Das Gericht ließ sich nicht täuschen und verurteilte Google.

Das Ende der Aufklärung. KI-Fürsten erfüllen also die Definition von Scharlatanen. Was heißt das nun? An sich nicht viel. Scharlatane sind kein neues Phänomen. Historisch gesehen signalisierte das Wort, wer zur legitimen Zunft der Mediziner gehörte und wer nicht. In unserer Zeit werden Scharlatane aber von Regierungen und wirtschaftlichen Eliten in einem historisch neuen Ausmaß unterstützt und gefördert.

1784 schrieb Kant, Unmündigkeit sei „das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen“. Sam Altman von OpenAI zufolge können sich die Menschen Verstand heute wie im Großhandel kaufen, ohne dafür sonst etwas tun zu müssen. Gegenaufklärung ist wahrscheinlich ein noch zu schwaches Wort dafür, um diese Weltsicht zu beschreiben.

Haltung. Was tun? Grete de Francesco, die frenetische Faschisten aus nächster Nähe beobachten konnte, war der Meinung, dass das „eifrige Entlarven“ von Scharlatanerie nichts bringt. Menschen, die an ihre Tricks glauben wollen, werden durch Überzeugungsversuche nicht davon abzubringen sein. Stattdessen, schrieb sie, solle man Scharlatanen gegenüber demonstrativ seine Haltung bewahren und sie als das behandeln, was sie sind, eben nichts anderes als Scharlatane.