Wie Gerichte entscheiden, ob KI am Werk ist

Streitfälle. Seit 2023 landen Klagen neuer Art bei den Verwaltungsgerichtshöfen. Studierende, die beschuldigt werden, KI für das Verfassen ihrer Hausarbeiten oder in einer Prüfung genutzt zu haben, fechten die von der Universität verhängten Disziplinarmaßnahmen an. Ich habe elf Urteile gelesen (sechs aus Deutschland, drei aus Frankreich, zwei aus Belgien), um zu verstehen, wie Richter*innen entscheiden, ob ein Text von KI geschrieben wurde.

Beweise. Manchmal ist es evident, dass ein Chatbot am Werk war. Ein richterlicher Beschluss in Berlin befand beispielsweise, dass das Wort „Billiarde“ statt „Milliarde“ in einer Bachelorarbeit eindeutig eine automatische Übersetzung verrate, in der das englische billion falsch übersetzt wurde. Als weitere Beweismittel gelten darin eine willkürliche Zeichensetzung und das mehrfache Erklären bestimmter Abkürzungen.

Zeitverschiebung. Wenn Zitate nicht passen, werden die Gerichte auch hellhörig. Die Klage einer Studentin der Kölner Universität wurde abgewiesen, weil sie filmwissenschaftlichen Werken Aussagen über einen Film untergeschoben hatte, der erst Jahre nach den Büchern veröffentlicht wurde. In zwei Fällen werden KI-Detektoren erwähnt, allerdings mit dem ausdrücklichen Hinweis, dass sie nicht unfehlbar seien.

Anscheinsbeweis. Meistens wird in den Urteilen eingeräumt, dass nicht die Universität den förmlichen Beweis eines Betrugs erbringen müsse. In solchen Fällen reicht der Anscheinsbeweis: Die Universität muss lediglich belegen, dass eine Auffälligkeit die Nutzung von KI nahelegt. So war es bei jener Studentin an der Sorbonne Paris Nord, die eine Arbeit in gepflegtem Französisch abgab, während sie sich mündlich kaum ausdrücken konnte. Eine Studentin in Brüssel hatte auf ihrem Klausurbogen eine Frage perfekt beantwortet, die der Universität zufolge nicht im Kopf zu lösen sei. Beim Lesen der Urteile scheint die Dreistigkeit der Studierenden so groß zu sein, dass man über das Aufdecken ihrer Betrugsversuche nur froh sein kann. Und doch habe ich Zweifel.

Persönliche Anmerkung. Ich habe Zweifel, weil mir selbst schon Ähnliches passiert ist. 2006 war ich Student an der Universität Hamburg. In einem Seminar, in dem ich nicht durch meine Anwesenheit geglänzt hatte, gab ich eine Arbeit ab, auf die ich ziemlich stolz war. Der Professor hielt mich nicht für den Verfasser und verlangte, dass ich ihm mein Word-Dokument schicke, bevor er mich benotete. Zum Glück gab es generative KI damals noch nicht.

Argumentation. Die richterliche Beweisführung in den von mir gelesenen Urteilen war manchmal doch ziemlich originell. Die Studentin der Sorbonne legte Belege vor, um nachzuweisen, dass sie tatsächlich Recherchen zur chinesischen Sprache durchgeführt hatte. Doch sie wurden vom Gericht nicht anerkannt, weil sie „unlesbar und unübersetzt“ seien. In Kassel widmete sich ein Gericht mehrere Paragraphen lang der Frage, ob die Nervosität eines Studenten den Unterschied zwischen mündlicher und schriftlicher Prüfung erklären könnte. (Nein, sagen die Prüfer, er war nicht nervös genug.) Und in München behauptet ein Gericht, kurze Sätze und eine „große Inhaltsdichte“ seien Merkmale von KI-generierten Texten – da scheinen wir aber sehr unterschiedliche Tools zu benutzen.

Do the math. Beim Lesen der Urteile fiel mir auf, dass häufig Frauen aus als männlich geltenden Disziplinen geklagt haben. Die oben erwähnte Brüsseler Studentin legte eine Prüfung in Programmierung ab. Eine andere in Toulouse wurde beschuldigt, zu gut in Algebra zu sein – einer von nur zwei Fällen in meiner Stichprobe, in denen der Klage stattgegeben wurde. Ein anderes Mal erhielt eine Schülerin in Deutschland ihr Fachoberschulreife nicht, weil ihre Leistung in Mathematik als weit über dem eingeschätzt wurde, was sie sonst gezeigt hatte (das Oberlandgericht bestätigte das Urteil).

Vorbelastet. In einem einzigen Fall in Belgien betonte das Gericht die Absurdität dieser Art von Verfahren, das von Studierenden verlange, ihre Unschuld zu beweisen, während die Universität nur einen Betrugsverdacht äußern müsse. Da der Verdacht begründet sein muss, steht die Beweisführung der Studierenden nur unter umso schlechteren Vorzeichen. Ich will nicht behaupten, alle Bestraften bestimmt verkannte Musterstudent*innen sind. Natürlich suchen einige den einfachen Weg durchs Studium. Dennoch: Eine Mathe-Überfliegerin kann immer in Verdacht geraten, KI verwendet zu haben. Sie wird es trotz ihres guten Gewissens nicht leicht haben, sich zu verteidigen.

Vorurteile. Studien zeigen, dass Zeugenaussagen von Männern als glaubwürdiger eingestuft werden, während diejenigen von Frauen oder von Personen, die zum Beispiel wegen eines Akzents als fremd wahrgenommen werden, als weniger vertrauenswürdig wahrgenommen werden. Diese Ergebnisse sind rein experimenteller Natur, da es unmöglich ist, die Wahrheit einer Behauptung unter realen Bedingungen zu testen. Aber wenn der Einsatz von KI nicht bewiesen werden kann, steht vor Gericht Aussage gegen Aussage. Und es ist zu befürchten, dass dort der Glaubwürdigkeit der Universitäten mehr Gewicht gegeben wird als der von Studentinnen – auch wenn sie nichts Unerlaubtes getan haben.

Vielen Dank an Corentin Durand, Manuela Cadelli und Ulrike Stühler für ihre Hilfe bei der Vorbereitung dieses Artikels.