Der Richter, der seine Meinung ändert: Ai2 prüft Modelle, die die Neuheit von Forschung bewerten

Viele Systeme, die sich als „KI-Wissenschaftler“ präsentieren oder automatisch Forschungsideen erzeugen, überlassen einem zweiten Sprachmodell die Entscheidung, ob ihr Output wirklich neu ist. Auf diesem Urteil beruhen dann die Fortschritte, die sie für sich reklamieren. Am 27. Oktober 2026 hat Ai2 (Allen Institute for AI) eine Studie veröffentlicht, die prüft, wie verlässlich dieser Maßstab ist. Das Paper „Old Ideas, Novel Problems: The Instability of LLM-Based Novelty Evaluation“ liegt auf arXiv (2610.02022). Die erste Version stammt vom 1. Oktober, die dritte vom 26. Oktober. Es handelt sich um einen Preprint, der offenbar noch kein Peer Review durchlaufen hat. Der Benchmark ist auf Hugging Face unter ODC-BY-Lizenz verfügbar, der Code auf GitHub.

Als Referenz haben die Autoren nicht die Annahme von Papers verwendet. Stattdessen haben sie aus den Gutachten zu ICLR 2026 auf OpenReview die Passagen extrahiert, in denen Gutachter die Originalität einer Arbeit bestätigen oder bestreiten. Daraus entstanden zwei Szenarien. Das erste, Human-Only, stellt 154 wegen ihrer Neuheit gelobte Ideen aus den besten 10 % der angenommenen Papers 145 Ideen gegenüber, die in diesem Punkt kritisiert wurden, aus den schwächsten 10 % der abgelehnten. Das zweite, Human+Generated, kombiniert dieselben 154 menschlichen Ideen mit 154 Ideen eines einfachen LLM-Generators. Die Autoren werten Letztere als weniger neu, räumen aber ein, dass dies ein schwaches Label ist, das nicht Idee für Idee geprüft wurde. Ein Teil der Zahlen hängt also an einer Annahme.

Getestet werden GPT-5.1, GPT-5.2, GPT-5.4, Claude Sonnet 4.5, Claude Opus 4.5 und Claude Opus 4.6, dazu GPT-5.6 Sol im agentischen Modus und zwei spezialisierte Bewerter: Idea Novelty Checker und der Bewerter von AI Scientist von Sakana AI. Das auffälligste Ergebnis betrifft GPT-5.4 bei den Human+Generated-Paaren. Sagt der Prompt, dass eine der beiden Ideen neu ist, liegt die Genauigkeit bei 93,5 %. Fragt er nur, welche der beiden neu ist, fällt sie auf 40,9 % – unter Zufallsniveau –, und das Urteil kippt bei mehr als der Hälfte der Paare. Laut Abstract kann allein diese Änderung die paarweise Genauigkeit um mehr als 50 Punkte verschieben. Im Human-Only-Set beträgt der Abstand etwa 7 Punkte, bei Claude Opus 4.6 jedoch 21. Werden Ideen zweier KI-Generatoren verglichen, ändert sich je nach Prompt zwischen einem Viertel und einem Drittel der Urteile. Eine Formulierung, die für alle funktioniert, gibt es ebenfalls nicht: Streicht man eine Anweisung gegen banale Ideen, werden manche Richter besser und andere schlechter. Ai2 fasst es im Blog in einem Satz zusammen, der zitiert werden sollte: „Judges that appear reliable on human-authored research may behave differently on AI-generated ideas“. Kurz gesagt: Ein Richter, der bei von Menschen verfasster Forschung zuverlässig wirkt, kann sich bei KI-generierten Ideen ganz anders verhalten.

Auch das Kapitel über die Kosten widerspricht der Intuition. Der agentische Richter GPT-5.6 Sol, der selbst recherchieren kann, erreicht 0,78 Macro-F1. Claude Opus 4.6 kommt auf 0,89 (der Blog nennt für dasselbe Modell in einer anderen Konfiguration auch 0,854; Details stehen im Paper), bei etwa einem Zehntel der Kosten pro Entscheidung. Ein einfacher Prompt auf Opus 4.6 mit niedrigem Reasoning und Mehrheitsentscheid über drei Aufrufe erreicht 0,854 bei Gesamtkosten von 2,59 Dollar. Idea Novelty Checker bleibt bei 0,642 und kostet 30,66 Dollar, Sakanas Bewerter erreicht 0,772 für 82,05 Dollar. Mindverse berichtet außerdem von einer Überprüfung: Laut dem Medium bestätigte ein Annotator das Signal der Gutachten in 47 von 50 Fällen, und ein Experte prüfte 30 Paare, bei denen der beste Richter danebenlag – in allen 30 bevorzugte er die menschliche Idee. Die Autoren leiten daraus Zweifel an den Neuheitsgewinnen ab, die automatische Ideengeneratoren melden, und fordern robustere Bewertungsmethoden. Eine Einschränkung bleibt: Die getesteten Modelle sind nicht die neuesten, und es ist offen, ob die Ergebnisse für aktuellere Modelle gelten.

Lehrreich finde ich, dass das Problem nicht nur beim erzeugenden Modell liegt, sondern auch bei dem, das es kontrollieren soll. Wenn das Streichen eines einzigen Satzes aus dem Prompt ein fast perfektes Urteil in einen gezinkten Münzwurf verwandelt, sollte jede Grafik, die „originellere“ Ideen verspricht, auch den genauen Wortlaut der Frage offenlegen. Neuheit hängt offenbar auch davon ab, wie man nach ihr fragt. — Olya