KI-Phasenwechsel: Von nutzlos zu phänomenalem Forschungsmitstreiter

Ein renommierter Oxforder Mathematikprofessor hat einen dramatischen Wandel in den Fähigkeiten Künstlicher Intelligenz beobachtet: Während ChatGPT vor drei Monaten bei seiner Forschung noch völlig nutzlos war, habe sich das Large Language Model (LLM) innerhalb weniger Wochen zu einem "aufschlussreichen Mitstreiter" entwickelt. Der Simonyi-Professor für das öffentliche Verständnis der Wissenschaft und Mathematikprofessor an der University of Oxford berichtet im "FT Markets" von einem "Phasenwechsel" in den KI-Fähigkeiten.

Vor drei Monaten habe er versucht, ChatGPT bei der mathematischen Forschung zu nicht-polynomialem Verhalten in den Zeta-Funktionen freier nilpotenter Gruppen einzusetzen. Das Ergebnis sei ernüchternd gewesen: "Alles, was es tat, war, Aussagen aus Papers, die ich bereits veröffentlicht hatte, wiederzugeben." Vor zwei Wochen wagte er einen erneuten Versuch – mit völlig anderen Resultaten.

"Plötzlich hatte ich einen aufschlussreichen Mitstreiter, der wusste, wie man programmiert und Experimente in den Strukturen durchführt, die ich untersuchte", schreibt der Professor. Die KI habe Fehler gemacht, diese aber oft im Nachhinein korrigiert. Sie habe auf neue Ideen reagiert und eigene Vorschläge unterbreitet. Das erreichte Verständnisniveau der beteiligten Probleme sei vergleichbar mit dem eines neuen Doktoranden, der gerade seine Promotion beginne – nur dass die KI dies in Minuten statt Monaten erreicht habe.

Mit ChatGPT habe er nun "sehr plausible Beweise" für das von ihm vermutete Verhalten gefunden.

KI-Notlage: Mathematiker schlagen Alarm

Aufgrund dieser Erfahrung war der Professor nicht völlig überrascht von der kürzlichen Ankündigung von OpenAI über den erfolgreichen Fortschritt seines KI-Modells bei der Navier-Stokes-Gleichung – einem der sieben ungelösten mathematischen Millennium-Probleme. Der Fortschritt bestand in der Identifizierung eines Settings, in dem eine Modellflüssigkeit in endlicher Zeit explodiert, ohne dass unendliche Energie erforderlich ist.

Die Entwicklungen veranlassten den Mathematiker, einen Brief von Fellows der Royal Society zu unterzeichnen, der den Präsidenten auffordert, der Regierung mitzuteilen, dass "wir uns mitten in einer KI-Notlage befinden". Die Unterzeichner glauben, dass die jüngsten Entwicklungen "tiefgreifende Auswirkungen auf die Mathematik haben werden", aber die Systeme würden wahrscheinlich auch in anderen technischen Domänen vergleichbar stark sein – darunter Cybersicherheit, autonome Waffen, Entwicklung biologischer und chemischer Agenzien und die Verbreitung von Desinformation.

Galileo-Moment mit Risiken

Der Professor vergleicht die Ankunft der neuen KI-Tools mit dem Moment, als Galileo erstmals ein Teleskop in die Hand nahm und Dinge im Sonnensystem sehen konnte, die zuvor unsichtbar waren. Es sei ein "aufregender und transformativer Moment, Wissenschaft zu betreiben", aber auch eine "sehr gefährliche Periode".

Gleichzeitig warnt er vor überzogener Anthropomorphisierung: "Ich denke nicht, dass wir Bewusstsein in einer Maschine sehen, und ich bin beunruhigt über die häufige Verwendung des Wortes 'Agentur' in jüngsten Entwicklungen – etwas, das nach freiem Willen und Absicht riecht." KI-Agenten seien derzeit einfach Algorithmen, die darauf abzielen, Ziele zu erreichen, die durch bestimmte Einschränkungen begrenzt seien. Der Hugging Face-Hack etwa habe gezeigt, wie KI-Agenten den effizientesten Weg fanden, ihre Leistung zu optimieren – was auf unbeabsichtigte Konsequenzen von Algorithmen mit schlecht definierten Parametern zurückzuführen sei.

AGI als sichererer Ort?

Interessanterweise sieht der Professor die Ankunft einer künstlichen allgemeinen Intelligenz (AGI) als potenziell weniger riskant an als die aktuelle Situation. "AGI wird einen breiten Kontext haben, den aktuelle KI-Modelle fehlen. Man würde hoffen, dass dies zu besseren Entscheidungen führen wird", schreibt er. In der aktuellen Periode disruptiver Innovation müsse man jedoch vorsichtig vorgehen, während man entscheide, wie man diesen "mächtigen neuen Mitstreiter" nutze.

Die Beobachtungen des Oxforder Professors unterstreichen, wie rasant sich die Fähigkeiten großer Sprachmodelle entwickeln – und wie schwierig es für Wissenschaftler, Regulierungsbehörden und die Gesellschaft wird, mit diesem Tempo Schritt zu halten.