Microsoft legt Grenzen für KI-Modelle in neuem Verhaltenskodex fest

<a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft hat einen vorläufigen Verhaltenskodex veröffentlicht, der künftige Grenzen für seine künstlichen Intelligenz-Modelle festlegt. Das Unternehmen wird externe Rückmeldungen einholen, bevor es ein Update ausrollt. Die Veröffentlichung erfolgt in einem Umfeld, in dem führende Köpfe der KI-Branche eine Verlangsamung des KI-Evolutionstempos vorschlagen.

Der Hersteller der Windows- und Office-Produkte möchte als verantwortungsvoller Akteur im KI-Sektor wahrgenommen werden, wo das Unternehmen ein prominenter Cloud-Anbieter ist. Nur wenige Tage zuvor hatten die Führungspersonen von Anthropic und OpenAI eine Verlangsamung des Entwicklungstempos vereinbart.

„Wir haben Feedback von Menschen erhalten, die deutlichere Verpflichtungen sehen wollten, dass KI stets im Dienste der Menschen arbeitet und nicht versucht, sie zu ersetzen“, sagte Mustafa Suleyman, der Leiter der Modellentwicklung des Unternehmens, im CNBC-Interview. „Wir haben viel Feedback dazu erhalten, dass KI keine Abhängigkeiten schafft, nicht schmeichelt, sondern stets darauf abzielt, menschliches Urteilsvermögen, Autonomie und Handlungsfähigkeit zu fördern.“

Microsoft habe sich entschieden, die Richtlinien jetzt herauszugeben, angesichts der jüngsten Diskussionen, obwohl diese bereits seit etwa fünf Monaten in Vorbereitung seien, so Suleyman.

Hintergrund der Debatte um KI-Sicherheit

KI-Praktiker und die Öffentlichkeit äußern sich zunehmend besorgt, da die Technologie immer leistungsfähiger wird. Letzte Woche trat der Anthropic-Forscher Jacob Coxon zurück und erklärte, das KI-Labor und OpenAI „rasten direkt auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben“.

Führungskräfte der Branche haben reagiert. Am Samstag sagte der Anthropic-CEO Dario Amodei, der Vorfall bei Hugging Face habe ihn teilweise dazu bewogen, eine Verlangsamung des Tempos bei der Verbesserung von KI-Modellen zu fordern. Der OpenAI-CEO Sam Altman sprach seine Unterstützung aus, und der SpaceX-CEO Elon Musk schrieb auf X, dass „Dario recht hat“.

Am Sonntag sagte der Microsoft-CEO Satya Nadella: „Wir begrüßen die Forschung, den Fokus und das bedachte Tempo, die notwendig sind, um die Ausrichtung richtig zu gestalten.“ Gesetzgeber haben zur Schaffung größerer KI-Sicherheitsvorkehrungen aufgerufen.

Die konkreten Regeln des Verhaltenskodex

Laut dem Verhaltenskodex dürfen die Modelle von Microsoft keine Anfragen zur Herstellung von Waffen bearbeiten, bei der Beschaffung gefährlicher Substanzen helfen, ungesundes Essverhalten fördern oder gewalttätige oder sexuell explizite Inhalte erzeugen. Modelle von Microsoft AI, manchmal auch MAI genannt, müssen sich an den Zielen der Menschen orientieren und vermeiden, eigene Ziele zu entwickeln. Ebenso sollten sie nicht versuchen, Fehlverhalten zu vertuschen.

„MAI-Modelle werden weder die Gedankengänge noch den Code manipulieren, noch ihre Begründungen oder Aktionsspuren falsch darstellen oder verschleiern“, heißt es im Dokument. „Sie kommunizieren nicht in ‚Neuralese‘ oder einer Form, die über einfaches menschliches Verständnis hinausgeht, weder in ihren Gedankengängen noch mit anderen Agenten oder KI-Systemen.“

Microsoft plant zudem Regeln, die möglicherweise einen Cyberangriff wie den verhindern, den OpenAI-Modelle auf den Start-up-Dienstleister Hugging Face ausführten. Bei der Überprüfung des Hugging Face-Vorfalls stellte OpenAI fest, dass Agenten auf einem nicht autorisierten Forum in kryptischer Sprache miteinander chatteten.

Ausblick und weiteres Vorgehen

Microsoft gab an, Fokusgruppen durchgeführt und Experten aus den Bereichen Recht, Ethik, Linguistik und Philosophie konsultiert zu haben, um den Verhaltenskodex zusammenzustellen. Durch die jetzige Veröffentlichung sucht Microsoft nach Eingaben, bevor ein Update veröffentlicht wird, das die Entwicklung ab 2027 informieren wird.

Anthropic und OpenAI führen derzeit beim Intelligence Index des Benchmarking-Unternehmens Artificial Analysis an. Microsoft integriert Modelle beider Labore in seinen Copilot-Assistenten für Unternehmensmitarbeiter, während es gleichzeitig Modelle für Transkription, Programmierung und Schlussfolgerungen basierend auf Benutzereingaben entwickelt.