KI-Governance: Vorstandsebene hinkt bei Risiken hinterher
Unternehmen unterschätzen die ethischen und reputationalen Risiken von agenticer und generativer KI, so eine aktuelle Umfrage.
Unternehmen sehen sich zunehmend mit den potenziellen ethischen und reputationalen Schäden konfrontiert, die von agenticer und generativer KI ausgehen, während sich die Technologie rasant weiterentwickelt. Die Hacks in diesem Jahr durch Anthropic- und OpenAI-KI-Agenten auf anderen Entwicklerplattformen haben die Risiken für andere Unternehmen verdeutlicht und die Frage aufgeworfen, ob sich die Corporate-Governance-Richtlinien schnell genug anpassen. „Wir sind bei der Governance im Nachholbedarf", sagt Leon Butler, Chief Executive von IBM für Großbritannien und Irland.
Diese Verzögerung wurde in einer Umfrage der Tech-Gruppe in diesem Monat deutlich. Demnach gaben 80 Prozent der Führungskräfte in Europa, dem Nahen Osten und Afrika an, dass ein „KI-bezogener Vorfall die Vorstandsebene oder C-Suite erreicht hat" im vergangenen Jahr. Nur 40 Prozent haben „die KI-Governance-Richtlinien oder -Rahmenwerke als Reaktion darauf geändert". Und lediglich 37 Prozent erklärten, „dass ihre Governance so konzipiert ist, dass sie mit der Einführung agenticer KI skalieren kann".
Martin Woodward, globaler Verantwortlicher für verantwortungsvolle KI bei der Personalvermittlungsagentur Randstad, sagt, die größte Herausforderung „sei das Volumen und die Geschwindigkeit. Es besteht stets eine gesunde Spannung zwischen dem Unternehmen, das nach dem nächsten großen Ding sucht, und dem Versuch, dies auf ethische Weise umzusetzen und dabei den Ruf am Markt zu wahren."
Balanceakt zwischen Kontrolle und Innovation
Bei der Beratungsagentur Accenture sagt Lan Guan, Chief AI and Data Officer, dass ein Gleichgewicht zwischen „Governance-Kontrolle, Demokratisierung von KI [und dem] Ausbruch menschlicher Erfindungsgabe" gefunden werden muss. Sie fügt hinzu, Governance sei „der überkritische Mechanismus, den Unternehmen richtig machen müssen, damit sie schneller vorankommen; es fühlt sich an, als würde es die Dinge verlangsamen, indem Schritte hinzugefügt werden [aber] die Implementierung von Governance zur richtigen Zeit mit den richtigen Tools wird dazu beitragen, dass die Technologie schneller läuft".
Die meisten Unternehmen haben KI-Rahmenwerke eingeführt, die breite Prinzipien festlegen. Eric Kelleher, Chief Operating Officer des globalen Identitätsunternehmens Okta, sagt, der EU AI Act sei ein guter Ausgangspunkt „für die verantwortungsvolle Einführung von KI". Er ergänzt: „KI-Agenten als First-Class-Identitäten zu behandeln, die mit derselben Strenge wie menschliche Identitäten geregelt werden, ist eine Methode, um deren Anforderungen ethisch zu erfüllen."
IKEA hat sieben Kernprinzipien, darunter Rechenschaftspflicht, menschliche Handlungsfähigkeit, Fairness, Datenschutz, Transparenz und Nachhaltigkeit. Burce Gültekin, der globale Chief Data and AI Officer des Einzelhändlers, sagt, sie hätten Grenzen gesetzt, die manchmal „über gesetzliche Anforderungen hinausgehen, einschließlich Einschränkungen für KI-gesteuerte Überwachung von Kunden und Mitarbeitern sowie automatisierter Entscheidungen mit erheblichen Folgen für Einzelpersonen ohne menschliche Aufsicht".
Zeitlimits und Risikoklassen als Werkzeuge
Während sich die Technologie weiterentwickelt, tut dies auch die Governance, sagt Paula Goldman, Chief Ethical and Humane Use Officer bei Salesforce. Das Unternehmen setzt Zeitlimits für Richtlinien und überprüft diese regelmäßig, da sich die Risiken ändern. Der Softwarekonzern hat sich an das Zeitalter der KI-Agenten angepasst, mit Prinzipien, die die Durchführung von Bias-Bewertungen, das Testen adversärer Szenarien und Genauigkeit umfassen.
Die Immobiliengruppe JLL stuft Aktivitäten von hohem bis niedrigem Risiko ein. Der Aufbau eines Agenten, der autonom Zahlungen an Lieferanten autorisieren darf, ist hochriskant und müsste überprüft werden. Amit Koren, Leiter von KI, sagt, das bedeute, ins Detail zu gehen. „Man formuliert eine Policy-Erklärung, dass jeder transparent über die Nutzung von KI gegenüber einem Kunden sein muss, aber was bedeutet das?"
Eine Studie der Wharton School, die diesen Monat veröffentlicht wurde, ergab keinen Konsens unter US-Managern darüber, wer „für KI-Fehler verantwortlich ist". 28 Prozent nannten ein Governance- oder Risikoteam, 26 Prozent „den Manager des implementierenden Mitarbeiters", 25 Prozent die Mitarbeiter selbst und 9 Prozent den Anbieter.
Fachkräftemangel bremst die Aufsicht
Obwohl die Anzahl der Fachkräfte, die sich selbst als KI-Governance-Analysten bezeichnen, laut Randstad-Daten aus 11 Ländern 3,3-mal höher war als 2019, waren diejenigen, die sich als KI-Risikomanager oder KI-Ethik-Verantwortliche bezeichnen, um das 2,4-fache gewachsen. Dennoch herrscht ein Mangel an Qualifikationen. Im vergangenen Jahr stieg die globale Nachfrage nach Risikogovernance-Fähigkeiten um 108 Prozent, während die Anzahl der Menschen mit solchen Fähigkeiten nur um 69 Prozent zunahm.
Guan von Accenture sagt, die Aufsicht über die Technologie erfordere ein „Hub-and-Spoke"-Modell. „Wir müssen etwas von der Schwerkraft zurück zum Zentrum verschieben, das aus Vertretern von KI-Architekten, Ethik und Daten-Governance besteht. . . , damit schnelle Entscheidungen getroffen werden können."
Bei Salesforce arbeitet das Office of Ethical and Humane Use mit den Abteilungen Produkt und Engineering, Recht, Datenschutz und Sicherheit zusammen, um die verantwortungsvolle Entwicklung und Nutzung von Produkten zu lenken. Seine „Trusted AI"-Überprüfung ist ein standardisierter Prozess für interne und kundenorientierte Produkte und Funktionen, der es dem Unternehmen ermöglicht, potenzielle Risiken frühzeitig zu identifizieren und zu mindern.
Schulungen sind entscheidend, um Governance-Updates zu verbreiten. Onur Bakiner, Direktor der Technology Ethics Initiative an der Seattle University, sagt, das bedeute, Mitarbeiter über KI-Anwendungsfälle sowie Risiken zu schulen. Allerdings „entwickeln sich die Anwendungsfälle und Risiken schnell weiter, daher sollten Unternehmen eine dynamische Liste von Szenarien pflegen, insbesondere die Grauzonen-Situationen, in denen Unternehmen die Risiken gegen die Vorteile abwägen müssen."
Mark Surman, Präsident der Technologiegruppe Mozilla, sagt, viel des echten Lernens sei informell. „Wir haben einige sehr aktive Slack-Kanäle, in denen Leute teilen und darüber diskutieren, was in der KI-Welt passiert, von neuen Modellveröffentlichungen bis hin zu Papers und den Auswirkungen von KI."
Für deutsche Unternehmen bedeutet dies, dass KI-Governance nicht länger ein reines Compliance-Thema ist, sondern zu einer strategischen Aufgabe auf Vorstandsebene wird. Angesichts des EU AI Act, der verbindliche Anforderungen an den Umgang mit KI-Systemen stellt, dürften die Anpassungen der Governance-Strukturen hierzulande besonders dringlich werden.