Salesforce-CEO Benioff warnt KI-Branche vor Wiederholung von Fehlern

Salesforce-CEO Marc Benioff hat sich der wachsenden Debatte über die Sicherheit Künstlicher Intelligenz angeschlossen und die Branche eindringlich zu verantwortungsvollem Handeln aufgefordert. Der Manager warnte davor, dass KI-Unternehmen nicht dieselben Fehler wiederholen dürften wie die Social-Media-Konzerne.

„Viele Unternehmen haben Schaden genommen, viele Einzelpersonen haben durch soziale Medien Schaden genommen“, sagte Benioff in einem Interview mit Jim Cramer auf CNBC am Rande der jährlichen Dreamforce-Veranstaltung in San Francisco. „Wir wollen nicht, dass dies bei KI passiert.“ Seine Kommentare fallen in eine Zeit intensiv geführter Diskussionen über die Sicherheit von KI-Systemen.

Warnung vor den Lehren aus Social Media

Benioff hat eine lange Geschichte darin, Technologieunternehmen zur Verantwortung zu ziehen. Bereits 2018 bezeichnete er Facebook als „die neuen Zigaretten“ und forderte strengere staatliche Regulierung der Branche. Nun überträgt er diese Kritik auf die KI-Industrie. Der Salesforce-CEO argumentiert, dass Unternehmen, die diese Technologie entwickeln, die Verantwortung tragen, ihre weiterreichenden Konsequenzen zu berücksichtigen.

„Wir wollen, dass KI sich um diese Dinge kümmert und verantwortlich gehalten wird, diese Aktionen übernimmt und ethisch handelt“, sagte Benioff. „Das Herzstück der Ethik ist Verantwortung.“ Er fügte hinzu: „Wir schauen wirklich auf ein Licht unserer Brüder hier in San Francisco und auf der ganzen Welt und sagen: ‚Wir wollen, dass Sie in Ihren Handlungen ethisch sind und wie Sie Ihre Gemeinden und die Welt behandeln‘, denn diese Technologie ist sehr mächtig.“

Anthropic-CEO als Impulsgeber

Die aktuelle Debatte wurde kürzlich durch einen Aufsatz von Anthropic-CEO Dario Amodei am Wochenende angeheizt. Amodei rief dazu auf, dass Labors für Frontier-KI das Tempo der Modellentwicklung verlangsamen sollten, um Sicherheitsmaßnahmen mehr Zeit zum Aufholen zu geben. Am Dienstag trat Amodei während Benioffs Hauptrede auf der Bühne auf und sagte: „Ich denke, das ist der Weg, die Branche voranzubringen, ein Beispiel zu setzen und zu sagen, dass jeder immer besser sein kann.“

Bemerkenswert ist, dass Salesforce enge Verbindungen zu den Unternehmen unterhält, die an der Spitze des KI-Booms stehen. Erst im vergangenen Monat stellte Salesforce Cloudeforce vor, das ein Plugin enthält, das es Kunden ermöglicht, Claude von Anthropic zu nutzen, um Kundendaten zu speichern und Aufgaben wie das Verfassen von E-Mails auszuführen.

Aktienmarkt reagiert positiv

Die Salesforce-Aktien gaben am Dienstag einen Teil ihres mehr als 4,5 Prozent starken Anstiegs vom vorherigen Handelstag wieder ab. Die Aktien des Unternehmenssoftware-Konzerns waren am Montag stark gestiegen – ausgelöst durch Amodeis Aufruf, die KI-Entwicklung zu verlangsamen. Die Gruppe, die Anfang des Jahres noch unter der Angst vor KI-Disruptionen litt, macht in den letzten Monaten ein Comeback, da die Wall Street allmählich akzeptiert, dass KI nicht alles ersetzen kann.

Salesforce liegt aktuell mehr als 50 Prozent über seinem 52-Wochen-Tief von 146 US-Dollar, das Ende Juni erreicht wurde. Benioff selbst hat es vermieden, KI-Unternehmen direkt zu kritisieren oder Aufrufe zur Verlangsamung der KI-Entwicklung zu unterstützen. Stattdessen betont er die Eigenverantwortung der Branche: Die Unternehmen müssten sicherstellen, dass die Technologie ethisch und verantwortungsvoll eingesetzt werde.