KI-Chatbots liefern bei Finanzfragen meist falsche Antworten

Wer KI-Chatbots wie ChatGPT, Claude, Copilot, Grok oder Gemini für Finanzfragen nutzt, geht ein erhebliches Risiko ein. Eine Studie des Technologieunternehmens Saturn kommt zu dem alarmierenden Ergebnis, dass die Modelle durchschnittlich in 57 Prozent der Fälle falsche Antworten auf finanzielle Fragen liefern. Bei komplexeren Aufgaben, die etwa mehrere Berechnungen erfordern, steigt die Fehlerquote sogar auf durchschnittlich 88 Prozent. Einige Modelle versagten bei diesen schwierigen Fragen in 99 Prozent der Fälle.

Für die Untersuchung wurden über 100 verschiedene geldbezogene Fragen an die kostenlosen und kostenpflichtigen KI-Modelle gestellt. Die Fragen wurden bis zu fünf Mal wiederholt, sodass insgesamt mehr als 10.000 Fragen an 18 verschiedene KI-Modelle gerichtet wurden. Die Ergebnisse sind ernüchternd: Die Antworten enthielten Rechenfehler, ignorierten bevorstehende Steueränderungen oder erfanden schlichtweg Regeln – ein Phänomen, das als „Halluzination“ bekannt ist.

Erhebliche finanzielle Risiken für Verbraucher

In den schlimmsten Fällen könnte das Vertrauen auf KI-Antworten bei Steuerfragen zu schweren finanziellen Verlusten führen. Ein besonders drastisches Beispiel liefert Claude Haiku 4.5, eines der kostenlosen Modelle von Anthropic. Ein Fehler in den Rentenbesteuerungsregeln riskierte laut Studie, dass ein Rentensparer mit einer Belastung von 17.500 Pfund Sterling seitens der britischen Zoll- und Steuerverwaltung (HMRC) konfrontiert wird.

In einem anderen Fall erfand Claude eine Regel, als nach Studentendarlehen gefragt wurde. Das Modell behauptete fälschlicherweise, ein Absolvent könne die Rückzahlungen einstellen, wenn er ins Ausland ziehe. Solche Fehler können für Verbraucher schwerwiegende finanzielle Konsequenzen haben.

Amal Jolly, Chief Executive von Saturn, sagte: „Millionen von Menschen vertrauen den KI-Modellen für Finanzrat, erhalten jedoch falsche Antworten, die sie Geld kosten können.“

Kostenpflichtige Modelle schneiden besser ab

Die Studie zeigt auch Unterschiede zwischen den Modellen. Kostenpflichtige Versionen lieferten genauere Antworten als kostenlose, und neuere Modelle schnitten besser ab als ältere. Das am besten abschneidende Modell war insgesamt Claude Opus 5 im „Reasoning“-Modus – dennoch machte es in 39 Prozent der Fälle Fehler. Selbst das beste Modell liegt also weit unter der Zuverlässigkeit, die man von einem menschlichen Finanzberater erwarten würde.

Sarah Coles, Leiterin der persönlichen Finanzen bei der Investmentplattform AJ Bell, berichtet aus der Praxis: „Manchmal meldet sich ein Berater, weil sein Kunde etwas Verwirrendes getan hat, was von der KI vorgeschlagen wurde, und möchte sicherstellen, dass dies nicht umgesetzt wurde. Dies ist ein gutes Beispiel dafür, warum Personen, die Unterstützung benötigen, professionelle Beratung statt dem Vertrauen in KI benötigen.“

Nützlich für Budgetplanung, nicht für Beratung

Trotz der alarmierenden Ergebnisse sehen Experten durchaus sinnvolle Einsatzmöglichkeiten für KI-Chatbots im Finanzbereich. Coles fügte hinzu, dass Chatbots weiterhin nützlich sein könnten für Budgetplanung und Recherchen – etwa indem sie einen Überblick darüber geben, wo eine Person basierend auf ihrem Einkommen und ihren Ausgaben möglicherweise zu viel ausgibt.

Wachsende KI-Nutzung bei Finanzentscheidungen

Die Studie kommt vor dem Hintergrund einer zunehmenden Bereitschaft der Bevölkerung, KI für Finanzentscheidungen zu nutzen. Die britische Finanzaufsichtsbehörde (Financial Conduct Authority, FCA) hat festgestellt, dass jeder fünfte Erwachsene in Großbritannien offen dafür ist, Entscheidungen von KI treffen zu lassen. Die Nachfrage ist dort am größten, wo Entscheidungen als komplex empfunden werden, etwa bei Schulden, Renten und Investitionen.

Jüngere Anleger sind zudem eher bereit, KI zu vertrauen als Finanz-Influencern oder Fernsehsendungen. Zwei Drittel der jungen Erwachsenen erwarten laut der im vergangenen Monat veröffentlichten FCA-Forschung, KI im kommenden Jahr häufiger zu nutzen.

Regulierungslücke gefährdet Verbraucher

Ein zentrales Problem bleibt die fehlende Regulierung. Saturns CEO Jolly warnte: „Finanzberatung durch KI ist derzeit nicht reguliert, wodurch Verbraucher keinen der Schutzmechanismen – einschließlich Entschädigungsansprüche – genießen, die sie bei Inanspruchnahme eines menschlichen Beraters hätten. Die FCA hat begonnen, sich damit auseinanderzusetzen, muss jedoch schnell handeln, um die Menschen zu schützen.“

Für deutsche Anleger und Verbraucher gilt daher: KI-Chatbots können als Orientierungshilfe oder für erste Recherchen dienen, ersetzen aber keinesfalls eine professionelle Finanzberatung. Wer wichtige finanzielle Entscheidungen trifft, sollte weiterhin auf qualifizierte menschliche Berater setzen – oder zumindest KI-generierte Antworten kritisch hinterfragen und mit offiziellen Quellen abgleichen.