Menu
Suche

45 Prozent aller KI-Inhalte mit mindestens einem erheblichen Fehler

Millionen Menschen ziehen KI-Tools heran, um sich zu informieren. Doch in 45 Prozent der Fälle geben KI-Assistenten Nachrichteninhalte fehlerhaft wieder. Das zeigt die Studie "News Integrity in AI Assistants" der Europäischen Rundfunkunion (EBU). Welche Forderungen leiten die beteiligten TV- und Rundfunkanstalten daraus ab?

Neben ARD und ZDF beteiligten sich öffentlich-rechtliche Sender aus Frankreich, Kanada, Schweden, Spanien, den USA und anderen Ländern an der internationalen Studie "News Integrity in AI Assistants" unter Federführung der BBC, die am 22. Oktober veröffentlicht wurde. Es zeigte sich, dass KI-Tools Fehler produzieren – unabhängig von Sprache, Region oder Plattform.

Zentrale Ergebnisse der Studie:

  • 45 Prozent aller KI-Antworten wiesen mindestens einen erheblichen Fehler auf.
  • 31 Prozent der Antworten zeigten gravierende Probleme bei den Quellenangaben.
  • 20 Prozent enthielten deutliche Ungenauigkeiten, Halluzinationen oder veraltete Informationen.

In einer gemeinsamen Mitteilung von ARD und ZDF sagt Florian Hager, ARD Vorsitzender und hr-Intendant: "Wir sehen unsere Linie von der Studie gestützt: Vertrauenswürdige Inhalte brauchen vertrauenswürdige KI-Systeme. Die ARD hat explizit Interesse daran, dass unsere Inhalte auch über KI für die Nutzenden zugänglich sind. Deshalb suchen wir aktiv das Gespräch mit den Plattformen, um zu guten Kooperationsmodellen zu kommen, die einen regulierten Zugang zu unseren Inhalten ermöglichen. Es braucht Mechanismen, die falsche und missverständliche Informationen verhindern."

ZDF-Intendant Dr. Norbert Himmlerergänzt: “Wir wollen die Informationsvermittlung im KI-Zeitalter aktiv mitgestalten und sehen die Chancen der Technologie. Die Studie belegt zugleich die Bedeutung öffentlich-rechtlicher Informationsangebote. Dort finden die Menschen verlässliche Informationen und journalistische Einordnung, die KI-Tools allein nicht leisten können. Die Studie unterstreicht zudem die Notwendigkeit, die Qualität von KI-generierten Inhalten kontinuierlich zu überprüfen.”

Nächste Schritte

Das Forschungsteam hat außerdem ein Toolkit zur Genauigkeit bei KI-Assistenten veröffentlicht. Es enthält Vorschläge an die KI-Anbieter zur Verbesserung der KI-Antworten und zur Förderung der Medienkompetenz bei Nutzerinnen und Nutzern. Aufbauend auf den Ergebnissen der Studie geht es um die Fragen: Was macht eine gute KI-Antwort auf eine Nachrichtenfrage aus?" und Welche Probleme müssen behoben werden?

Darüber hinaus fordern die Europäische Rundfunkunion (EBU) und ihre Mitglieder die EU und nationale Regulierungsbehörden auf, bestehende Gesetze zur Informationsintegrität, zu digitalen Diensten und zur Medienvielfalt konsequent durchzusetzen. Sie betonen, dass eine fortlaufende unabhängige Überwachung von KI-Assistenten angesichts der rasanten Entwicklung der Technologie unerlässlich ist, und prüfen Möglichkeiten für eine kontinuierliche Forschung.

Weitere Informationen 

Zurück zur Übersichtsseite