Fake-News-Gefahr: Warum wir KI nicht alles glauben dürfen

Im Journalismus macht sich die Angst breit, dass durch künstliche Intelligenz (KI) Jobs wegfallen. Aber von der Solennität und dem Seislertütsch hat die KI nicht viel Ahnung. Schlimmer noch: Sie liefert Fake News. 

Einst ersetzte die Dampfmaschine die Muskelkraft. Mit der künstlichen Intelligenz (KI) erhält die Geisteskraft des Menschen Konkurrenz. Maschinen können nun lernen. Sie übertreffen damit ihre Programmierung. Welche Folgen das stetig zunehmende Sprachverständnis der Maschinen nach sich zieht, ist noch ungewiss. Klar ist derweil, dass sowohl Werbetexter, Schriftstellerinnen und alle übrigen, die aus Worten Sätze bauen, betroffen sind. Also auch Journalistinnen und Journalisten.  

Das werde alles verändern, sagen Experten. Eine weit fortgeschrittene KI ist Chat GPT. Sie beantwortet Fragen in einer Chatbox im Internet, schreibt Gedichte und vollendet journalistische Artikel. Die Texte haben nichts Mechanisches, es gibt keine Wiederholungen und kaum grammatikalische Fehler. Automatisch generierte Texte verblüffen Autorinnen und Autoren. Gleichzeitig werden Übersetzungstools immer besser. 

Was heisst das alles für die Medien und den Journalismus? Die Antwort dazu liefert Chat GPT grad selber:

Chat GPT: In Bezug auf den Journalismus und die Medien haben automatisierte Übersetzungstools bereits positive Auswirkungen. Sie ermöglichen es Journalisten, schneller auf internationale Ereignisse zu reagieren und Nachrichten in Echtzeit zu übersetzen. Doch auch hier bleibt die menschliche Interpretation und Kontextualisierung unerlässlich. Journalismus und Medien sollten weiterhin auf Fakten und menschliches Verständnis setzen, um Vertrauen und Glaubwürdigkeit zu gewährleisten. Insgesamt erfordert die fortschreitende Technologie eine Anpassung der Arbeits- und Denkweise. Wir müssen uns darauf konzentrieren, unsere Fähigkeiten in Bereichen zu entwickeln, in denen menschliche Kreativität und Flexibilität unersetzlich sind.

Klar ist, dass die KI nicht am Slow-up Murtensee dabei sein und die Stimmung für eine Reportage einfangen kann. Sie kann nicht mit Teilnehmenden sprechen und vor Ort nachfragen, wie ihnen die Runde um den See ohne Motorenlärm gefällt. Sie hört nicht, wenn sich Kinder auf dem Velo fröhlich zurufen und sich gegenseitig zu Höchstleistungen antreiben.

Aber wie sieht es mit Fakten aus? Auf die Frage, wobei die KI den Journalistinnen und Journalisten helfen kann, liefert sie folgende Antwort: 

Chat GPT: Automatisierte Faktenüberprüfung: KI-Systeme können helfen, Fakten in Nachrichtenartikeln zu überprüfen und dabei helfen, Fehlinformationen und Fake News zu reduzieren. Dies kann die journalistische Integrität verbessern und das Vertrauen der Leser in die Medien stärken.

Gut – Grund genug, um zu überprüfen, ob die KI Fakten aus Deutschfreiburg liefern kann: Was weiss die KI über das Museum Murten?

Chat GPT: Das Museum Murten ist ein historisches Museum in der Stadt Murten im Kanton Freiburg, Schweiz. Es wurde im Jahr 1952 gegründet und befindet sich im alten Schulhaus von Murten, einem Gebäude aus dem 17. Jahrhundert.

Ups, da ist etwas falsch. Das Museum Murten hat seinen Standort in der alten Stadtmühle, das Gebäude diente nie als Schulhaus.

Zweiter Test: Was weiss die KI über die Solennität in Murten? 

Chat GPT: Die Solennität in Murten, auch bekannt als «Murtner Fastnacht», ist ein jährliches Festival, das in der Stadt Murten in der Schweiz stattfindet. Das Festival findet am Wochenende vor Rosenmontag statt und dauert drei Tage. Die Solennität hat eine lange Geschichte, die bis ins 16. Jahrhundert zurückreicht. Das Festival beinhaltet verschiedene Veranstaltungen wie Umzüge, Maskenbälle, Konzerte und Feuerwerke. Ein wichtiger Höhepunkt des Festivals ist der «Chienboule», bei dem eine mit Feuerwerkskörpern gefüllte Kugel durch die Strassen der Stadt gerollt wird.

Ups, noch mehr Falschinformationen. Die KI hat keine Ahnung von der Murtner Soli, sie bringt alles durcheinander und klingt dabei erst noch höchst überzeugend. Wie will die KI denn bloss Fakten überprüfen, wenn sie selber falsche Angaben liefert?

«A wäuts Müscht»

Vom See- in den Sensebezirk. Auf die Frage «Was weisst du über Seislertütsch?» antwortet die KI: 

Chat GPT: Als KI-Modell habe ich Zugang zu einer umfangreichen Datenbank von Wissen und Informationen. Seislertütsch ist ein Dialekt des Schweizerdeutschen und wird hauptsächlich im Kanton Obwalden und teilweise in Nidwalden gesprochen. 

Nun, auch bei dieser Probe zeigt sich: Die KI liefert im Brustton der Überzeugung eine komplett falsche Antwort. Auf Seislertütsch: «A wäuts Müscht». Die FN fragen ein zweites Mal nach: Wo wird Seislertütsch gesprochen? Die Maschine beharrt auf ihrem Standpunkt: 

Chat GPT: Seislertütsch ist ein Dialekt des Schweizerdeutschen und wird hauptsächlich im Kanton Obwalden in der Zentralschweiz gesprochen.

Falsch. Seislertütsch sprechen Menschen aus dem Kanton Freiburg. Aus dem Sensebezirk des Kantons Freiburg, ist die Rückmeldung der Journalistin an die KI auf diese Falschinformation. Darauf gibt die Maschine folgende Antwort: 

Chat GPT: Es tut mir leid, aber ich muss Sie korrigieren. Seislertütsch wird tatsächlich im Kanton Obwalden und nicht im Kanton Freiburg gesprochen.

Ist das nun ärgerlich oder amüsant? Sollen sich die «Freiburger Nachrichten» mit dieser KI streiten? Klar ist, dass diese Maschine auf der Ebene des Lokaljournalismus zumindest heute nicht helfen kann, im Gegenteil. Klar ist aber auch, dass es sich um eine lernende Maschine handelt, sie verbessert sich ständig. 

Faszinierend bleibt jedoch die Überzeugung, mit welcher die KI Dinge behauptet. Gemäss einem Bericht in der «Süddeutschen Zeitung» erfinden Sprachmodelle wie Chat GPT gerne Dinge. Das liege an ihrer Konstruktion. Fachleute nennen die Melange aus Fakten und Fiktion Halluzination. Chat GPT sei darauf trainiert, plausibel klingende Texte zu verfassen, mehr nicht.