„Die Sprach-KIs sind gebaut, um zu halluzinieren.“

Wie informieren Sie sich eigentlich über die wichtigen Ereignisse des Tages? Durch das Radio morgens im Bad. so wie ich? Am Frühstückstisch mit einer Tageszeitung? Oder scrollen Sie am Smartphone durch den Feed und klicken weg, sobald Sie auf eine Paywall treffen?  

Unser Informationsverhalten hat sich in den zurückliegenden Jahren fundamental gewandelt. Nicht nur in Deutschland hat sich die verkaufte Auflage von Tages- und Sonntagszeitungen seit 1995 mehr als halbiert, auch die Umsätze im Buch-, Zeitungs- und Zeitschriftenmarkt sind rückläufig. Auf internationaler Ebene sieht das Bild nicht besser aus.

Die Medienwirtschaft befindet sich im Umbruch. Qualitätsjournalismus hat es zunehmend schwerer, sich zu behaupten. Konkurrenz-, Zeit- und Kostendruck im Medienbereich steigen seit Jahren. Zurückgehende Werbeeinnahmen im Printbereich, die bislang nicht durch entsprechende Mehreinnahmen im boomenden Online-Bereich auszugleichen sind, machen vielen Medienunternehmen das Leben schwer. Diese Veränderungen bleiben nicht ohne Wirkung auf den Arbeitsmarkt und die Beschäftigungsbedingungen, schreibt auch die Bundesanstalt für Arbeit in ihrem jüngsten Blick auf die Branche. 

Kann ein Medienunternehmen hochwertige und womöglich kreative Inhalte überhaupt noch anbieten? Oder schreibt künftig ohnehin kein Mensch mehr, was ich morgens lese?

Hallo, wer schreibt denn da?

Zurück an den Küchentisch, zu den ersten wichtigen Informationen des Tages. Da sitze ich also mit meinem Kaffee in der Hand und scrolle durch den Feed – und weiß nicht wirklich, ob ich den Nachrichten vertrauen kann.

Kann ich glauben, was ich lese?

Mehrere aufsehenerregende Fälle haben in jüngster Vergangenheit ans Tageslicht gebracht, dass Inhalte einiger Anbieter von einer künstlichen Intelligenz (KI) erstellt waren, der Hinweis darauf aber kaum aufzufinden war. Konsumenten fühlen sich hintergangen: In einer von „Fake-News“ geprägten und unsicheren Zeit dürfte das die Glaubwürdigkeit von Medieninhalten weiter untergraben.  

Müssen diese Mitarbeiter*innen der Zukunft neben einem neuen Mindset auch ein neues Skill-Set mitbringen? Anders gefragt: Sind ganz neue Kompetenzen erforderlich?? „Ich bin mir nicht sicher, ob man überhaupt irgendein zusätzliches Skill braucht“, winkt Markert ab. „Das Einzige, was man letztendlich mitbringen muss, ist Neugier.”

Mit dem Ziel, die Mitarbeitenden auf dem Weg mitzunehmen und zu begeistern, hat BurdaForward im vergangenen Jahr erstmals die AI-Week durchgeführt, eine großangelegte interne Fortbildungswoche, bei der über Quantencomputing genauso geredet wurde wie über Cyber Robotik und den Einsatz generativer KI. Wahrgenommen haben das Angebot hunderte Mitarbeiter*innen und namhafte Speaker, Unternehmen und Technologieanbieter. Der zweiwöchentliche AI-Tuesday sorgt im Unternehmen dafür, dass alle am Ball bleiben: Hier treffen sich jeden Dienstag um die hundert Kolleg*innen und tauschen Wissen aus, testen Tools und teilen aktuelle Entwicklungen und Perspektiven. Für den Nachwuchs in der konzerneigenen Journalistenschule ist die künstliche Intelligenz bereits selbstverständlicher Bestandteil des Lehrplans und der Praxis.

Das Einzige, was man mitbringen muss, ist Neugier. Oliver Markert

Wenn die Synthese gelingt

Denn der Einsatz von KI, so disruptiv er heute wahrgenommen werde, sei doch letztendlich ein folgerichtiger Schritt im Sinne der Nutzer*innen, vergleichbar mit der Erfindung der Computermaus oder der Handykamera: „‘KI, das geht wieder weg‘“, zitiert Markert einen Kollegen, „und das ist folgendermaßen gemeint: den Einsatz von KI wird man bald gar nicht mehr merken, weil es völlig normal für uns ist. Das passiert auch heute schon in den Geräten: Da steckt so viel Zeug drin, das wir einfach unhinterfragt benutzen. Handykameras sind ein gutes Beispiel dafür, wie viele Skripte im Hintergrund ablaufen – und wir drücken den Knopf, und das Gerät macht ein Bild. Vor wenigen Jahren musste man die Blende und die Belichtungszeit einstellen, dann musste man alles zum Entwickeln bringen und zwei Wochen warten. Das ist jetzt alles verschwunden. Genauso wird es auch hier sein: Die Technologie wird in den Hintergrund treten. Exakt das ist unsere Aufgabe als Arbeitgeber: die beste Arbeitssoftware zu designen, mit der unsere Teams gerne und gut arbeiten.“

„Das Zusammenspiel von menschlicher Kreativität und digitalen Werkzeugen kann ein fulminantes Feuerwerk zünden.“ So haben es Miriam Meckel und Léa Steinacker in ihrem Buch „Alles überall auf einmal: Wie Künstliche Intelligenz unsere Welt verändert und was wir gewinnen können“ zusammengefasst. Die Professorin für Kommunikationsmanagement an der Universität St. Gallen und die promovierte Sozialwissenschaftlerin zeigen hier die Chancen auf, die aus einer gelungenen Synthese aus menschlichem Potenzial und technologischer Innovation erwachsen können.

Sorgfaltspflicht gegen Fake

Aber was, wenn KI zur bewussten Manipulation genutzt wird? Immer wieder tauchen spektakuläre Erzeugnisse auf, die einer Fake-News sehr nahekommen. Erst kürzlich musste Google seinen Chatbot Gemini zurückpfeifen, weil dieser auf den Prompt (Auftrag), einen deutschen Soldaten aus dem Jahr 1943 zu zeigen, eine PoC (Person of Colour) in Naziuniform gesteckt hatte.

Folgt man einer kürzlich publizierten repräsentativen Studie der Bertelsmann-Stiftung, zeigen die Umfrageergebnisse „ein wachsendes Misstrauen gegenüber Medien und Politik bei gleichzeitiger Verunsicherung". Ein knappes Drittel der Befragten habe nur wenig Vertrauen in Medien. Das Bewusstsein für die Risiken absichtlicher Falschinformationen für die Demokratie sei in weiten Teilen der Bevölkerung geschärft, heißt es in der Studie.

Markert hält auch das nicht für neu: „Wenn wir in die Geschichte des Journalismus sehen, gab es immer schon Versuche, Journalisten übers Ohr zu hauen. Deswegen haben wir dort Menschen sitzen, die geistige Hochleistungssportler sind. Wir sensibilisieren unsere Leute immer wieder: ‚Ihr könnt keinem Foto mehr trauen, keinem Text, keinem Video, keiner Stimme.‘  Wir selbst arbeiten schon mit den großen Playern, um zum Beispiel Bilder aus einer bildgenerativen KI wie Adobe Firefly möglichst immer ihrer Quelle zuweisen zu können und eventuelle Änderungen an dem Bild schnell zu erkennen. Weil wir wissen, wie diese Technologien funktionieren, kennen wir auch deren Fallstricke und stellen uns bestmöglich auf, um nicht über eine Fälschung zu stolpern.“

Werkzeug oder Generator?

Doch werde die KI nur als ein Tool von vielen im Prozess eingesetzt, der Mensch halte die Fäden in der Hand: „Zur journalistischen Sorgfaltspflicht gehören eindeutige Quellenangaben, das hat sich nicht verändert. Wenn beispielsweise eine Illustration aus einer Maschine kommt, dann steht da zum Beispiel Dall-E oder Midjourney. Bei uns im Haus gibt es keine rein mit KI erstellten Textinhalte, sondern immer Menschen, die sowohl die Inputs überprüfen als auch die Outputs.“

Welche Regeln braucht das neue Spiel?

Dass sich hier verbindliche und akzeptierte Spielregeln erst noch durchsetzen müssen, zeigt der Blick auf ein Urteil des Presserats, der im Dezember eine Kochzeitschrift wegen der Verwendung von KI-generierten Bildern gerügt hat. Im selben Monat hat die New York Times openAI spektakulär wegen Copyright-Verletzung verklagt. Seit Jahren schon fordert Google-Chef Sundar Pichai internationale Regeln für die künstliche Intelligenz. 

Bei Hubert Burda Media hat man eine Haltung zum Umgang mit KI entwickelt. Der Konzern hat ein Manifest erarbeitet und ist der Glaubwürdigkeit verpflichtet. Dazu gehört auch, dass Fakten sauber recherchiert sind und es seriöse Quellen gibt.

Was bedeutet das hohe Gut der Glaubwürdigkeit im Wettlauf um die Aufmerksamkeit der Nutzer*innen? Können andere Anbieter schneller sein, weil sie sich nicht darum scheren, ob eine Nachricht Fake ist oder nicht? Markert winkt ab: „Wenn die BBC meldet, die Queen ist tot, ist die Queen tot. Es gibt absolut verlässliche Quellen, von öffentlicher Seite zum Beispiel, auf die kann man einfach vertrauen. Und wir haben natürlich Menschen in unserer Redaktion, die anrufen, nachfragen und prüfen, ob die Geschichte wasserdicht ist. Das sind in der Regel nur wenige Anrufe oder Nachfragen. Am Ende reden wir über ein paar Minuten, und die Zeit nehmen wir uns auf jeden Fall. Das sind klassische journalistische Recherchequalitäten und menschlicher Basisjob bei uns, auch in Zeiten von KI.“

Ähnlich sagte das kürzlich die Justiziarin und stellvertretende Geschäftsführerin des Deutschen Journalistenverbandes, Hanna Möllers: „Die Kernaufgaben des Journalismus kann KI nicht: Das Analysieren politischer Zusammenhänge, das Erkennen von Problemlagen, das Vermitteln zwischen Politik und Bevölkerung. Alles, was die Watchdog-Aufgaben des Journalismus in der Demokratie betrifft.“  

So hat zum Beispiel Reporter ohne Grenzen eine Initiative lanciert, die sich an den ISO-Normen orientiert, um die Glaubwürdigkeit des Journalismus zu gewährleisten. Microsoft verwendet sie in seinen Algorithmen, um sicherzustellen, dass der unabhängige Journalismus mehr zum Tragen kommt, sagt der Demokratieschützer Michael Bak.

Halluzination braucht Leitplanke

Ist denn bei BurdaForward schon mal etwas schief gegangen? „Natürlich ist es ganz wichtig, den Mitarbeitern auch zu sagen: ‚Pass auf, dass dir die Technologie keinen Fehler unterjubelt‘“, räumt Markert ein. „Das kennen wir auch: Da hat das System Protagonisten und Zitate erfunden, die im Original gar nicht vorhanden waren. Folglich ist es wieder eine Designaufgabe: Was ist hineingegangen in die Maschine, und was kommt wieder hinaus? Wir vermitteln unseren Kolleg*innen ganz klar: Die Sprach-KIs sind gebaut, um zu halluzinieren. Unsere Aufgabe ist es aber, Leitplanken dafür zu setzen, dass sie das möglichst nicht tun – durch unsere technischen Vorgaben. Das werden wir aber nie zu 100 Prozent schaffen. Deswegen brauchen wir die Menschen. Man muss skeptisch bleiben." 

Man muss skeptisch bleiben. Oliver Markert

Wir sagen unseren Kolleg*innen: ‚Wir können euch immer die ersten 80 Prozent, und wenn wir uns richtig anstrengen auch die ersten 90 Prozent des Weges beschleunigen, aber für die letzten 10 Prozent brauchen wir dich und wirklich deine ganze Konzentration: dass du dich hier nicht hinter die Fichte führen lässt.‘ Ich bin überzeugt, dass das für uns als Medienhaus die Chance ist, uns abzugrenzen von diesen anderen Plattformen.“

Vom schreibenden Journalisten zur Kontrollinstanz für eine fantasierende künstliche Intelligenz – ist das der Weg, den das Berufsbild der Journalist*innen gerade nimmt?

Human ist einfach ein Qualitätsmerkmal. Oliver Markert

Die Bedürfnisse der Nutzer*innen

„Unser ehemaliger Chef hat immer gesagt: ‚Digitalisierung ist im Kern keine Technikrevolution, sondern das radikale Ins-Zentrum-Stellen des Menschen‘. Wir haben das totale Glück, dass wir ein technologieverliebtes Unternehmen sind – das hat uns in der Vergangenheit immer wieder Chancen eröffnet. Chancen, um frühzeitig Entwicklungen zu sehen, diese zu umarmen, auszuprobieren, einzubauen und so Wert zu schaffen“, fasst Oliver Markert es zusammen. „Human ist einfach ein Qualitätsmerkmal: etwas, das auf absehbare Zeit nicht weggehen wird und auch nicht weggehen darf.“

Und vielleicht ist dies der Weg, eine ganze Branche überlebensfähig aufzustellen.

Das Gespräch mit Oliver Markert wurde geführt von Maike Tippmann. 04/2024