KI-Debatte: Warum Stephan Weichert eine eindeutige Verantwortungskette in Redaktionen fordert

Den Einsatz Künstlicher Intelligenz im Journalismus zu verweigern, hält Medienwissenschaftler Stephan Weichert für „nostalgisches Rückspiegeldenken“. Aber er warnt auch vor den Folgen der „stillen KI-Invasion im Journalismus“, die eine schrittweise Verlagerung von Verantwortung zur Folge habe. 

Interview: Bettina Pregel

Tendenz: „Der Journalismus schafft sich selbst ab“ haben Sie in einem Blogbeitrag zur stillen KI-Invasion im Journalismus geschrieben. Wie begründen Sie diese These?

Stephan Weichert: Die Formulierung ist natürlich bewusst zugespitzt. Nicht die KI schafft den Journalismus ab – der Journalismus erledigt das schon von selbst, wenn er weiterhin seine Urteilskraft und damit seine gesellschaftliche Rolle Schritt für Schritt an Maschinen delegiert. Ich sehe dabei fünf Eskalationsstufen: Formulieren, Strukturieren, Recherchieren, Prüfen, Entscheiden. Je nachdem, von welcher Redaktion wir sprechen, bewegen sich die meisten auf den Stufen 3 oder 4. In der Endstufe wird aus KI-Assistenz dann unmerklich KI-Autorität.
Stephan Weichert: Wie weit diese Entwicklung gehen könnte, zeigt ausgerechnet Argentinien: Die dortige Regierung hat erst kürzlich gesetzlich zugelassen, komplette Unternehmen autonom durch KI-Systeme managen und produzieren zu lassen. Nur weil das technisch geht, wäre eine solche Logik im Journalismus fatal. Denn eine Redaktion ohne „Human in Command“ ist keine Redaktion mehr, sondern eine AI-Content-Fabrik. International werben erste Projekte bereits mit autonomen Newsrooms ohne menschliche Hinterleute. „The Signal“ verspricht „zero human editors“, also Inhalte ohne jegliche menschliche Intervention. Bei solchen dystopischen Ansätzen reiben sich viele Medienmanager vermutlich die Hände. Uns Journalisten sollte das alarmieren. Echten Journalismus muss am Ende immer der Mensch verantworten. Sie würden ja auch keinen KI-Roboter Ihr Herz operieren lassen – jedenfalls noch nicht.

Tendenz: Ist der Einsatz von Künstlicher Intelligenz in Redaktionen wirklich eine Frage des OB oder eher des WIE? Anders gefragt: Was kann die KI Ihrer Ansicht nach leisten und was nicht?

Stephan Weichert: Die Frage des „ob überhaupt“ sehe ich inzwischen klar beantwortet: Eine Redaktion, die sich KI vollständig verweigert, wird meines Erachtens den Anschluss verlieren. Momentan macht ja der SPIEGEL solche Anstalten, das Haus zum KI-freien „Menschenmedium“ zu erklären. Ich halte das für das falsche Signal, das wirkt wie nostalgisches Rückspiegeldenken. Das WIE des KI-Einsatzes müssen wir in den kommenden Monaten in den Redaktionen noch stärker ausverhandeln, nämlich die Frage, wo wir KI ausdrücklich nicht einsetzen sollten. Vereinfacht gesagt: KI kann transkribieren, übersetzen, Daten sortieren, neue Ideen liefern, Formulierungen machen, Textvarianten erzeugen, Recherchematerial erschließen und lästige Routine beschleunigen. Aber sie sollte keine journalistische Verantwortung übernehmen. Denn sie hat kein Weltverhältnis, keine Moral und keinen Zweifel im menschlichen Sinn.
Deshalb plädiere ich in Redaktionen für vereinbarte journalistische Sperrzonen, etwa bei der Quellenbewertung, Verifikation, ethischen Einordnung und auch der Letztentscheidung zur Veröffentlichung – das muss alles beim Menschen bleiben. Wer alles automatisiert, was sich automatisieren lässt, verwechselt technische Folklore mit journalistischer Güte. Mein Grundsatz lautet: Journalismus first, KI second.

KI kann mittelmäßigen Journalismus schnell ersetzen

Tendenz: Sie kritisieren eine drohende Neuordnung redaktioneller Arbeit. Wie wird die aussehen?

Stephan Weichert: Sie wird banaler daherkommen als die großen Untergangsszenarien, die jetzt überall verbreitet werden und auch der Massenvermarktung der KI-Systeme dienen. Zuerst verschwinden Zwischenschritte: Recherchevorbereitung, Brainstorming, Formulierungshilfe, Übersetzung, Zusammenfassungen, Schlussredigat. Journalisten werden zu Kontrolleuren maschinell vorstrukturierter Prozesse "degradiert".

Gleichzeitig entsteht im Journalismus eine Zweiklassengesellschaft: auf der einen Seite billige, synthetische Massenware für ein Massenpublikum, das sich jetzt schon mit synthetischen Social-Media-Inhalten zufriedenstellen lässt; auf der anderen Seite hochwertige Recherche, Expertise, Quellenkenntnis und journalistische Glaubwürdigkeit. Diese Spreizung ist gerade jetzt sehr unangenehm für eine Branche, die lange vorgab, jede Form von Content sei schon Journalismus. Für mich sind in Deutschland Newsportale, die auf Clickbaiting setzen, sehr treffende Beispiele. Das eigentliche Problem ist aus meiner Sicht daher nicht der integere, sondern der mittelmäßige Journalismus. Den kann die KI tatsächlich ziemlich schnell ersetzen.

Tendenz: Welche Rolle spielen die wirtschaftlichen Zwänge der Medienhäuser in der Debatte über den KI-Einsatz? Letztlich geht es für manche Publikationen und Sender ja schlicht ums Überleben.

Stephan Weichert: Wer diese Zwänge ignoriert, argumentiert aus der Theorie. Trotzdem ist die entscheidende Frage, wofür mögliche Effizienzgewinne durch KI verwendet werden. Wenn KI vor allem dazu dient, mit weniger Menschen noch mehr sinnlosen Content herzustellen, saniert man vielleicht kurzfristig die Bilanz des eigenen Medienhauses, ruiniert aber langfristig seinen Ruf.

Sinnvoll wäre das Gegenteil: Routine automatisieren, um Redaktionen mehr Freiräume für Vor-Ort-Recherche, Präsenz, Expertise und Publikumsbeziehungen zu ermöglichen. Wir haben bei Social Media schon einmal geglaubt, der ökonomische Druck zwinge Medien dazu, ihre Distribution an die Plattformen auszulagern. Herausgekommen ist eine gemietete Öffentlichkeit, deren Regeln Meta, Google und TikTok machen. Diesen Fehler dürfen wir bei KI nicht wiederholen. Sonst bleibt Journalismus der Rohstofflieferant seiner eigenen Abschaffung.

Wer Technologie ernst nimmt, muss auch über Macht und Abhängigkeit nachdenken

Tendenz:  Was entgegnen Sie Kritikern, die Ihre Argumentation als technologiefeindlich und wenig zukunftsorientiert beschreiben?

Stephan Weichert: Meine Argumentation ist nicht technologiefeindlich, sondern technologieresilient. Das ist für das VOCER- Institut quasi die erwachsene Form reiner Innovationsoffenheit, die in vielen Bereichen der Gesellschaft in den letzten Jahren mehr geschadet als genutzt hat. Ich erinnere mich genau, dass noch bis vor kurzem in den Medienmanagement- und Startup-Schmieden die Zuckerberg-Losung „Move fast and break things“ als common sense galt. Wer das heute immer noch ernsthaft behauptet, befindet sich auf einer Linie mit Alex Karp oder Peter Thiel, also mit den radikalsten Demokratiefeinden aus dem Technologiesektor.

Wer Technologie ernst nimmt, muss auch über Macht, Eigentum und Abhängigkeit nachdenken. KI bietet uns Menschen so gesehen gigantische Ressourcen für Recherche, Wissen und Produktivität, aber auch für Kreativität. Aber sie ist keine Naturgewalt, sondern eine von Unternehmen erzeugte Infrastruktur mit Geschäftsinteressen. Die permanente Innovationsrhetorik des Silicon Valley dient vor allem dazu, diese Machtfragen zu verschleiern.

Tendenz: Zur Zeit gibt es eine heftige Debatte über KI-generierte journalistische Texte. Der SPIEGEL hat z. B. neue Richtlinien im Umgang mit KI entwickelt. Welche Punkte müsste Ihrer Ansicht nach eine solche Richtlinie enthalten?

Stephan Weichert: Puh, ja, diese Debatte halte ich für bigott und ziemlich schäbig. Hier wird von Einzelnen versucht, Politikern oder Journalisten einen Etikettenschwindel unterzujubeln, weil sie vielleicht für einen besseren Satzbau oder eine fluffigere Formulierung die KI um Rat gefragt haben. Diese Vorwürfe gehen meinem Eindruck nach vor allem von Leuten aus, die entweder noch nie systematisch mit KI gearbeitet haben oder es nur vom Hörensagen kennen. Es sind auch manche Unkenrufer wie PR-Berater oder Werbetexter dabei, bei denen man den Eindruck hat, sie wollen vor allem den eigenen Berufsstand vor der KI-Disruption schützen, um nicht selbst überflüssig zu werden.
Das Schlimme daran ist, dass diese undifferenzierte und hämische Auseinandersetzung mit den Zügen einer Hexenjagd schon einige Journalisten den Job gekostet hat. Statt sich mit der Materie ernsthaft auseinanderzusetzen und jeden Journalisten oder Redakteur zu loben, dass er oder sie mit KI experimentiert, hackt die Branche wieder fleißig aufeinander rum, als hätten wir nichts Besseres zu tun.

Meine Meinung ist, dass wir eine Fehlerkultur etablieren müssen, um von der KI-Nutzung zu lernen. Es kann dank KI auch ein besserer Journalismus entstehen, indem wir zum Beispiel Inhalte für unterschiedliche Bildungsmilieus aufbereiten. Da sehe ich noch viel verschenktes Potenzial. Vor allem aber sollten wir uns von dem Absolutheitsanspruch lösen, als könnte man die Moralkeule jetzt nach jedem werfen, den man mit einer angeblich fehlerfreien Detektiv-Software wie Pangram oder GPTZero als „KI-Fälscher“ denunzieren kann.

Wichtig ist vielmehr, dass es in Redaktionen eine eindeutige Verantwortungskette, Red Flags für synthetische Quellen und erfundene Zitate gibt, aber auch verbindliche Regelungen für Verifikation, Quellenschutz, vertrauliche Daten, Transparenz gegenüber dem Publikum und dokumentierte Arbeitsprozesse.

Entscheidend ist nicht, ob ein Kodex nach außen hin hübsch klingt, sondern ob nach einem Fehler, wie er nicht nur dem Spiegel passiert ist, auch noch klar ist, wer diesen zu verantworten hat. Viele KI-Leitlinien dienen derzeit vor allem der Eigenseditation. Das reicht nicht. Deshalb schlagen wir ein KI-Framework für Redaktionen vor.

Journalisten müssen für ihre Entscheidungen einstehen, eine KI nicht

Tendenz: Letztlich geht es in dieser Debatte doch um eine Frage des Selbstverständnisses. Wo liegt denn für Sie der Unterschied zwischen Mensch und Maschine im Journalismus?

Stephan Weichert: Journalismus war noch nie reine Inhalteproduktion, sondern immer schon eine verantwortete Beziehung zum Publikum. Das haben einige  Journalisten zwar schon immer missverstanden, aber ohne Nutzende kann Journalismus schlechthin nicht existieren. Der Journalismus ist in seiner ureigenen Form für Menschen gemacht und damit per se nicht-maschinell – im Guten wie im Schlechten: Journalisten treffen Menschen, schützen Quellen, erleben Widersprüche, zweifeln, irren sich, korrigieren sich und müssen für ihre Entscheidungen einstehen.

Ein Large Language Modell (LLM) kann all das zwar sprachlich imitieren, aber nicht „erfahren“. Es kann Zweifel formulieren, ohne selbst zu zweifeln; Empathie simulieren, ohne Anteil zu nehmen; eine brillante Formulierung erzeugen, ohne sie zu würdigen. Und ab da wird die gegenwärtige Vermenschlichung der KI gefährlich. Die KI kann journalistisches Material erzeugen, den Journalisten selbst kann sie nicht ersetzen.

Tendenz: Das von Ihnen gegründete VOCER-Institut hat ein Whitepaper zur „KI-Resilienz im Journalismus“ veröffentlicht. Wie lässt sich diese Resilienz erwerben?

Stephan Weichert: Jedenfalls nicht durch den nächsten Prompt-Kurs. KI-Resilienz ist bei uns keine mentale Fitnessübung, sondern meint die institutionelle Handlungsfähigkeit. Sie braucht Transparenz, Datensouveränität, überprüfbare Verantwortungsketten, menschliche Kontrollpunkte und eine reale Alternative zum Automatisierungsprozess. Redaktionen müssen für sich herausfinden, was sie an die KI delegieren – und was nicht. Das klingt selbstverständlich, ist es aber längst nicht mehr – und kann von Haus zu Haus unterschiedlich sein.

Die Duisburger Redaktion von Studio47 hat beispielsweise etliche Prozesse an die KI ausgelagert, ohne dass ihre Arbeit darunter leidet. Im Gegenteil konnte sie ihre Produktivität, vor allem die Reichweite steigern, aber auch Routinen an die KI wegdelegieren. Eine resiliente Redaktion ist deshalb nicht immer diejenige, die möglichst viel KI benutzt. Sondern diejenige, die KI benutzt, ohne sich von ihr entmündigen zu lassen.

Was bedeutet KI-Resilienz?

Tendenz: Und welche Folgen kann der durch KI angestoßene strukturelle Wandel im Journalismus für die Herstellung von Öffentlichkeit und Demokratie haben?

Stephan Weichert: Die größte Gefahr könnte darin bestehen, dass wir die notwendige Selbstkritik systematisch durch einen Generalverdacht ersetzen. Wenn bei jedem ungewöhnlich guten oder schlechten Text zuerst spekuliert wird, welcher Anteil davon „echter“ Journalismus ist und statistische Detektoren über berufliche Reputation entscheiden, aber auch die Herkunft eines Gedankens wichtiger wird als seine Intention, potenziert der Journalismus seine nächste Vertrauenskrise selbst.

Zur Resilienz gehört für mich daher noch etwas anderes: Ambiguitätstoleranz. Die Branche befindet sich seit einiger Zeit in einer Phase erheblicher Verunsicherung und reagiert darauf - wie etwa die FAZ – mit journalistischen Reinheitsgeboten, opaken KI-Detektoren und teilweise mit einer Verteidigungskultur des „menschengemachten Journalismus“. Das halte ich für anachronistisch. Ausgerechnet Redaktionen, die bei Insta, X, LinkedIn oder TikTok tagtäglich irgendwelche halbgaren Mikrodarbietungen abliefern und ihren Journalismus damit einer algorithmischen Hörigkeit unterwerfen, spielen sich nun als Dompteure von Black-Box-Systemen auf und erklären KI-Lügendetektoren zu Wahrheitsmaschinen. Der Journalismus versucht, ein normatives Problem technisch zu lösen. Stattdessen muss er aushandeln, was Autorenschaft, Verantwortung und Glaubwürdigkeit unter den Möglichkeiten von generativer Ko-Intelligenz bedeuten. Diesen Aushandlungsprozess bezeichnen wir als „KI-Resilienz“.

Stephan Weichert: Genau deshalb ist unsere Initiative „The Convoy“ für mich eine Konsequenz aus der KI-Debatte. Wir dürfen denselben Fehler nicht zweimal machen. Erst haben Medien ihre Distribution an die Plattformen angepasst. Nun droht, dass sie die direkte Beziehung zum Publikum an KI-Interfaces abgeben. The Convoy setzt dort an: Medien, Hochschulen, NGOs, Stiftungen und öffentliche Institutionen müssen gemeinsam wieder eigene Zugänge, direkte Beziehungen und unabhängige Kommunikationsräume entwickeln. Der entscheidende Konflikt der nächsten Jahre lautet für unsere Branche nicht „Mensch gegen Maschine“, er lautet: Wer kontrolliert die technische Infrastruktur, in der demokratischer Austausch entsteht?