Effektive Strategien gegen rechtswidrige Inhalte im Netz
 

Rechtswidrige Inhalte im Netz beschäftigen nicht nur die Medienaufsicht, sondern werden auch im Zusammenhang mit der Social-Media-Nutzung regelmäßig thematisiert. Denn meist handelt es sich um unzulässige oder jugendgefährdende Angebote. Die Bayerische Landeszentrale für neue Medien (BLM) hat 2025 rund 9.900 Fälle geprüft – so viele wie noch nie. Der Schwerpunkt lag klar auf digitaler Gewalt in Form von Hass, Hetze und Extremismus.

Text: Sabine Christmann

Die deutlich gestiegenen Fallzahlen stellen die Medienaufsicht vor die Aufgabe, ein dynamisches und quantitativ wachsendes Problem systematisch zu bearbeiten. Die Zahlen aus Bayern verdeutlichen diese Entwicklung. Meist dreht es sich um die Verwendung von Kennzeichen verfassungswidriger Symbole, Volksverhetzung oder Holocaustverharmlosung/-leugnung, die mit rund 8.500 Fällen 2025 den Großteil der Prüffälle ausmachten.

Erkennen: Skalierung durch KI und Kooperationen

Die Identifikation rechtswidriger Inhalte erfolgt heute zunehmend technologiegestützt. Neben Hinweisen aus der Bevölkerung und Meldungen von Kooperationspartnern und Ermittlungsbehörden spielt das KI-gestützte Risikomonitoring eine zentrale Rolle. Tools wie das von der BLM genutzte „KIVI“ ermöglichen eine stichwort- und linkbasierte Durchsuchung großer Plattformen und tragen wesentlich zur Skalierung der Aufsicht bei. Allein durch KI-gestützte Recherchen wurden in Bayern mehrere tausend potenzielle Problemfälle identifiziert. Die KI ersetzt dabei keine rechtliche Bewertung, sondern fungiert als Filter- und Priorisierungsinstrument. Die abschließende Einordnung erfolgt weiterhin durch Fachpersonal.

Verfolgen: Verzahnung von Medienaufsicht und Strafverfolgung

Ein zentrales Element effektiver Regulierung ist die enge Zusammenarbeit zwischen Medienaufsicht und Strafverfolgungsbehörden. Viele Inhalte verstoßen nicht nur gegen den Jugendmedienschutz-Staatsvertrag (JMStV), sondern erfüllen auch Straftatbestände wie Volksverhetzung oder Verwendung verfassungswidriger Kennzeichen.

Die Zusammenarbeit erfolgt gemäß den unterschiedlichen Aufgaben und Zuständigkeiten: Strafverfolgungsbehörden übernehmen die Verfolgung der Verantwortlichen, während die Medienaufsicht auf die Entfernung der Inhalte hinwirkt. Diese Verzahnung ist entscheidend, da Strafverfahren oft zeitaufwändig sind, während Inhalte im Netz unmittelbare Wirkung entfalten.

Diese Zusammenarbeit wird durch gemeinsame Verfahren und abgestimmte Abläufe gestützt. Sie erhöht die Effizienz, reduziert Doppelarbeit und sorgt für eine klare Zuständigkeitsverteilung.

In Bayern zeigt sich, dass dieser Weg funktioniert: 2025 erhielt die BLM über 1.100 Fälle von der Zentralen Meldestelle für strafbare Inhalte im Internet (ZMI BKA), führte über 3.500 Meldeverfahren nach Art. 16 des europäischen Digital Services Act (DSA) durch und erreichte damit in vielen Fällen eine schnelle Entfernung rechtswidriger Inhalte aus dem Netz. Gerade bei Hass, Hetze und digitaler Gewalt wird so aus getrennter Zuständigkeit ein wirksames gemeinsames Vorgehen.

Entfernen: Plattformregulierung als Schlüssel

Die Entfernung rechtswidriger Inhalte erfolgt in der Praxis überwiegend über die Meldeportale der großen Social-Media-Plattformen. Die Medienaufsicht nutzt regulatorische Instrumente, um Plattformbetreiber zum Handeln zu bewegen.
Zentrale Bedeutung haben dabei die Verfahren nach dem DSA. Über Meldeverfahren nach Art. 16 DSA leitet die Landeszentrale Beschwerdeverfahren gegenüber Plattformen ein und fordert die Entfernung von Inhalten, die gegen den JMStV verstoßen. In vielen Fällen erfolgt die Löschung kurzfristig. Reagieren Plattformen nicht, kann die Landeszentrale Anordnungen gegenüber den Plattformen erlassen (nach Art. 9 DSA). 
Ergänzend kommen weitere rechtliche Instrumente der Medienaufsicht zum Einsatz, etwa Aufsichtsverfahren gegenüber Inhalteanbietern oder – in Ausnahmefällen – Sperrverfügungen gegenüber Access-Providern, wenn sich weder der Content- noch der Hostprovider ermitteln lässt.

Digitale Räume wirksam schützen

Die Praxis zeigt, dass ein erheblicher Teil der rechtswidrigen Inhalte zeitnah entfernt werden kann. Meldeverfahren gegenüber großen Plattformen sind in fast allen Fällen wirksam.
Gleichzeitig gibt es weiterhin strukturelle Herausforderungen: Inhalte werden anonym veröffentlicht, Anbieter agieren aus dem Ausland oder Inhalte tauchen nach Löschungen erneut auf. Die Bekämpfung rechtswidriger Inhalte bleibt daher eine kontinuierliche Aufgabe.
Die Erfahrungen der Landeszentrale zeigen, dass die Kombination aus technologischer Unterstützung, klaren regulatorischen Instrumenten und enger Kooperation mit den Strafverfolgungsbehörden entscheidend ist. Erst das Zusammenspiel von „Erkennen“, „Verfolgen“ und „Entfernen“ ermöglicht ein wirksames Vorgehen gegen rechtswidrige Inhalte im Netz.
Die Entwicklung weist in eine klare Richtung: Mehr Automatisierung in der Erkennung und eine vertiefte Zusammenarbeit zwischen den Behörden. Diese Struktur erhöht die Handlungsfähigkeit der Aufsicht und trägt dazu bei, digitale Räume wirksam zu schützen – insbesondere für Kinder und Jugendliche, aber auch für die Gesellschaft insgesamt.