VAUNET Position: Transparenz und Offenlegung mittels KI erstellter Medieninhalte

Zusammenfassung der wesentlichen VAUNET-Forderungen

Verlässliche Medien brauchen Spielraum: VAUNET begrüßt das mit Art. 50 KI-VO verfolgte Ziel vor durch Deepfakes ausgelöster Fehlinformation, Manipulation, Betrug und Identitätsbetrug zu schützen. Zur Erreichung dieses Ziels können sinnvolle Transparenzmaßnahmen beitragen. Entscheidend ist nun eine praxisgerechte und verhältnismäßige Umsetzung. Dies vor allem mit Blick auf den professionellen Einsatz von KI in journalistisch-redaktionellen Medien.

Effizienz- und Innovationspotentiale schützen: In einem generell schwierigen wirtschaftlichen Umfeld bei gleichzeitig inflationsbedingt steigenden Kosten ist es für Medienunternehmen umso wichtiger, Effizienz- und Innovationspotentiale von KI zu nutzen. Die Realisierung dieses Potentials sollte nicht durch überzogene Kennzeichnungsverpflichten erschwert werden; insbesondere dann nicht, wenn sie die Vertrauenswürdigkeit und Werthaltigkeit redaktioneller Angebote in Frage stellen können.

Risikobasierte Auslegung des Deepfake-Begriffs erforderlich: Der risikobasierte Ansatz der KI-VO muss bei der Auslegung des Deepfake-Begriffs in Art. 3 Nr. 60 KI-VO und in der Transparenzpflicht nach Art. 50 KI-VO Anwendung finden. Inhalte von regulierten journalistisch-redaktionellen Medienunternehmen, die mit KI erstellt und verbreitet werden, realisieren die mit Deepfakes einhergehenden Risiken nicht. Für professionell erstellte journalistisch-redaktionelle Medieninhalte bedarf es einer engen und nicht rein am Wortlaut orientierten Auslegung.

Keine Transparenzpflicht bei redaktioneller Kontrolle: Eine Offenlegung von Informationen i.S. von Art. 50 Abs. 4 KI-VO ist nicht erforderlich, wenn durch anderweitige Schutzvorkehrungen Risiken ausgeschlossen sind. Nehmen private Medien eine menschliche Überprüfung von mittels KI erstellten Inhalten vor oder ist eine redaktionelle Kontrolle und Verantwortung im Unternehmen vorhanden, besteht kein Bedarf für Kennzeichnungs- oder Transparenzverpflichtungen. Die Ausnahme für Presseverlage gem. Art. 50 Abs. 4 KI-VO muss gleichwertig auf private Rundfunkanbieter anwendbar sein.

Abgrenzung professionelle vs. manipulative KI-Nutzung erforderlich: Bei der Anwendung des Deepfake-Begriffs ist zwischen professionellen Medienhäusern und mit Schädigungs- oder Täuschungsabsicht agierenden Dritten zu unterscheiden. Die mit Art. 50 KI-VO verfolgten Schutzziele werden verwässert, wenn unter journalistisch-redaktioneller Kontrolle und Verantwortung publizierte Inhalte, die mit Hilfe von KI-Anwendungen erstellt wurden, in gleicher Weise gekennzeichnet werden müssten, wie Inhalte, die von sonstigen Dritten mit Täuschungs- oder Schädigungsabsicht erstellt wurden.

KI als unterstützendes Werkzeug erzeugt keinen Deepfake: Der unterstützende oder assistierender Einsatz von KI-Systemen ohne Änderung des Sinngehalts eines Inhalts löst keine Kennzeichnungspflicht aus. Eine überbordende, auch unterstützenden KI-Einsatz umfassende Kennzeichnungspflicht hätte zur Folge, dass Inhalte weniger glaubwürdig erscheinen könnten, obwohl sie redaktionell geprüft und inhaltlich nicht verändert wurden.

Regelungskonflikte vermeiden: Audio- und audio-visuelle Medienanbieter unterliegen einer Vielzahl gesetzlicher Transparenz- und Kennzeichnungspflichten. Die Auslegung von Art. 50 Abs. 4 und 5 KI-VO muss dies berücksichtigen. Rechtsunsicherheit sollte ebenso vermieden werden, wie eine Überforderung der Nutzer:innen durch eine überschießende Vielzahl an Transparenzhinweisen.

Die Praxis braucht eine medien- und gattungsspezifische Umsetzung: Ein praxisgerechter Leitfaden sollte sich darauf beschränken, die in Art. 50 Abs. 4 und 5 KI-VO niedergelegten Grundsätze zu konkretisieren. Ausreichend – aber auch erforderlich – ist eine medienspezifische Konkretisierung dieser Vorgaben z.B. durch Best-Practices-Beispielen und/oder Indikatoren, die die Besonderheiten der Mediengattungen (Audio, Video, Bild) berücksichtigen und hinreichende Flexibilität sowie Skalierbarkeit gewährleisten. Auch die mit der Umsetzung verbundenen Kosten sind zu berücksichtigen, damit die Regulierung den effizienten Einsatz von KI ermöglicht, statt ihn auszubremsen.

Kennzeichnungsmodalitäten müssen verhältnismäßig sein: Der KI-VO ist nicht zu entnehmen, dass eine Kennzeichnung einer jeden Einzelsequenz – die einen Deepfake darstellt – notwendig ist, wenn diese Sequenz einen integrierten Teil einer TV- oder Radiosendung darstellt. Ausreichend kann daher auch ein allgemeiner Hinweis im Vor- und/oder Abspann einer Sendung sein.

Interaktionsbegriff ist eng auszulegen: Empfehlungssysteme – bspw. von Streaming
Plattformen oder Veranstalter-Apps – begründen keine direkte Interaktion i.S. von Art. 50
Abs. 1 KI-VO. Der VAUNET spricht sich für eine entsprechende Klarstellung innerhalb eines
Praxisleifadens aus.