Beitrag von Meret Schneider<\/a><\/div>\n<\/div>\n\n\n\nInhalte, die mittels k\u00fcnstlicher Intelligenz erzeugt oder manipuliert wurden, begegnen uns t\u00e4glich. Waren es in einem ersten Schritt vor allem Social Media, die von KI-generierten Videos und Bildern durchsetzt waren, so haben es die KI-Inhalte mittlerweile l\u00e4ngst in den analogen Alltag geschafft. <\/p>\n\n\n\n
Werbungen, Bilder auf Speisekarten, touristische Angebote, ja sogar eine Glac\u00e9karte begegneten mir in j\u00fcngster Zeit mit zunehmender H\u00e4ufigkeit und wenngleich die allzu intensiven Farben und irgendwie generisch aussehenden Glac\u00e9kugeln beim Coupe D\u00e4nemark den Einsatz von KI verrieten, so birgt dieser Zustand doch wesentliche Gefahren und Potenzial f\u00fcr Desinformation, bewusste Manipulation und Irref\u00fchrung von B\u00fcrgerinnen und B\u00fcrgern. Heute d\u00fcrfen KI-generierte Inhalte in der Schweiz von Firmen, Unternehmen, Influencer*innen oder politischen Parteien verbreitet und zu Werbezwecken eingesetzt werden, ohne dass dies deklariert werden muss. <\/p>\n\n\n\n
Was mit einem KI-generierten Video von einem Hund, der ein Kind rettet, harmlos beginnt und bei einem SVP-Plakat, auf dem Schweizer \u00c4lpler bayrische Trachten tragen, h\u00f6chstens ein s\u00fcffisantes Schmunzeln ausl\u00f6st, kann in anderen Bereichen drastische Konsequenzen nach sich ziehen.<\/p>\n\n\n\n
Naheliegend sind manipulierte Werbebilder f\u00fcr beispielsweise Kosmetikprodukte, die mit KI-generierten oder -bearbeiteten Gesichtern arbeiten, was an sich nichts Neues darstellt: Auch mit Photoshop und \u00e4hnlichem wurden immer schon Bilder bearbeitet und verf\u00e4lscht. <\/p>\n\n\n\n
Neu sind aber Deep Fake Videos, in denen eine Echtheit und Authentizit\u00e4t suggeriert wird, die so nicht existiert. Im Bereich des Marketing f\u00fchren solche Werbe- und Influencervideos bei Kindern und Jugendlichen dazu, dass sie sich mit unrealistischen Idealen vergleichen und eine h\u00f6here Wahrscheinlichkeit entwickeln, unter Essst\u00f6rungen zu leiden oder depressiv zu werden. <\/p>\n\n\n\n
Im Bereich des Nachrichtenjournalismus und der Politik wird der Zustand der undeklarierten KI-Inhalte noch wesentlich brisanter: Wenn nach Demonstrationen Videos kursieren, die je nach Gesinnung des Publikationsorgans massive Polizeigewalt oder aber Gewalt und Zerst\u00f6rung von Seiten der Demonstrierenden zeigen, wenn Videos von Politker*innen kursieren, die Aussagen t\u00e4tigen, die sie so nie gemacht haben oder wenn manipulierte Videos aus Kriegsgebieten Falschinformationen verbreiten, dann wird es gef\u00e4hrlich f\u00fcr eine gemeinsame Informationsbasis und \u00d6ffentlichkeit, die Voraussetzung f\u00fcr eine funktionierende Demokratie ist.\u00a0<\/p>\n\n\n\n
Auch die EU hat dieses Problem erkannt und begegnet diesem – wie so oft – schneller und wirkungsvoller als die Schweiz. So gilt in der EU seit dem 2. August 2026 eine KI-Kennzeichnungspflicht f\u00fcr Anbieter und Betreiber von generativen KI-Systemen. <\/p>\n\n\n\n
Die Kennzeichnungspflicht ist dabei keine Verbotsnorm: Sie untersagt weder Chatbots noch KI-Bilder oder KI-Texte, sondern verlangt Erkennbarkeit. Menschen sollen wissen, ob sie mit einer Maschine sprechen und ob ein Inhalt k\u00fcnstlich erzeugt wurde, damit sie ihn einordnen k\u00f6nnen. <\/p>\n\n\n\n
Konkret m\u00fcssen Anbieter von KI-Systemen, die f\u00fcr die direkte Interaktion mit Menschen bestimmt sind, sicherstellen, dass die Nutzenden dar\u00fcber informiert werden, dass sie mit einer KI sprechen. Ausserdem m\u00fcssen sie die erzeugten Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format als k\u00fcnstlich erzeugt oder manipuliert kennzeichnen, etwa durch Metadaten oder Wasserzeichen. <\/p>\n\n\n\n
Zu guter Letzt m\u00fcssen Betreiber, die Deepfakes erzeugen oder verwenden, offenlegen, dass die Inhalte k\u00fcnstlich erzeugt oder manipuliert wurden. Dasselbe gilt f\u00fcr KI-generierte Texte, die ver\u00f6ffentlicht werden, um die \u00d6ffentlichkeit \u00fcber Angelegenheiten von \u00f6ffentlichem Interesse zu informieren. Bei Texten entf\u00e4llt die Pflicht, wenn ein Mensch den Inhalt redaktionell gepr\u00fcft hat und eine Person die redaktionelle Verantwortung tr\u00e4gt. <\/p>\n\n\n\n
Dies alles klingt auf den ersten Blick wichtig und sinnvoll und ist sicher wesentlich besser als die Strategie der Schweiz, einfach einmal abzuwarten und Regulierungen und Kennzeichnungspflichten hinauszuz\u00f6gern (ein entsprechendes Gesch\u00e4ft ist in der Rechtskommission des Nationalrats h\u00e4ngig).\u00a0 Zu denken gibt allerdings der letzte Satz: Bei Texten entf\u00e4llt die Pflicht, wenn ein Mensch den Inhalt redaktionell gepr\u00fcft hat und eine Person die redaktionelle Verantwortung tr\u00e4gt.<\/em> <\/p>\n\n\n\nAusserdem wirft auch die Tatsache Fragen auf, dass nur KI im beruflichen Kontext deklariert werden muss, die Transparenzpflicht jedoch nicht f\u00fcr Privatpersonen gilt.<\/p>\n\n\n\n
Es stellt sich die Frage, warum bei KI-generierten Texten die Offenlegungspflicht entf\u00e4llt, nur weil ein Mensch die redaktionelle Verantwortung tr\u00e4gt. Es ist kaum anzunehmen, dass im journalistischen Kontext bei KI-generierten Texten stets sauber nachrecherchiert wird, ob die generierten Fakten tats\u00e4chlich solche sind. <\/p>\n\n\n\n
Da wir wissen, wie fehlerhaft die Outputs von ChatGPT, Claude, Gemini und co. sind, bietet dies ein grosses Potenzial f\u00fcr beabsichtigte und unbeabsichtigte Desinformation. <\/p>\n\n\n\n
Zweiteres Problem, dass Privatpersonen von der Kennzeichnungspflicht ausgenommen sind, halte ich jedoch noch f\u00fcr viel brisanter. Es wird f\u00fcr Laien zunehmend einfacher, Bilder und Videos komplett KI-generiert herzustellen und damit gezielt Falschinformationen zu verbreiten. <\/p>\n\n\n\n
Wie wir wissen, besch\u00e4ftigen Akteure wie beispielsweise die AfD Dutzende Menschen, die nur damit betraut sind, Internetforen und Plattformen zu bespielen und die Tonalit\u00e4t und Framings zu pr\u00e4gen. Diese agieren als Privatpersonen in einem nichtkommerziellen Kontext, erhalten aber mit KI-generierten Inhalten eine potente Waffe f\u00fcr die Verbreitung ihres Gedankenguts in die Hand. <\/p>\n\n\n\n
Die Transparenzpflicht \u00f6ffnet diesen Akteuren T\u00fcr und Tor, mittels Deepfake-Videos falsche Tatsachen zu verbreiten und die gemeinsame Informationsbasis abzutragen, indem entgegengesetzt zur Berichterstattung der \u00f6ffentlich-rechtlichen Medien kommuniziert wird. <\/p>\n\n\n\n
Diese Gefahr ist in meinen Augen nicht zu untersch\u00e4tzen, denn in Zeiten von Social Media ist jede Privatperson auch Publizist*in und sollte denselben Transparenzregeln unterstehen wie publizistische Organe. <\/p>\n\n\n\n
Manch ein grosser TikTok-Account hat mehr Reichweite als das gesamte SRF und folglich auch eine \u00e4hnlich grosse Verantwortung, weswegen die KI-Kennzeichnungspflicht auch hier gelten m\u00fcsste. <\/p>\n\n\n\n
Ich hoffe sehr, dass wir in der Schweiz diese L\u00fccken in der Kennzeichnungspflicht schliessen werden und f\u00fcr einmal gilt: Was lange w\u00e4hrt, wird endlich gut.<\/p>\n","protected":false},"excerpt":{"rendered":"
Inhalte, die mittels k\u00fcnstlicher Intelligenz erzeugt oder manipuliert wurden, begegnen uns t\u00e4glich. Waren es in einem ersten Schritt vor allem Social Media, die von KI-generierten Videos und Bildern durchsetzt waren, so haben es die KI-Inhalte mittlerweile l\u00e4ngst in den analogen Alltag geschafft.<\/p>\n","protected":false},"author":6,"featured_media":6028,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[1062,1061,57],"class_list":["post-6026","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kampagnen","tag-gesetz","tag-ki","tag-kommunikation"],"acf":[],"_links":{"self":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6026","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/comments?post=6026"}],"version-history":[{"count":1,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6026\/revisions"}],"predecessor-version":[{"id":6029,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6026\/revisions\/6029"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/media\/6028"}],"wp:attachment":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/media?parent=6026"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/categories?post=6026"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/tags?post=6026"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}