The goal? To make sure Europeans immediately know whether the online content they see is real or fake.
The EU's comprehensive AI law enters into force in stages. From Sunday, companies must ensure their AI systems like chatbots make it clear to users they are AI, or when an image or text has been created using AI, there must be a label saying so.
This can be done by integrating watermarks and other markers to allow the easy detection of AI-generated content. Firms face large fines if they don't comply.
"Generative AI enables disinformation to be created at unprecedented scale, tailored to specific audiences, and disseminated with remarkable speed," an EU official said.
Since AI is "making it increasingly difficult for all of us to distinguish what is real from what is synthetic", the official said, the EU's rules seek to "preserve citizens' ability to trust what they see, hear, and read".
Of particular concern for the EU are deepfakes -- text, images, videos and sounds that appear to be real but are generated or manipulated by AI.
The rules affect content made for professional reasons, and the EU insists individuals using AI in a purely personal capacity will not be affected.
Text that aims to inform the public on general interest issues will also have to be labelled if they are created using AI without human editorial oversight.
Existing AI systems have until December 2 to adapt to the new rules, and there are exemptions for "artistic, creative, satirical, fictional" work.
Big Tech moves
The EU has come under fire for placing more demands on businesses, and rules that will ultimately force all content to be labelled given the rapidly growing widespread use of AI across Europe.
"We have heard that it is going to be very, very difficult to implement. But I think we often hear this with compliance requirements. And yet, the world turns and we figure these things out," Ashley Casovan of International Association of Privacy Professionals told AFP.
The world's tech giants have already begun slapping their own labels in anticipation of the rules.
For example, TikTok has required content creators to label AI-generated images, audio and video for several years, and says over three billion content items already have labels thanks to tools and detection technology.
Likewise, Meta has deployed an "AI Info" label on Instagram and Facebook for posts using the technology.
Google has signed the EU code of conduct on AI transparency, and says it is working with others like Nvidia, OpenAI and Apple on digital tagging tools.
But Google's Karen Massin warns of "regulatory complexity" that could prove counterproductive, and "risks confusing the people these rules are meant to help".
"If online content is flooded with overlapping AI labels and legal disclosures, it becomes harder for people to get the clear context they need," Massin added.
by Frédéric Pouchot
Das Ziel? Sicherzustellen, dass die Europäer sofort erkennen können, ob die Online-Inhalte, die sie sehen, echt oder gefälscht sind.
Das umfassende KI-Gesetz der EU tritt schrittweise in Kraft. Ab Sonntag müssen Unternehmen sicherstellen, dass ihre KI-Systeme wie Chatbots den Nutzern deutlich machen, dass es sich um KI handelt, oder dass Bilder oder Texte, die mithilfe von KI erstellt wurden, entsprechend gekennzeichnet sind.
Dies kann durch die Einbindung von Wasserzeichen und anderen Kennzeichnungen erfolgen, um die einfache Erkennung von KI-generierten Inhalten zu ermöglichen. Unternehmen müssen mit hohen Geldstrafen rechnen, wenn sie diese Vorschriften nicht einhalten.
„Generative KI ermöglicht es, Desinformation in beispiellosem Ausmaß zu erzeugen, auf bestimmte Zielgruppen zuzuschneiden und mit bemerkenswerter Geschwindigkeit zu verbreiten“, erklärte ein EU-Beamter.
Da es durch KI „für uns alle immer schwieriger wird, zwischen dem Echten und dem Synthetischen zu unterscheiden“, so der Beamte, zielen die EU-Vorschriften darauf ab, „die Fähigkeit der Bürger zu bewahren, dem zu vertrauen, was sie sehen, hören und lesen“.
Besondere Sorge bereitet der EU dabei „Deepfakes“ – Texte, Bilder, Videos und Tonaufnahmen, die echt wirken, aber von KI generiert oder manipuliert wurden.
Die Vorschriften betreffen Inhalte, die aus beruflichen Gründen erstellt werden, und die EU betont, dass Privatpersonen, die KI ausschließlich für private Zwecke nutzen, davon nicht betroffen sind.
Texte, die darauf abzielen, die Öffentlichkeit über Themen von allgemeinem Interesse zu informieren, müssen ebenfalls gekennzeichnet werden, wenn sie mithilfe von KI ohne redaktionelle Kontrolle durch Menschen erstellt wurden.
Bestehende KI-Systeme haben bis zum 2. Dezember Zeit, sich an die neuen Vorschriften anzupassen, und es gibt Ausnahmen für „künstlerische, kreative, satirische und fiktionale“ Werke.
Maßnahmen der „Big Tech“-Unternehmen
Die EU ist in die Kritik geraten, weil sie den Unternehmen mehr Auflagen auferlegt und Vorschriften erlässt, die angesichts der rasch zunehmenden Verbreitung von KI in ganz Europa letztendlich dazu führen werden, dass alle Inhalte gekennzeichnet werden müssen.
„Wir haben gehört, dass die Umsetzung sehr, sehr schwierig werden wird. Aber ich denke, das hören wir oft, wenn es um Compliance-Anforderungen geht. Und doch dreht sich die Welt weiter, und wir finden Lösungen für diese Dinge“, sagte Ashley Casovan von der International Association of Privacy Professionals gegenüber AFP.
Die Technologiegiganten der Welt haben bereits damit begonnen, in Erwartung der Vorschriften eigene Kennzeichnungen anzubringen.
So verlangt TikTok beispielsweise bereits seit mehreren Jahren von Content-Erstellern, KI-generierte Bilder, Audio- und Videodateien zu kennzeichnen, und gibt an, dass dank entsprechender Tools und Erkennungstechnologien bereits über drei Milliarden Inhalte mit Kennzeichnungen versehen sind.
Ebenso hat Meta auf Instagram und Facebook ein „AI Info“-Label für Beiträge eingeführt, bei denen diese Technologie zum Einsatz kommt.
Google hat den EU-Verhaltenskodex zur KI-Transparenz unterzeichnet und erklärt, gemeinsam mit anderen Unternehmen wie Nvidia, OpenAI und Apple an Tools zur digitalen Kennzeichnung zu arbeiten.
Karen Massin von Google warnt jedoch vor einer „regulatorischen Komplexität“, die sich als kontraproduktiv erweisen könnte und „die Gefahr birgt, die Menschen zu verwirren, denen diese Vorschriften eigentlich helfen sollen“.
„Wenn Online-Inhalte mit sich überschneidenden KI-Kennzeichnungen und rechtlichen Hinweisen überflutet werden, wird es für die Menschen schwieriger, den klaren Kontext zu erhalten, den sie benötigen“, fügte Massin hinzu.
von Frédéric Pouchot
