Noua legislație UE privind IA a intrat în vigoare - ce se schimbă?
Pentru prima dată, în UE se aplică norme standardizate pentru utilizarea inteligenței artificiale. Cu toate acestea, va mai trece ceva timp până când legea va fi pe deplin pusă în aplicare în toate țările.
Translate
spinner.loading
spinner.loading
Brüssel - Das Gesetz über Künstliche Intelligenz (KI) der EU ist Anfang August in Kraft getreten. Die Mitgliedsstaaten haben nun zwei Jahre Zeit, die Vorgaben in nationales Recht umzusetzen. Mit dem Gesetz wird KI in der Europäischen Union schärfer und einheitlich reguliert. Grundrechte, Demokratie und Rechtsstaatlichkeit sollen damit besser im Umgang mit der Technologie geschützt werden. Was das Gesetz genau bedeutet:
Was ist Künstliche Intelligenz überhaupt?
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Damit können menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität imitiert werden. Damit können Maschinen beispielsweise ihre Umwelt wahrnehmen und auf sie reagieren.
KI wird schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Selbstfahrende Autos wiederum versuchen, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
Warum braucht es ein solches Gesetz in der EU?
Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Welche Regeln beinhaltet das Gesetz?
Die Regelungen sehen vor, KI-Anwendungen in verschiedene Risikogruppen einzustufen. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen strenge Anforderungen erfüllen. Anwendungen mit einem geringeren Risiko unterliegen weniger Verpflichtungen.
KI-Anwendungen, die gegen EU-Werte verstoßen, sind zudem ganz verboten. Dazu gehört etwa die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt.
Was bedeutet es für Verbraucher?
Das Gesetz soll Verbraucher besser vor risikohaften KI-Anwendungen schützen. Gesichtserkennung im öffentlichen Raum - etwa durch Videoüberwachung an öffentlichen Plätzen - ist grundsätzlich nicht erlaubt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist mit dem Gesetz in der EU verboten.
Außerdem müssen KI-Anwendungen transparenter gekennzeichnet sein. Verbraucher sollen so leichter erkennen, bei welchen Programmen Künstliche Intelligenz verwendet wird. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren.
Was hat sich konkret zum 1. August geändert?
Erstmal gar nicht so viel. Das KI-Gesetz soll nämlich schrittweise greifen. Einige Regelungen müssen dann zeitnah von den Mitgliedstaaten umgesetzt werden - wie das Verbot von KI-Systemen, die «unannehmbare Risiken» darstellen. Das sind Systeme, die als Bedrohung für Menschen eingestuft sind. Deren Verbot gilt schon nach einem halben Jahr.
Ein Verhaltenskodex für Anbieter von KI-Modellen soll bis April nächsten Jahres fertiggestellt werden, wie die EU-Kommission vor Inkrafttreten des Gesetzes mitteilte.
Nach zwei Jahren müssen dann größtenteils alle Punkte des Gesetzes vollständig umgesetzt sein. Hochriskante Systeme werden hingegen mehr Zeit haben, um die Anforderungen zu erfüllen. Die sie betreffenden Verpflichtungen gelten nach drei Jahren.
Was passiert, wenn sich jemand nicht an die Regeln hält?
Bei Verstößen drohen empfindliche Strafen: Beim Einsatz von verbotener Technologie etwa bis zu 35 Millionen Euro oder - im Falle von Unternehmen - bis zu sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres. Das genaue Strafmaß muss in diesem Rahmen aber von den Ländern festgelegt werden, wie die Kommission mitteilte.
Bei anderen Verstößen gegen das Gesetz können Strafen von bis zu 15 Millionen Euro oder - im Falle von Unternehmen - bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres fällig werden.
Gibt es Kritik am Gesetz?
Experten diskutierten zuletzt immer wieder, ob KI durch das Gesetz einen Schub erhält oder die Entwicklung vielleicht sogar ausgebremst wird. Das liegt am Ende wohl auch an der jeweiligen nationalen Umsetzung. Der deutsche Grünen-Politiker Tobias Bacherle mahnte, nun eine Regelung für KI-gestützte biometrische Überwachung in Deutschland zu finden. In den falschen Händen könnte sie leicht zur Aushebelung von Freiheitsrechten missbraucht werden, sagte er.
Dem deutsche Digitalminister Volker Wissing gehen die Vorgaben des EU-Gesetzes teilweise zu weit. «Ich hätte mir eine innovationsfreundlichere Regulierung gewünscht», sagte der Politiker der liberalen FDP der Deutschen Presse-Agentur. «Aber am Ende muss es eben ein Kompromiss sein, der ist besser als keine Regulierung.» Nun gehe es in Deutschland um eine möglichst «bürokratiearme» Umsetzung.
Darüber hinaus wurde früher bemängelt, es könnten viele Vorgaben angesichts der schnellen technischen Entwicklung von KI-Anwendungen und der schrittweisen Umsetzung der Regelungen schon bald wieder veraltet sein. Die Kommission teilte mit, sie werde jährlich eine Prüfung vornehmen, ob die Liste der «hochriskanten» Anwendungen überarbeitet oder erweitert werden müsse.
Bruxelles - Legea UE privind inteligența artificială (IA) a intrat în vigoare la începutul lunii august. Statele membre au acum la dispoziție doi ani pentru a transpune cerințele în legislația națională. Legea va avea ca rezultat o reglementare mai strictă și standardizată a IA în Uniunea Europeană. Drepturile fundamentale, democrația și statul de drept vor fi mai bine protejate atunci când este vorba de această tehnologie. Ce înseamnă legea mai exact:
Ce este inteligența artificială?
Inteligența artificială se referă, de obicei, la aplicații bazate pe învățarea automată, în care software-ul caută potriviri în cantități mari de date și trage concluzii din acestea. Acest lucru permite imitarea abilităților umane, cum ar fi gândirea logică, învățarea, planificarea și creativitatea. Astfel, mașinile pot, de exemplu, să perceapă și să reacționeze la mediul înconjurător.
IA este deja utilizată în multe domenii. De exemplu, astfel de programe pot evalua imaginile tomografice computerizate mai rapid și cu o precizie mai mare decât oamenii. Pe de altă parte, mașinile care se conduc singure încearcă să prezică comportamentul celorlalți participanți la trafic. Și roboții de chat sau listele de redare automate ale serviciilor de streaming funcționează, de asemenea, cu ajutorul inteligenței artificiale.
De ce este necesară o astfel de lege în UE?
Scopul legii este de a face utilizarea IA mai sigură în Uniunea Europeană. Aceasta ar trebui să garanteze că sistemele AI sunt cât mai transparente, inteligibile, nediscriminatorii și ecologice posibil. Un aspect important este că sistemele de IA sunt monitorizate de oameni și nu doar de alte tehnologii.
Ce norme conține legea?
Reglementările prevăd ca aplicațiile AI să fie clasificate în diferite grupe de risc. Sistemele care sunt considerate cu risc deosebit de ridicat și care sunt utilizate în infrastructuri critice sau în sectoarele educației și sănătății, de exemplu, trebuie să îndeplinească cerințe stricte. Aplicațiile cu un risc mai scăzut sunt supuse unor obligații mai reduse.
Aplicațiile AI care încalcă valorile UE sunt, de asemenea, interzise cu desăvârșire. Aceasta include evaluarea comportamentului social ("scoring social"). Acesta este utilizat în China pentru a clasifica cetățenii în categorii comportamentale.
Ce înseamnă aceasta pentru consumatori?
Legea este menită să protejeze mai bine consumatorii de aplicațiile AI riscante. Recunoașterea facială în spațiile publice - de exemplu, prin supraveghere video în locuri publice - nu este, în general, permisă. De asemenea, legea interzice recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ din UE.
Aplicațiile AI trebuie, de asemenea, să fie etichetate mai transparent. Acest lucru ar trebui să faciliteze recunoașterea de către consumatori a programelor care utilizează inteligența artificială. Persoanele fizice care descoperă încălcări ale regulamentelor pot depune plângeri la autoritățile naționale.
Ce anume s-a schimbat de la 1 august?
La început, nu prea multe. Legea privind inteligența artificială trebuie să intre în vigoare treptat. Unele reglementări trebuie apoi puse în aplicare rapid de către statele membre - cum ar fi interdicția privind sistemele AI care prezintă "riscuri inacceptabile". Acestea sunt sisteme care sunt clasificate drept o amenințare pentru oameni. Interdicția acestora se aplică după doar șase luni.
Un cod de conduită pentru furnizorii de modele AI urmează să fie finalizat până în aprilie anul viitor, după cum a anunțat Comisia Europeană înainte de intrarea în vigoare a legii.
După doi ani, majoritatea punctelor din lege vor trebui să fie pe deplin puse în aplicare. Sistemele cu risc ridicat, pe de altă parte, vor avea mai mult timp la dispoziție pentru a îndeplini cerințele. Obligațiile referitoare la acestea se vor aplica după trei ani.
Ce se întâmplă dacă cineva nu respectă normele?
Încălcările pot duce la sancțiuni severe: în cazul utilizării de tehnologii interzise, de exemplu, până la 35 de milioane de euro sau - în cazul întreprinderilor - până la șapte la sută din cifra de afaceri anuală globală a exercițiului financiar precedent. Cu toate acestea, sancțiunea exactă trebuie să fie stabilită de țări în acest cadru, după cum a anunțat Comisia.
Alte încălcări ale legii pot duce la amenzi de până la 15 milioane de euro sau - în cazul întreprinderilor - de până la trei procente din cifra de afaceri anuală mondială a exercițiului financiar precedent.
A fost criticată legea?
Recent, experții au discutat în mod repetat dacă legea va da un impuls AI sau poate chiar va încetini dezvoltarea acesteia. În cele din urmă, acest lucru va depinde probabil și de punerea în aplicare la nivel național. Politicianul german Tobias Bacherle, membru al Partidului Verzilor, a solicitat găsirea unor reglementări pentru supravegherea biometrică susținută de IA în Germania. În mâinile cui nu trebuie, aceasta ar putea fi ușor utilizată în mod abuziv pentru a submina libertățile civile, a spus el.
Ministrul german al digitalului, Volker Wissing, consideră că cerințele din legislația UE merg prea departe în unele cazuri. "Mi-ar fi plăcut să văd o reglementare mai favorabilă inovării", a declarat politicianul liberal din FDP pentru Agenția de presă germană. "Dar în cele din urmă trebuie să fie un compromis, care este mai bun decât nicio reglementare." În Germania, este vorba acum de punerea în aplicare cu cât mai puțină birocrație posibil.
În plus, a fost criticat anterior faptul că multe cerințe ar putea deveni în curând din nou depășite din cauza dezvoltării tehnice rapide a aplicațiilor AI și a punerii în aplicare treptate a regulamentelor. Comisia a anunțat că va efectua o revizuire anuală pentru a stabili dacă lista aplicațiilor cu "risc ridicat" trebuie revizuită sau extinsă.