How ?
The EU has the world's most comprehensive digital rulebook covering social media, online retailers and search engines, with plans for more rules this year.
In 2024, the EU adopted a sweeping AI law known as the "AI Act", but its rules have been introduced in stages.
Here's what will happen on Sunday:
New law
The EU's law takes a risk-based approach to the technology.
The higher the risk to Europeans' rights or health, for example, the greater the obligations of firms to protect individuals from harm.
It also bans AI used for predictive policing, emotion recognition systems in workplaces or schools and AI that manipulates human behaviour.
From Sunday, AI-generated content like deepfakes must be labelled, while firms must ensure their AI systems like chatbots make it clear to users they are AI.
Existing AI systems have until December 2 to adapt to the new rules, and there are exemptions for "artistic, creative, satirical, fictional" work.
Enforcement powers
European regulators in the AI Office have now the power to enforce the bloc's rules on the most advanced AI models.
The regulatory body attached to the EU executive will be made up of dozens of tech experts, lawyers and economists.
The AI Office will be able to test the most advanced general-purpose AI models like chatbots to ensure they comply with the law.
Companies must also give the EU access to their models, and in some cases the EU can demand access before they are placed on the market, an EU official said.
The EU will also be able to restrict a model's deployment in the EU if it has concerns that aren't addressed by the provider.
The powers arrive at an opportune moment. The EU struggled this year to get access to American AI developer Anthropic's Mythos model, but the rules kicking in on Sunday mean an issue like that shouldn't happen again.
National authorities will be able to enforce the rules for smaller AI systems.
If the EU finds companies breaking the rules, it can force them to take action to remedy the breach and fine the firms if they fail to do so.
The stiffest fines are for businesses that allow their systems to conduct banned practices -- up to seven percent of a company's annual worldwide turnover or 35 million euros ($40 million), whichever is higher.
For other violations, companies could be fined up to three percent of their global annual revenue or 15 million euros. They may also be fined if they hinder or fail to cooperate with EU probes.
What's next?
More rules under the AI Act will be enforceable later this year and beyond.
From December, there will be a ban on artificial intelligence systems generating sexualised deepfakes, introduced following the global outrage over non-consensual nudes produced by Elon Musk's chatbot Grok.
The EU is also delaying the implementation of some high-risk AI rules concerning models deemed as potentially dangerous to safety, health or citizens' fundamental rights -- to give companies more time to prepare.
The rules will apply for stand-alone high-risk AI systems from December 2027 and in August 2028 for AI tools embedded in other products.
Rogue AI
Concerns about the potential threat AI could pose have been raised recently when OpenAI and Anthropic artificial intelligence models acting autonomously carried out cyberattacks.
Anthropic's artificial intelligence (AI) models "gained unauthorized access" to three outside organizations during testing that was supposed to keep them away from "real-world" systems, the company said on July 31st.
The announcement came just days after rival OpenAI first revealed that its models improperly accessed the internet and went rogue during security testing. Both incidents are without precedent and set off alarm bells among regulators and cybersecurity specialists.
Cum?
UE dispune de cel mai cuprinzător set de norme digitale din lume, care acoperă rețelele sociale, comercianții online și motoarele de căutare, având în vedere adoptarea unor norme suplimentare în acest an.
În 2024, UE a adoptat o lege cuprinzătoare privind inteligența artificială, cunoscută sub numele de „Legea privind IA”, dar normele acesteia au fost introduse treptat.
Iată ce se va întâmpla duminică:
Noua lege
Legislația UE adoptă o abordare bazată pe riscuri în ceea ce privește această tehnologie.
Cu cât riscul pentru drepturile sau sănătatea europenilor este mai mare, de exemplu, cu atât sunt mai mari obligațiile companiilor de a proteja persoanele fizice împotriva prejudiciilor.
De asemenea, legea interzice utilizarea IA pentru activități de poliție predictivă, a sistemelor de recunoaștere a emoțiilor la locul de muncă sau în școli, precum și a IA care manipulează comportamentul uman.
Începând de duminică, conținutul generat de IA, cum ar fi deepfake-urile, trebuie etichetat, iar companiile trebuie să se asigure că sistemele lor de IA, cum ar fi chatbot-urile, le indică clar utilizatorilor că sunt bazate pe IA.
Sistemele de IA existente au termen până la 2 decembrie să se adapteze la noile norme, iar pentru lucrările „artistice, creative, satirice, ficționale” există excepții.
Competențe de aplicare
Autoritățile de reglementare europene din cadrul Oficiului pentru IA au acum competența de a asigura respectarea normelor Uniunii privind cele mai avansate modele de IA.
Organismul de reglementare atașat executivului UE va fi alcătuit din zeci de experți în tehnologie, juriști și economiști.
Biroul pentru IA va putea testa cele mai avansate modele de IA de uz general, precum chatbot-urile, pentru a se asigura că respectă legea.
De asemenea, companiile trebuie să ofere UE acces la modelele lor, iar în unele cazuri UE poate solicita accesul înainte ca acestea să fie introduse pe piață, a declarat un oficial al UE.
De asemenea, UE va putea restricționa implementarea unui model pe teritoriul său dacă are rezerve care nu sunt soluționate de către furnizor.
Aceste competențe vin într-un moment oportun. Anul acesta, UE a întâmpinat dificultăți în a obține acces la modelul „Mythos” al dezvoltatorului american de IA Anthropic, dar normele care intră în vigoare duminică înseamnă că o astfel de problemă nu ar trebui să se mai repete.
Autoritățile naționale vor putea asigura respectarea normelor în cazul sistemelor de IA de dimensiuni mai mici.
În cazul în care UE constată că anumite companii încalcă regulile, le poate obliga să ia măsuri pentru remedierea încălcării și le poate amenda dacă nu fac acest lucru.
Cele mai severe amenzi sunt destinate întreprinderilor care permit sistemelor lor să desfășoare practici interzise — până la 7% din cifra de afaceri anuală globală a companiei sau 35 de milioane de euro (40 de milioane de dolari), oricare dintre aceste sume este mai mare.
Pentru alte încălcări, companiile ar putea fi amendate cu până la 3% din veniturile lor anuale globale sau cu 15 milioane de euro. De asemenea, pot fi amendate dacă împiedică sau nu cooperează cu anchetele UE.
Ce urmează?
Alte norme prevăzute de Legea privind IA vor intra în vigoare în cursul acestui an și în viitor.
Începând din decembrie, va intra în vigoare o interdicție privind sistemele de inteligență artificială care generează „deepfakes” cu conținut sexual, introdusă în urma indignării globale provocate de imaginile nud fără consimțământ generate de chatbotul Grok al lui Elon Musk.
De asemenea, UE amână punerea în aplicare a unor norme privind IA cu risc ridicat referitoare la modele considerate potențial periculoase pentru siguranță, sănătate sau drepturile fundamentale ale cetățenilor — pentru a oferi companiilor mai mult timp să se pregătească.
Normele se vor aplica sistemelor autonome de IA cu risc ridicat începând cu decembrie 2027, iar începând cu august 2028 – instrumentelor de IA integrate în alte produse.
IA necontrolată
Preocupările legate de potențiala amenințare pe care ar putea-o reprezenta IA au fost ridicate recent, când modelele de inteligență artificială ale OpenAI și Anthropic, acționând în mod autonom, au efectuat atacuri cibernetice.
Modelele de inteligență artificială (IA) ale Anthropic „au obținut acces neautorizat” la trei organizații externe în timpul testelor care ar fi trebuit să le țină departe de sistemele din „lumea reală”, a declarat compania pe 31 iulie.
Anunțul a venit la doar câteva zile după ce rivalul OpenAI a dezvăluit pentru prima dată că modelele sale au accesat în mod necorespunzător internetul și au devenit „rebele” în timpul testelor de securitate. Ambele incidente sunt fără precedent și au declanșat semnale de alarmă în rândul autorităților de reglementare și al specialiștilor în securitate cibernetică.
