Folosind comanda: „Grok, pune-o în bikini”, chatbotul crea imagini cu caracter sexual explicit, fără a avea consimțământul persoanelor implicate, ceea ce a provocat un val de proteste și anchete în mai multe țări, inclusiv Franța și Regatul Unit.

Recent, Comisia Europeană a deschis o anchetă împotriva rețelei deținute de Elon Musk. Investigația nu vizează doar imaginile, ci, mai ales, modul în care platforma X a gestionat riscurile sistemice. Conform mecanismelor stabilite prin Actul privind Serviciile Digitale (DSA), platformele foarte mari (VLOPs) - aplicații precum Facebook, YouTube, Instagram, X sau TikTok, au obligația legală de a evalua și de a atenua riscurile care pot afecta drepturile fundamentale, siguranța publică și discursul civic.

„În Europa, nu vom tolera comportamente de neconceput, precum dezbrăcarea digitală a femeilor și copiilor”, a declarat Ursula von der Leyen, președinta Comisiei Europene. „Este simplu – nu vom ceda consimțământul și protecția copiilor noștri companiilor de tehnologie pentru a le încălca și a le monetiza. Prejudiciul cauzat de imaginile ilegale este foarte real”, a declarat ea într-o declarație pentru AFP.

„Să fim foarte clari, materialele care arată abuzuri sexuale asupra copiilor nu sunt un privilegiu premium”, a declarat și purtătorul de cuvânt al Comisiei Europene, Thomas Regnier.

Milioane de imagini sexualizate generate de AI

Potrivit unui studiu publicat de Center for Countering Digital Hate (CCDH), un organism de supraveghere non-profit, se estimează că instrumentul AI Grok a generat aproximativ 3 milioane de imagini sexualizate, dintre care 23.000 par să înfățișeze adolescenți și copii. 

Posibilitatea de generare a imaginilor a devenit extrem de populară pe 29 decembrie 2025, la scurt timp după ce Elon Musk a anunțat o funcție care permite utilizatorilor X să folosească Grok pentru a edita imaginile postate pe platformă cu un singur click. Funcția a fost restricționată la utilizatorii plătitori pe 9 ianuarie 2026, ca răspuns la condamnarea pe scară largă a utilizării sale pentru generarea de imagini sexualizate, iar pe 14 ianuarie au fost adăugate restricții tehnice suplimentare privind editarea imaginilor.

Pe baza unui eșantion, CCDH estimează că în doar 11 zile au fost generate 190 de imagini manipulate pe minut.

O creștere alarmantă

În 2016, cercetătorii au identificat un singur videoclip porno deepfake online. După doar 7 ani, în primele 9 luni ale anului 2023, au fost încărcate online 143.733 de videoclipuri porno deepfake noi – mai multe decât în toți anii anteriori la un loc. Aceasta înseamnă că există milioane de victime în întreaga lume.

O analiză realizată de Channel 4 News în anul 2024 asupra celor mai vizitate site-uri web de deepfake a descoperit că aproape 4.000 de persoane celebre erau listate.

Tot în 2024, imagini explicite deepfake cu Taylor Swift au fost postate pe X. Acestea au fost văzute de aproximativ 45 de milioane de ori înainte ca platforma să le elimine. Mai mult, în 2025 AI-ul lui Elon Musk - Grok, a fost acuzat că a făcut „o alegere deliberată” de a crea clipuri sexuale explicite cu Taylor Swift, deși nu i-ar fi fost solicitat acest lucru, afirmă un expert în abuzuri online.

Facebook și Instagram ar fi difuzat, de asemenea, reclame care arătau imagini sexuale deepfake neclare cu actrița Jenna Ortega, când aceasta avea doar 16 ani. Meta le-a eliminat între timp.

Anul trecut, un site pornografic italian a publicat imagini trucate cu femei celebre, inclusiv cu premierul Giorgia Meloni, stârnind un val de indignare. Imaginile, adunate din rețele sociale sau din apariții publice, au fost modificate digital pentru a mări anumite părți ale corpului sau pentru a plasa femeile în ipostaze sexuale explicite. Ele au fost publicate în așa-numita „secțiune VIP” a unui site porno și însoțite de comentarii sexiste și violente.

De ce contează atât de mult momentul?

Conform datelor Eurostat, tinerii europeni folosesc internetul pentru a accesa rețelele de socializare  în proporție de peste 88%, ceea ce face ca expunerea la conținut dăunător să fie o problemă de sănătate publică și siguranță socială. 

În acest context, la finalul anului trecut, Parlamentul European a aprobat o rezoluție prin care solicită stabilirea vârstei minime de 16 ani pentru accesarea platformelor de socializare, argumentând că aceasta ar asigura „o implicare online adecvată vârstei”. Măsura vine în contextul unei dezbateri tot mai intense în UE cu privire la modul în care minorii pot fi protejați de conținutul dăunător și de caracteristicile digitale care creează dependență.

Deși propunerea nu are forță juridică, unele țări au început deja să ia măsuri.

Danemarca: Guvernul a stabilit recent un prag minim de 15 ani pentru accesul pe anumite platforme sociale.

Germania: Copiii între 13 și 16 ani pot utiliza rețelele sociale doar cu acordul părinților, deși implementarea tehnică este încă sub lupa criticilor.

Italia: Autonomia digitală începe de la 14 ani; copiii sub această vârstă au nevoie de permisiunea expresă a părinților.

Belgia: Menține din 2018 o limită de vârstă de cel puțin 13 ani pentru crearea unui cont fără acord parental. 

Olanda: Nu impune o vârstă minimă legală, dar a interzis telefoanele mobile în sălile de clasă din ianuarie 2024 pentru a combate distragerea atenției.

Cele mai recente informații pe acest subiect vin din Franța, acolo unde Parlamentul a adoptat recent, în primă lectură, un proiect de lege care vizează restricţionarea accesului copiilor sub 15 ani la reţelele de socializare şi interzicerea telefoanelor mobile în licee. „Creierul copiilor și adolescenților noștri nu este de vânzare”, a declarat președintele Macron într-un videoclip, și insistă chiar ca prevederile să se aplice de la începutul următorului an şcolar.

Marea Britanie și Norvegia iau și ele măsuri în acest sens. Prin Online Safety Act (aplicat din 2025), Londra impune platformelor protecții stricte adaptate vârstei, fără a fixa însă o limită legală de vârstă universală. Norvegia a propus recent ridicarea vârstei de consimțământ de la 13 la 15 ani, pe fondul statisticilor care arată că jumătate dintre copiii de 9 ani sunt deja activi online.

Majoratul digital în România impune „avizul” parental

Într-o încercare de a alinia legislația națională la standardele de protecție digitală trasate de Uniunea Europeană, Senatul României a adoptat în luna octombrie 2025 proiectul de lege privind „majoratul online”. Inițiativa marchează o schimbare radicală de paradigmă: trecerea de la utilizarea liberă a internetului la un acces condiționat de supravegherea activă a familiei.

Ce prevede noua reglementare:

• Bariera de vârstă: Minorii care nu au împlinit 16 ani nu își mai pot crea conturi pe social media și nu pot accesa servicii online în nume propriu fără un acord parental verificabil.
• Acordul expres: Nu va mai fi suficientă o simplă bifă formală; legea solicită o metodă prin care părintele să își exprime clar consimțământul.
• Puterea de control: Părinții dobândesc drepturi legale explicite de a suspenda sau restricționa conturile copiilor și de a solicita oficial eliminarea oricărui conținut considerat dăunător pentru dezvoltarea minorului.

Inițiatoarea proiectului, senatoarea PNL Nicoleta Pauliuc, își fundamentează demersul pe necesitatea de a oferi părinților „scuturi digitale” în fața pericolelor precum cyberbullying-ul, dependența de algoritmi sau expunerea la conținut inadecvat. După votul pozitiv al senatorilor, Proiectul Majoratului Digital merge spre dezbatere în Camera Deputaților.

În lupta între o interdicție a accesului și nevoia de a proteja potențialele victime ale cyberbullyingului, deocamdată cert este că abuzul digital nu mai poate fi considerat un „efect secundar” inevitabil al inovației și devine o problemă tot mai serioasă.

Un material realizat de Gabriela Gârjoabă și Tudor Pană.