Clonarea vocii are nevoie de consimțământ, nu doar de licență

Clonarea unei voci nu mai are nevoie de studio sau de echipă de cercetare. GPT-SoVITS, un model deschis, clonează o voce dintr-un eșantion de cinci secunde și o îmbunătățește cu un minut de audio. Bariera tehnică a dispărut. Ce rămâne este partea care durează mai mult de cinci minute: să dovedești că omul a cărui voce ai copiat-o știa ce vei face cu ea și să poți arăta dovada și peste doi ani, când te întreabă un client, un donator sau un control. „Era public pe YouTube” nu este o dovadă.

Textul de față explică regulile din UE și nu este consultanță juridică. Du-l la un avocat înainte să semnezi un formular de consimțământ sau să publici audio.

Ce este vocea în ochii legii

O înregistrare cu o persoană care vorbește este date cu caracter personal. Articolul 4(1) din GDPR definește datele cu caracter personal ca orice informație privitoare la o persoană fizică identificată sau identificabilă, iar vocea își identifică proprietarul aproape la fel de sigur ca fața.

Există și o categorie mai strictă. Articolul 4(14) definește datele biometrice ca date cu caracter personal rezultate din prelucrarea tehnică specifică a unor caracteristici fizice, fiziologice sau comportamentale care permit sau confirmă identificarea unică. Articolul 9 interzice apoi prelucrarea datelor biometrice în scopul identificării unice, cu excepția unor situații limitate, iar cea mai utilizabilă este consimțământul explicit pentru scopuri precise. Un fișier brut de interviu este date personale obișnuite. Un speaker embedding, vectorul pe care un model de clonare îl extrage pentru a reprezenta timbrul, este exact genul de prelucrare tehnică specifică descris de definiție. Dacă intră sau nu sub incidența articolului 9 depinde de ce faci cu el: un model folosit ca să recunoască sau să verifice vorbitori intră clar, unul care doar sintetizează vorbire nouă lasă loc de interpretare.

Ce trebuie să conțină consimțământul

Consimțământul este „orice manifestare de voință liberă, specifică, informată și lipsită de ambiguitate” a persoanei, dată printr-o declarație sau o acțiune afirmativă clară (articolul 4(11)). Articolul 7 adaugă trei reguli care decid dacă un formular rezistă. Operatorul trebuie să poată demonstra că a primit consimțământul. Persoana îl poate retrage oricând. Retragerea trebuie să fie la fel de simplă ca acordarea și oprește prelucrarea viitoare fără să facă ilegală ce s-a întâmplat înainte.

O semnătură sub o frază de tipul „Sunt de acord cu folosirea vocii mele pentru AI” pică majoritatea acestor teste. Formularul pe care l-am vrea în fața unui donator numește șase lucruri:

• Scopul. Nararea podcastului companiei și a videoclipurilor de produs, de exemplu, nu „proiecte AI”. O reclamă plătită mai târziu este un scop nou și cere o discuție nouă.
• Întinderea. Limbi, canale, teritorii, dacă clienții pot folosi rezultatul și dacă numele donatorului apare pe material.
• Durata. O perioadă cu dată de revizuire. „Perpetuu și mondial” greu poate fi numit specific și transformă clauza de retragere în decor.
• Retragerea. Cum se face, ce se oprește și în cât timp, ce se întâmplă cu audio deja publicat.
• Modelele derivate. Fraza care lipsește din majoritatea formularelor. Dacă donatorul se retrage, modelul antrenat se șterge, se reantrenează fără el sau rămâne cu rezultatul blocat? Decide înainte de antrenare, nu după o plângere.
• Banii și presiunea. Articolul 7(4) întreabă dacă acordul a fost legat de un serviciu de care persoana avea nevoie. Un angajat căruia i se cere vocea pentru asistentul intern nu este în aceeași poziție cu un freelancer plătit.

Consimțământul nu este singura bază legală: pentru unele utilizări se potrivesc mai bine un contract sau un interes legitim. Dar clonarea vocii este suficient de intruzivă încât consimțământul explicit rămâne varianta care trece de un control, de echipa de achiziții a unui client și de propriile ezitări ale donatorului.

Narațiune internă sau voce publică de brand

O voce internă citește ciorne, rezumate de ședință și documente care nu ies din organizație. Rămâne date personale și are nevoie de o bază legală, dar expunerea este limitată: modelul stă pe un singur calculator, iar publicul este format din colegi. Greșeala obișnuită este să tratezi contractul de muncă drept consimțământ. Nu este. Consimțământul trebuie dat în mod liber, iar o cerere venită de la persoana care îți semnează evaluarea anuală e greu de refuzat.

O voce publicată este alt obiect. Devine parte din brand, ascultătorii o leagă de o persoană, iar modelul se transformă într-un activ care poate scăpa, poate fi copiat de un contractor sau poate fi folosit ca să spună lucruri pe care donatorul nu le-a spus. Asta schimbă contractul. Ai nevoie de o durată clară, de o ieșire pentru ambele părți, de o regulă pentru situația în care poziția publică a donatorului se schimbă și de un răspuns limpede la întrebarea cine suportă costul unei utilizări abuzive. Ai nevoie și ca modelul să stea undeva sub controlul tău. Un flux local care nu urcă niciodată clipul de referință se apără mai ușor decât un clone în cloud ale cărui condiții de păstrare nu le-ai citit.

Ce datorezi publicului

Articolul 50 din AI Act împarte obligația de transparență între două roluri. Paragraful 2 se aplică furnizorilor: sistemele care generează audio sintetic trebuie să marcheze rezultatele într-un format care poate fi citit automat și să le facă detectabile ca generate sau manipulate artificial, prin măsuri eficace, interoperabile, robuste și fiabile în măsura în care este fezabil tehnic. Paragraful 4 se aplică utilizatorilor: cine generează sau manipulează audio care constituie un deepfake trebuie să declare că materialul a fost generat sau manipulat artificial.

Definiția contează aici. Articolul 3(60) descrie deepfake-ul ca audio generat sau manipulat de un sistem AI care seamănă cu persoane existente și pe care o persoană l-ar confunda cu un material autentic. Un clone al unui donator real se încadrează, iar consimțământul donatorului nu ridică obligația. Consimțământul răspunde la întrebarea de protecția datelor. Nu răspunde la întrebarea de transparență, care aparține publicului, nu persoanei copiate.

Calendarul: cronologia AI Act publicată de Comisia Europeană pune regulile de transparență în vigoare în august 2026, odată cu aplicarea generală a regulamentului din 2 august 2026. Dacă publici audio sintetic acum, obligația este deja activă.

Rolul tău depinde de ce livrezi. Dacă rulezi un model deschis pe propriul calculator și publici audio, ești utilizator. Dacă pui generatorul în fața clienților sub numele tău, te apropii de definiția furnizorului din articolul 3(3), iar paragraful 2 vine la pachet.

În practică, declararea stă în audio, nu doar în subsol. O frază rostită la început sau o marcă constantă la final face mai mult decât o propoziție îngropată în descriere. Pune aceeași propoziție în notele episodului, în descrierea video și în metadatele fișierului. Marcarea automată a audio-ului este încă inegală de la unealtă la unealtă, așa că registrul tău poate rămâne singura evidență completă a ce s-a generat. Și reține forma excepției artistice: pentru lucrările evident creative sau satirice, paragraful 4 limitează felul în care se face declararea, nu dacă se face.

Dosarul care răspunde la întrebări

Patru lucruri acoperă aproape orice întrebare care apare mai târziu.

• Formularul de consimțământ semnat. Cu versiune, cu formularea exactă a scopului și cu data, păstrat lângă model, nu într-un drive comun pe care nu îl deschide nimeni. Când formularea se schimbă, versiunea veche rămâne.
• Înregistrările sursă. Fișierele originale, cu un hash SHA-256 și data captării, ca să poți dovedi pe ce fișier s-a antrenat modelul. Nu doar setul curățat: clipul original, needitat.
• Registrul modelelor. Un rând pe model, nu pe proiect: identificatorul modelului, identificatorul donatorului, checkpointul de bază și licența lui, data antrenării, hashul clipului de referință, cine l-a antrenat și ce rezultate l-au folosit.
• Procedura de ștergere. Cine o poate declanșa, ce se șterge și în ce ordine, ce se întâmplă cu backupurile, cine aprobă, ce i se comunică donatorului și ce se face când modelul nu poate fi curățat complet.

Hashul nu este birocrație. Dacă donatorul spune mai târziu „vocea aceea nu este a mea” sau „ați folosit altă înregistrare”, hashul lămurește. Dacă un client întreabă dacă vocea dintr-o reclamă era autorizată, registrul răspunde într-un minut.

Partea pe care nimeni nu o poate promite

Un model antrenat nu păstrează clipul. Păstrează ponderi modelate de el, iar o voce nu se scade din acele ponderi într-un mod sigur. Poți reantrena fără donator, dar pierzi modelul. Poți aplica unlearning, care e cercetare de laborator și vine fără garanție. Sau poți păstra modelul și bloca folosirea lui, ceea ce este o promisiune despre comportament, nu despre date.

EDPB a spus clar că terenul este nesigur. Avizul 28/2024, adoptat în decembrie 2024, arată că modelele antrenate pe date personale nu pot fi considerate anonime în toate cazurile și că anonimitatea cere să fie foarte improbabil ca datele personale să poată fi extrase, direct sau prin interogări. Un clone de voce pică testul prin construcție, pentru că reproducerea vocii este produsul. Același aviz, când discută remediile pentru date prelucrate ilegal, enumeră ștergerea unei părți din set sau, unde acest lucru nu este posibil, ștergerea întregului model, și vorbește despre tehnici aplicate după antrenare care încearcă să elimine datele personale. „Încearcă” este cuvântul important. Autoritatea descrie o limită, nu o soluție.

Clauza cinstită din contract decurge de aici. Retragerea oprește folosirea imediat. Ștergerea înregistrărilor sursă și a rândului din registru se face într-un termen declarat. Ștergerea modelului se face dacă donatorul o cere și dacă este posibil. Unde modelul nu poate fi curățat, îl ștergi în loc să îl păstrezi. Ultima propoziție este scumpă, și exact asta este ideea: pune ireversibilitatea în costul deciziei de la început, în loc să o descoperi în mijlocul unui conflict.

Pe cine accepți să clonezi

Dacă un model poate să nu fie ștergibil, întrebarea dinaintea antrenării este cine poate duce acest risc. Clonează oameni care pot renegocia: un freelancer cu contract, un fondator care înțelege termenii, un client care a cerut clonarea în scris. Fii atent cu cei care nu pot. Un angajat care depinde de tine pentru venit, un minor, o persoană publică a cărei voce ai găsit-o online, arhiva cuiva decedat. În fiecare dintre aceste cazuri puterea de a refuza este slabă sau lipsește, iar consimțământul încetează să mai fie liber. Actorul decedat este varianta cea mai grea, pentru că nimeni nu poate retrage nimic, iar moștenitorii pot să nu înțeleagă ce licențiază.

Aici se prăbușește complet și argumentul cu „era public”. Disponibilitatea publică îți spune că fișierul putea fi descărcat. Nu îți spune nimic despre faptul că vorbitorul a fost de acord cu o versiune sintetică a sa care spune propoziții noi, în contexte noi, la nesfârșit, în limbi pe care nu le vorbește.

Unde ajungem

Rulăm VoiceSynth Studio local, din motivul practic că un flux de clonare care nu urcă niciodată clipul de referință înseamnă un loc mai puțin unde se poate pierde o dovadă de consimțământ. Dacă pui audio într-un produs, documentația face parte din funcționalitate: ea te lasă să răspunzi la chestionarul de securitate al unui client și la emailul unui donator fără să reconstruiești istoricul din memorie. Pentru obligațiile mai largi, vezi ce cere AI Act unei afaceri mici și comparația noastră între motoare TTS locale.