Què està passant: la UE obliga a etiquetar els deepfakes
Des del 2 d'agost de 2026 entren en aplicació les obligacions de transparència del Reglament Europeu d'Intel·ligència Artificial (l'"AI Act"). El seu article 50 exigeix que els continguts generats o manipulats amb IA —imatges, àudio i vídeo— s'etiquetin clarament com a artificials. Segons les directrius de la Comissió Europea, la norma cobreix quatre casos: chatbots, contingut generat per IA, reconeixement d'emocions i, molt en concret, els deepfakes. El reglament es va aprovar el 2024 i va entrant en vigor per fases al llarg d'uns 3 anys; aquesta és una de les més esperades.
El detall important és que la regla s'aplica encara que no hi hagi intenció d'enganyar: si un vídeo sembla una persona real, cal avisar que és sintètic. I no és un avís menor: incomplir aquestes obligacions pot comportar multes de fins a 15 milions d'euros o el 3% de la facturació mundial de l'empresa. Que la llei es mulli amb això tan aviat et diu la mida del problema. Entendre què és un deepfake i com es fa és avui una competència bàsica, tinguis 16 anys o 60.
Què és un deepfake (i per què es diu així)
La paraula deepfake ajunta dues idees: deep learning (aprenentatge profund, el tipus d'IA que hi ha al darrere) i fake (fals). És un contingut —normalment un vídeo o un àudio— en què la IA substitueix o recrea la cara, la veu o el cos d'una persona perquè digui o faci una cosa que mai va passar.
No és el mateix que un muntatge de tota la vida amb Photoshop. La diferència és que aquí no hi ha un humà retallant fotograma a fotograma: el sistema aprèn sol l'aspecte i els gestos d'algú a partir de molts exemples i després genera imatges noves i coherents. Per això el resultat es mou, parpelleja i parla amb una naturalitat que abans era impossible.
Els usos van des de l'inofensiu (efectes de cinema, doblatges, memes) fins al perillós: estafes amb la veu d'un familiar, bulos amb polítics, o contingut per fer mal a la reputació d'algú. Aquí hi ha el perquè de la llei.
Com els crea la IA: aprendre a imitar
Darrere d'un deepfake sol haver-hi una d'aquestes dues famílies de models. Convé conèixer-les perquè són el cor de la IA generativa que avui ho inunda tot:
- Xarxes generatives antagòniques (GAN). Són dues xarxes neuronals competint. Una, el generador, fabrica imatges falses; l'altra, el discriminador, intenta enxampar quines són falses. Com en un joc del gat i la rata, el generador millora fins que el discriminador ja no distingeix. Aquest "duel" és el que produeix cares hiperrealistes.
- Models de difusió. Parteixen d'una imatge de pur soroll (com la "neu" d'una tele antiga) i la van "netejant" pas a pas fins a convertir-la en una imatge nítida que encaixi amb el que es demana. Són els que hi ha darrere de la majoria de generadors d'imatges actuals.
Un exemple per veure-ho clar: per clonar la cara d'algú, el sistema estudia centenars de fotos i vídeos seus i aprèn com se li mou la boca en parlar, com li cauen les ombres o com somriu. Després "enganxa" aquella cara apresa sobre el cos d'un actor en un altre vídeo, quadre a quadre. Com més dades de la persona tingui, més creïble surt. Per això els famosos, amb milers d'imatges públiques, són els objectius més fàcils.
Com detectar un deepfake (el que miren els experts)
Cap truc és infal·lible, però la majoria de deepfakes encara deixen pistes. Aquests són els senyals que es revisen primer:
| On mirar | Senyal sospitós |
|---|---|
| Ulls i parpelleig | Parpelleig estrany o absent, mirada fixa, reflexos diferents a cada ull |
| Vores de la cara | Contorn del cabell o la mandíbula borrós o que "vibra" en moure's |
| Llum i ombres | Ombres que no quadren amb la il·luminació de la resta de l'escena |
| Boca i àudio | Llavis que no encaixen amb les paraules; veu sense respiració ni soroll de fons |
| Mans i dents | Dits de més, dents fusionades o detalls fins deformats |
Però la millor defensa no és tècnica, és de mètode, i funciona amb qualsevol bulo:
- Busca la font original. Qui ho va publicar primer? Ho recullen mitjans fiables o només cadenes de missatges?
- Desconfia del que et remou. Els deepfakes busquen indignació o por perquè comparteixis sense pensar. Si una cosa t'encén massa, atura't.
- Contrasta. Si aquella persona ho hagués dit, sortiria en més llocs. El silenci de la resta és una pista.
L'error típic és fiar-se només del "em sembla real": el nostre cervell està fet per creure una cara que parla. Per això, a partir d'ara, l'etiqueta de "contingut generat per IA" que exigeix la UE serà una de les teves millors pistes.
Quan val la pena aprendre IA amb un professor
Entendre la IA per sobre està bé per no empassar-te un bulo, però si vols de veritat saber com funciona —xarxes neuronals, com s'entrena un model, què és la IA generativa per dins— o fins i tot dedicar-t'hi, aquí és on un professor t'estalvia mesos de tutorials solts. És dels camps amb més futur laboral, i partir amb bona base marca la diferència.
A Eurekademy pots començar amb una primera classe amb 50% de descompte amb un professor particular d'intel·ligència artificial. Sense compromís: si no encaixa, no passa res. Però si encaixa, tenir algú que t'expliqui els conceptes amb exemples actuals —com els deepfakes d'avui— i et guiï amb la pràctica accelera moltíssim. Els nostres professors tenen un 4,8★ de mitjana a Google.