EconomiaNotizia

Mentre i deepfake prosperano, i paesi lottano per rispondere

I gruppi per i diritti digitali come la Electronic Frontier Foundation stanno spingendo i legislatori a cedere la polizia dei deepfake alle società tecnologiche o a utilizzare un quadro legale esistente che affronti questioni come frode, violazione del copyright, oscenità e diffamazione.

“Questo è il miglior rimedio contro i danni, piuttosto che l’interferenza del governo, che nella sua attuazione quasi sempre catturerà materiale che non è dannoso, che raffredda le persone dal discorso legittimo e produttivo”, ha affermato David Greene, un avvocato per le libertà civili per il Fondazione Frontiera Elettronica.

Diversi mesi fa, Google ha iniziato a vietare alle persone di utilizzare la sua piattaforma Colaboratory, uno strumento di analisi dei dati, per addestrare i sistemi di intelligenza artificiale a generare deepfake. In autunno, la società dietro Stable Diffusion, uno strumento per la generazione di immagini, ha lanciato un aggiornamento che ostacola gli utenti che cercano di creare contenuti nudi e pornografici, secondo The Verge. Meta, TikTok, YouTube e Reddit vietano i deepfake che intendono essere fuorvianti.

Ma leggi o divieti possono avere difficoltà a contenere una tecnologia progettata per adattarsi e migliorare continuamente. L’anno scorso, i ricercatori della RAND Corporation hanno dimostrato quanto possa essere difficile identificare i deepfake quando hanno mostrato una serie di video a più di 3.000 soggetti di prova e hanno chiesto loro di identificare quelli che sono stati manipolati (come un deepfake dell’attivista per il clima Greta Thunberg sconfessando l’esistenza del cambiamento climatico).

Il gruppo ha sbagliato più di un terzo delle volte. Anche un sottogruppo di diverse dozzine di studenti che studiano machine learning alla Carnegie Mellon University ha sbagliato più del 20% delle volte.

Le iniziative di aziende come Microsoft e Adobe ora cercano di autenticare i media e addestrare la tecnologia di moderazione per riconoscere le incoerenze che contraddistinguono i contenuti sintetici. Ma sono in costante lotta per superare i creatori di deepfake che spesso scoprono nuovi modi per correggere i difetti, rimuovere filigrane e alterare i metadati per coprire le loro tracce.

“C’è una corsa agli armamenti tecnologici tra i creatori di deepfake e i rilevatori di deepfake”, ha affermato Jared Mondschein, scienziato fisico presso RAND. “Fino a quando non inizieremo a trovare modi per rilevare meglio i deepfake, sarà davvero difficile per qualsiasi quantità di legislazione avere denti.”


Source link

Related Articles

Back to top button