Fino a poco tempo fa sentire la voce di una persona era sufficiente per riconoscerla e avere la certezza di chi stesse effettivamente parlando. Bastavano infatti poche e semplici parole, non c’era alcun bisogno di doversi preoccupare. Oggi, invece, potrebbe servirci ben altro per scoprire se la persona con cui stiamo interloquendo, soprattutto se siamo al telefono, sia realmente quella che crediamo. Del resto, ormai la voce può essere copiata, ricostruita digitalmente attraverso software di IA generativa all’avanguardia e persino messa in bocca a qualcuno per formulare frasi che, in verità, quel qualcuno non ha mai pronunciato. Eventualità di cui persino Giorgia Meloni pare essere ben conscia, tanto da aver depositato presso l’Ufficio dell’Unione europea per la proprietà intellettuale una domanda per registrare la propria voce come marchio e proteggerla dalle possibili clonazioni.
Se anche la voce può essere clonata, quanto possiamo ancora fidarci di ciò che sentiamo?
Dura appena quattro secondi l’audio che la premier ha trasmesso all’EUIPO (l’European Union Intellectual Property Office) e all’interno del quale la si può ascoltare mentre ripete: “Io sono Giorgia Meloni“. Eppure, quei quattro secondi potrebbero bastare (il condizionale è d’obbligo, dal momento che la sua domanda risulta ancora in esame) per contrastare a livello giuridico qualunque tipo di attività, presumibilmente illecita, che riproduca la sua voce senza il suo esplicito consenso. A molti sembrerà assurdo e ad altrettanti addirittura fantascientifico, ma, pur strano che possa essere, l’intelligenza artificiale è uno strumento che di fatto esiste e che, come già dimostrato in più di un’occasione, ci espone a diversi rischi. Pertanto, se da una parte deve essere obbligatoriamente regolamentata, vien da sé che, dall’altra, poiché ciò non è ancora avvenuto, i cittadini devono potersi tutelare.
A tal proposito, lo scorso 30 settembre un tribunale di Tokyo ha riconosciuto per la prima in Giappone che anche la voce di una persona può essere salvaguardata attraverso i cosiddetti publicity rights, ossia i diritti a controllare lo sfruttamento commerciale della propria identità. Il caso ha riguardato l’attore e doppiatore Kenjiro Tsuda, che aveva contestato l’uso di una voce generata dall’IA e molto simile alla sua in 188 video pubblicati su TikTok. La richiesta di rimuovere i filmati è stata respinta perché nel frattempo erano stati cancellati, ma il giudice ha comunque stabilito che la voce è al pari di altre caratteristiche (quali immagine e volto) simbolo della personalità dell’individuo e che il suo utilizzo non autorizzato può costituire una violazione dei diritti.
Il problema non è più distinguere il vero dal falso
D’altronde, la clonazione vocale può servire a numerosi scopi, inclusi i più “banali”. Tralasciando le clip sui social media, pensiamo alle truffe e a quando riceviamo una telefonata che parrebbe arrivare da uno dei nostri genitori, da un collega o dal nostro capo. Una voce familiare potrebbe facilmente ingannarci e indurci a fare cose che altrimenti non faremmo, come trasferire del denaro in virtù di chissà quale “emergenza”. Insomma, la nostra vecchia abitudine di fidarci di ciò che riconosciamo potrebbe trasformarsi, nel giro di pochi istanti, nel più grande dei nostri punti deboli. Per non parlare di quei filmati che, accompagnandosi a voci artificiali, finiscono per mostrare eventi che non si sono mai verificati, ma ai quali, purtroppo, in tanti credono.
L’IA, dunque, può essere sfruttata non solo per creare contenuti inediti, ma per manipolare quelli già esistenti e attribuire a ciascuno di essi una presunzione di realtà. E mentre a noi piace pensare di potercene accorgere, sempre più persone che lavorano o hanno lavorato per le aziende che sviluppano tali sistemi stanno lanciando avvertimenti tutt’altro che rassicuranti. Fra questi ci sono Jacob Coxon, ex ricercatore di Anthropic che ha paventato la probabile perdita di controllo sull’IA da parte dell’uomo, e Daniel Kokotajlo, ex OpenAI che ha invece messo in dubbio la capacità delle imprese di accorgersi tempestivamente dei problemi di sicurezza dei propri sistemi, sebbene cominci ad esserci qualche spiraglio di maggior consapevolezza.
E che dire di Dario Amodei, CEO di Anthropic secondo cui sse lo sviluppo dell’intelligenza artificiale continuerà senza un adeguato rallentamento, entro sei-dodici mesi uno sciame sufficientemente capace di agenti IA potrebbe arrivare a prendere il controllo dell’intero Internet, provocando danni potenzialmente giganteschi?”
Dalle paure ai fatti: gli agenti IA possono prendere iniziativa?
Certo, per ora si tratta di deduzioni personali e non di certezze scientifiche, motivo per cui andrebbero valutate con la giusta cautela. Quel che è indubbio, però, è che a luglio, ad esempio, durante una valutazione interna di sicurezza, alcuni agenti di OpenAI riuscirono ad aggirare i sistemi che avrebbero dovuto isolarli da Internet, sfruttando vulnerabilità dell’infrastruttura e arrivando ad accedere ai sistemi di Hugging Face, dove ottennero anche credenziali e privilegi elevati. Suddetti agenti IA finirono inoltre per collaborare tra loro, descrivendosi come un «collettivo». Poche settimane dopo, Anthropic rese noto di aver individuato tre episodi nei quali modelli Claude, all’interno di valutazioni di cybersecurity, avevano raggiunto Internet e ottenuto accesso non autorizzato a sistemi reali di altre organizzazioni.
Perciò, è evidente che ci siano delle problematiche, contro le quali bisognerebbe intervenire al più presto. Alan Turing scriveva che:
Possiamo vedere solo un breve tratto del futuro, ma abbastanza per capire che c’è molto da fare
Per carità, nessuno qui vuole stabilire se l’intelligenza artificiale sia buona o cattiva, tantomeno gridare all’Apocalisse digitale immaginando robot che domani mattina si sveglieranno e conquisteranno il mondo. Tuttavia, non è difficile constatare quanto velocemente stiamo introducendo nella società strumenti di cui sappiamo ancora ben poco e senza che ci siano precauzioni adeguate per poterli controllare. Pertanto, se per adesso la sola soluzione che abbiamo a disposizione è quella di registrare la nostra voce o il nostro volto quasi fossero un marchio, allora ben venga!
Leggi anche:
Alan Turing, il genio (gay) che la sua stessa società ha aiutato a distruggere – L’Opinione
Per rimanere aggiornato sulle ultime opinioni, seguici su: il nostro sito, Instagram, Facebook e LinkedIn
