AI Deepfake Apocalypse: Quando l'Innovazione Diventa Distopia

OpenAI ha appena lanciato Sora 2, e il risultato è terrificante quanto prevedibile: un'app che trasforma chiunque in una fabbrica di deepfake personale. Con un feed stile TikTok pieno di video di Sam Altman che ruba GPU da Target e serve drink a Pikachu, siamo ufficialmente entrati nell'era del caos sintetico.

L'app permette di creare "cameo" - essenzialmente deepfake di te stesso o di altri - con una semplicità disarmante. Basta registrare qualche numero e girare la testa, e voilà: la tua identità digitale è pronta per essere manipolata da chiunque tu autorizzi. O da tutti, se scegli l'opzione "everyone" come ha fatto Altman stesso.

Ma ecco la verità che nessuno vuole ammettere: i ricercatori interni di OpenAI stanno già esprimendo preoccupazioni pubbliche su X. "AI-based feeds are scary," ha scritto John Hallman, ricercatore di pretraining. Quando i tuoi stessi dipendenti ti criticano pubblicamente, forse è il momento di fermarsi e riflettere.

La cosa più inquietante? OpenAI sostiene di non ottimizzare per il tempo trascorso sull'app, ma per la "creazione". Peccato che creare deepfake realistici di persone reali non sia esattamente il tipo di creatività di cui il mondo ha bisogno in questo momento.

Tilly Norwood ha 40.000 follower su Instagram e non esiste. È un'attrice AI creata da Xicoia, e Hollywood sta andando nel panico. Emily Blunt ha riassunto perfettamente la situazione: "Good Lord, we're screwed."

La reazione di SAG-AFTRA è stata immediata e brutale: "Tilly Norwood non è un'attrice, è un personaggio generato da un programma che è stato addestrato sul lavoro di innumerevoli performer professionali - senza permesso o compenso." Traduzione: è un furto legalizzato su scala industriale.

Ma il vero problema non è Tilly Norwood in sé. È quello che rappresenta: un futuro dove gli studios possono sostituire attori umani con versioni digitali più economiche, più controllabili, e che non scioperano mai. La produttrice Eline Van der Velden insiste che sia "arte", ma quando l'arte minaccia i mezzi di sussistenza di migliaia di persone, forse è il momento di ridefinire il concetto.

La tempistica non è casuale: arriva proprio mentre OpenAI rilascia Sora 2, rendendo la creazione di video AI più accessibile che mai. Gli attori hanno ragione ad essere preoccupati. La tecnologia sta evolvendo più velocemente delle protezioni legali.

Adam Mosseri di Instagram ha fatto un post per smentire che Meta ascolti le conversazioni degli utenti tramite microfono. Che tempismo perfetto: proprio mentre l'azienda annuncia che userà le chat con Meta AI per targetizzare pubblicità.

La nuova policy, in vigore dal 16 dicembre, significa che ogni conversazione con Meta AI diventerà un segnale pubblicitario. Parli di escursionismo con l'AI? Preparati a vedere pubblicità di scarponi da trekking. È il sogno bagnato di ogni marketer: accesso diretto ai tuoi pensieri più intimi.

"Non c'è modo di fare opt-out," secondo Meta. Traduzione: o accetti che le tue conversazioni private con l'AI vengano monetizzate, o non usi i nostri servizi. È ricatto digitale mascherato da innovazione.

La cosa più cinica? Mosseri dice che non hanno bisogno di ascoltare le tue conversazioni perché i loro algoritmi sono già così potenti. Con l'aggiunta dei dati delle chat AI, diventeranno ancora più invasivi. Non stanno negando la sorveglianza, la stanno semplicemente evolvendo.

Google sta sostituendo Google Assistant con Gemini su tutti i suoi smart speaker, compresi quelli di 10 anni fa. È la più grande trasformazione dell'ecosistema smart home da quando questi dispositivi esistono, e arriva con nuove telecamere Nest da 2K progettate specificamente per alimentare l'AI.

Le nuove Nest Cam possono ora "interpretare e comprendere cosa sta succedendo" invece di limitarsi a rilevare movimento. Traduzione: invece di ricevere "movimento rilevato", riceverai "il cane salta fuori dal recinto". Sembra utile, ma significa che l'AI sta analizzando costantemente ogni momento della tua vita domestica.

Il vero business model si nasconde nell'abbonamento Google Home Premium: da $10 al mese per funzionalità AI di base, $20 per quelle avanzate. Quello che una volta era gratuito ora richiede un pagamento mensile. È la classica strategia tech: prima ti abituano al servizio, poi iniziano a fartelo pagare.

La promessa è di rendere la casa più "intelligente", ma la realtà è che stai pagando per essere sorvegliato più efficacemente. Ogni comando vocale, ogni video della telecamera, ogni automazione diventa un punto dati per l'ecosistema pubblicitario di Google.

Mira Murati, ex-CTO di OpenAI, ha finalmente rivelato il primo prodotto di Thinking Machines Lab: Tinker, uno strumento che promette di "democratizzare" la creazione di modelli AI personalizzati. Con $2 miliardi di finanziamenti seed e una valutazione di $12 miliardi, le aspettative sono stratosferiche.

Tinker automatizza il fine-tuning di modelli frontier come Llama di Meta e Qwen di Alibaba, rendendo accessibile quello che prima richiedeva team di PhD e cluster di GPU. L'idea è nobile: dare a più persone l'accesso alle capacità AI più avanzate. Ma c'è un problema.

La "democratizzazione" dell'AI spesso significa semplicemente creare nuovi gatekeeper. Thinking Machines Lab controlla chi può accedere alla piattaforma, e anche se ora è gratuita, "si aspettano di iniziare a far pagare eventualmente". È la solita storia: prima ti agganciano con il gratuito, poi arrivano i paywall.

La vera domanda è: stiamo davvero democratizzando l'AI, o stiamo solo spostando il controllo da una manciata di big tech a una manciata di startup ultra-finanziate? Con una valutazione di $12 miliardi prima ancora di lanciare un prodotto, Thinking Machines Lab non sembra esattamente l'underdog che combatte per il piccolo sviluppatore.