Davide Tommasin ዳዊት

Pensieri Sparsi di Uno Qualsiasi

You are here: Home / Pensieri Sparsi / AI & Deepfake: il mondo che credi reale è già morto

AI & Deepfake: il mondo che credi reale è già morto

Pubblicato il ,

guerra_cognitiva_globale

Non è il futuro che fa paura. È il presente che fingiamo di non vedere: è parte della guerra cognitiva globale. Va oltre alla propaganda classica ed è più profonda, intima ed epistemica.

Chi controlla la narrazione detiene il potere

Un mondo che non si chiede più “come funziona”, ma “basta che funzioni”. Un approccio che persegue il risultato e l’output, la prestazione e la performance più che il viaggio, l’esperienza, il ragionamento per capire il dietro le quinte, il meccanismo che ci fa arrivare all’obbiettivo.

Il capitalismo più sfrenato che cancella i contesti, ne priva di senso e significato, li svuota, per creare nuova narrativa funzionale e autoriflessiva nel sistema stesso. Non serve che la storia sia fattuale, ma basta anche un surrogato della realtà e le AI lo sanno fare spudoratamente bene, analiticamente e finemente targettizzate e in tempo reale.

Ricordiamo anche che è un capitalismo inserito in un mondo totalmente globale e iperconnesso: variabili che determina gran parte delle dinamiche che hanno risonanza non solo sui mercati, ma sulla geopolitica, sui popoli, sui valori delle società, come democrazia e diritti universali: valori trattati sempre più come merce di scambio.

0. Le piattaforme e la tecnologia come recinti

C’è una frase che torna spesso, quando si parla di deepfake e AI generativa:

“Dobbiamo educare la società a non reagire di pancia.”

Suona bene. È rassicurante. È anche, detto senza giri di parole, uno specchietto per le allodole. O, per usare un aforisma colorito: è come pisciare contro vento e sperare di non bagnarsi.

Perché il problema non è che non sappiamo cosa sta succedendo. Il problema è che sappiamo benissimo cosa sta succedendo e continuiamo a sperare che esista una soluzione elegante.

1. Mettiamolo subito in chiaro: oggi chi vuole, può, avendo le giuste risorse

Non è un’ipotesi, non è uno scenario futuro, non è allarmismo.

  • puoi generare un deepfake credibile
  • puoi farlo con modelli open source
  • puoi farlo con hardware accessibile
  • puoi farlo fuori dalle grandi piattaforme
  • puoi farlo in poche ore, se hai già un minimo di struttura

Questo è irreversibile. Come la crittografia. Come i torrent. Come Internet stesso.

Chi parla ancora di “vietare” il deepfake non ha capito la natura del problema.

2. “Ma mettiamo i watermark”: no, non è la soluzione

Il watermark (filigrana software, etichetta digitale), viene presentato come la panacea. Non lo é.

Tutto ciò che può essere:

  • inserito
  • letto
  • verificato

può anche essere:

  • rimosso
  • degradato
  • falsificato
  • clonato

Con abbastanza tempo e motivazione, ogni watermark è aggirabile. Non è una sconfitta tecnica: è una legge dell’asimmetria. Come in ogni sistema di sicurezza, non esistono barriere inviolabili, ma solo costi crescenti per l’attaccante.

Il difensore deve proteggere tutto. L’attaccante deve rompere una cosa sola.

3. Il problema non è l’infrastruttura. È la viralità.

Qui cade un altro mito.

Pensiamo ancora che il problema sia:

  • il datacenter, l’infrastruttura hardware
  • la piattaforma, il sistema software
  • il server, l’origine da cui è partito il contenuto

Non lo é.

La viralità non è tecnica, è umana:

  • emozione
  • indignazione
  • tribalismo
  • tempismo

Una volta che un contenuto:

  • viene visto
  • scaricato
  • registrato per mezzo video
  • rilanciato su canali paralleli

è già fuori controllo.

Non lo fermi bombardando i datacenter. Il vero datacenter da rallentare, fermare, è la testa delle persone.

4. Botnet + AI = shock informativi

Qui entriamo nella dinamica più pericolosa.

  • AI: generazione istantanea
  • botnet: amplificazione iniziale
  • targeting: polarizzazione chirurgica

Il deepfake moderno non è progettato per durare, ma per:

  • vincere la prima ora
  • definire la narrativa iniziale
  • costringere tutti a reagire

E nel mondo reale:

chi vince la prima ora spesso vince tutto.

La smentita arriva sempre dopo. E arriva stanca e magari sottotraccia per la massa critica della società.

5. “Educazione mediatica”: utile, ma non salvifica

Diciamolo chiaramente: l’educazione mediatica serve, ma non risolve.

Perché:

  • funziona nel lungo periodo
  • in ambienti stabili
  • senza overload informativo

Ma oggi viviamo in:

  • bombardamento continuo (infodemia, tsunami informativo costante)
  • stress cognitivo (stimolo costante e saturazione cognitiva)
  • economia dell’attenzione che monetizza l’emozione (lucrare sull’attenzione, news clickbait che portano visual a contenuti fuorivianti per interesse)

In queste condizioni:

  • gli utenti, le persone, la società si abitua al rumore, abbassando così la qualità informativa e cognitivamente, la mente si abitua e si adatta a tutto questo: abbassamento cognitivo sistemico.
  • anche persone colte, consapevoli e “formate” reagiscono di pancia.

Non è un fallimento morale. È neurobiologia applicata e messa sotto pressione.

Viviamo nel rumore costante e il cervello biologicamente, ad un certo punto, satura.

6. Il punto chiave che nessuno vuole ammettere

Il deepfake efficace non deve convincere.

Non serve che tutti ci credano.

Basta:

  • confondere
  • polarizzare
  • avvelenare il contesto
  • spostare il discorso

E qui si chiude il cerchio, comprendendo l’approccio sistemico funzionale di “svuotamento di senso e significato dei contesti”.

La verità non viene sostituita da una bugia. Viene resa inutilizzabile.

7. Siamo in un equilibrio instabile (e sì, lo è davvero)

Non siamo nel caos totale. Non siamo nel controllo. Come dire che la situazione del paziente è stabile (crea ottimismo), ma grave (e qui crolla il palco).

Siamo in un equilibrio instabile:

  • fatto di mitigazioni
  • contenimento
  • risposte tardive
  • danni “accettabili”

Finché il danno resta sotto una certa soglia, il sistema regge. Quando la supera, non vince l’educazione: vince la ristrutturazione forzata.

Storicamente questo significa:

  • nuove forme di censura
  • nuove autorità di “verità”
  • o collassi di fiducia seguiti da risposte autoritarie

Non perché siano buone idee. Ma perché sono quelle che emergono quando il sistema non regge più e funzionali al mantenimento dello status quo del sistema stesso: le pedine del gioco non sono contemplate, ma solo processi sistemici.

8. La verità finale (scomoda, ma necessaria)

Il deepfake non è il problema: è il sintomo.

Il problema è:

  • la velocità
  • l’attenzione
  • gli incentivi
  • la fiducia cieca nel “l’ho visto con i miei occhi”

Abbiamo varcato la soglia di un’epoca in cui:

  • il video non è più prova
  • l’audio non è più prova
  • la realtà visiva non è più garanzia

È destabilizzante, ma forse è anche l’unico modo per sopravvivere.

Perché se c’è una cosa davvero pericolosa oggi, non è l’AI che mente.

È una società che pretende ancora di reagire come se fosse tutto vero.

9. Cosa resta di tutto questo

Queste parole sono uno spaccato del mondo in cui viviamo oggi e vogliono essere spunto di riflessione profonda della società globale e al contempo per contemplazione, osservazione ed ascolto interiore individuale.

Mi sento di aggiungere quest’ultima cosa: l’unica vera soluzione, l’unica arma reale che ogni individuo ha a sua disposizione è il ragionamento, l’elaborazione cognitiva che crea non opinioni da freespeech per i social, ma reale punto di vista ponderato e con cognizione di causa.

Il ragionamento ovviamente deve partire dalla volontà individuale attingendo dalla memoria storica ed esperienziale, per tornare a dare senso e significato ai contesti che sistematicamente e sempre più oggi, vengono frammentati e svuotati. Il dividi et impera nell’era delle AI.

Parallelamente questo approccio dovrebbe essere condiviso come nuova consapevolezza sociale per evitare questi potenziali rischi e per saperli affrontare in maniera opportuna: con la testa, con mente critica e non di pancia, in maniera emozionale e viscerale.

Cercare di usicre dal recinto in cui la guerra cognitiva ci tiene relegati perché noi possiamo continuare a perpetrare conflitti dualistici, “io contro te”, “il buono e il cattivo”, “giusto e sbagliato” o declinate in “guerre tra poveri”.

La contestualizzazione è la via, il silenzio è parte del percorso di uscita, ma non l’omertà, ma il “non fare rumore”, cercando di non essere parte del rumore di fondo che permea il campo di battaglia.

Uscendo dal recinto si rivela la sovrastruttura funzionale alla guerra congitiva delle piattaforme, sempre più regimi tecnocrati, che mantiene le masse in catene mentali offrendo visioni reali artificiose e di plastica.

Quindi non resistenza per principio perché così si continua ad abitare ancora nel recinto della guerra dualistica, ma resistenza consapevole per avere una visione più ampia del contesto.

Se non ti accorgi o non riesci a vedere che restare dentro il recinto per principio è un problema, allora sei parte del problema e funzionale alla sovrastruttura imposta.

In poche parole, l’unico sistema di resistenza reale è continuare ad allenare il cervello e “spremersi le meningi” per non soccombere alla guerra cognitiva globale che stiamo vivendo.

Hai un cervello? Sei biologicamente adatto per usarlo: non pensare di usarlo, usalo.

Risorse come ulteriori spunti di riflessione e approfondimenti: