Uno scandalo senza precedenti legato alla diffusione di deepfake generati dall’intelligenza artificiale ha spinto tre senatori democratici americani ad esigere l’immediata rimozione di X e Grok dagli store di Apple e Google. Le indagini hanno rivelato che il chatbot di Elon Musk viene utilizzato massicciamente per creare immagini sessualizzate di persone reali, in alcuni casi inclusi minori, spesso aggirando i filtri di sicurezza con prompt che richiedono abiti “trasparenti” per ottenere pesudo nudi non consensuali.
Per chi non sapesse di cosa stiamo parlando, nelle scorse settimane è uscito un “trend” che, in risposta a una qualsiasi immagine pubblicata su X, vede le persone menzionare @grok con un prompt simile a “Hey Grok, falle indossare un bikini”, o peggio ancora più spinti.
Nonostante la piattaforma abbia tentato di limitare i danni riservando la generazione di immagini agli utenti paganti (il che l’ha resa letteralmente una feature premium, quindi peggio ancora), l’app standalone e la versione web continuano a sfornare questi contenuti illeciti, sollevando un polverone politico che ha portato alla stesura di una lettera di fuoco indirizzata ai vertici della Silicon Valley.
I senatori Ron Wyden, Ed Markey e Ben Ray Luján sostengono che la rimozione di X e Grok sia ormai un atto dovuto per far rispettare i termini di servizio che regolano App Store e Google Play Store, finora applicati con troppa indulgenza verso le aziende di Musk. Le policy di entrambi i colossi tecnologici sono cristalline: Google proibisce severamente contenuti che facilitano lo sfruttamento o l’abuso di minori, pena l’eliminazione immediata, mentre Apple vieta materiale “palesemente sessuale o pornografico” e contenuti offensivi.
Secondo i legislatori, la generazione industriale di deepfake illegali da parte dell’IA di xAI dimostra un totale disprezzo per queste regole, trasformando le piattaforme in veicoli di abusi digitali che violano gli standard di sicurezza richiesti a tutti gli altri sviluppatori.
La critica si fa ancora più aspra nelle parole del senatore Wyden, il quale accusa le modifiche apportate dal social network di servire solo a monetizzare l’abuso, permettendo agli utenti premium il “privilegio” di generare immagini orribili mentre l’azienda ne trae profitto. La lettera evidenzia inoltre una discrepanza nella velocità di reazione dei giganti tech: in passato, Apple e Google hanno agito rapidamente per eliminare app su richiesta del Dipartimento della Sicurezza Interna, ma sembrano esitare davanti alla necessaria rimozione di X e Grok.
I senatori sottolineano come la gravità del danno attuale giustifichi, quantomeno, una sospensione temporanea delle applicazioni in attesa di un’indagine completa sulle violazioni segnalate.
L’ultimatum è fissato per il 23 gennaio 2026, data entro la quale Tim Cook e Sundar Pichai dovranno fornire una risposta scritta dettagliata. I senatori esigono spiegazioni su come le due aziende intendano applicare i propri regolamenti nei confronti delle app controllate da Elon Musk, ponendo fine a quella che appare come una zona franca per la creazione di materiale illegale e lesivo della dignità altrui.
Se i due CEO non agiranno tempestivamente per allineare le piattaforme agli standard di sicurezza, la questione potrebbe evolversi rapidamente in uno scontro legislativo sulla responsabilità dei gatekeeper digitali nella diffusione di IA generativa non moderata.
