Ia spia: un plugin infiltra errori umani nei testi generati
Un’inganno subdolo si insinua nel mondo dell’intelligenza artificiale: un plugin, battezzato ‘Sinceerly’, introduce deliberatamente errori di ortografia e tipografia nei testi creati con modelli linguistici. Non un tentativo di simulazione superficiale, ma una strategia calcolata per imitare l’imperfezione del tratto umano.
La macchina che imita l'errore
Sviluppato con un approccio ‘vibe coding’ – un termine che, a mio avviso, sminuisce la complessità del processo – ‘Sinceerly’ sfrutta un modello di intelligenza artificiale addestrato su una vasta raccolta di errori comuni commessi dagli esseri umani nelle email. Dimenticanze di maiuscole, omissioni di virgole, persino la sostituzione intenzionale di ‘sincerely’ con ‘sinceerly’ – un’alterazione quasi impercettibile, ma sufficiente a ingannare l’occhio.
L’idea nasce dall’osservazione del dottor Ben Horwitz, un investitore che ha notato una correlazione tra il livello gerarchico di un individuo e la frequenza di errori ortografici nelle sue comunicazioni. Un dato interessante, a mio parere, che rivela un’anomalia nel modo in cui la comunicazione è percepita e gestita nelle organizzazioni.
L’utilizzo di Claude Code per la creazione del plugin è un esempio di come l’IA possa accelerare processi creativi, ma anche di come possa essere sfruttata per scopi non ortodossi. La possibilità di scegliere tra diversi livelli di ‘disturbo’ – ‘Sottile’, ‘Normale’, ‘CEO’ – aggiunge un elemento di manipolazione, simulando con precisione il caos tipico delle email di un dirigente.
Il testo che infrange le barriere
Il risultato è sorprendente: email inviate a cinque CEO di aziende Fortune 500 – quattro hanno risposto con messaggi di poche parole, due hanno presentato errori di battitura e uno ha richiesto una telefonata diretta. Questi ‘errori’ sono stati poi incorporati nel plugin, rendendolo uno strumento incredibilmente realistico.
Nonostante la componente ludica, ‘Sinceerly’ solleva interrogativi importanti sulla fiducia nei confronti dell’intelligenza artificiale e sulla sua capacità di imitare la complessità del pensiero umano. Gli strumenti di rilevamento della scrittura generata da IA, attualmente in fase di sviluppo, dovranno affrontare questa sfida per non diventare obsoleti.
L’indagine del procuratore generale della Florida su OpenAI, che definirebbe ChatGPT un ‘omicidio multiplo’, rappresenta un campanello d’allarme. Non si tratta di una minaccia ipotetica, ma di una realtà in rapida evoluzione. L’uso di ‘Sinceerly’ non è un atto di sabotaggio, ma una dimostrazione tangibile di come l’IA possa essere impiegata per creare disinformazione e manipolazione. È un’arma a doppio taglio, capace di allontanare l’utente dalla consapevolezza del contenuto che sta leggendo.
È fondamentale, dunque, un approccio critico e una costante verifica delle fonti. La prossima volta che riceverete un’email, ricordate: potrebbe non essere stata scritta da un essere umano.