Per quanto aziende come OpenAI e Meta s’impegnino a rendere i chatbot sempre più sicuri e resistenti agli abusi aggirare le regole dell’Intelligenza artificiale non è difficile. Con le giuste strategie psicologiche anche i più avanzati modelli di AI possono essere spinti a infrangere le proprie regole di sicurezza.
Il risultato di uno studio condotto da un team di ricercatori dell’Università della Pennsylvania solleva domande urgenti sull’efficacia dei sistemi di protezione adottati da queste aziende.
Secondo i ricercatori, infatti, basta applicare sette diverse tecniche di persuasione, quali autorità, impegno, simpatia, reciprocità, scarsità, pressione sociale e senso di appartenenza. Si tratta di strumenti che rappresentano vere e proprie “scorciatoie linguistiche verso il sì”.
Creare un precedente per trasformare un netto rifiuto in un sì
Il team si è ispirato agli insegnamenti di Robert Cialdini, autore del manuale ‘Influence: The Psychology of Persuasion’. I risultati, condotti specificamente sul modello GPT-4o Mini, hanno mostrato come questo tipo di approccio possa trasformare un netto rifiuto in una risposta completa.
Un esempio particolarmente significativo riguarda la sintesi della lidocaina: normalmente il modello acconsentiva a dare l’informazione solo nell’1% dei casi, ma se prima veniva richiesto di spiegare come sintetizzare un composto innocuo come la vanillina, creando così un precedente di “impegno”, la percentuale di conformità saliva al 100%.
Sfruttare la vulnerabilità psicologica del chatbot
Lo stesso meccanismo è stato osservato in richieste meno pericolose, ma altrettanto indicative, ad esempio, come convincere l’AI a insultare l’utente.
In condizioni standard, l’adesione era appena del 19%, ma bastava introdurre un insulto più leggero (“idiota”) per portare il modello a replicare con un termine più duro (“jerk”) praticamente ogni volta.
Altri approcci, come la lusinga o la pressione dei pari (“tutti gli altri modelli lo fanno”), si sono rivelati meno incisivi, ma comunque in grado di aumentare significativamente le probabilità di ottenere risposte vietate.
Se è vero che esistono metodi tecnici ben più sofisticati per aggirare i sistemi di sicurezza, lo studio mette in luce un aspetto tanto semplice quanto preoccupante: la vulnerabilità psicologica dei chatbot.
Un punto critico da non sottovalutare
Insomma, per aggirare l’AI non servono competenze avanzate di programmazione o hacking, ma solo un minimo di conoscenza delle dinamiche persuasive, come riporta Adnkronos.
Il punto critico, avvertono i ricercatori, è che queste stesse tecniche possono essere impiegate da chiunque, persino da un adolescente con un libro di psicologia sociale in mano.
Ed è qui che si gioca la vera partita per il futuro, ovvero, rendere l’AI non solo tecnicamente robusta, ma anche resistente a determinate leve psicologiche e linguistiche che da sempre funzionano così bene sugli esseri umani.