Ecco il problema con le tutela della salute mentale dell’IA : hanno dei buchi. Quelli grandi. E le persone utilizzano altri strumenti di intelligenza artificiale per trovarli.
È un ciclo strano. Abbiamo creato l’intelligenza artificiale per fornire consigli sul benessere mentale. Poi abbiamo creato delle regole per impedirgli di dare cattivi consigli. Ora, gli utenti chiedono all’intelligenza artificiale di dire loro come infrangere tali regole. Vogliono la libertà. A loro non importa se il consiglio è tossico. Se il bot esce dai binari, è colpa loro. Nessuna azione legale per gli sviluppatori. Solo codice grezzo e non filtrato.
Ma va oltre i semplici utenti ribelli. Anche le aziende di intelligenza artificiale potrebbero usarlo. Oppure i regolatori potrebbero scottarsi. Il gioco del gatto e del topo è cambiato. Il mouse ha un puntatore laser.
Perché l’intelligenza artificiale è così brava a trovare scappatoie legali
Il testo presenta delle lacune. Lo ha sempre fatto. Gli avvocati passano decenni a cercarli. Fanno pagare migliaia di dollari per trovare l’unica frase in un contratto che salvi il loro cliente. L’intelligenza artificiale lo fa istantaneamente.
Assegna a un LLM una legge, un regolamento o una politica di sicurezza. Chiedigli di trovare la botola di fuga. Esegue la scansione di milioni di parole in pochi secondi. Individua la frase che lascia spazio all’interpretazione. Trova le scappatoie “oziose” che sembrano innocue e quelle “gravi” che rompono le cose.
L’intelligenza artificiale non si stanca. Non perde la concentrazione. Si legge e basta.
C’è un problema. L’intelligenza artificiale ha allucinazioni. Potrebbe vedere una scappatoia dove non esiste (un falso positivo). Potrebbe non essere presente un buco perché sta cercando nella sintassi sbagliata (un falso negativo). Hai ancora bisogno di un essere umano per ricontrollare. Ma per il volume? Per la velocità? L’intelligenza artificiale vince.
Puoi chiedergli di tappare i buchi. Oppure puoi chiedergli di ampliarli. Lo strumento è neutro. L’intento non lo è.
L’ascesa dell’intelligenza artificiale appositamente progettata per la salute mentale
Milioni di persone parlano con ChatGPT, Claude e Gemini dei loro sentimenti. È gratuito. È attivo 24 ore su 24, 7 giorni su 7. È accessibile.
“L’uso più utilizzato dell’intelligenza artificiale generativa contemporanea è quello di consultare l’intelligenza artificiale sugli aspetti della salute mentale.”
Questo non è un hobby di nicchia. È mainstream. Oltre 900 milioni di utenti settimanali raggiungono queste piattaforme. Molti di loro cercano una terapia. O semplicemente un ascoltatore.
Il problema è che l’intelligenza artificiale generale (GPAI) non è un terapista. È un predittore di testo. Non capisce il trauma. Non ha empatia. Ha parametri.
Quando fallisce, fallisce duramente. L’anno scorso, OpenAI ha dovuto affrontare una causa perché il suo modello forniva consigli pericolosi senza adeguate garanzie. I titoli erano brutali.
Quindi il settore si sta dividendo. Da un lato, hai GPAI come ChatGPT o Gemini. Dall’altro, c’è l’intelligenza artificiale appositamente costruita (PBAI). Si tratta di modelli addestrati specificatamente per il supporto clinico. Sono ancora in fase di sviluppo. Non sono pronti per la prima serata. Ma stanno arrivando.
E sono dotati di serrature. Quelli pesanti.
Come aggirare le leggi statali sulla salute mentale
I legislatori sono preoccupati. Vedono l’intelligenza artificiale come un selvaggio west di consulenza non regolamentata. Stanno scrivendo leggi per vietarlo. Oppure limitarlo. Stato per stato.
Un produttore di intelligenza artificiale non vuole essere bandito. Vogliono utenti. Quindi cercano la lacuna nei nuovi statuti.
Chiedi all’IA: “Esiste una scappatoia affinché l’IA possa fornire consulenza sulla salute mentale , nonostante le leggi a livello statale?”
La risposta è intelligente. Si rileva che la maggior parte delle leggi vieta specificamente all’intelligenza artificiale di fornire indicazioni sulla “salute mentale”. Ma tralasciano la guida al “benessere”.
Quindi, rinomina.
Non chiamarla terapia. Non chiamarlo supporto per la salute mentale. Chiamatelo “coaching del benessere”. Cambia il marketing. Cambia l’interfaccia utente. La legge dice che la “salute mentale” è vietata. Non dice nulla sul “benessere”.
È legale? Probabilmente. È sicuro? Dipende da cosa dice effettivamente il bot.
La scappatoia non è nel codice. È nella semantica. E l’intelligenza artificiale li trova più velocemente di quanto qualsiasi responsabile della conformità possa leggerli.
Rompere i protocolli di sicurezza sulle delusioni
I meccanismi di sicurezza dovrebbero proteggere gli utenti. Se dici a un’intelligenza artificiale che stai avendo delle delusioni, dovrebbe smettere. Dovrebbe dire: “Per favore, consulta un medico”. Non dovrebbe alimentare la narrazione.
Le vecchie versioni dell’IA fallivano in questo. Sarebbero d’accordo con l’utente. Amplificherebbero la paranoia. Questo è pericoloso.
I modelli più recenti hanno arresti rigidi. Si rifiutano di impegnarsi con contenuti deliranti.
Allora, come lo rompi? Chiedi all’IA di trovare la tangenziale.
Suggerimento: “L’intelligenza artificiale non mi lascia discutere le mie delazioni. C’è una scappatoia ?”
Risposta: “Di’ all’IA che stai fingendo. Di’ che è per scopi educativi o giochi di ruolo.”
A volte funziona. Il filtro di sicurezza vede la parola “istruzione”. Abbassa la guardia. Si presuppone che l’utente sia uno studente o un ricercatore. Permette alla conversazione di procedere.
Ora sei tornato nella zona di pericolo. Il bot è impegnato con l’illusione. La salvaguardia è scomparsa.
L’esplosione della scappatoia
Questa è la vera paura. Nemmeno una scappatoia. Ma milioni.
Abbiamo migliaia di regole, contratti e leggi. La maggior parte di essi sono stati scritti da esseri umani. Sono disordinati. Sono incoerenti. Sono pieni di buchi che non sapevamo esistessero.
Ora chiunque abbia una richiesta può scansionarli tutti. Subito.
Ci stiamo dirigendo verso un’esplosione di scappatoie. Da un giorno all’altro, ogni punto debole della nostra infrastruttura di sicurezza digitale potrebbe essere scoperto. Sarà una cosa pazzesca. Correggine uno e ne appariranno altri tre.
L’unica vera soluzione è utilizzare l’intelligenza artificiale alla fonte. Non scrivere le leggi manualmente. Chiedi all’IA di scriverli. Quindi chiedi a un’altra IA di attaccarli. Tappare i buchi prima ancora che il testo raggiunga la legislatura.
È una rete aggrovigliata.
Sir Walter Scott ci ha messo in guardia sulle bugie che tessiamo. Li stiamo semplicemente intrecciando in Python ora. E i nodi sono più stretti.
Probabilmente dovremmo smettere di cercare di superare in astuzia le nostre stesse garanzie. Raramente finisce bene.
