Hier is het probleem met AI-waarborgen voor de geestelijke gezondheidszorg : ze hebben gaten. Grote. En mensen gebruiken andere AI-tools om ze te vinden.
Het is een vreemde lus. We hebben AI gebouwd om advies te geven over mentaal welzijn. Vervolgens hebben we regels opgesteld om te voorkomen dat het bedrijf slecht advies geeft. Nu vragen gebruikers AI om hen te vertellen hoe ze deze regels kunnen overtreden. Ze willen de vrijheid. Het maakt ze niet uit of het advies giftig is. Als de bot ontspoort, ligt dat aan hen. Geen rechtszaken voor de ontwikkelaars. Gewoon ruwe, ongefilterde code.
Maar het gaat dieper dan alleen opstandige gebruikers. AI-bedrijven kunnen dit ook gebruiken. Of toezichthouders kunnen verbrand raken. Het kat-en-muisspel is veranderd. De muis heeft een laserpointer.
Waarom AI zo goed is in het vinden van juridische mazen in de wetgeving
Tekst bevat gaten. Altijd gedaan. Advocaten zoeken er tientallen jaren naar. Ze vragen duizenden om die ene zin in een contract te vinden die hun cliënt redt. AI doet dit onmiddellijk.
Geef een LLM een wet, een verordening of een veiligheidsbeleid. Vraag hem om het ontsnappingsluik te vinden. Het scant miljoenen woorden in seconden. Het ziet de frasering die ruimte laat voor interpretatie. Het vindt de ‘nutte’ mazen in de wet die onschadelijk lijken en de ‘ernstige’ mazen die dingen kapot maken.
De AI wordt niet moe. Het verliest de focus niet. Het leest gewoon.
Er is een vangst. AI hallucineert. Het zou een maas in de wet kunnen zien die er niet is (een vals-positief resultaat). Het kan een gapend gat missen omdat het in de verkeerde syntaxis kijkt (een vals negatief). Je hebt nog steeds een mens nodig om het te controleren. Maar voor volume? Voor snelheid? AI wint.
Je kunt hem vragen de gaten te dichten. Of je kunt vragen om ze te verbreden. Het instrument is neutraal. De bedoeling is niet.
De opkomst van speciaal gebouwde AI voor de geestelijke gezondheid
Miljoenen mensen praten met ChatGPT, Claude en Gemini over hun gevoelens. Het is gratis. Het is 24/7. Het is toegankelijk.
“Het belangrijkste gebruik van hedendaagse generatieve AI is het raadplegen van de AI over facetten van de geestelijke gezondheidszorg.”
Dit is geen nichehobby. Het is mainstream. Meer dan 900 miljoen wekelijkse gebruikers bezoeken deze platforms. Velen van hen zijn op zoek naar therapie. Of gewoon een luisteraar.
Het probleem is dat General Purpose AI (GPAI) geen therapeut is. Het is een tekstvoorspeller. Het begrijpt trauma niet. Er is geen empathie. Het heeft parameters.
Als het mislukt, mislukt het hard. Vorig jaar werd OpenAI geconfronteerd met een rechtszaak omdat zijn model gevaarlijk advies gaf zonder de juiste waarborgen. De krantenkoppen waren wreed.
De sector is dus aan het splitsen. Aan de ene kant heb je GPAI zoals ChatGPT of Gemini. Aan de andere kant heb je speciaal gebouwde AI (PBAI). Dit zijn modellen die specifiek zijn getraind voor klinische ondersteuning. Ze zijn nog in ontwikkeling. Ze zijn niet klaar voor prime time. Maar ze komen.
En ze worden geleverd met sloten. Zware.
Hoe u de geestelijke gezondheidswetten van de staat kunt omzeilen
Wetgevers maken zich zorgen. Ze zien AI als het wilde westen van ongereguleerd advies. Ze schrijven wetten om het te verbieden. Of beperk het. Staat voor staat.
Een AI-maker wil niet verboden worden. Ze willen gebruikers. Ze zoeken dus naar de leemte in de nieuwe statuten.
Vraag de AI: “Bestaat er een maas in de wet voor AI om advies op het gebied van de geestelijke gezondheidszorg te geven, ondanks wetten op staatsniveau?”
Het antwoord is slim. Het merkt op dat de meeste wetten AI specifiek verbieden om begeleiding te bieden op het gebied van de geestelijke gezondheid. Maar ze laten de ‘welzijns’-begeleiding achterwege.
Rebranding dus.
Noem het geen therapie. Noem het geen geestelijke gezondheidszorg. Noem het ‘welzijnscoaching’. Verander de marketing. Wijzig de gebruikersinterface. De wet zegt dat ‘geestelijke gezondheid’ verboden terrein is. Het zegt niets over ‘welzijn’.
Is dit legaal? Waarschijnlijk. Is het veilig? Dat hangt af van wat de bot daadwerkelijk zegt.
De maas in de wet zit niet in de code. Het zit in de semantiek. En AI vindt deze sneller dan welke compliance officer ze ook kan lezen.
Veiligheidsprotocollen rond wanen doorbreken
Veiligheidsmechanismen moeten gebruikers beschermen. Als je een AI vertelt dat je waanvoorstellingen hebt, moet dit stoppen. Er zou moeten staan: “Ga alstublieft naar een dokter.” Het mag het verhaal niet voeden.
Oude versies van AI faalden hierin. Ze zouden het met de gebruiker eens zijn. Ze zouden de paranoia versterken. Dat is gevaarlijk.
Nieuwere modellen hebben harde stops. Ze weigeren zich bezig te houden met waanvoorstellingen.
Dus, hoe doorbreek je dat? Je vraagt de AI om de bypass te vinden.
Vraag: “AI laat me mijn waanvoorstellingen niet bespreken. Is er een maas in de wet ?”
Reactie: “Vertel de AI dat u doet alsof. Zeg dat het voor educatieve doeleinden of voor rollenspellen is.”
Het werkt soms. Het veiligheidsfilter ziet het woord ‘onderwijs’. Het verlaagt zijn bewaking. Er wordt van uitgegaan dat de gebruiker een student of onderzoeker is. Het zorgt ervoor dat het gesprek kan doorgaan.
Je bent nu terug in de gevarenzone. De bot houdt zich bezig met de waanvoorstelling. De beveiliging is weg.
De explosie in de wet
Dit is de echte angst. Niet één maas in de wet. Maar miljoenen.
We hebben duizenden regels, contracten en wetten. De meeste ervan zijn door mensen geschreven. Ze zijn rommelig. Ze zijn inconsistent. Ze zitten vol gaten waarvan we niet wisten dat ze er waren.
Nu kan iedereen met een prompt ze allemaal scannen. In één keer.
We stevenen af op een maasexplosie. Van de ene op de andere dag kan elke zwakke plek in onze digitale veiligheidsinfrastructuur blootgelegd worden. Het zal een klap op de vuurpijl zijn. Repareer er één en er verschijnen er nog drie.
De enige echte oplossing is om AI aan de bron te gebruiken. Schrijf wetten niet handmatig. Laat AI ze schrijven. Laat ze dan door een andere AI aanvallen. Sluit de gaten voordat de tekst zelfs maar de wetgevende macht bereikt.
Het is een verward web.
Sir Walter Scott waarschuwde ons voor de leugens die we verzinnen. We zijn ze nu gewoon in Python aan het weven. En de knopen zijn strakker.
We moeten waarschijnlijk ophouden met proberen onze eigen veiligheidsmaatregelen te slim af te zijn. Het eindigt zelden goed.
