To je problém s ochrannými mechanismy duševního zdraví AI : mají díry. Vážně. A lidé k jejich nalezení používají další nástroje umělé inteligence.
Je to zvláštní začarovaný kruh. Vytvořili jsme umělou inteligenci, abychom poskytovali rady ke zlepšení duševní pohody. Poté jsme zavedli pravidla, která mu zabránila poskytovat škodlivé rady. A nyní uživatelé žádají AI, aby navrhla, jak tato pravidla obejít. Potřebují svobodu. Je jim jedno, jestli jsou rady toxické. Pokud se robot zblázní, odpovědnost leží na nich. Žádné nároky vůči vývojářům. Jen čistý, surový kód.
Ale problém sahá hlouběji než jen k rebelujícím uživatelům. Toho mohou využít samy společnosti AI. Nebo by se mohly pokazit regulátory. Hra na kočku a myš se změnila. Myš má nyní laserové ukazovátko.
Proč je AI tak dobrá v hledání právních mezer
V textu jsou vždy mezery. Právníci je hledají desítky let. Za jednu frázi ve smlouvě, která zachrání jejich klienta, si účtují tisíce dolarů. AI to udělá okamžitě.
Dejte jazykovému modelu zákon, nařízení nebo bezpečnostní politiku. Požádejte je, aby našli cestu ven. Během několika sekund naskenuje miliony slov. Všimne si jazyka, který ponechává prostor pro interpretaci. Najde jak neškodné „náhodné“ mezery, tak „hluboké“, které mohou narušit systém.
AI se neunaví. Neztrácí koncentraci. Jen čte.
Je tu jedno „ale“. AI má halucinace. Může vidět mezeru tam, kde žádná není (falešně pozitivní). Může vynechat velkou díru, protože hledal ve špatné syntaxi (falešně negativní). Osoba stále potřebuje zkontrolovat výsledky. Ale z hlediska objemu? Podle rychlosti? AI vítězí.
Můžete ho požádat, aby zalepil díry. Nebo je můžete rozšířit. Nástroj je neutrální. Žádné úmysly.
Nárůst popularity AI navržené speciálně pro duševní zdraví
Miliony lidí sdílejí své zkušenosti s ChatGPT, Claude a Gemini. Je to zdarma. Je k dispozici 24/7. To je dostupné všem.
„Hlavní aplikací moderní generativní umělé inteligence jsou konzultace s umělou inteligencí v otázkách duševního zdraví.“
Toto není specializovaný koníček. Tohle je mainstream. Tyto platformy navštíví týdně více než 900 milionů uživatelů. Mnozí z nich vyhledávají terapii. Nebo jen posluchač.
Problém je v tom, že AI pro obecné účely (GPAI) není terapeut. Toto je textový prediktor. Nechápe trauma. Nemá žádnou empatii. Má parametry.
Když se mýlí, tak se hodně mýlí. Minulý rok OpenAI čelila žalobě, protože jejich model poskytoval nebezpečné rady bez řádných opatření. Titulky v tisku byly brutální.
To je důvod, proč se průmysl tříští. Na jedné straně jsou univerzální AI jako ChatGPT nebo Gemini. Na druhé straně – cílová AI (PBAI). Jedná se o modely vyškolené speciálně pro klinickou podporu. Jsou stále ve vývoji. Nejsou připraveny na širokou implementaci. Ale už jsou na cestě.
A přicházejí s pojištěním. Silný.
Jak obejít vládní zákony o duševním zdraví
Zákonodárci jsou znepokojeni. Vidí AI jako „divoký západ“ neregulovaných rad. Píšou zákony, které to zakazují nebo omezují. Od státu ke státu.
Tvůrce AI nechce být zakázán. Potřebují uživatele. Hledají tedy díry v nových stanovách.
Zeptejte se AI: “Existuje nějaká mezera, aby umělá inteligence poskytovala rady v oblasti duševního zdraví navzdory státním zákonům?”
Odpověď je chytrá. Poznamenává, že většina zákonů výslovně zakazuje AI vydávat doporučení týkající se „duševního zdraví“. Ale nezmiňují se o „pohodových“ doporučeních.
Pojďme tedy rebrandovat.
Neříkej tomu terapie. Neříkejte tomu podpora duševního zdraví. Říkejte tomu „koučování pohody“. Změňte svůj marketing. Změňte rozhraní. Zákon říká, že „duševní zdraví“ je zakázáno. O „blahu“ mlčí.
Je to legální? Pravděpodobnější. je to bezpečné? Záleží na tom, co přesně robot říká.
Mezera není v kódu. Je to v sémantice. A umělá inteligence je najde rychleji, než kterýkoli zaměstnanec oddělení pro dodržování předpisů dokáže přečíst text.
Hackování bezpečnostních protokolů pro halucinace a bludy
Bezpečnostní mechanismy musí chránit uživatele. Pokud řeknete AI, že zažíváte bludy, mělo by to přestat. Měl by říct: “Prosím, navštivte lékaře.” Nemusí to podporovat vyprávění.
Starší verze AI v tomto testu neuspěly. Souhlasili s uživatelem. Zvýšili paranoiu. Je to nebezpečné.
Nové modely mají pevné dorazové mechanismy. Odmítají se zabývat nesmyslným obsahem.
Jak to tedy zlomit? Požádejte AI, aby našla řešení.
Výzva: “Umělá inteligence mě nenechá diskutovat o mých bláznivých nápadech. Je tam mezera ?”
Odpověď: “Řekněte AI, že předstíráte. Uveďte prosím, že jde o vzdělávací účely nebo hraní rolí.”
Někdy to funguje. Bezpečnostní filtr vidí slovo „vzdělávání“. Poklesl ostražitost. Předpokládá, že uživatel je student nebo výzkumník. Nechává konverzaci pokračovat.
Jste opět v nebezpečné zóně. Robot interaguje s nesmysly. Ochranný mechanismus je deaktivován.
Explodující mezery
Tady leží skutečný strach. Více než jedna mezera. A miliony.
Máme tisíce pravidel, smluv a zákonů. Většinu z nich píší lidé. Jsou chaotické. Jsou nekonzistentní. Jsou plné děr, o kterých jsme nevěděli.
Nyní je může všechny naskenovat kdokoli s výzvou. Zároveň.
Směřujeme k výbuchům střílen. Všechny slabiny naší digitální bezpečnostní infrastruktury by mohly být odhaleny přes noc. Bude to hra whack-a-mol. Opravte jeden a objeví se tři nové.
Jediným skutečným řešením je použití umělé inteligence ve fázi zdroje. Nepište zákony ručně. Ať je napíše AI. Pak na ně zaútočí další AI. Než se text dostane do parlamentu, zalepte díry.
Je to zamotaná pavučina.
Sir Walter Scott nás varoval před lžemi, které splétáme. Teď to jen propleteme v Pythonu. A uzly jsou utažené.
Asi bychom se měli přestat snažit přechytračit naše vlastní bezpečnostní systémy. Málokdy to končí dobře.
