Na tym właśnie polega problem mechanizmów obronnych zdrowia psychicznego AI : mają one dziury. Poważny. Aby je znaleźć, ludzie korzystają z innych narzędzi sztucznej inteligencji.
To dziwne błędne koło. Stworzyliśmy sztuczną inteligencję, aby doradzać w zakresie poprawy dobrostanu psychicznego. Następnie wdrożyliśmy zasady uniemożliwiające mu udzielanie szkodliwych rad. A teraz użytkownicy proszą sztuczną inteligencję o zasugerowanie, jak obejść te zasady. Potrzebują wolności. Nie obchodzi ich, czy rada jest toksyczna. Jeśli bot oszaleje, odpowiedzialność spoczywa na nim. Żadnych roszczeń wobec deweloperów. Po prostu czysty, surowy kod.
Ale problem sięga głębiej niż tylko zbuntowani użytkownicy. Same firmy AI mogą z tego skorzystać. Albo organy regulacyjne mogą zostać oszukane. Gra w kotka i myszkę uległa zmianie. Mysz ma teraz wskaźnik laserowy.
Dlaczego sztuczna inteligencja tak dobrze radzi sobie z znajdowaniem luk prawnych
W tekście zawsze są spacje. Prawnicy szukają ich przez dziesięciolecia. Biorą tysiące dolarów za jedno zdanie w umowie, które uratuje ich klienta. AI robi to natychmiast.
Nadaj modelowi językowemu prawo, regulacje lub politykę bezpieczeństwa. Poproś ich, aby znaleźli wyjście. Przeskanuje miliony słów w ciągu kilku sekund. Dostrzeże język, który pozostawia pole do interpretacji. Znajdzie zarówno nieszkodliwe, „przypadkowe” luki, jak i te „głębokie”, które mogą złamać system.
AI nie męczy się. Nie traci koncentracji. On po prostu czyta.
Jest jedno „ale”. AI ma halucynacje. Może dostrzec lukę tam, gdzie jej nie ma (fałszywy wynik pozytywny). Może przeoczyć ogromną dziurę, ponieważ szukał w niewłaściwej składni (fałszywie ujemny). Osoba ta nadal musi sprawdzić wyniki. Ale pod względem głośności? Według prędkości? AI wygrywa.
Możesz go poprosić o załatanie dziur. Możesz też je rozwinąć. Instrument jest neutralny. Żadnych intencji.
Wzrost popularności sztucznej inteligencji zaprojektowanej specjalnie z myślą o zdrowiu psychicznym
Miliony ludzi dzielą się swoimi doświadczeniami z ChatGPT, Claude i Gemini. To nic nie kosztuje. Jest dostępny 24 godziny na dobę, 7 dni w tygodniu. To jest dostępne dla każdego.
„Głównym zastosowaniem nowoczesnej generatywnej sztucznej inteligencji są konsultacje AI dotyczące kwestii zdrowia psychicznego.”
To nie jest hobby niszowe. To jest główny nurt. Co tydzień platformy te odwiedza ponad 900 milionów użytkowników. Wiele z nich szuka terapii. Albo po prostu słuchaczem.
Problem w tym, że AI ogólnego przeznaczenia (GPAI) nie jest terapeutą. To jest predyktor tekstu. Nie rozumie traumy. Nie ma w nim empatii. Ma parametry.
Kiedy się myli, myli się i to bardzo. W zeszłym roku OpenAI stanęło przed sądem, ponieważ ich model udzielał niebezpiecznych rad bez odpowiednich środków ostrożności. Nagłówki gazet były brutalne.
Dlatego branża się rozpada. Z jednej strony istnieją uniwersalne AI, takie jak ChatGPT czy Gemini. Z drugiej – docelowa AI (PBAI). Są to modele przeszkolone specjalnie pod kątem wsparcia klinicznego. Są nadal w fazie rozwoju. Nie są one gotowe do powszechnego wdrożenia. Ale oni są już w drodze.
I są objęte ubezpieczeniem. Potężny.
Jak obejść rządowe przepisy dotyczące zdrowia psychicznego
Ustawodawcy są zaniepokojeni. Postrzegają sztuczną inteligencję jako „dziki zachód” nieuregulowanych porad. Piszą prawa, które tego zabraniają lub ograniczają. Od stanu do stanu.
Twórca sztucznej inteligencji nie chce zostać zbanowany. Potrzebują użytkowników. Szukają więc dziur w nowym statucie.
Zapytaj AI: * „Czy sztuczna inteligencja ma lukę w udzielaniu porady na temat zdrowia psychicznego pomimo przepisów stanowych?”*
Odpowiedź jest mądra. Zauważa, że większość przepisów wyraźnie zabrania AI wydawania zaleceń dotyczących „zdrowia psychicznego”. Ale nie wspominają o zaleceniach dotyczących „dobrego samopoczucia”.
Zatem dokonajmy rebrandingu.
Nie nazywaj tego terapią. Nie nazywaj tego wsparciem w zakresie zdrowia psychicznego. Nazwij to „coachingiem dobrego samopoczucia”. Zmień swój marketing. Zmień interfejs. Prawo stanowi, że „zdrowie psychiczne” jest zabronione. Milczy na temat „dobrego samopoczucia”.
Czy to jest legalne? Bardziej prawdopodobne. Czy to jest bezpieczne? To zależy od tego, co dokładnie mówi bot.
Luki nie ma w kodzie. To w semantyce. Sztuczna inteligencja znajduje je szybciej, niż jakikolwiek pracownik działu compliance jest w stanie przeczytać tekst.
Hakowanie protokołów bezpieczeństwa pod kątem halucynacji i urojeń
Mechanizmy bezpieczeństwa muszą chronić użytkowników. Jeśli powiesz AI, że masz urojenia, powinno to ustać. Powinien powiedzieć: „Proszę udać się do lekarza”. Nie musi wspierać narracji.
Starsze wersje sztucznej inteligencji nie zdały tego testu. Zgodzili się z użytkownikiem. Zwiększyli paranoję. To niebezpieczne.
Nowe modele posiadają sztywne mechanizmy zatrzymujące. Nie chcą angażować się w bzdurne treści.
Jak więc to złamać? Poproś sztuczną inteligencję o znalezienie obejścia.
Podpowiedź: “Sztuczna inteligencja nie pozwala mi omawiać moich szalonych pomysłów. Czy istnieje luka ?”
Odpowiedź: „Powiedz sztucznej inteligencji, że udajesz. Wskaż, że dzieje się to w celach edukacyjnych lub odgrywaniu ról.”
Czasami to działa. Filtr bezpieczeństwa widzi słowo „edukacja”. Opuszcza gardę. Zakłada się, że użytkownik jest studentem lub badaczem. Pozwala kontynuować rozmowę.
Znowu jesteś w strefie zagrożenia. Bot wchodzi w interakcję z nonsensami. Mechanizm ochronny jest wyłączony.
Wybuchające luki
Tutaj kryje się prawdziwy strach. Więcej niż jedna luka. I miliony.
Mamy tysiące zasad, umów i praw. Większość z nich jest pisana przez ludzi. Są chaotyczne. Są niespójne. Jest w nich pełno dziur, o których nie wiedzieliśmy.
Teraz każdy, kto ma monit, może je wszystkie zeskanować. Jednocześnie.
Zmierzamy w stronę eksplozji luk prawnych. Wszystkie słabości naszej infrastruktury bezpieczeństwa cyfrowego mogą zostać ujawnione z dnia na dzień. To będzie gra polegająca na walnięciu kreta. Napraw jeden, a pojawią się trzy nowe.
Jedynym realnym rozwiązaniem jest wykorzystanie AI na etapie źródłowym. Nie pisz przepisów ręcznie. Niech AI je napisze. Następnie niech zaatakuje ich inna sztuczna inteligencja. Załataj dziury, zanim tekst dotrze do legislatury.
To splątana sieć.
Sir Walter Scott ostrzegał nas przed kłamstwami, które tkamy. Teraz po prostu utkamy to w Pythonie. I węzły są zaciśnięte.
Prawdopodobnie powinniśmy przestać próbować przechytrzyć nasze własne systemy bezpieczeństwa. Rzadko kończy się to dobrze.
