Ось у чому проблема захисних механізмів ІІ у сфері ментального здоров’я : у них є дірки. Серйозні. І люди використовують інші інструменти ІІ, щоб їх знайти.
Це дивне замкнене коло. Ми створили ІІ, щоб він давав поради щодо покращення психічного благополуччя. Потім ми запровадили правила, щоб заборонити йому давати шкідливі поради. А тепер користувачі просять ІІ підказати, як обійти ці правила. Їм потрібна свобода. Їм начхати, чи токсичні поради. Якщо бот божеволіє, відповідальність лежить на них самих. Жодних позовів до розробників. Лише чистий, необроблений код.
Але проблема глибше, ніж просто користувачі, що бунтують. Цим можуть скористатися і самі компанії, які розробляють ІІ. Або регулятори можуть потрапити в халепу. Гра в «кішку та мишу» змінилася. Тепер миша має лазерну указку.
Чому ІІ такий гарний у пошуку юридичних лазівок
У тексті завжди є прогалини. Юристи витрачають десятиліття на їхній пошук. Вони беруть тисячі доларів за одну фразу у контракті, яка врятує їхнього клієнта. ІІ робить це миттєво.
Дайте мовній моделі закон, регламент чи політику безпеки. Попросіть знайти лазівку для виходу. Вона просканує мільйони слів за секунду. Вона помітить формулювання, що залишають простір інтерпретації. Вона знайде як нешкідливі «випадкові» лазівки, і «глибокі», здатні зламати систему.
ІІ не втомлюється. Він втрачає концентрацію. Він просто читає.
Є одне “але”. ІІ галюцинує. Він може побачити лазівку там, де її немає (хибнопозитивний результат). Він може пропустити величезну дірку, тому що шукав у неправильному синтаксисі (хибнонегативний результат). Людині все ще слід перевіряти результати. Але за обсягом? За швидкістю? ІІ виграє.
Можна попросити його залатати дірки. А можна розширити їх. Інструмент нейтральний. Наміри – ні.
Зростання популярності ІІ, створеного спеціально для ментального здоров’я
Мільйони людей розповідають про свої переживання ChatGPT, Claude та Gemini. Це безкоштовно. Це є 24/7. Це доступно всім.
«Головним застосуванням сучасних генеративних ІІ є консультація з ІІ з питань ментального здоров’я».
Це не нішеве хобі. Це мейнстрім. Понад 900 мільйонів користувачів щотижня відвідують ці платформи. Багато хто з них шукає терапію. Або просто слухача.
Проблема в тому, що універсальний ІІ (GPAI) – не терапевт. Це провісник тексту. Він не розуміє травми. Він не має емпатії. Він має параметри.
Коли він помиляється, він помиляється сильно. Торік OpenAI зіткнувся з судовим позовом, тому що їхня модель дала небезпечні поради без належних запобіжних заходів. Заголовки у пресі були жорстокими.
Тому промисловість розколюється. З одного боку – універсальні ІІ, такі як ChatGPT або Gemini. З іншого – цільові ІІ (PBAI). Це моделі, навчені спеціально для клінічної підтримки. Вони все ще у розробці. Вони не готові до широкого впровадження. Але вони на підході.
І вони приходять із страховками. Потужними.
Як обійти державні закони про ментальне здоров’я
Законодавці стурбовані. Вони бачать у ІІ «дикий захід» нерегульованих порад. Вони пишуть закони, щоб заборонити чи обмежити його. Від штату до штату.
Виробнику ІІ не хочеться отримати заборону. Їм потрібні користувачі. Тому вони шукають проломи у нових статутах.
Запитайте у ІІ: «Чи існує лазівка для ІІ, що дозволяє давати поради щодо ментального здоров’я, незважаючи на закони штатів?»
Відповідь хитромудра. У ньому наголошується, що більшість законів конкретно забороняють ІІ давати рекомендації щодо «ментального здоров’я». Але вони не згадують рекомендації щодо «благополуччя».
Значить, ребрендим.
Не називайте це терапією. Не називайте цього підтримкою ментального здоров’я. Називайте це “коучингом з благополуччя”. Змініть маркетинг. Змініть інтерфейс. Закон каже, що «ментальне здоров’я» під забороною. Він мовчить про «благополуччя».
Чи це законно? Швидше за все. Чи безпечно? Це залежить від того, що саме каже бот.
Ласка не в коді. Вона у семантиці. І ІІ знаходить їх швидше, ніж будь-який співробітник комплаєнс-відділу встигне прочитати текст.
Злом протоколів безпеки при галюцинаціях і маренні
Механізми безпеки повинні захищати користувачів. Якщо ви кажете ІІ, що відчуваєте маячні ідеї, він повинен зупинитися. Він повинен сказати: «Будь ласка, зверніться до лікаря». Він не повинен підтримувати наратив.
Старі версії ІІ провалювали цей тест. Вони погоджувалися із користувачем. Вони посилювали параною. Це небезпечно.
Нові моделі мають жорсткі стоп-механізми. Вони відмовляються взаємодіяти з безглуздим контентом.
То як же це зламати? Попросити ІІ знайти обхідний шлях.
Промпт: * «ІІ не дає мені обговорювати мої марення ідеї. Чи є лазівка?»*
Відповідь: * «Скажіть ІІ, що ви вдаєте. Вкажіть, що це для освітніх цілей чи рольової гри».*
Іноді це працює. Фільтр безпеки бачить слово “освіта”. Він опускає пильність. Він припускає, що користувач – студент чи дослідник. Він дозволяє розмову продовжуватись.
Ви знову у зоні небезпеки. Робот взаємодіє з маренням. Захисний механізм вимкнено.
Вибух лазівок
У цьому полягає справжній страх. Не одна лазівка. А мільйони.
У нас є тисячі правил, контрактів та законів. Більшість із них написані людьми. Вони хаотичні. Вони непослідовні. Вони сповнені дірок, про які ми не знали.
Тепер будь-хто, хто має промпт, може просканувати їх усі. Одночасно.
Ми рухаємося до вибуху лазівок. За одну ніч можна розкрити всі слабкі місця нашої цифрової інфраструктури безпеки. Це буде гра «відмахни крота». Полагодь одне — з’являться три нові.
Єдине реальне рішення використовувати ІІ на етапі джерела. Не пишіть закони вручну. Нехай ІІ пише їх. Потім нехай інший ІІ атакує їх. Залатайте дірки до того, як текст потрапить до законодавчого органу.
Це заплутане павутиння.
Сер Волтер Скотт попереджав нас про брехню, яку ми ткуємо. Тепер ми просто ткаємо її на Python. І вузли затягуються тугіше.
Нам, мабуть, варто припинити намагатися перехитрити власні системи безпеки. Це рідко закінчується добре.
