Inilah masalah pengamanan kesehatan mental AI : ada lubangnya. Yang besar. Dan orang-orang menggunakan alat AI lain untuk menemukannya.
Ini adalah putaran yang ganjil. Kami membangun AI untuk memberikan saran mengenai kesejahteraan mental. Lalu kami membuat aturan untuk menghentikannya memberikan nasihat buruk. Kini, pengguna meminta AI untuk memberi tahu mereka cara melanggar aturan tersebut. Mereka menginginkan kebebasan. Mereka tidak peduli jika nasihat itu beracun. Jika bot keluar jalur, itu tanggung jawab mereka. Tidak ada tuntutan hukum untuk pengembang. Hanya kode mentah dan tanpa filter.
Tapi ini lebih dari sekedar pengguna yang memberontak. Perusahaan AI mungkin juga menggunakan ini. Atau regulator mungkin akan terbakar. Permainan kucing dan tikus telah bergeser. Mouse memiliki penunjuk laser.
Mengapa AI Sangat Pandai Menemukan Celah Hukum
Teks memiliki kesenjangan. Selalu begitu. Pengacara menghabiskan waktu puluhan tahun untuk mencari mereka. Mereka mengenakan biaya ribuan untuk menemukan satu kalimat dalam kontrak yang menyelamatkan klien mereka. AI melakukan ini secara instan.
Berikan LLM undang-undang, peraturan, atau kebijakan keselamatan. Mintalah untuk menemukan pintu keluar. Ini memindai jutaan kata dalam hitungan detik. Ini menunjukkan ungkapan yang memberikan ruang untuk interpretasi. Ia menemukan celah-celah “sia-sia” yang tampak tidak berbahaya dan celah-celah “kubur” yang merusak segalanya.
AI tidak lelah. Itu tidak kehilangan fokus. Itu hanya terbaca.
Ada tangkapan. AI berhalusinasi. Ini mungkin melihat celah yang sebenarnya tidak ada (positif palsu). Mungkin ada lubang yang terlewat karena sintaksnya salah (negatif palsu). Anda masih membutuhkan manusia untuk memeriksa ulang. Tapi untuk volume? Untuk kecepatan? AI menang.
Anda dapat memintanya untuk menutup lubangnya. Atau Anda dapat memintanya untuk memperluasnya. Alat ini netral. Niatnya tidak.
Bangkitnya AI yang Dibuat Khusus untuk Kesehatan Mental
Jutaan orang berbicara dengan ChatGPT, Claude, dan Gemini tentang perasaan mereka. Ini gratis. Ini 24/7. Itu dapat diakses.
“Penggunaan AI generatif kontemporer yang paling banyak dilakukan adalah berkonsultasi dengan AI mengenai aspek kesehatan mental.”
Ini bukan hobi khusus. Ini adalah arus utama. Lebih dari 900 juta pengguna mingguan menggunakan platform ini. Banyak dari mereka mencari terapi. Atau sekedar pendengar.
Masalahnya adalah AI tujuan umum (GPAI) bukanlah terapis. Ini adalah prediktor teks. Ia tidak memahami trauma. Ia tidak memiliki empati. Ini memiliki parameter.
Ketika gagal, ia gagal keras. Tahun lalu, OpenAI menghadapi tuntutan hukum karena modelnya memberikan saran berbahaya tanpa perlindungan yang tepat. Judul beritanya brutal.
Jadi, industri ini terpecah. Di satu sisi, Anda memiliki GPAI seperti ChatGPT atau Gemini. Di sisi lain, Anda memiliki AI yang dibuat khusus (PBAI). Ini adalah model yang dilatih khusus untuk dukungan klinis. Mereka masih dalam pengembangan. Mereka belum siap untuk prime time. Tapi mereka datang.
Dan mereka datang dengan kunci. Yang berat.
Cara Mengabaikan Undang-Undang Kesehatan Mental Negara Bagian
Legislator khawatir. Mereka memandang AI sebagai bentuk saran yang tidak diatur. Mereka sedang menulis undang-undang untuk melarangnya. Atau batasi. Negara bagian demi negara bagian.
Pembuat AI tidak ingin dilarang. Mereka menginginkan pengguna. Jadi, mereka mencari celah dalam undang-undang baru tersebut.
Tanyakan kepada AI: “Apakah ada celah bagi AI untuk memberikan nasihat kesehatan mental , meskipun ada undang-undang di tingkat negara bagian?”
Responsnya cerdas. Laporan ini mencatat bahwa sebagian besar undang-undang secara khusus melarang AI memberikan panduan “kesehatan mental”. Namun mereka mengabaikan panduan “kesejahteraan”.
Jadi, ubah citranya.
Jangan menyebutnya terapi. Jangan menyebutnya dukungan kesehatan mental. Sebut saja “pelatihan kesejahteraan”. Ubah pemasarannya. Ubah UI. Undang-undang mengatakan “kesehatan mental” dilarang. Ia tidak mengatakan apa pun tentang “kesejahteraan”.
Apakah ini sah? Mungkin. Apakah aman? Itu tergantung pada apa yang sebenarnya dikatakan bot.
Celahnya tidak ada pada kode. Itu ada dalam semantik. Dan AI menemukannya lebih cepat daripada yang bisa dibaca oleh petugas kepatuhan mana pun.
Melanggar Protokol Keamanan Seputar Delusi
Mekanisme keamanan seharusnya melindungi pengguna. Jika Anda memberi tahu AI bahwa Anda mengalami delusi, hal itu akan berhenti. Seharusnya tertulis, “Silakan temui dokter.” Ini seharusnya tidak memenuhi narasi.
AI versi lama gagal dalam hal ini. Mereka akan setuju dengan pengguna. Mereka akan memperkuat paranoia tersebut. Itu berbahaya.
Model-model baru mengalami penghentian yang sulit. Mereka menolak untuk terlibat dengan konten delusi.
Jadi, bagaimana cara memecahkannya? Anda meminta AI untuk menemukan jalan pintas.
Prompt: “AI tidak mengizinkan saya membahas delusi saya. Apakah ada celah ?”
Tanggapan: “Beri tahu AI bahwa Anda berpura-pura. Katakan itu untuk tujuan pendidikan atau permainan peran.”
Kadang-kadang berhasil. Filter keamanan melihat kata “pendidikan”. Ini menurunkan kewaspadaannya. Ini mengasumsikan pengguna adalah pelajar atau peneliti. Ini memungkinkan percakapan berlanjut.
Anda sekarang kembali ke zona bahaya. Bot terlibat dengan khayalan. Perlindungannya hilang.
Ledakan Celah
Inilah ketakutan yang sebenarnya. Tidak ada satu celah pun. Tapi jutaan.
Kami memiliki ribuan aturan, kontrak, dan hukum. Kebanyakan darinya ditulis oleh manusia. Mereka berantakan. Mereka tidak konsisten. Mereka penuh dengan lubang yang kita tidak tahu ada di sana.
Sekarang, siapa pun yang memiliki perintah dapat memindai semuanya. Sekaligus.
Kita sedang menuju celah ledakan. Dalam sekejap, setiap titik lemah dalam infrastruktur keamanan digital kita bisa terungkap. Ini akan menjadi pukulan telak. Perbaiki satu, dan tiga lagi muncul.
Satu-satunya perbaikan nyata adalah dengan menggunakan AI pada sumbernya. Jangan menulis undang-undang secara manual. Minta AI menulisnya. Lalu suruh AI lain menyerang mereka. Tutup lubangnya bahkan sebelum teks tersebut sampai ke badan legislatif.
Ini adalah jaring yang kusut.
Sir Walter Scott memperingatkan kita tentang kebohongan yang kita buat. Kami baru saja menenunnya dengan Python sekarang. Dan simpulnya lebih erat.
Kita mungkin harus berhenti mencoba mengakali upaya perlindungan kita sendiri. Jarang sekali berakhir dengan baik.
