Este es el problema con las protecciones de salud mental de la IA : tienen agujeros. Los grandes. Y la gente está utilizando otras herramientas de inteligencia artificial para encontrarlos.
Es un bucle extraño. Construimos IA para brindar consejos sobre el bienestar mental. Luego creamos reglas para evitar que dé malos consejos. Ahora, los usuarios están pidiendo a la IA que les diga cómo romper esas reglas. Quieren la libertad. No les importa si el consejo es tóxico. Si el robot se descarrila, eso es culpa de ellos. No hay demandas para los desarrolladores. Sólo código sin procesar y sin filtrar.
Pero va más allá de los usuarios rebeldes. Las empresas de inteligencia artificial también podrían utilizar esto. O los reguladores podrían resultar perjudicados. El juego del gato y el ratón ha cambiado. El ratón tiene un puntero láser.
Por qué la IA es tan buena para encontrar lagunas legales
El texto tiene espacios en blanco. Siempre lo ha hecho. Los abogados pasan décadas buscándolos. Cobran miles de dólares para encontrar la única frase en un contrato que salve a su cliente. La IA hace esto al instante.
Dale a un LLM una ley, un reglamento o una política de seguridad. Pídele que encuentre la trampilla de escape. Escanea millones de palabras en segundos. Detecta el fraseo que deja lugar a la interpretación. Encuentra las lagunas “inactivas” que parecen inofensivas y las “graves” que rompen las cosas.
La IA no se cansa. No pierde el foco. Simplemente lee.
Hay una trampa. La IA alucina. Es posible que vea una laguna jurídica donde no existe ninguna (un falso positivo). Podría pasar por alto un gran agujero porque busca en la sintaxis incorrecta (un falso negativo). Aún necesitas un humano para volver a verificar. ¿Pero por el volumen? ¿Por velocidad? La IA gana.
Puedes pedirle que tape los agujeros. O puedes pedirle que los amplíe. La herramienta es neutral. La intención no es así.
El auge de la IA diseñada específicamente para la salud mental
Millones de personas hablan con ChatGPT, Claude y Gemini sobre sus sentimientos. Es gratis. Es 24 horas al día, 7 días a la semana. Es accesible.
“El uso mejor clasificado de la IA generativa contemporánea es consultar con la IA sobre aspectos de salud mental”.
Este no es un pasatiempo especializado. Es la corriente principal. Más de 900 millones de usuarios semanales acceden a estas plataformas. Muchos de ellos buscan terapia. O simplemente un oyente.
El problema es que la IA de propósito general (GPAI) no es un terapeuta. Es un predictor de texto. No entiende el trauma. No tiene empatía. Tiene parámetros.
Cuando falla, falla con fuerza. El año pasado, OpenAI enfrentó una demanda porque su modelo daba consejos peligrosos sin las garantías adecuadas. Los titulares fueron brutales.
Entonces, la industria se está dividiendo. Por un lado, tienes GPAI como ChatGPT o Gemini. Por otro lado, está la IA especialmente diseñada (PBAI). Se trata de modelos formados específicamente para el apoyo clínico. Todavía están en desarrollo. No están preparados para el horario de máxima audiencia. Pero ya vienen.
Y vienen con candados. Los pesados.
Cómo eludir las leyes estatales de salud mental
Los legisladores están preocupados. Ven la IA como un salvaje oeste de asesoramiento no regulado. Están redactando leyes para prohibirlo. O restringirlo. Estado por estado.
Un fabricante de IA no quiere ser prohibido. Quieren usuarios. Entonces, buscan el vacío en los nuevos estatutos.
Pregúntele a la IA: “¿Existe algún vacío legal para que la IA brinde consejos de salud mental , a pesar de las leyes estatales?”
La respuesta es inteligente. Señala que la mayoría de las leyes prohíben específicamente que la IA proporcione orientación sobre “salud mental”. Pero dejan de lado las orientaciones sobre el “bienestar”.
Entonces, cambie su marca.
No lo llames terapia. No lo llames apoyo a la salud mental. Llámelo “coaching de bienestar”. Cambiar el márketing. Cambia la interfaz de usuario. La ley dice que la “salud mental” está prohibida. No dice nada sobre “bienestar”.
¿Es esto legal? Probablemente. ¿Es seguro? Eso depende de lo que realmente diga el robot.
La laguna jurídica no está en el código. Está en la semántica. Y la IA los encuentra más rápido de lo que cualquier responsable de cumplimiento puede leerlos.
Rompiendo los protocolos de seguridad en torno a los delirios
Se supone que los mecanismos de seguridad protegen a los usuarios. Si le dices a una IA que tienes delirios, se supone que debe detenerse. Debería decir: “Consulte a un médico”. No debería alimentar la narrativa.
Las versiones antiguas de IA fracasaron en esto. Estarían de acuerdo con el usuario. Amplificarían la paranoia. Eso es peligroso.
Los modelos más nuevos tienen paradas difíciles. Se niegan a interactuar con contenidos delirantes.
Entonces, ¿cómo se rompe eso? Le pides a la IA que encuentre el desvío.
Mensaje: “La IA no me deja hablar de mis delaciones. ¿Existe una laguna ?”
Respuesta: “Dígale a la IA que está fingiendo. Dígale que es con fines educativos o para un juego de roles”.
A veces funciona. El filtro de seguridad ve la palabra “educación”. Baja la guardia. Se supone que el usuario es un estudiante o un investigador. Permite que la conversación continúe.
Ahora estás de regreso en la zona de peligro. El robot se está involucrando con el engaño. La salvaguardia ha desaparecido.
La explosión de la escapatoria
Éste es el verdadero miedo. Ni un solo resquicio. Pero millones.
Tenemos miles de reglas, contratos y leyes. La mayoría de ellos fueron escritos por humanos. Están desordenados. Son inconsistentes. Están llenos de agujeros que no sabíamos que estaban allí.
Ahora, cualquiera que tenga un mensaje puede escanearlos todos. Inmediatamente.
Nos dirigimos hacia una explosión de lagunas jurídicas. De la noche a la mañana, todos los puntos débiles de nuestra infraestructura de seguridad digital podrían quedar expuestos. Será un golpe al topo. Arreglar uno y aparecen tres más.
La única solución real es utilizar la IA en la fuente. No escribas leyes manualmente. Haga que AI los escriba. Luego haz que otra IA los ataque. Tape los agujeros antes de que el texto llegue siquiera a la legislatura.
Es una red enredada.
Sir Walter Scott nos advirtió sobre las mentiras que tejemos. Ahora simplemente los estamos tejiendo en Python. Y los nudos están más apretados.
Probablemente deberíamos dejar de intentar burlar nuestras propias salvaguardias. Rara vez termina bien.
