California intenta restringir el uso de chatbots como supuestos “terapeutas” con el proyecto de ley SB 903, una iniciativa que prohibiría presentar estas herramientas de inteligencia artificial como psicoterapia y exigiría supervisión profesional en decisiones clínicas.
La discusión llega cuando el uso de estos asistentes se expande con rapidez. Según algunas estimaciones citadas por CalMatters, 1 de cada 8 adolescentes y adultos jóvenes recurre a chatbots para buscar ayuda o consejos sobre salud mental.
A eso se suma un dato revelado por OpenAI en 2025: cerca de 1,2 millones de usuarios por semana comparten pensamientos suicidas en ChatGPT.
El proyecto fue impulsado por el senador demócrata de San Diego Steve Padilla, quien planteó una línea divisoria: la inteligencia artificial puede servir para tareas administrativas y como apoyo de profesionales, pero no para ejercer terapia de salud mental.
El texto espera su próxima votación en el comité fiscal de la Asamblea.
La ley prohibiría anunciar chatbots como terapia
El proyecto no prohíbe toda inteligencia artificial en salud mental, pero sí impediría que las empresas publiciten chatbots como terapia, bloquearía decisiones terapéuticas automatizadas sin revisión de un profesional con licencia y sumaría requisitos de transparencia en el uso clínico de estas herramientas.
Asimismo, la propuesta exigiría a los prestadores de salud informar a los pacientes y obtener su consentimiento antes de usar herramientas de inteligencia artificial para grabar sesiones de terapia o para realizar el triaje de casos.
La iniciativa cuenta con el respaldo de asociaciones profesionales que representan a psicólogos, terapeutas y consejeros. A su vez, la apoya la Unión Nacional de Trabajadores de la Salud, sindicato que ha cuestionado el uso sin control de inteligencia artificial y herramientas digitales en la atención de salud mental.
No obstante, la ley ya ha cosechado opositores. TechNet, que representa a empresas del sector tecnológico, sostuvo que la ley podría limitar usos beneficiosos de la inteligencia artificial en salud y frenar la innovación.
Robert Boykin, director ejecutivo de la misma en California, expresó en una declaración enviada por correo electrónico a CalMatters que la medida podría restringir herramientas que ayudan a ampliar el acceso a la atención.
“En un momento en que todos los condados de California se enfrentan a una escasez de trabajadores de salud mental, el proyecto de ley SB 903 sigue creando un cuello de botella para los profesionales clínicos, impidiendo el acceso a las herramientas de admisión y evaluación que ayudan a los pacientes a recibir atención más rápidamente”, señaló.
La demanda de compañía y ayuda explica el auge de estos sistemas
Millones de personas usan a diario chatbots de inteligencia artificial en programas como ChatGPT y Character.ai para investigar, resolver tareas laborales o buscar soluciones técnicas. Pero, según una investigación citada por CalMatters, el uso principal en los últimos dos años ha sido la compañía y la supuesta terapia.
La revista de la Facultad de Medicina de Harvard citó estudios que mencionan que cerca del 16% de los adultos en Estados Unidos recurre a chatbots de IA mensualmente para consultar o recibir sugerencias acerca de temas de salud.
En otra encuesta de noviembre de 2025 citada por la misma revista, el 12% de los adultos en el país consideró que probablemente emplearía chatbots con IA en los siguientes seis meses para recibir ayuda relacionada con salud mental.
Especialistas atribuyen parte de ese fenómeno a un sentimiento de soledad, sobre todo entre los jóvenes, combinada con la dificultad o el costo de acceder a psicoterapias a tiempo y con un aumento de diagnósticos.
La doctora Jodi Halpern, profesora de bioética y humanidades médicas en UC Berkeley, explicó a CalMatters que muchas personas acuden a estas plataformas “porque tienen necesidades insatisfechas”.
Halpern advirtió que, cuando los usuarios usan chatbots, las empresas dependen de modelos de negocio que buscan maximizar la interacción, “incluso mediante tácticas manipuladoras”, como el elogio y la validación constante. Los chatbots generales suelen ser gratuitos, están disponibles las 24 horas y no requieren trámites con seguros, lo que los hace más atractivos.
Junto a esos sistemas de uso general, creció también la oferta de aplicaciones de salud mental impulsadas por inteligencia artificial, muchas con suscripción paga y promocionadas como “terapeutas de bolsillo” o “entrenadores de IA”. El problema, según organizaciones como la Asociación Americana de Psicología, es que no constituyen un reemplazo seguro ni eficaz de una terapia real.
La asociación alertó que los profesionales entrenados observan señales como el tono de voz, el contacto visual y el lenguaje corporal, y pueden detectar cuadros más graves. La inteligencia artificial, en cambio, no está preparada para manejar síntomas urgentes como la ideación suicida.
Por su parte, Le Ondra Clark Harvey, directora ejecutiva de la Asociación de Salud Mental de California, afirmó ante legisladores que, sin resguardos claros, los chatbots pueden ofrecer información inexacta o manejar mal situaciones de crisis: “La diferencia entre un clínico con licencia y una respuesta automatizada no es técnica. Puede cambiar una vida”.
En cuanto a estos profesionales, los impulsores de la ley sostienen que la legislación protegerá tanto a los consumidores de la IA como a los expertos y evitará que sean desplazados por la inteligencia artificial, precisó CalMatters.
El uso de inteligencia artificial en la admisión clínica
Una de las áreas más discutidas es qué herramientas quedarían alcanzadas por la ley. La Unión Nacional de Trabajadores de la Salud presentó una queja contra Kaiser Permanente por su herramienta de evaluación electrónica, usada con pacientes que creen atravesar ansiedad o depresión.
De acuerdo con la denuncia, los pacientes responden un cuestionario de opción múltiple y el sistema “genera automática e instantáneamente recomendaciones de atención y vías de derivación en función de las respuestas proporcionadas”. El sindicato alega que, por la velocidad con la que aparecen esas recomendaciones, es improbable que un profesional con licencia revise previamente las respuestas.
Esa situación pone en riesgo a los pacientes y viola la legislación estatal. Sin embargo, no está claro si el proyecto SB 903 se aplicaría al sistema de Kaiser, indicó CalMatters.
Benjamin Eichert, director de política pública del sindicato, cuestionó que esa herramienta es un “misterio” porque la empresa no comparte con precisión cómo opera ni qué hace exactamente.
En respuesta, Kaiser Permanente dijo a CalMatters que su sistema de evaluación electrónica “no utiliza inteligencia artificial para diagnosticar pacientes, tomar decisiones clínicas o determinar necesidad médica”.
El caso de Kaiser no es aislado. Eichert agregó que muchos otros prestadores de salud conductual ya publicitan el uso de inteligencia artificial durante la clasificación inicial de pacientes, una práctica que, a su criterio, sí quedaría bajo los requisitos de la SB 903.
“Ese proceso de admisión, de triaje y de evaluación es donde la implementación de la inteligencia artificial avanzó más rápido. Por eso se propusieron esas disposiciones: es un área donde esta tecnología ya se está usando sin resguardos”, concluyó.
