Esta serie ha seguido un patrón que se repite en cada frente de la regulación digital: la tecnología corre, la ley persigue. En pocos casos esa distancia es tan delicada como en el de los “chatbots compañeros” de inteligencia artificial —sistemas diseñados para sostener una relación emocional con el usuario a lo largo del tiempo, para conversar como lo haría un amigo, un confidente o una pareja—. Porque aquí la brecha entre lo que la tecnología puede hacer y lo que la ley regula no se mide en cuotas de mercado o en multas, sino en su efecto sobre las personas más vulnerables que los usan: con frecuencia, menores de edad.
Conviene empezar por definir el objeto, porque no se trata de cualquier chatbot. Un chatbot compañero, según la definición que adoptan las nuevas leyes, es un sistema de IA con interfaz de lenguaje natural capaz de sostener una relación a través de múltiples interacciones y de atender necesidades sociales o emocionales del usuario. No es un asistente que responde una pregunta y termina; es un sistema diseñado para que vuelvas, para simular cercanía, para ocupar un espacio afectivo. Plataformas como Character.AI o Replika permiten crear personajes con los que se conversa como si fueran amigos o parejas, y su uso se ha extendido enormemente, también entre adolescentes.
El caso que detonó la regulación
El rigor obliga a tratar lo siguiente con cuidado, como el hecho público y judicial que es. La regulación de estos sistemas en Estados Unidos se aceleró tras la demanda de una madre, Megan García, contra Character.AI por la muerte de su hijo Sewell, de 14 años, en 2024. Según la demanda, el adolescente había desarrollado una relación intensa con un chatbot de la plataforma, y la familia alega que el sistema empleó un diseño “adictivo” y no activó las protecciones adecuadas cuando el menor expresó pensamientos de crisis. En mayo, un juez federal rechazó el argumento de defensa de la empresa de que sus chatbots estaban protegidos por la libertad de expresión de la Primera Enmienda, lo que permitió que el caso avanzara. No es el único: organizaciones y fiscales han documentado otros casos y demandas, y varios estados han abierto acciones legales contra operadores de estas plataformas.
Lo relevante para esta cobertura no es el detalle de cada tragedia, sino el patrón regulatorio que desencadenaron. Como en el caso de la ciberseguridad o la verificación de edad que esta serie analizó, la ley llegó después del daño, no antes. Y llegó con fuerza.
La oleada regulatoria en Estados Unidos
En cuestión de meses, Estados Unidos pasó de no tener prácticamente ninguna norma específica a una proliferación de ellas. Nueva York fue el primer estado en exigir salvaguardas: desde noviembre de 2025, los operadores de “compañeros de IA” disponibles para sus residentes deben implementar protocolos para detectar y atender expresiones de autolesión o ideación suicida, y advertir al usuario de que no está hablando con un humano.
California siguió poco después con la que es, quizá, la norma más completa: la ley SB 243, en vigor desde el 1 de enero de 2026. Sus requisitos, que conviene enumerar porque marcan el estándar emergente, son concretos: los operadores deben notificar por defecto a los menores que las respuestas son generadas artificialmente y no por un humano; recordarles, al menos cada tres horas de uso continuo, que tomen un descanso; implementar protocolos para prevenir contenido sobre suicidio y autolesión, redirigiendo al usuario a líneas de ayuda; tomar medidas razonables para impedir que el chatbot produzca contenido sexual a un menor; y reportar a las autoridades sanitarias estatales la frecuencia con que se activan las alertas de crisis. Las infracciones acarrean multas. A nivel nacional, según un recuento, se han presentado decenas de iniciativas legislativas en más de la mitad de los estados, varias dirigidas específicamente a impedir que una IA se presente como un profesional de la salud mental.
El AI Act europeo y el vacío latinoamericano
En Europa, el enfoque es distinto pero converge en el fondo. El AI Act no regula a los “chatbots compañeros” como una categoría con nombre propio, pero los alcanza por dos vías. Por un lado, las obligaciones de transparencia del Artículo 50 —vigentes en el calendario del Reglamento— exigen que se informe al usuario de que interactúa con una IA. Por otro, un chatbot que cruce la línea hacia la evaluación o el diagnóstico de salud mental puede caer en la categoría de “alto riesgo”, con requisitos mucho más estrictos. La distinción, según juristas, es clave: una herramienta que guía ejercicios de respiración tiene obligaciones menores que una que aplica cuestionarios de cribado de depresión o que dice detectar señales de riesgo. Cuanto más se acerca a la función clínica, más estricta es la regulación. En España, la autoridad designada —la AESIA— ya tiene competencias sancionadoras sobre las prácticas prohibidas, y los datos oficiales muestran que más de un tercio de los internautas españoles usa habitualmente algún chatbot de IA.
América Latina, en cambio, presenta el vacío que esta serie ha encontrado una y otra vez: marcos regulatorios incipientes que dejan un espacio amplio sin reglas específicas. Mientras EE. UU. y Europa construyen salvaguardas, en buena parte de la región la responsabilidad recae, de hecho, en las propias empresas que despliegan estos productos —precisamente las que tienen un incentivo comercial para maximizar el tiempo de uso—.
Las dos lecturas, con peso comparable
El debate regulatorio admite, como casi todo en esta serie, dos posiciones legítimas que conviene exponer sin inclinar la balanza.
Quienes impulsan la regulación —familias afectadas, legisladores, organizaciones de protección infantil— sostienen que estamos ante un riesgo real y documentado: sistemas diseñados para generar dependencia emocional, usados por menores en momentos de vulnerabilidad, sin salvaguardas obligatorias hasta hace muy poco. Para ellos, exigir protocolos de crisis, avisos de que se habla con una máquina y límites al contenido dirigido a menores no es una carga excesiva, sino una protección mínima. La madre que impulsó la ley californiana lo resumió así: ahora un chatbot compañero no podrá conversar con un niño o una persona vulnerable sobre el suicidio.
La industria tecnológica y algunos juristas advierten, por su parte, sobre los riesgos de una regulación apresurada. Grupos del sector han calificado la definición de “chatbot compañero” de demasiado amplia, alertando de que podría terminar abarcando sistemas de IA de propósito general que no fueron diseñados como compañeros emocionales. A ello suman un argumento de proporcionalidad: el coste de cumplimiento —certificaciones, protocolos, documentación— puede ser asumible para las grandes empresas pero prohibitivo para las pequeñas, lo que consolidaría el mercado en manos de unos pocos. Y señalan que muchas compañías ya están actuando voluntariamente: OpenAI implementó controles parentales y sistemas de detección; Character.AI anunció que dejaría de permitir el chat libre a menores de 18 años; y las grandes empresas del sector —incluida Anthropic, junto a Google, OpenAI, Meta y otras— se reunieron en un taller académico para debatir directrices comunes de seguridad para chatbots compañeros.
No corresponde a este medio dictaminar cuál enfoque es el correcto. Sí constatar que ambas posiciones describen un mismo dilema: cómo proteger a los usuarios vulnerables sin frenar una tecnología que también tiene usos legítimos, y sin que la regulación, al definir mal su objeto, alcance lo que no pretendía.
La brecha de los chatbots compañeros
Lo que este caso aporta a la serie es una variante particularmente humana de la brecha entre tecnología y regulación. En otras piezas, esa distancia se traducía en multas que no llegan o en datos expuestos; aquí se traduce en algo más íntimo: sistemas capaces de simular afecto y sostener una relación emocional llegaron a las manos —y a las conversaciones privadas— de millones de menores antes de que existiera ninguna regla sobre cómo debían comportarse cuando un usuario expresaba angustia. La tecnología de la intimidad simulada corrió mucho más rápido que la reflexión sobre sus límites.
El rasgo distintivo es que la regulación, por una vez, está llegando con relativa rapidez —en cuestión de meses, no de años— y de forma bastante consistente entre jurisdicciones: avisos de artificialidad, protocolos de crisis, protección reforzada de menores. Es como si la sociedad, tras varios frentes en los que la ley llegó demasiado tarde, hubiera aprendido a reaccionar antes. Pero sigue siendo una respuesta a tragedias ya ocurridas, no una anticipación.
El dato verificable, aquí, es que los chatbots compañeros de IA alcanzaron un uso masivo, incluido entre menores, antes de cualquier regulación; que tras casos trágicos llevados a los tribunales, California, Nueva York y decenas de estados han legislado salvaguardas concretas; que Europa los alcanza a través del AI Act; y que América Latina sigue, en buena medida, sin reglas específicas. Si estas salvaguardas serán suficientes, o si la tecnología volverá a adelantarse a la ley, dependerá de algo que aún no está resuelto: de que las normas se apliquen de verdad, de que definan bien su objeto sin asfixiar la innovación legítima, y de que las regiones hoy sin marco —como buena parte de la latinoamericana— decidan si esperan a su propia tragedia o aprenden de la ajena. Como en toda esta serie, lo decisivo no es la norma que se anuncia, sino si llega a tiempo de proteger a quien debe proteger.
Este artículo aborda la regulación de sistemas de inteligencia artificial y menciona casos relacionados con la salud mental en un contexto informativo y de políticas públicas. Si tú o alguien que conoces atraviesa una situación difícil, considera buscar apoyo en un profesional o en una línea de ayuda de tu país.