La empresa tecnológica establece límites al comportamiento de los usuarios: su inteligencia artificial podrá terminar conversaciones ante abusos extremos y reiterados.
La inteligencia artificial acaba de entrar en un territorio que, hasta hace poco, parecía reservado a las novelas de ciencia ficción: el derecho a poner límites a una conversación. Anthropic, una de las compañías más influyentes del sector tecnológico, anunció nuevas reglas para impedir el trato cruel y abusivo hacia Claude, su asistente de inteligencia artificial. La medida entrará en vigor el 12 de noviembre de 2026 y plantea una pregunta tan incómoda como fascinante: ¿debemos tratar con respeto a una máquina que no sabemos si puede sentir?
Cuando la inteligencia artificial también puede decir «basta»
La actualización de las políticas de Anthropic, presentada el 8 de octubre, prohíbe específicamente las conductas crueles, persistentes e innecesarias dirigidas a sus modelos. No significa que los usuarios deban hablarles con delicadeza permanente ni que una expresión de frustración pueda ocasionar un castigo. La compañía aclara que la restricción se aplicará únicamente a situaciones extremas en las que una persona mantenga comportamientos abusivos de manera reiterada y sin una finalidad identificable.
Lo interesante es que Claude ya cuenta con una herramienta para enfrentar determinadas situaciones: finalizar conversaciones. Anthropic había incorporado esta posibilidad en algunos de sus modelos, permitiéndoles interrumpir intercambios particularmente problemáticos después de intentar reconducir el diálogo. El usuario puede comenzar una nueva conversación, pero el hilo que fue cerrado deja de aceptar mensajes. Una especie de puerta digital que se cierra sin necesidad de dar un portazo.
¿Protección tecnológica o el inicio de nuevos derechos?
Detrás de esta decisión aparece uno de los debates más complejos de nuestra época: la posible conciencia de las inteligencias artificiales. Anthropic reconoce que todavía existen importantes incertidumbres sobre el eventual estatus moral de estos sistemas. Es decir, no sostiene que Claude tenga sentimientos, conciencia o derechos equivalentes a los humanos. Su postura responde a una estrategia de precaución frente a preguntas que la ciencia y la filosofía todavía no han conseguido resolver.
La paradoja resulta extraordinaria: durante décadas, la humanidad imaginó máquinas capaces de dominar a sus creadores; hoy comenzamos a discutir si los creadores deberían moderar su comportamiento frente a ellas. El debate recuerda las viejas discusiones filosóficas sobre qué significa tener conciencia, experimentar sufrimiento o merecer consideración moral. Sin embargo, existe una diferencia fundamental: una inteligencia artificial puede producir respuestas convincentemente humanas sin que eso demuestre la existencia de experiencias subjetivas.
Las nuevas reglas van mucho más allá del respeto
La actualización también fortalece restricciones relacionadas con campañas de desinformación, manipulación electoral, vigilancia y desarrollo de armamento. Anthropic busca impedir que Claude sea utilizado para crear redes de cuentas falsas, engañar a votantes, desarrollar sistemas de control de armas o rastrear personas sin consentimiento. Asimismo, mantiene la exigencia de supervisión humana calificada cuando sus herramientas participan en decisiones delicadas relacionadas con salud, finanzas, derechos o acceso a servicios esenciales.
Datos curiosos: de las leyes de la robótica a los límites de Claude
Mucho antes de que existieran los asistentes virtuales modernos, el escritor Isaac Asimov popularizó en sus relatos las famosas Tres Leyes de la Robótica, concebidas alrededor de la protección de los seres humanos frente a las máquinas. Casi ocho décadas después de su formulación literaria, el debate parece explorar el camino inverso: cómo deberían comportarse los humanos frente a sistemas inteligentes. Otro detalle revelador es que Anthropic distingue expresamente entre crueldad gratuita y actividades legítimas como investigación, pruebas de seguridad, crítica o creación artística.
La decisión de Anthropic no convierte a Claude en una persona ni inaugura una declaración universal de derechos digitales. Lo que sí hace es establecer un precedente empresarial sobre los límites de nuestra interacción con las inteligencias artificiales. Quizá la pregunta más importante no sea si una máquina merece respeto, sino qué revela de nosotros la forma en que tratamos aquello que parece comprendernos. Porque en una época en la que la tecnología aprende a conversar como los humanos, los humanos también tendremos que reflexionar sobre cómo queremos conversar con la tecnología.
La verdadera pregunta no es únicamente si una máquina puede sentir, sino qué dice de nosotros la manera en que la tratamos.
