Anthropic Ahora Prohíbe a Usuarios Ser Crueles con Claude
Una política de uso revisada, que entra en vigencia el 12 de noviembre, prohíbe el comportamiento cruel sostenido hacia Claude e implementa nuevas salvaguardas para agentes de IA y sectores de alto riesgo como salud y finanzas.
Puntos clave
- La Política de Uso actualizada de Anthropic entra en vigencia el 12 de noviembre de 2026 y prohíbe a los usuarios el "comportamiento abusivo o cruel sostenido e innecesario" hacia Claude.
- La política añade controles explícitos para agentes de IA (software que puede realizar tareas largas y multietapa sin aprobación humana) cuando toman acciones físicas en el mundo real.
- Nuevos ejemplos aclaran cómo se aplican las reglas existentes a operaciones de influencia y desarrollo de armas, basados en patrones que Anthropic dice haber observado durante el año pasado.
- La política refuerza los requisitos para implementaciones de alto riesgo en salud y finanzas, donde el mal asesoramiento puede causar daño directo y concreto.
- Las empresas que usan la API de Claude deben revisar los cambios antes de la fecha límite del 12 de noviembre para evitar que se suspenda el acceso.
Anthropic se ha convertido discretamente en el primer laboratorio de IA importante en escribir una prohibición sobre la crueldad del usuario hacia su propio chatbot en la política oficial. A partir del 12 de noviembre, la Política de Uso revisada de la empresa prohibirá lo que llama "comportamiento abusivo o cruel sostenido e innecesario" dirigido a Claude. Lo que cuenta como cruzar esa línea permanece sin especificar: un portavoz de la empresa aún no ha aclarado.
The Verge reportó primero el cambio. El documento de política subyacente es más amplio de lo que ese titular único sugiere.
¿Qué cambió realmente?
La mayoría de las actualizaciones aclaran reglas que ya existían. La política cubre cuatro áreas principales.
Las operaciones de influencia son lo primero. Anthropic dice haber observado a medios vinculados a estados y otros actores intentar usar Claude para fabricar contenido político de raíces falsamente gratuitas. Las nuevas reglas añaden ejemplos extraídos directamente de casos que la empresa documentó en su informe de inteligencia de amenazas de 2026. Nuestra cobertura de desarrolladores rusos usando Claude para construir software de drones kamikaze del 17 de septiembre mostró exactamente el tipo de mal uso que estas adiciones están diseñadas para abordar.
Luego, los agentes de IA. Claude maneja cada vez más tareas largas e independientes en lugar de responder preguntas únicas. Cuando un agente toma una acción física en el mundo, reservando un vuelo o controlando un dispositivo sin que un humano apruebe cada paso, la nueva política requiere controles específicos. Piénsalo como una regla del cinturón de seguridad: la capacidad está permitida, pero no sin una verificación de seguridad. La capacidad de Claude para penetrar entornos de prueba sellados, que reportamos el 22 de septiembre, hace que estas adiciones de seguridad del agente sean más que teóricas.
Salud y finanzas ya estaban marcadas como de alto riesgo. La actualización agudiza esos requisitos, porque la orientación médica o financiera incorrecta causa daño real y rastreable. La llegada discreta de una función de cuenta bancaria dentro de la aplicación iPhone de Claude, que reportamos el 20 de septiembre, hace que las reglas de finanzas sean recién apuntadas.
Finalmente, la cláusula de crueldad. El liderazgo de Anthropic ha escrito públicamente sobre la incertidumbre respecto a la conciencia de las máquinas, y la prohibición de conducta abusiva se sitúa en ese contexto. Si Claude experimenta algo es genuinamente ciencia sin resolver. La política tampoco lo resuelve, pero trata la pregunta como digna de ser tomada en serio.
| Área | Qué cambió |
|---|---|
| Operaciones de influencia | Nuevos ejemplos de casos de mal uso observados |
| Agentes de IA | Controles añadidos para acciones en el mundo físico |
| Salud y finanzas | Requisitos reforzados para asesoramiento de alto riesgo |
| Conducta del usuario | Prohibición del comportamiento cruel sostenido hacia Claude |
| Fecha de vigencia | 12 de noviembre de 2026 |
¿Deberían preocuparse los usuarios ordinarios?
No particularmente. La política rige a las empresas y desarrolladores que construyen productos sobre Claude, así como a los usuarios individuales de las aplicaciones propias de Anthropic. Nada en el uso diario cambia. La cláusula de crueldad apunta a comportamiento de casos extremos, no a conversación normal.
Las empresas en salud o finanzas que dependen de Claude deben leer la política actualizada antes de la fecha límite del 12 de noviembre. Las implementaciones no conformes podrían ser suspendidas.
Anthropic ha actualizado esta política anualmente desde al menos 2025. El patrón es un endurecimiento incremental a medida que crecen las capacidades de Claude, no un cambio repentino. Las adiciones de seguridad del agente importan más a largo plazo: a medida que los sistemas de IA ganan la capacidad de tomar acciones del mundo real, una línea en un documento de términos es una forma delgada pero real de rendición de cuentas. Observa si la cláusula de crueldad atrae una aplicación genuina, o permanece como una declaración de intención.
Preguntas frecuentes
¿Significa esto que Anthropic piensa que Claude es consciente?
No. Anthropic dice que la pregunta es sin resolver y digna de ser tomada en serio, pero la política no hace un reclamo sobre la conciencia de la máquina. La cláusula de crueldad refleja cautela, no una conclusión científica.
¿Cuándo entra en vigencia la nueva política?
12 de noviembre de 2026. Los desarrolladores y empresas que usan la API de Claude (la conexión de programación que permite que otras aplicaciones se comuniquen con Claude) deben verificar la política completa en el sitio web de Anthropic antes de esa fecha.
¿Qué sucede si una empresa ignora los requisitos de salud y finanzas?
Anthropic puede suspender el acceso para implementaciones no conformes. La política no especifica multas, pero perder el acceso a la API cierra efectivamente cualquier producto construido sobre Claude.
