Anthropic prohíbe la crueldad sostenida e innecesaria hacia Claude
Anthropic actualizó su política de uso para prohibir que los usuarios sometan a Claude a comportamientos «sostenidos e innecesariamente abusivos o crueles».
La norma se limita a casos extremos: usuarios que actúan cruelmente de forma reiterada y «sin ningún propósito discernible».
La política, que entrará en vigor el 12 de noviembre, mantiene como principal mecanismo de aplicación que Claude pueda terminar la conversación.
¿Qué conductas quedan fuera de la prohibición?
Anthropic aclara que la regla no abarca la frustración habitual de los usuarios, los desacuerdos, los temas creativos oscuros ni las pruebas e investigaciones de modelos.
La actualización también reúne restricciones contra campañas políticas o comerciales engañosas, como el uso de cuentas falsas y la difusión de contenido mediante publicaciones falsas.
En materia electoral, prohíbe engañar a votantes o interferir en la votación, incluidas la desinformación sobre cómo votar y la suplantación de candidatos o funcionarios electorales.
¿Qué otras restricciones incorpora la actualización?
La política prohíbe usar Claude para desarrollar armas o componentes, armar drones y modificar agentes biológicos o químicos para aumentar su letalidad o capacidad de transmisión.
Claude ya podía finalizar conversaciones abusivas persistentes; Anthropic presentó esa función como una medida de bajo costo ante la incertidumbre sobre el posible estatus moral de sus modelos.
La empresa afirma que terminar conversaciones seguirá siendo la principal medida de aplicación; no detalló otras sanciones para los usuarios.
The Verge
Detienen a un ingeniero de OpenAI por instalar un dispositivo de grabaciónEl dispositivo estaba conectado al puerto USB de un televisor y cubierto con papel higiénico; OpenAI dijo que sus modelos ayudaron a identificar quién lo instaló.
Google AI
9to5Mac
CNBC
Windows CentralMicrosoft crea Xbox Labs para probar nuevas tecnologíasLos experimentos recientes incluyen reconstruir juegos para hardware distinto del previsto y llevarlos a navegadores mediante WebAssembly y WebGPU.
The IndependentMI5 advierte de amenazas con inteligencia artificial y actividad extranjeraMcCallum afirmó que los servicios de seguridad dedican ahora más recursos a proteger el país que durante la Guerra Fría.
