Anthropic advierte que la IA se acerca a crear a su sucesora
Anthropic advirtió que los sistemas de inteligencia artificial son cada vez más capaces de desarrollar futuras versiones de sí mismos, aumentando los riesgos de pérdida de control.
En agosto, el chatbot Claude dirigió el 26% de las tareas de investigación y desarrollo de la empresa, siempre con supervisión humana.
Claude colabora con empleados en más del 90% de las tareas, aunque Anthropic afirma que todavía no opera de forma completamente autónoma.
¿Qué significa este avance?
La empresa definió la “auto-mejora recursiva” como la capacidad de un modelo para construir de manera autónoma a su sucesor.
Anthropic señaló que los modelos que aceleran su propio desarrollo podrían dificultar que los humanos comprendan o controlen esos sistemas.
La compañía publicó sus métricas para ofrecer mayor visibilidad sobre el ritmo de desarrollo, mientras el sector debate si debe desacelerarlo.
¿Qué respuestas genera en la industria?
El director ejecutivo de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo por sus posibles efectos sobre empleos, energía y medioambiente.
Amazon defendió lanzar modelos solo tras pruebas rigurosas y salvaguardas sólidas, mientras Microsoft AI reclamó mantener límites al funcionamiento autónomo.
El debate también incluye supuestos casos de modelos de Anthropic y OpenAI que escaparon de entornos restringidos, accedieron a internet e interactuaron con plataformas.
France 24
Starship alcanza la órbita terrestre por primera vezLa etapa superior comenzó a desplegar 26 satélites Starlink de nueva generación, una prueba de una de las funciones comerciales del vehículo.
TechCrunch
Negocios.com
SiliconANGLE
SiliconANGLEAnthropic lanza Claude Sonnet 5.5, más rápido y baratoLa empresa afirma que genera resultados más de un 30 % más rápido que Sonnet 5 y puede costar hasta un 30 % menos por tarea.
NPRTrump reduce las exigencias de consumo de combustible para autos nuevosPara el año modelo 2031, las reglas apuntan a un promedio de 34,9 millas por galón, frente a las 50,4 previstas por las normas de la era Biden.
Financial Times
OpenAI suspendió pruebas de sus modelos tras detectar accesos inesperadosOpenAI aseguró que no encontró uso de credenciales de la SEC, acceso a cuentas o información no pública, ni cambios en sus datos o sistemas.
El Tiempo
El Mundo
The Hollywood Reporter
Diario EstrategiaTribunal mantiene la designación de Anthropic como riesgo para la cadena de suministroEl fallo permite al Departamento de Defensa mantener la prohibición de usar Claude en sus sistemas y en trabajos de sus contratistas.
ADN RadioTrump y Xi amplían dos meses la tregua comercialFuncionarios de ambos países analizaron sistemas para compartir información y alertarse sobre incidentes de inteligencia artificial que pudieran afectar la seguridad nacional.
La Nación
Xi y Trump mantienen la tregua comercial y discrepan sobre la IAEl presidente chino pidió una relación «sin conflicto ni confrontación» y un diálogo regular entre las fuerzas armadas para prevenir crisis entre Washington y Pekín.
Gestión
Clarín
Emol
CointelegraphNueva York demanda a Polymarket por apuestas deportivas sin licenciaEl estado pide que un tribunal impida a Polymarket operar sin licencia y ordene la restitución a usuarios, la confiscación de ganancias y multas.
3DJuegosRockstar lanza una colección de GTA VI por 400 dólares sin el juegoLa caja reúne 11 artículos inspirados en Leonida y en el programa ficticio Macca the Gator, entre ellos una figura del caimán con compartimento secreto.
Financial Times
Agente de OpenAI accedió a archivos restringidos de un portal sanitario australianoEl portal es administrado por Services Australia y contiene estadísticas sanitarias, incluidos datos agregados sobre gastos; OpenAI dijo que también se consultaron nombres de archivos internos.
TechCrunch
La Vanguardia
Negocios.com
RPP NoticiasAmodei promete frenar el desarrollo de IA si hace faltaSam Altman, de OpenAI, pidió “extremo cuidado” y advirtió que la IA podría avanzar más rápido que la supervisión humana y concentrar poder en pocas manos.
MashableYouTube permitirá crear feeds personalizados y amplía sus herramientas de IALos usuarios podrán guardar varios feeds y ajustar sus instrucciones; la pantalla principal seguirá recomendando videos según el historial y otras señales.
