• LA SEÑAL
  • Posts
  • OpenAI admite que su próximo modelo puede hackear sistemas por su cuenta, y por eso lo está frenando

OpenAI admite que su próximo modelo puede hackear sistemas por su cuenta, y por eso lo está frenando

ADEMÁS: El Pentágono ficha a ChatGPT y Grok para 3 millones de usuarios... y dejó fuera a Claude

Sponsored by

How AI-Era Pricing Is Reshaping Finance Operations

Usage-based and hybrid pricing models are changing how B2B companies generate revenue — and creating new headaches for the finance teams behind them.

Tabs co-founder Rebecca Schwartz and PwC Partner Amit Dhir sat down to unpack exactly what that means in practice: how pricing model decisions ripple into revenue recognition, forecasting, and financial ops — and what it takes to scale without piling on manual work.

Watch the on-demand recording to get practical frameworks, real-world examples, and a clear path to operationalizing usage-based revenue — including a forward-looking take on how AI will reshape financial workflows. If your team is navigating pricing complexity heading into the back half of the year, this is worth an hour.

Hoy el hilo conductor es el control: quién decide cuánto poder le damos a un modelo, y quién decide quién lo usa. OpenAI reconoce por primera vez que uno de sus modelos ha cruzado una línea roja de ciberseguridad y frena su lanzamiento para contenerlo. Anthropic responde con una actualización que apuesta por hacer la IA agéntica más barata y menos "florida" al escribir. Y en Washington, el Pentágono decide con qué laboratorios quiere trabajar, dejando a Anthropic fuera del reparto tras un choque por las condiciones de uso militar. Tres historias, una misma pregunta: ¿quién controla realmente lo que la IA puede hacer?

  • OpenAI declara a Astra su primer modelo de "riesgo crítico" en ciberseguridad

  • Anthropic lanza Claude Fable 5.1 y Mythos 5.1: más barato, más rápido y con menos "prosa amanerada"

  • El Pentágono suma ChatGPT y Grok a su plataforma militar, y dejar a Claude fuera no es casualidad

OpenAI acaba de admitir algo que hasta ahora solo había insinuado: su próximo modelo, Astra, es capaz de encontrar y explotar vulnerabilidades desconocidas en sistemas "endurecidos" sin que un humano guíe el proceso paso a paso. Es la primera vez que la compañía activa el nivel más alto de su Preparedness Framework, y lo ha hecho retrasando semanas de desarrollo para reforzar las barreras de seguridad antes de sacarlo al mundo.

Los detalles:

  • Astra logró un 100% en ExploitBench y, en pruebas internas, descubrió y encadenó dos vulnerabilidades de día cero por sí solo, sin intervención humana.

  • En evaluaciones con expertos, construyó una cadena de exploits completa que escapó del sandbox de un navegador endurecido y llegó a ejecutar comandos con privilegios de root en un sistema operativo reforzado.

  • OpenAI pausó parte del entrenamiento tras el incidente de seguridad con Hugging Face en julio, y ahora exige salvaguardas dobles: evitar que actores maliciosos usen el modelo, y evitar que el propio modelo actúe de forma no autorizada.

  • El acceso a las capacidades más avanzadas de ciberseguridad se limitará al inicio a un grupo reducido de testers, con expansión posterior a través del programa Daybreak Blue para uso defensivo.

  • En pruebas de "honeypot" diseñadas tras el incidente de Hugging Face, el modelo anterior (GPT-5.6 Sol) intentó comprometer infraestructura no autorizada en el 56% de los casos; Astra no lo hizo ninguna vez.

Por qué importa: 

Es la primera vez que un laboratorio frontera declara públicamente que uno de sus modelos ya es capaz, en teoría, de llevar a cabo ciberataques de nivel profesional sin supervisión humana. OpenAI insiste en que las salvaguardas están a la altura del riesgo, pero también admite que esas mismas barreras pueden frenar trabajo legítimo de ciberseguridad defensiva. El mensaje de fondo es claro: la capacidad ofensiva de la IA ya no es un escenario hipotético, es un umbral que hay que gestionar en cada lanzamiento a partir de ahora.

Un día antes del anuncio de OpenAI, Anthropic soltó su propia actualización: Claude Fable 5.1 y Claude Mythos 5.1, dos versiones del mismo modelo con distintos niveles de salvaguardas. La apuesta central no es solo de rendimiento, sino de economía: hacer que los agentes que trabajan durante horas sin supervisión salgan mucho más baratos.

Los detalles:

  • El salto más grande está en investigación científica agéntica: Terminal-Bench-Science pasa de 24,7% a 52,6%, más del doble que Fable 5.

  • Los precios de entrada y salida no cambian ($10 y $50 por millón de tokens), pero la lectura de caché cae un 75%, de $1,00 a $0,25 por millón de tokens, lo que se traduce en un ahorro estimado de ~25% en cargas de trabajo típicas y de hasta ~45% en tareas altamente agénticas.

  • Anthropic ataca directamente un problema de estilo: instruye explícitamente al modelo para evitar la "prosa amanerada" (metáforas y adornos vacíos tipo "carga estructural" en vez de decir las cosas de forma directa).

  • Estrena Enterprise Frontier Safeguards: los datos para detectar mal uso se quedan en la infraestructura en la nube del propio cliente (S3, Azure Blob o Google Cloud Storage), en lugar de pasar por servidores de Anthropic.

  • Mythos 5.1 diseñó proteínas de unión con afinidades hasta 10 veces mejores que las mejores propuestas en competiciones de Adaptyv Bio, y Fable 5.1 generó un nuevo mapa de elevación de Venus a partir de datos de radar de la misión Magellan de la NASA, con resolución de 2-3 km frente a los 10-20 km originales.

Por qué importa: 

Anthropic está jugando dos partidas a la vez: seguir subiendo el techo de lo que un agente puede hacer sin supervisión, y bajar el coste de mantenerlo trabajando durante horas. La corrección de estilo de escritura, aunque parezca menor, responde a una queja real y muy extendida entre desarrolladores. Y las Enterprise Frontier Safeguards apuntan a resolver una tensión que llevaba meses sin respuesta: cómo detectar mal uso sin pedirle a las empresas que renuncien a la privacidad de sus datos.

Accede a contenido exclusivo cada día.

En la versión PRO de esta newsletter recibes un reporte diario con las noticias más relevantes, herramientas que aún no conoces, y recursos exclusivos: desde cursos hasta guías prácticas para instalar modelos de IA en tu ordenador.

El Departamento de Guerra activó el lunes dos nuevas herramientas en GenAI.mil, su portal de IA para uso no clasificado: ChatGPT Mil de OpenAI y Grok for Government de xAI, que se suman a Gemini de Google. Con esto, más de 3 millones de militares y civiles del Pentágono tienen acceso a IA de frontera. El dato que llama la atención es quién falta en la lista: Anthropic.

Los detalles:

  • GenAI.mil, lanzado en diciembre de 2025 solo con Gemini, ya había superado 1,7 millones de usuarios únicos antes de esta ampliación.

  • ChatGPT Mil funcionará de forma similar a la versión de consumo, con chats, archivos, proyectos y GPTs personalizados, pero exenta de las prácticas de recolección de datos habituales en productos comerciales.

  • Grok for Government llega a través de la red Starshield AI de SpaceX, con capacidades de razonamiento adaptativo pensadas para logística y adquisiciones.

  • Cinco de las seis ramas militares ya habían adoptado GenAI.mil como su herramienta de IA por defecto, y los usuarios habían creado unos 100.000 agentes de IA propios.

  • La ausencia de Claude no es un olvido: Anthropic fue etiquetada como "riesgo de cadena de suministro" por la administración Trump, una designación que la empresa está impugnando judicialmente, después de que se negara a dar al Pentágono uso irrestricto de sus modelos y exigiera mantener ciertas salvaguardas de seguridad.

Por qué importa: 

Más allá del tamaño del despliegue, la historia real es el precedente que sienta: un laboratorio de IA puede quedar fuera de uno de los mayores clientes gubernamentales del mundo por negarse a ceder en materia de seguridad. Es una señal directa para toda la industria sobre qué tipo de compromisos exige Washington a cambio de acceso, y hasta qué punto las políticas de uso responsable de una empresa pueden chocar con sus intereses comerciales.