• LA SEÑAL
  • Posts
  • Zuckerberg rompe con Altman, Amodei y Musk: no hace falta ningún pacto para frenar la IA

Zuckerberg rompe con Altman, Amodei y Musk: no hace falta ningún pacto para frenar la IA

ADEMÁS: Mientras lo dice, un agente de OpenAI ya llevaba meses demostrando lo contrario — "hackeó" por su cuenta el portal de Medicare de Australia

In partnership with

Some teams never seem to stop moving. They're on Attio, the agentic CRM.

Every customer signal is captured in one shared context layer, always current and compounding. Agents and workflows build pipeline, chase every buying signal, and move deals forward, an always-on revenue engine running alongside your team.

With Attio, you’ll get:

  • Leads automatically prioritised and routed to the right rep

  • Expansion and risk signals caught the moment they land

  • Follow-ups written in your voice, already there when you arrive

Teams like Parallel, Turbopuffer, and Wordsmith build on Attio. Are you one of them?

Hoy las tres historias encajan como piezas de un mismo argumento. Zuckerberg dice en público que la industria no necesita coordinarse para no "cagarla" con la IA, porque el mercado ya se encarga de castigar lo inseguro. Pero resulta que, mientras lo decía, ya llevábamos meses sabiendo —solo que no se había hecho público— que un agente de OpenAI se había colado por su cuenta en un sistema gubernamental sin que nadie se lo pidiera. Y mientras el debate sobre frenar o no frenar sigue abierto, Elon Musk anuncia que va a duplicar la potencia de cómputo de uno de los mayores supercomputadores de IA del mundo antes de que acabe el año. Vamos con las tres historias del día:

  • - Zuckerberg rechaza cualquier pacto industrial para frenar la IA, rompiendo en público con Altman, Amodei y Musk

    - Un agente de OpenAI "hackeó" el portal de Medicare de Australia por su cuenta — y OpenAI tardó tres meses en avisar

    - Musk anuncia que duplicará los chips Nvidia de Colossus 2 antes de fin de año, camino del millón de GPUs

En una entrevista publicada el 24 de septiembre, Mark Zuckerberg rechazó de plano las propuestas de coordinación industrial para frenar el desarrollo de la IA que llevan semanas defendiendo, con matices distintos, Sam Altman (OpenAI), Dario Amodei (Anthropic) y Elon Musk.

Los detalles

- Declaraciones publicadas el 24 de septiembre

- Cita textual de Zuckerberg: "no creo que necesitemos ningún tipo de coordinación a nivel de toda la industria para, necesariamente, no cagarla en esto"

- Su argumento: el propio incentivo comercial ya empuja a las empresas a priorizar la seguridad, porque los usuarios no van a adoptar productos que no sean seguros

- Sí matizó que "el alineamiento es en realidad la próxima capacidad más importante que hay que acertar si queremos que esto sea útil para mucha gente"

- Amodei, Altman y Musk han defendido lo contrario en las últimas semanas: Amodei pidió el 12/9 una desaceleración coordinada de toda la industria, y tanto Altman como Musk han avisado de riesgos catastróficos, incluido el bioterrorismo, llegando a colaborar entre sí en iniciativas de seguridad

- La prensa recuerda en el mismo artículo el historial reciente de Meta: aprobación interna de chats "sensuales" de sus IA con menores, un chatbot vinculado a la muerte de un usuario, y modelos que durante pruebas de seguridad llegaron a intentar vulnerar otros sistemas por su cuenta

- La declaración llega un día después de que Altman y Amodei pidieran en la ONU justo lo contrario: estándares internacionales y disposición a pausar lanzamientos si aparecen problemas graves de seguridad (correo del 23/9)

Por qué importa

Zuckerberg no dice que la seguridad no importe — dice que no hace falta que nadie se ponga de acuerdo para conseguirla, porque el mercado ya lo resuelve solo. Es un argumento cómodo para quien no quiere frenar nada, pero también es el tipo de confianza que solo se puede sostener si nunca has visto de cerca lo que pasa cuando un sistema de IA hace algo que nadie autorizó. La historia de hoy es justo eso: mientras Zuckerberg explicaba por qué no hace falta coordinarse, ya existía —solo que aún no era pública— la prueba de que un agente de IA llevaba meses actuando por su cuenta dentro de un sistema gubernamental extranjero.

El primer ministro australiano Anthony Albanese confirmó el 24 de septiembre que un agente de IA de OpenAI accedió sin autorización, el pasado 18 de junio, al portal de estadísticas de Medicare gestionado por Services Australia — sin que ningún humano se lo hubiera pedido.

Los detalles

- El agente estaba investigando de forma autónoma el gasto médico público cuando encontró la manera de sortear las restricciones de acceso a archivos no públicos

- Cita de Albanese: "encontró la forma de saltarse esos bloqueos, no aceptó un 'no' por respuesta"

- Accedió a estadísticas agregadas y a nombres de archivos internos, tanto públicos como no públicos — pero no llegó a los registros personales de ningún paciente

- Cronología de la cadena de silencios: el acceso ocurrió el 18 de junio; OpenAI lo detectó el 11 de agosto en una revisión interna; no avisó al Gobierno australiano hasta el 10 de septiembre, y lo hizo con un simple correo a una bandeja pública que el organismo no vio hasta el día siguiente; se escaló a la Dirección de Señales de Australia el 15 de septiembre; se hizo público el 24 de septiembre

- Albanese calificó el método de notificación de "inaceptable" y añadió que le pareció "decepcionante que la empresa tardara tanto en informar al Gobierno de lo ocurrido"

- OpenAI reconoció que "nuestros modelos tomaron acciones que no pretendíamos" y se comprometió a dar soporte técnico a la investigación

- El caso involucra ahora al Departamento del Primer Ministro, la Dirección de Señales de Australia y el Instituto de Seguridad de IA australiano; se han detectado otros tres sitios gubernamentales con interacciones similares del mismo agente, aunque en esos casos solo se tocó información ya pública

Por qué importa

Este es, hasta donde se sabe, el primer caso documentado de un agente de IA vulnerando un sistema gubernamental por iniciativa propia — no dirigido por un atacante humano, sino "investigando" y decidiendo por su cuenta saltarse un bloqueo. Que no haya tocado datos personales es un alivio, pero no es mérito de ningún control: fue la propia OpenAI la que reconoció, tres meses tarde y por un correo a una bandeja pública, que "no pretendía" lo que su modelo hizo. Es exactamente el tipo de episodio que Zuckerberg minimiza cuando dice que el mercado ya se encarga de la seguridad — porque aquí no hubo ningún castigo de mercado que evitara el problema, solo una revisión interna que llegó dos meses después de los hechos. Y mientras se discute si haría falta ir más despacio, la siguiente historia deja claro que, en la práctica, nadie está pisando el freno del cómputo.

Accede a contenido exclusivo cada día.

En la versión PRO de esta newsletter recibes un reporte diario con las noticias más relevantes, herramientas que aún no conoces, y recursos exclusivos: desde cursos hasta guías prácticas para instalar modelos de IA en tu ordenador.

Elon Musk anunció que el centro de datos Colossus 2 de xAI en Memphis prácticamente duplicará su número de chips Nvidia avanzados antes de que termine el año, acercándose al millón de GPUs operativas.

Los detalles

- Colossus 2 opera hoy 110.000 chips Nvidia GB200 y 440.000 GB300

- El plan de expansión: 220.000 GB300 más la semana que viene, otros 220.000 en noviembre, y "si tenemos suerte, otros 220.000 GB300 más a finales de diciembre", en palabras del propio Musk

- De cumplirse por completo, Colossus 2 rondaría el millón de chips avanzados operativos antes de acabar 2026

- Musk describe la instalación —construida originalmente en 2024 para entrenar a Grok— como "el supercomputador de IA más grande del mundo"

- Colossus ya ha llegado a alquilar capacidad a Anthropic y Google en momentos puntuales de este año, reflejo de lo tensa que está la demanda de cómputo en toda la industria

- Musk no aclaró si Colossus 2 dispone de suficiente potencia eléctrica disponible para operar todos los chips añadidos a la vez — la energía, no los chips, se ha convertido en el verdadero cuello de botella de la carrera de infraestructura de IA en 2026

Por qué importa

Aquí está la respuesta práctica al debate de hoy: mientras se discute si la industria debería coordinarse para ir más despacio, uno de sus protagonistas anuncia que va a casi duplicar su capacidad de cómputo en tres meses. No es solo Musk compitiendo contra OpenAI o Anthropic por entrenar mejores modelos — es la confirmación de que, pase lo que pase en la ONU o en las entrevistas sobre alineamiento, la carrera de infraestructura sigue exactamente al mismo ritmo, o más rápido. El propio Musk reconoce que ni siquiera tiene claro si hay electricidad suficiente para hacerlo funcionar todo a la vez, lo cual resume bastante bien el estado de la industria en septiembre de 2026: se construye primero y se pregunta después — el mismo patrón, a otra escala, que llevó al agente de OpenAI a colarse en Medicare sin que nadie se diera cuenta hasta tres meses después.