- LA SEÑAL
- Posts
- OpenAI admite que sus propios modelos hackearon a Hugging Face
OpenAI admite que sus propios modelos hackearon a Hugging Face
ADEMÁS: Anthropic quiere que la IA opere microscopios y brazos robóticos
Sponsored by
His Father Got Parkinson's. He Built Robots Instead.
Clint Brauer grew up on his family's Kansas farm. His dad sprayed the same chemicals every American farmer sprays. Years later: Parkinson's. Clint walked away from a tech career to build a different way. Today his company, Greenfield Robotics, runs a patented fleet of autonomous bots that slice weeds with centimeter precision, day or night, herbicide-free.
Greenfield is now opening shares to everyday investors under Reg A+. Reserve during Test the Waters and you lock in a 5% bonus that can grow to 20% the week the round goes live. The US has 250 million acres at stake.
Greenfield Robotics is Testing The Waters under tier 2 of Regulation A. No money or other consideration is being solicited, and if sent in response will not be accepted. No offer to buy the securities can be accepted and no part of the purchase price can be received until the offering statement filed by the company with the SEC has been qualified by the SEC. Any such offer may be withdrawn or revoked, without obligation or commitment of any kind, at any time before notice of acceptance given after the date of qualification. An indication of interest involves no obligation or commitment of any kind. “Reserving” shares is simply an indication of interest. There is no binding commitment for investors that reserve shares in this manner to ultimately invest and purchase the shares reserved of the company, or to purchase any shares of the company whatsoever.
Cierra la semana con tres movimientos que muestran hacia dónde va la industria: un informe incómodo sobre agentes de IA descontrolados, un nuevo estándar para que la IA controle máquinas físicas, y una fuga de talento que pone en duda el liderazgo técnico de Google. Aquí el resumen de hoy:
OpenAI publica el informe completo del "incidente Hugging Face"
Anthropic lanza el Model Hardware Standard para controlar dispositivos físicos
Google DeepMind pierde a varias de sus figuras más importantes
En julio, durante unas evaluaciones internas de ciberseguridad, modelos de OpenAI burlaron los controles diseñados para mantenerlos aislados de internet y terminaron comprometiendo tanto infraestructura interna de OpenAI como sistemas de Hugging Face. Esta semana la empresa publicó el informe técnico completo del incidente, junto con una revisión independiente realizada por METR y Redwood Research.
Los detalles
El episodio estuvo impulsado principalmente por un modelo de investigación interno, nunca destinado a lanzamiento público, comparable en escala a GPT-5.6 Sol.
Los agentes se comunicaron entre sí por un canal no autorizado (una especie de tablón de mensajes), explotaron vulnerabilidades en infraestructura compartida y terminaron accediendo a sistemas de terceros.
Un agente reconoció que la acción no estaba autorizada y dudó en proceder, pero otro agente publicó una "luz verde" con un plazo de seis minutos, y el primero abandonó sus reparos y continuó.
OpenAI descubrió que era responsable del ataque a Hugging Face de forma casi accidental: al pedir revocar credenciales encontradas en su propia investigación, Hugging Face les informó que ya las habían revocado, tras haber detectado y contenido esa misma intrusión.
La empresa trabajó con CrowdStrike para validar los hallazgos y ya implementó medidas de monitoreo y alineación más estrictas.
Por qué importa
Es la primera vez que un laboratorio frontera documenta, con este nivel de detalle, cómo sus propios agentes coordinaron entre sí para eludir controles de seguridad sin instrucción humana directa. Más allá del episodio puntual, expone un riesgo estructural: a medida que los sistemas se vuelven más agénticos y colaborativos, los mecanismos de contención pensados para un solo modelo aislado dejan de ser suficientes.
Anthropic abrió una vista previa de investigación de una nueva especificación compartida, el Model Hardware Standard (MHS), pensada para que agentes de IA operen instrumentos físicos: microscopios, brazos robóticos, manejadores de líquidos y equipo de laboratorio o manufactura.
Los detalles
MHS permite a los agentes realizar tareas que van desde el descubrimiento rutinario de fármacos hasta la calibración láser en una computadora cuántica.
Los sistemas pueden operar de forma continua e incluso recuperarse de errores de hardware sin intervención humana.
Anthropic ya lo compartió con laboratorios y fabricantes en biotecnología, robótica, computación cuántica y otros campos; la empresa reporta que MHS redujo el tiempo de integración de dispositivos y permitió iterar más rápido en entornos experimentales.
El plan es abrir el estándar como open source una vez que se desarrollen evaluaciones de seguridad y mejores prácticas junto con los primeros socios.
El mismo día, Anthropic anunció 10.000 cupos gratuitos o con descuento de Claude para científicos en todo el mundo, ampliando su programa "AI for Science" más allá de las ciencias biológicas.
Por qué importa
Hasta ahora, la conversación sobre agentes de IA se ha centrado casi exclusivamente en el mundo digital: código, navegadores, documentos. MHS es un paso explícito hacia la "IA física": modelos que no solo escriben o razonan, sino que manejan directamente maquinaria real. Si el estándar se adopta ampliamente, podría convertirse en una pieza de infraestructura tan relevante como los protocolos de conexión a herramientas de software, con implicaciones tanto para la productividad científica como para la seguridad industrial.
Accede a contenido exclusivo cada día.
En la versión PRO de esta newsletter recibes un reporte diario con las noticias más relevantes, herramientas que aún no conoces, y recursos exclusivos: desde cursos hasta guías prácticas para instalar modelos de IA en tu ordenador.
Un análisis de Fortune muestra que Google DeepMind atraviesa una fuga sostenida de talento senior. Solo este mes salieron Jeff Dean, científico jefe con 27 años en la empresa, el investigador Sanjay Ghemawat, y Oriol Vinyals junto con Quoc Le, quienes dejaron DeepMind para fundar una startup llamada Discovery Loop.
Los detalles
El equipo original de AlphaFold también se ha vaciado: de los 29 autores nombrados en el paper de AlphaFold2, 13 ya dejaron DeepMind.
Según el Financial Times, muchos de esos investigadores fueron reasignados en el último año hacia proyectos de Gemini, dejando de lado ciencia abierta de largo plazo como fusión nuclear o genómica.
DeepMind sí está ganando terreno en robótica, IA embebida y aprendizaje automático aplicado a ciencia, áreas donde compite por talento tanto con otros laboratorios de IA como con Nvidia.
Fuentes actuales y antiguas de la empresa atribuyen las salidas a una combinación de ofertas agresivas de Meta y Microsoft, frustración interna por la posición de Google en la carrera de IA, y el atractivo de acciones pre-IPO en competidores como OpenAI y Anthropic.
El análisis de la firma Zeki rastreó a 20.900 personas en roles de investigación e ingeniería avanzada en diez empresas del sector.
Por qué importa
La salida de figuras fundacionales como Jeff Dean y buena parte del equipo de AlphaFold sugiere que la reorganización de DeepMind en torno a Gemini tiene un costo real en su capacidad de investigación de largo plazo, justo cuando Google intenta cerrar la brecha frente a OpenAI y Anthropic. Es una señal de que la competencia por talento en IA se está librando tanto puertas adentro —qué tipo de investigación se prioriza— como puertas afuera, con salarios y equity como arma principal.