- LA SEÑAL
- Posts
- Por qué más de 100 expertos en seguridad afirman que la prohibición de Fable 5 es contraproducente
Por qué más de 100 expertos en seguridad afirman que la prohibición de Fable 5 es contraproducente
ADEMÁS: Documentos de OpenAI sugieren desarrollo de robots humanoides y hardware para consumidores
In partnership with
La orden abrupta de control de exportaciones de Washington que provocó la retirada de Fable por parte de Anthropic se presentó como una medida de seguridad. Pero, de momento, la comunidad de seguridad no se está creyendo esa justificación.
Con más de 100 investigadores firmando una carta abierta bajo el lema "Free Fable" y nuevos informes que apuntan a que el conflicto se debió en realidad a un fallo de comunicación, la restricción empieza a parecer más una cuestión política que una medida de protección real.
Want to get the most out of ChatGPT?
ChatGPT is a superpower if you know how to use it correctly.
Discover how HubSpot's guide to AI can elevate both your productivity and creativity to get more things done.
Learn to automate tasks, enhance decision-making, and foster innovation with the power of AI.
Free Fable: líderes de ciberseguridad se movilizan con una carta abierta
Nadella, de Microsoft, replantea cómo las empresas pueden ganar con la IA
Facebook estrena su nuevo Modo IA y mejoras en edición de imágenes
Más de 100 directivos e investigadores de ciberseguridad firmaron una carta abierta pidiendo a EE. UU. que levante la prohibición de exportación sobre Fable 5, de Anthropic, argumentando que la medida limita a quienes se dedican a la defensa sin frenar a los atacantes, que pueden obtener las mismas capacidades en modelos de la competencia.
Los detalles:
Alex Stamos, ex responsable de seguridad de Facebook, explicó que el jailbreak detectado generó una "prueba de concepto" de un fallo, el tipo de información que los equipos defensivos utilizan precisamente para corregir puntos débiles.
La carta señala que Daybreak, de OpenAI, permite encontrar el mismo tipo de fallos, y que GPT-5.5, Kimi 2.7, Opus y Sonnet cuentan con esa misma capacidad.
El texto pide que la regulación de los modelos se base en evaluaciones científicas, siga un proceso democrático y se aplique con transparencia y de forma justa.
Entre los firmantes hay responsables de seguridad vinculados a Adobe, Zoom, Sophos, Vercel, Veracode, Nvidia y Stanford HAI.
Por qué importa:
Los investigadores de seguridad no comparten la valoración de riesgo que llevó al gobierno a imponer estas restricciones, lo que aumenta las dudas sobre la verdadera motivación detrás de la prohibición. Y con otros informes que apuntan a un problema de comunicación entre ambas partes como causa principal, el conflicto empieza a parecer tan ideológico como relacionado con la seguridad.
El nuevo memorando de Satya Nadella, CEO de Microsoft, defiende que la verdadera ventaja competitiva de una empresa en IA no está en usar el mejor modelo disponible, sino en construir un "bucle de aprendizaje" propio basado en sus flujos de trabajo y su criterio interno. Además, advierte de que una economía de la IA dominada por un puñado de modelos podría devastar industrias enteras.
Los detalles:
Su planteamiento divide el valor de una empresa en dos partes: el "capital humano" que aportan las personas y el "capital en tokens" de IA que la compañía posee, en lugar de simplemente alquilar.
Nadella defiende construir un sistema de "bucle de aprendizaje" que mejore y acumule el conocimiento propio de la empresa con el tiempo, en lugar de limitarse a elegir el mejor modelo disponible en cada momento.
Su forma de comprobar si ese control existe es sencilla: si retiras un modelo y pones otro en su lugar, el "saber hacer" acumulado por la empresa debe seguir intacto, integrado en el sistema.
Nadella también insistió en la necesidad de evitar un escenario en el que "todas las empresas, en todos los sectores, terminen cediendo su valor a unos pocos modelos que se lo quedan todo".
Por qué importa:
La postura de Nadella no es nueva, pero contradice el discurso de los grandes laboratorios de IA, que llevan tiempo advirtiendo a las industrias de que la apisonadora ya viene en camino. Sin embargo, en un escenario donde los modelos abiertos y más económicos pueden competir hasta cierto punto con los de última generación, el verdadero valor de una empresa podría residir en su criterio propio, integrado en una IA que no deja de aprender de él.
Accede a contenido exclusivo cada día.
En la versión PRO de esta newsletter recibes un reporte diario con las noticias más relevantes, herramientas que aún no conoces, y recursos exclusivos: desde cursos hasta guías prácticas para instalar modelos de IA en tu ordenador.
Meta acaba de presentar el Modo IA en Facebook, una nueva forma de buscar que permite que Meta AI responda a las preguntas de los usuarios apoyándose en publicaciones públicas de Grupos, Reels y contenido del resto de sus aplicaciones, junto con nuevas herramientas para editar fotos, crear collages y vídeos con IA.
Los detalles:
El Modo IA integra Meta AI, impulsado por Muse Spark, dentro del buscador de Facebook, combinando publicaciones públicas de Grupos, Reels y otro contenido de sus apps para responder a las consultas de los usuarios.
La actualización también incluye filtros de IA para fotos —como cambios de ropa, peinado o accesorios—, una opción para añadir con un solo toque la camiseta de un equipo al perfil, y collages generados automáticamente a partir del carrete de la cámara.
Según se ha informado, Meta también estaría preparando dos planes de pago de IA, de 7,99 y 19,99 dólares al mes, situándose por debajo del precio de otras suscripciones de IA como ChatGPT o Gemini.
Por qué importa:
Meta está aplicando dentro de su propio ecosistema la misma estrategia que Google con su buscador, sustituyendo los resultados con enlaces por respuestas elaboradas por la IA a partir de contenido de los usuarios. Pero el Modo IA de Google ya tuvo problemas de precisión, y esa preocupación podría agravarse aquí, dado el volumen de publicaciones de usuarios sin verificar y contenido patrocinado de por medio.