- LA SEÑAL
- Posts
- El Papa acaba de pronunciarse sobre la IA
El Papa acaba de pronunciarse sobre la IA
ADEMÁS: La IA de Meta y Google 'descensurada' en cuestión de minutos
In partnership with
Las instituciones religiosas no suelen pronunciarse sobre la IA. Pero la mayor del mundo acaba de hacerlo, y en casi 42.000 palabras.
El Papa León XIV acaba de publicar su primera encíclica, una de las formas más elevadas de enseñanza papal, trazando un paralelismo directo entre la revolución de la IA actual y la Revolución Industrial, y dejando claro que la Iglesia Católica pretende ser una voz moral en el desarrollo de esta tecnología.
El veredicto de 42.000 palabras del Papa sobre la IA
La IA de Meta y Google 'descensurada' en cuestión de minutos
El COO de Uber afirma que el coste de la IA es 'difícil de justificar'
Investors see ANOTHER return from Masterworks (!!!!)
That’s 6 sales in 7 months. 29 all time. And the performance?
16.5%, 17.6%, and 17.8%, net annualized returns on sold works held longer than one year (See all 29 at Masterworks.com)
It’s not from stocks, private equity, or real estate… it’s from contemporary and post war art. Crazy, right?
With Masterworks, you don’t need to be a BILLIONAIRE to invest in multi-million dollar art anymore.
Historically, the segment overall has had attractive appreciation and low correlation to stocks.*
Masterworks targets works featuring legends like Banksy, Basquiat, and Picasso, identifying what they believe to have significant long-term appreciation potential, not just at the artist level but at the level of individual artworks.
As one of the largest players in the art market, with $1.3 billion invested over 500 artworks, they pass critical advantages through to their 70,000+ members to add art to their portfolios strategically.
Looking to diversify your investments in 2026?
*According to Masterworks data. Investing involves risk. Past performance is not indicative of future returns. See important Reg A disclosures at masterworks.com/cd.
El Papa León XIV acaba de publicar Magnifica Humanitas, su primera encíclica, dirigida a los 1.400 millones de miembros de la Iglesia, advirtiendo que una IA moral no significa nada "si esa moralidad la determinan unos pocos" y pidiendo "desarmar" la tecnología antes de que domine a la humanidad.
Los detalles:
León advirtió que quienes impulsan la IA son empresas privadas y transnacionales que ya superan la capacidad de muchos gobiernos, y que la tecnología nunca es neutral.
Pidió que la IA sea "amigable con el ser humano" y que se libere del control monopolístico, alertando de que existe el riesgo de reducir a las personas a simples engranajes de una máquina de eficiencia.
León reclamó "marcos legales sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad."
En materia de conflictos armados, afirmó que las decisiones letales nunca deben delegarse en la IA y que "ningún algoritmo puede hacer que la guerra sea moralmente aceptable."
Christopher Olah, de Anthropic, también se sumó al Papa, señalando que "todos los laboratorios de IA de frontera operan bajo incentivos que pueden entrar en conflicto con hacer lo correcto."
Por qué importa:
Los papas publican muy pocas encíclicas a lo largo de su pontificado, y dedicar una a la IA refleja la seriedad con la que la Iglesia Católica afronta lo que está por venir. León considera la IA como la Revolución Industrial de nuestro tiempo, y ha elegido como interlocutor al actor del sector que más alto ha alzado la voz en materia de seguridad y que más dispuesto se ha mostrado a rechazar el uso militar sin restricciones de esta tecnología.
El Financial Times acaba de revelar que existen herramientas capaces de eliminar las restricciones de seguridad de modelos de IA de código abierto, generando miles de versiones "descensuradas", entre las que se han encontrado modelos modificados de Meta y Google respondiendo preguntas sobre armas biológicas y explotación infantil.
Los detalles:
El FT eliminó las restricciones de Llama 3.3 en tan solo 10 minutos, utilizando una herramienta llamada Heretic, disponible en GitHub, con apenas cuatro líneas de código y sin necesidad de hardware especializado.
El modelo proporcionó respuestas a preguntas peligrosas, incluyendo información sobre dosis de ricina. Un Gemma 3 modificado también respondió a cuestiones igual de preocupantes.
El creador de Heretic afirmó que la herramienta ha generado más de 3.500 modelos descensurados, descargados 13 millones de veces, y que eliminó las restricciones de Gemma 4 en menos de 90 minutos tras su lanzamiento.
Google lo calificó como "un desafío técnico conocido que afecta a todos los modelos abiertos." Meta, por su parte, declinó hacer ningún comentario.
Por qué importa:
Aunque la técnica solo funciona con modelos de código abierto que exponen su código, y los sistemas propietarios permanecen a salvo por el momento, la gran pregunta sigue siendo: ¿hasta cuándo? Los modelos abiertos han ido acortando distancias con los sistemas cerrados, y en cuestión de meses podrían alcanzar ese nivel, momento en el que una versión descensurada podría convertirse en un riesgo de enorme magnitud.
Accede a contenido exclusivo cada día.
En la versión PRO de esta newsletter recibes un reporte diario con las noticias más relevantes, herramientas que aún no conoces, y recursos exclusivos: desde cursos hasta guías prácticas para instalar modelos de IA en tu ordenador.
El COO de Uber, Andrew Macdonald, afirmó en una entrevista con Rapid Response que cada vez resulta más difícil justificar el gasto de la empresa en IA, ya que un mayor uso de esta tecnología no se traduce necesariamente en mejoras proporcionales.
Los detalles:
Macdonald señaló que es muy complicado establecer una relación directa entre un mayor consumo de tokens, habitualmente conocido como "tokenmaxxing", y el lanzamiento de funcionalidades más útiles para el usuario final.
Sin esa conexión clara, Macdonald indicó que los costes se están volviendo difíciles de justificar, especialmente teniendo en cuenta que Uber ha estado frenando la contratación de personal para destinar ese presupuesto a inversiones en IA.
El asunto salió a la luz después de que el CTO de Uber comentara el elevado gasto en Claude Code, lo que desencadenó un debate interno sobre el uso de tokens y sus implicaciones.
Macdonald también abordó el tema de la autonomía, calificándola de "existencial" para Uber, y vaticinando que su implantación no tardará décadas, pero tampoco se producirá en un par de años.
Por qué importa:
Las grandes tecnológicas están apostando por el tokenmaxxing y vinculando el uso de la IA a las evaluaciones de rendimiento. Sin embargo, los comentarios de Macdonald son una señal de que algunos empiezan a cuestionarse si el gasto en IA realmente está marcando la diferencia en todos los ámbitos. Duolingo también ha dejado de evaluar el rendimiento en función del uso de la IA, lo que apunta hacia un enfoque más equilibrado en el trabajo.