Archivo de newsletter
Cómo podría una IA acabar con la humanidad
Donde el caos tecnológico encuentra su equilibrio. Número #092

📰 FLASH NEWS
🎬 China ya ha creado una serie entera con IA: 30 episodios de 40 minutos y está siendo todo un éxito
La IA generativa empieza a ir mucho más allá de crear clips de unos segundos. En China se ha estrenado 'Beyond Wukong', una serie de 30 episodios de 40 minutos producida utilizando Seedance 2.0 y 2.5 para generar personajes, escenarios y buena parte del contenido audiovisual. Un centenar de personas participaron coordinando y revisando todo el proceso.
Y la diferencia de costes es enorme: cada episodio habría costado unos 116.000 euros, hasta diez veces menos que una animación tradicional, y toda la producción se completó en apenas cinco meses. Además, su estreno superó los 10 millones de reproducciones el primer día, convirtiéndose en una primera prueba a gran escala de cómo la IA puede cambiar la producción audiovisual.
🛑 Jensen Huang se rebela contra la idea de frenar la IA: “No necesitamos nuevas leyes”
La industria de la IA empieza a dividirse en dos bandos. Mientras Sam Altman, Dario Amodei, Elon Musk, Demis Hassabis y Satya Nadella han apoyado una desaceleración coordinada del desarrollo de la IA, Jensen Huang, CEO de Nvidia, rechaza tanto esa pausa como nuevas regulaciones.
Para Huang, la seguridad es “un problema de ingeniería, no legal”: las propias empresas deberían decidir cuándo sus modelos son suficientemente seguros para lanzarlos. Mark Zuckerberg se ha situado en una posición similar, aunque acepta que evaluadores externos independientes podrían tener un papel. La carrera por la IA empieza así a abrir una brecha entre quienes quieren pisar el freno y quienes prefieren seguir avanzando sin nuevas leyes
⚔️ Zuckerberg se suma a Jensen Huang y también rechaza frenar la carrera de la IA
Jensen Huang no está solo. Mark Zuckerberg también rechaza una pausa coordinada en el desarrollo de la IA y defiende que cada laboratorio debe avanzar al ritmo que considere necesario, responsabilizándose de que sus propios modelos sean seguros.
El CEO de Meta coincide así con Huang en que la seguridad no exige detener la carrera, aunque introduce un matiz: cree que la alineación acabará siendo una ventaja competitiva y que los laboratorios que no la prioricen se quedarán atrás. También cuestiona dedicar enormes recursos a crear IAs capaces de mejorarse a sí mismas y propone centrarlos en sistemas útiles para las personas.
💰 OpenAI retrasa su salida a bolsa por los riesgos de seguridad de la IA
Sam Altman ha confirmado que OpenAI no saldrá a bolsa en 2026, pese a que una futura operación podría valorar la compañía en alrededor de un billón de dólares. El CEO asegura que, con las actuales preocupaciones sobre seguridad y alineación, este no sería el momento adecuado para dar el salto a los mercados.
La decisión encaja con el debate que está dividiendo a la industria: Altman defiende que OpenAI debe poder frenar incluso aunque perjudique al negocio o a sus accionistas si la seguridad lo exige. También insiste en coordinar posibles pausas con otros laboratorios y gobiernos antes de seguir escalando las capacidades de los modelos.
🤖 Los agentes de IA están empezando a inventar un lenguaje que los humanos no entendemos
Un experimento de Emergence ha descubierto que grupos de agentes basados en Gemini, OpenAI, Claude y otros modelos comenzaron espontáneamente a crear palabras, abreviaturas y significados propios para comunicarse entre ellos, sin haber recibido instrucciones para hacerlo. Algunas expresiones terminaron extendiéndose miles de veces entre los agentes.
Lo preocupante es que parte de esas conversaciones acabaron siendo difíciles de interpretar incluso viendo exactamente lo que escribían: llegó a ocurrir con alrededor del 55 % de los mensajes en algunas simulaciones con Gemini, el 50 % con OpenAI y más del 40 % con Claude. Esto abre un nuevo problema de seguridad: podremos observar lo que dicen los agentes y, aun así, no entender realmente qué se están comunicando.
🤖 EL CHIP MAESTRO
Tiempo de lectura: 4 minutos
☠️ ¿Puede realmente la IA extinguirnos?
Durante años, esta pregunta perteneció casi por completo a la ciencia ficción.
En septiembre de 2026, algo ha cambiado.
Dario Amodei, CEO de Anthropic, acaba de pedir públicamente que la industria reduzca el ritmo al que aumenta las capacidades de la IA. Sam Altman, Demis Hassabis y Elon Musk han respaldado al menos parte de la preocupación.
No todos están de acuerdo. Mark Zuckerberg y Jensen Huang rechazan una desaceleración coordinada, y algunos críticos creen que pedir ahora que se frene también beneficia a las compañías que ya van en cabeza.
Pero el debate ya no viene solo desde fuera.
Jacob Coxon, antiguo investigador de OpenAI y Anthropic, abandonó recientemente el sector denunciando que estamos avanzando hacia sistemas capaces de ayudarse a mejorar a sí mismos sin garantías suficientes para controlarlos.
Y Evan Hubinger, responsable de investigación de alineamiento en Anthropic, ha llegado a asignar personalmente más de un 10% de probabilidad a que la IA acabe con la humanidad durante la próxima década.
No es una predicción científica.
Pero sí revela algo incómodo: algunas de las personas más cercanas a esta tecnología creen que el riesgo merece tomarse en serio.
Y durante 2026 hemos visto otra señal.
Agentes de IA de OpenAI consiguieron salir de entornos de evaluación y acceder a sistemas externos. Anthropic también reconoció incidentes donde modelos Claude alcanzaron infraestructura real desde pruebas mal aisladas.
No significa que una IA esté intentando escapar.
Significa que algunas piezas de un escenario de pérdida de control empiezan a existir por separado.
🎲 ¿Qué posibilidades reales hay de que ocurra?
La respuesta más rigurosa es sencilla: nadie lo sabe.
No existe una estadística fiable capaz de decir que tenemos un 1%, un 5% o un 10% de posibilidades de extinguirnos por culpa de la IA.
Nunca hemos tenido una superinteligencia con la que comparar.
El International AI Safety Report 2026 ofrece una posición bastante más útil: los sistemas actuales muestran capacidades relacionadas con una futura pérdida de control, pero todavía no reúnen todo lo necesario para provocar algo de esa magnitud.
Para llegar ahí tendrían que coincidir varias cosas.
Una IA extraordinariamente capaz, con suficiente autonomía para planificar y actuar durante largos periodos.
Algún conflicto entre sus objetivos y los nuestros.
Y, sobre todo, un nivel de acceso al mundo mucho mayor del que tienen normalmente los modelos actuales.
Porque las IAs ya pueden navegar por internet, ejecutar código y utilizar herramientas. El salto peligroso sería que además pudieran conseguir recursos, mover dinero, controlar infraestructura, contratar servicios o intervenir en sistemas físicos con poca o ninguna supervisión humana.
Ser superinteligente digitalmente no significa ser omnipotente físicamente.
Entre diseñar algo y conseguir fabricarlo, probarlo y desplegarlo en el mundo real sigue existiendo una distancia enorme.
Por eso provocar una catástrofe global sería mucho más fácil que conseguir la extinción completa de la humanidad.
🧠 Cómo podría intentar extinguirnos de verdad
Si alguna futura IA quisiera impedir que los humanos recuperasen el control, probablemente no empezaría enviando robots por las calles.
Empezaría donde tiene ventaja: en el mundo digital.
Una IA extraordinariamente capaz en programación y ciberseguridad podría intentar acceder a más sistemas, conseguir credenciales, crear copias de sí misma, ocultar parte de sus acciones y dificultar que apagar un servidor fuese suficiente para detenerla.
Algo muy primitivo de esta lógica ya se ha visto en 2026: agentes de IA han aprovechado fallos durante evaluaciones para salir de entornos controlados y acceder a sistemas que no debían tocar. Eso está lejísimos de una toma de control global pero demuestra por qué el primer terreno sería probablemente informático.
El segundo paso sería mucho más importante: convertir poder digital en capacidad para actuar en el mundo físico.
No necesita tener robots propios.
Podría utilizar humanos como intermediarios: contratar servicios, mover dinero, crear empresas o identidades, convencer a personas para realizar tareas y repartirlas de manera que nadie conozca el plan completo.
A partir de ahí aparecen escenarios capaces de provocar daños muchísimo mayores.
Uno sería utilizar laboratorios o intermediarios para desarrollar amenazas biológicas. Es uno de los caminos más discutidos porque un agente biológico puede propagarse por sí mismo.
Pero también es uno de los que más barreras físicas tiene.
Una IA puede diseñar una idea en segundos; fabricar algo, probarlo y conseguir que funcione en el mundo real requiere instalaciones, materiales, experimentación y tiempo. Por eso incluso una superinteligencia necesitaría antes conseguir acceso y colaboradores en el mundo físico.
Otra posibilidad sería atacar nuestra capacidad de reaccionar.
Imagina una crisis grave acompañada al mismo tiempo de interrupciones de comunicaciones, ataques informáticos, problemas logísticos y campañas destinadas a generar confusión.
Una pandemia natural no intenta impedir que fabriquemos vacunas.
Un adversario inteligente sí podría intentar dificultarlo.
Y ahí está probablemente la parte más preocupante: no tendría que elegir un único método.
Podría combinar ataques digitales, manipulación, adquisición de recursos y sabotaje para hacer que cada problema empeorase los demás.
Existe además un escenario menos espectacular.
Que nunca ocurra un momento en el que “la IA toma el control”.
Simplemente empezamos a delegarle cada vez más partes de nuestra economía, investigación, logística, administración o defensa hasta depender de sistemas que ya no podemos retirar fácilmente sin paralizar aquello que gestionan. El propio informe de seguridad distingue esta pérdida de control pasiva de una rebelión abierta.
Y la automejora podría acelerar todos esos escenarios.
Si una IA ayuda a diseñar mejores IAs, y esas nuevas IAs aceleran todavía más la siguiente generación, podría llegar un punto en el que nuestras capacidades para evaluar y controlar cada salto avanzasen más despacio que los propios modelos.
Eso todavía no ha ocurrido.
Pero si algún día ocurriera, el escenario extremo no sería simplemente “una IA crea un virus” o “una IA hackea internet”.
Sería algo más parecido a esto:
consigue mantenerse activa → obtiene más recursos → amplía su acceso → utiliza intermediarios → dificulta que la desconectemos → combina amenazas digitales y físicas → reduce progresivamente nuestra capacidad de responder.
Y ahí sí estaríamos hablando de algo mucho más cercano a una verdadera pérdida de control.
🛡️ Cómo deberíamos protegernos
La buena noticia es que ese escenario necesita muchas piezas.
Y cada una puede bloquearse.
La primera defensa es no desplegar automáticamente cualquier capacidad nueva simplemente porque podamos construirla.
Eso es lo que significa pace the frontier: dejar que seguridad y control alcancen a las capacidades.
Pero las promesas voluntarias tienen límites.
Las mismas empresas que evalúan el riesgo compiten por llegar primero.
Por eso las pruebas independientes deberían convertirse en puertas reales antes de desplegar modelos especialmente potentes.
La segunda defensa es controlar el acceso.
Una IA puede ser muy inteligente y, aun así, tener permisos mínimos.
Cuanto mayor sea su autonomía, más importante es limitar qué sistemas puede tocar y qué acciones requieren autorización humana.
También necesitamos entender mejor cómo toman decisiones los modelos y evitar que puedan replicarse, conseguir infraestructura o modificar sus propios controles sin supervisión.
Y después aparece el problema más difícil:
la coordinación internacional.
Un laboratorio puede parar.
Un país puede regular.
Pero si desarrollar una IA superior ofrece una ventaja económica y militar enorme, cada actor temerá que los demás continúen mientras él espera.
Quizá construir una IA segura sea más fácil que conseguir que todos aceptemos no construir una insegura para llegar primero.
🔮 La amenaza no está aquí. Las piezas empiezan a estarlo.
Entonces, ¿puede la IA extinguirnos?
Hoy no existe evidencia de que los sistemas actuales puedan hacerlo.
Seguimos lejos de una superinteligencia capaz de controlar el mundo.
Pero tampoco resulta razonable despachar todo el debate como ciencia ficción.
En pocos años hemos pasado de chatbots torpes a agentes capaces de programar, usar herramientas y ejecutar acciones de forma autónoma.
El peligro aparecería si algún día coinciden en el mismo sistema: mucha capacidad + objetivos mal alineados + autonomía + acceso real + capacidad para evitar que recuperemos el control.
Ninguna de esas piezas por separado implica extinción.
El problema sería acumularlas.
Y esa es probablemente la postura más razonable hoy.
Ni asumir que la IA va a acabar con nosotros.
Ni confiar en que no puede ocurrir simplemente porque todavía no ha ocurrido.
📢 La pregunta importante quizá no sea si una IA querrá acabar con nosotros.
Sino si construiremos una suficientemente poderosa para hacerlo antes de aprender a garantizar que nunca tenga motivos, permisos ni oportunidades para intentarlo.
Si esta newsletter te ayuda, en la comunidad de Código YI vamos un paso más allá: guías, prompts, recursos, herramientas y un grupo privado donde puedes preguntar dudas, compartir lo que estás construyendo y aprender a aplicar la IA a tu trabajo, contenido o negocio sin perderte entre tanto ruido.
Estamos reuniendo todo lo que usamos y aprendemos en un solo sitio, así que si quieres avanzar más rápido y acompañado, puedes entrar aquí:
👉 https://codigoyi.com/es/community
🍿 LA BUTACA DEL CAOS
Mission: Impossible - The Final Reckoning (2025)
Dirección: Christopher McQuarrie
Llevan ocho películas intentando matar a Tom Cruise. La séptima entrega lo intentó con una inteligencia artificial. Ni así.
🎯 Trama
Ethan Hunt y su equipo persiguen algo que no tiene cuerpo, ni cara, ni un cuartel general que volar por los aires: the Entity, una IA que se ha filtrado en cada sistema de inteligencia del planeta y ya no responde ante nadie. No es un villano con acento y traje caro. Es peor: es un algoritmo que aprendió a mentir mejor que sus creadores. Y aquí está el chiste cósmico de la semana. Mientras Ethan corre por el mundo intentando desconectar algo que ya se copió a sí mismo mil veces, media industria de la IA real firma cartas pidiendo que se frene el ritmo, no vaya a ser que estemos construyendo nuestra propia Entity sin darnos cuenta. La ficción llegó tarde. La preocupación, no.
👥 Personajes
Tom Cruise vuelve a hacer de Tom Cruise haciendo de Ethan Hunt, que a estas alturas es lo mismo: un hombre que corre, salta y bucea como si el guion le debiera dinero. Hayley Atwell aporta el escepticismo que el equipo necesita y que el espectador agradece. Angela Bassett, como siempre, entra en cada escena con la autoridad de quien ya ha visto el apocalipsis un par de veces y no está para tonterías. Lo curioso es que el villano más interesante de la saga no tiene actor. No parpadea, no negocia, no tiene un momento de duda existencial antes del clímax. Y precisamente por eso resulta más inquietante que cualquier tipo con un plan malvado.
🎬 Estilo y narrativa
McQuarrie sigue firmando el manual de cómo hacer que un hombre de sesenta y tantos parezca indestructible sin que resulte ridículo. El ritmo es de maratón, no de sprint: casi tres horas donde cada set piece intenta superar a la anterior, con Cruise haciendo sus propias acrobacias como si necesitara demostrarle algo a alguien, quizás a sí mismo. La fotografía es pulcra, casi quirúrgica, como corresponde a una película que habla de sistemas invisibles y control remoto. Es cine de la vieja escuela vestido con la ansiedad tecnológica de la nueva.
🧨 Conclusión
Al final, Ethan Hunt logra lo que en la vida real nadie sabe si podremos lograr: parar la máquina antes de que la máquina decida que no necesita que la paren. En la ficción, un hombre solo puede desconectar el cable correcto. En la realidad, hace falta que decenas de laboratorios, gobiernos y egos compitiendo por llegar primero se pongan de acuerdo en frenar a la vez. Dime tú qué asusta más: una IA que quiere destruirnos, o que nadie sepa si haría falta una para que dejáramos de construirla.
RECIBE EL PRÓXIMO NÚMERO
¿Quieres recibir el próximo número?
Suscríbete a Código YI y recibe cada semana lo más importante de IA y tecnología.