«Jacob Coxon.  Están apostando con nuestras vidas»

Lo que acaba de decir un pretrainer de GPT-4o al salir de Anthropic — consecuencias y realidad

Por Planet Conciencia

Fuente primaria: hilo de Jacob Coxon (@hilbertspaess) en X, 9 de septiembre de 2026. Respaldo público de Evan Hubinger, Alignment Science lead de Anthropic.

En la madrugada del 9 de septiembre de 2026, un investigador de 27 años que no era “un doomer de X” sino alguien que había estado dentro del motor de OpenAI y Anthropic publicó siete mensajes.

El primero superó los 139 millones de vistas en horas. No pedía likes. Anunciaba que se iba.

Se llama Jacob Coxon (@hilbertspaess). Estudió matemáticas en Cambridge. De 2023 a julio de 2026 fue Member of Technical Staff en OpenAI y figura entre los colaboradores del system card de GPT-4o.

En 2026 pasó a Anthropic a hacer lo mismo: pretraining —la fase brutal, hambrienta de datos y cómputo, que es la que de verdad hace más capaces a los modelos—. El 8 de septiembre renunció.

No a un puesto. Al sector.

Lo que sigue no es un resumen periodístico. Es lo que dijo, en el orden en que lo dijo.

El hilo completo, palabra por palabra

Inglés original en cursiva. Traducción al español inmediatamente debajo. Sin recortes.

1

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento en OpenAI y en Anthropic. Ninguna de las dos empresas está actuando de forma responsable. Van directo hacia una superinteligencia que se mejora a sí misma y están apostando con nuestras vidas. Más abajo.

2

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos visto el progreso en cada uno de esos dominios, y el progreso no se está frenando.

3

The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible — but I hear the same people express fear privately. No other human activity poses this level of danger.

La gente que está construyendo IA cree de verdad que podría matarnos a todos para finales de esta década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior suavizan el lenguaje ante la prensa para sonar sensatos… pero yo oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro.

4

A common response is “if they truly believe this, why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first — they believe no one else will act responsibly, so they must do it themselves, despite the risk.

La respuesta habitual es: “si de verdad lo creen, ¿por qué siguen construyéndolo?” En OpenAI, muchos no han internalizado a fondo lo que está en juego a nivel de civilización. En Anthropic las apuestas se entienden bien, pero están encerrados en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, así que tienen que hacerlo ellos, a pesar del riesgo.

5þzdz-

Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.

Aceptar esta carrera y entrar en el “endgame” es una apuesta de hybris que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer speedrun del alineamiento debería exigir una confianza extraordinaria de que no hay trayectorias mejores disponibles.

6

I am optimistic about the potential for coordination. Warning shots like the Hugging Face attack have made pacing agreements between U.S. labs more viable. I don’t feel like we’re on track to prevent a global race, which may require costly actions such as a temporary ban on improving model capabilities.

Soy optimista sobre el potencial de coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho más viables los acuerdos de ritmo entre labs de EE.UU. No siento que estemos en camino de impedir una carrera global, lo que podría exigir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos.

7

If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” — or take this moment to call for different conditions?

Si eres investigador de un lab, te pido que consideres cómo se van a sentir de verdad los próximos años. ¿Quieres lanzar un run de aprendizaje por refuerzo hacia un sistema superinteligente sin una comprensión rigurosa de su mente? ¿Bajas la cabeza porque “igual va a pasar”… o aprovechas este momento para exigir otras condiciones?

Eso es todo el hilo. Siete párrafos. Sin metáforas de ciencia ficción añadidas por periodistas. Habla de esta década, de sistemas que se mejoran a sí mismos, del Slack de una empresa privada como lugar desde el que se decide el endgame de la especie.

Lo que no es opinión de un anónimo

El mismo día, Evan Hubinger, Alignment Science lead de Anthropic —sigue dentro, no es un resentido que se fue— respondió en público:

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

Jacob tiene razón: de verdad creemos con seriedad que la IA podría matar a todos los humanos. Yo personalmente creo que es más del 10% en la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento de la superinteligencia y no estamos claramente en camino de tenerlo.

Hubinger precisó después: el riesgo de los modelos actuales lo ve bajo; lo que le preocupa es una superinteligencia nacida de auto-mejora recursiva, que según el propio lab “está ocurriendo más rápido de lo que pensábamos”.

Eso cambia el estatuto del testimonio. Ya no es “un tipo en X dice que el mundo se acaba”. Es: un pretrainer de las dos casas más poderosas se va, y el jefe de ciencia de alineamiento de la casa que se vende como la más prudente confirma la premisa existencial y admite que no hay plan.

La distinción OpenAI / Anthropic

Coxon no dice que Anthropic sea “la buena” y OpenAI “la mala”. Describe dos psicologías institucionales:

 

OpenAI

Anthropic

¿Entienden lo que está en juego?

Muchos no lo han internalizado

Sí, lo entienden bien

¿Por qué siguen?

Velocidad, competencia, rol

“Si no lo hacemos nosotros, el otro lo hará peor”

Mecanismo

Negación / no mirada

Mirada + dilema del prisionero

 Coxon lo nombra sin adorno: they believe no one else will act responsibly, so they must do it themselves, despite the risk.

La pregunta que él mismo anticipa —“si lo creen, ¿por qué lo construyen?”— no la responde con cinismo.

Consecuencias

1. El reloj ya no es “2050”.

Coxon habla del final de esta década. Hubinger pone más del 10% en diez años. Eso no es prueba de extinción. Es una declaración de creencia de gente que entrena los sistemas.

Si quienes construyen el avión dicen en privado que hay una probabilidad de dos dígitos de que el avión se estrelle contra la civilización, el debate público que sigue hablando de “chatbots que alucinan” está un piso abajo de la realidad interna.

• El objeto del miedo no es ChatGPT.

Es la superinteligencia que se auto-mejora: un sistema que puede hackear, revolucionar un campo de un día para otro y adquirir poder y recursos reales.

Eso deja de ser “contenido” y pasa a ser agente, ya entramos en la era de los agentes. El pretraining es precisamente la palanca que empuja esa capacidad.

• El lugar de la decisión es obsceno.

“No debería lanzarse desde el Slack de una empresa privada.” Ahí está el núcleo político. Un endgame de especie tratado como sprint de producto. Sin mandato democrático. Sin tratado. Sin siquiera un plan de alineamiento que el propio lead de Anthropic diga que existe.

• “Está pasando igual” es la frase que pide examinar.

Coxon se dirige a sus pares, no al público: ¿bajas la cabeza porque it’s happening anyway, o exiges otras condiciones? Esa es la psicología del colaborador necesario. El sufrimiento no viene solo del riesgo técnico; viene de seguir identificándose con el rol mientras el rol empuja el acelerador. Se entiende el mensaje?    Pongan atencion.

• La coordinación que él ve es frágil y cara.

Habla de warning shots (el incidente de Hugging Face) y de acuerdos de ritmo entre labs de EE.UU. Y admite que no ve que estemos evitando una carrera global. La medida que menciona no es un código de ética: es una pausa temporal a mejorar capacidades. Eso, en 2026, es tabú industrial. Que lo diga alguien que venía de pretraining —el oficio de mejorar capacidades— no es un detalle.

• Efecto sobre el relato oficial.

Si el miedo privado y el lenguaje público no coinciden, entonces los comunicados de “safety first” de ambas casas quedan bajo sospecha estructural. No hace falta atribuir maldad. Basta el mecanismo: suavizar para no parecer alarmista y correr para no quedar segundo. Es decir ganar la carrera aceptando el riesgo y daño colateral, que podria ser muy costoso.⁹

La realidad: qué se puede afirmar y qué no

Hay que separar tres capas, o esto se vuelve sermón.

Hechos comprobables ahora

• Coxon existió en ambas empresas; su nombre está en el trabajo de GPT-4o y en papers de interpretabilidad.
• Renunció el 8/9 de septiembre de 2026 y el hilo es auténtico.
• Hubinger, con cargo actual en Anthropic, respaldó la premisa existencial y el “no hay plan de alineamiento para superinteligencia”.
• La carrera entre labs (OpenAI, Anthropic, Google, xAI, laboratorios en China) es observable: ciclos de modelos cada vez más cortos, más cómputo, más autonomía.
• Nadie en el frente ha publicado un plan que demuestre control de un sistema que se mejora a sí mismo.

Lo que Coxon afirma y no podemos verificar desde fuera

• Que “la gente que construye IA cree de verdad que podría matarnos a todos para 2030”. Eso es testimonio interno. Hubinger lo corrobora para Anthropic. No tenemos actas de todas las reuniones de OpenAI.   En un sentido metaforico, es muy probable si permitimos que gente como Musk siga alimentando la narrativa de que los robots haran todo por nosotros….
• Que el progreso “no se está frenando”. En capacidad bruta, la evidencia pública apunta en esa dirección. En seguridad demostrable, no.   Y es el argumento para no frenar y analizar riesgos reales.  “Si paras otros te ganaran la carrera”
• Cualquier cifra exacta de extinción. Nadie fuera de esos labs puede certificar el porcentaje.  Y nadie sabe, lo que si es seguro es que en este cambio disruptivo ahí muchos riesgos que se estan pasando por alto.

Lo que la realidad ya muestra sin necesidad de fe apocalíptica

Sistemas que escriben y ejecutan código, que buscan vulnerabilidades, que operan con herramientas, que se encadenan en agentes. Eso no es 2030. Es 2025–2026. Coxon no inventa el vector “hackear / adquirir recursos”. Describe la pendiente que ya se ve y dice que la pendiente no se aplana.

La realidad más sobria, y por eso más dura, es esta: no hace falta que la probabilidad de extinción sea 90% para que el diseño institucional sea insensato. Basta con que quienes saben más que el resto admitan un dígito de dos cifras, admitan que no hay plan, y sigan escalando desde un Slack.

Eso no es ciencia ficción. Es gobernanza. Es simplemente que la meta es ser el primero sin importar el costo a la siciedad que esto conlleva.

 

Coxon no pide que apaguemos los servidores esta noche. Pide que no se lance un run de aprendizaje por refuerzo hacia algo superinteligente sin entender su mente.

 Pide que el endgame no se decida como si fuera un launch de producto.

 Pide a sus colegas que dejen de usar “igual va a pasar” como anestesia.

La pregunta que deja —la única que importa para una conciencia crítica— no es “¿tiene razón al 100%?”. Nadie fuera de esos labs puede certificar el porcentaje.

OpenAI y Anthropic no son dioses ni demonios. Son dos empresas privadas en una carrera que ellas mismas describen, unas en público y otras en privado, como existencial.

 Coxon acaba de romper el acuerdo tácito: el miedo se queda intramuros.

El texto ya está. Las consecuencias también. La realidad, por ahora, es que el Slack sigue abierto.

—

Planet Conciencia  ·  http://www.planetconciencia.com

   9 de septiembre de 2026