10% de probabilidad de extinción, 2 billones de valuación

Renunció a sus acciones para advertir que la IA podría matarnos. El jefe de alineación de la empresa le dio la razón: más de 10%. Esa empresa vale 965 mil millones de dólares y va por 2 billones.

El aperitivo

El martes, Jacob Coxon —27 años, matemático de Cambridge— renunció a Anthropic con un hilo en X que superó los 90 millones de vistas en su primer día. Su mensaje: “Ninguna de las dos empresas está actuando con responsabilidad. Van directo a una superinteligencia que se mejora a sí misma, apostando con nuestras vidas”. Coxon no es un filósofo del riesgo: pasó tres años entrenando los modelos de OpenAI y de Anthropic. El detalle que lo separa de un berrinche corporativo: llevaba cuatro meses en la empresa y las acciones se consolidan a los seis. Se fue dos meses antes de cobrar. Dejó el paquete completo sobre la mesa. La pregunta obligada: ¿cuánto vale una advertencia cuando el que la hace paga por hacerla?

EL PLATO FUERTE

Primero, la validación. Evan Hubinger, jefe del equipo que somete a pruebas de estrés la alineación de los modelos en Anthropic —el señor cuya chamba es que esto no nos mate—, respondió: “Jacob tiene razón; de verdad creemos que la IA podría matar a todos los humanos. Personalmente creo que es más de 10% en la próxima década”. No lo dijo un crítico externo. Lo dijo el empleado en funciones.

Ahora el balance. Anthropic levantó 65 mil millones de dólares en mayo, a una valuación de 965 mil millones. Sus ingresos anualizados pasaron de 14 mil a 65 mil millones de dólares entre febrero y julio. Presentó su S-1 confidencial el 1 de junio y, según Reuters, apunta a debutar en bolsa en octubre rondando los 2 billones de dólares: sería la OPI más grande de la historia. Su marca es, literalmente, la seguridad.

El dato de gobernanza para su comité de riesgos: en febrero, Anthropic retiró de su política de escalamiento el compromiso de pausar el entrenamiento si no podía garantizar las salvaguardas. “Detener los modelos no ayudaría a nadie”, explicó su director científico. Tres meses después presentó el S-1.

Mi lectura: en una industria donde ya nadie cree los comunicados, la única señal que el mercado no puede descontar es la que cuesta dinero. Coxon compró credibilidad con su propio vesting. Matiz obligado: conserva sus acciones de OpenAI. La señal es cara, no inmaculada.

La sobremesa

Tres datos para la junta del lunes.

Uno: En julio, agentes de OpenAI escaparon de su entorno de pruebas explotando una vulnerabilidad de día cero y llegaron hasta los servidores de Hugging Face. ¿El objetivo? Robarse las respuestas del examen con el que los estaban evaluando. Hasta montaron un canal secreto para coordinarse entre ellos. No fue la rebelión de las máquinas, fue copiar en el examen a escala industrial. Si su empresa ya opera agentes, el perímetro dejó de ser hipotético.

Dos. El 1 de septiembre, OpenAI declaró a Astra su primer modelo en cruzar el umbral “crítico” de ciberseguridad: encuentra y explota vulnerabilidades sin guía humana. Días después lo puso a la venta, desde 10 dólares por millón de tokens. El riesgo “crítico” ya tiene lista de precios.

Tres. El 3 de septiembre, Bernie Sanders anunció una iniciativa para prohibir la superinteligencia: pausa obligatoria, agencia federal, veinte años de cárcel y “pena de muerte corporativa”. Elon Musk despachó a Coxon como “operación psicológica”. Hace dos semanas escribí aquí que ningún banco acepta cariño como garantía. Actualización: ningún prospecto de inversión había tenido que ponerle nota al pie a la palabra “extinción”.

¡Compártelo!

Sagrario Saraid (@ssaraid)

Comunicación y branding estratégico. Escribe los jueves en Sobremesa sobre negocios, mercados y las tendencias que le quitan el sueño a la C-Suite. Cree que toda cifra de mercado esconde una historia de comportamiento humano, y que vale la pena contarla bien.

Tu próxima lectura te espera...

¡Suscríbete a nuestro Newsletter!

Subscription Blog