Lo que la salida a bolsa de Anthropic revela sobre la seguridad en IA

Por Turing Post (FOD#173) · lunes, 26 de octubre de 2026.

El editorial de esta edición sostiene que la seguridad en IA es, en la práctica, una fachada, y toma como prueba la preparación de la salida a bolsa de Anthropic. La autora recuerda que en 2023 escribió sobre Anthropic, fundada por antiguos miembros de OpenAI con la seguridad en el centro del desarrollo de IA. Tres años después, la compañía prepara lo que podría ser la mayor salida a bolsa de la historia. La autora vuelve a fijarse en las personas que se marchan.

El texto cita varias salidas. Thariq Shihipar y Anthony Morris, dos de los responsables de Claude Code, anunciaron su marcha justo antes de la presentación del folleto. Shihipar dijo que se tomaba un descanso "antes de lanzarse a algo nuevo", y Morris dijo que compartiría pronto sus planes. El investigador Jacob Coxon se fue antes de que se consolidaran sus acciones y advirtió sobre la velocidad de la carrera de la IA. Joe Benton dejó el equipo de seguridad de Anthropic para unirse a un evaluador independiente. Benton afirma que la competencia empuja a las empresas de frontera a invertir poco en seguridad, porque quedarse atrás sale demasiado caro.

El editorial pasa después a las decisiones de la propia empresa. La Responsible Scaling Policy original prometía pausar el entrenamiento o el despliegue al alcanzar ciertos umbrales de capacidad si faltaban las salvaguardas necesarias. En febrero Anthropic sustituyó ese compromiso por una versión nueva (v3) y añadió medidas de transparencia. Argumentó que detenerse en solitario, mientras competidores menos prudentes seguían adelante, podría dejar el mundo menos seguro. La autora lo considera hipócrita: Anthropic construyó su identidad sobre los peligros de una carrera de IA descontrolada y, al decidir que no podía ser la única en frenar, reescribió su promesa. Ahora pide al público que financie la siguiente etapa, y nada le impide reescribir cualquier otra promesa.

Las cifras financieras del folleto son llamativas. Los ingresos pasaron de 41 millones de dólares en 2023 a 16.300 millones en el primer semestre de 2026, y el segundo trimestre arrojó 974 millones de dólares de beneficio operativo. Su dependencia de los clientes cambia de forma: los cinco mayores clientes aportaron cerca del 36% de los ingresos en el primer trimestre y alrededor del 21% en el tercero. Las ventas a través de marketplaces de nube crecieron del 11% de los ingresos en 2023 al 48% en el primer semestre de 2026.

Anthropic no nombra a esos cinco clientes. El editorial señala a Cursor como candidato plausible: su cofundador lo llamó el mayor cliente de Anthropic en 2025, y Semafor informó en junio de 2026 de que seguía entre los mayores. También menciona a Microsoft y Meta. Según se ha informado, Microsoft había previsto gastar más de 1.000 millones de dólares en su propio uso de Claude en 2026 y luego recortó esa previsión en más de un tercio. Meta habría gastado más de 105 millones de dólares en Claude Code en un solo periodo de 28 días.

Según el texto, estas relaciones se complican rápido. Cursor pertenece ahora a SpaceX, cuya división de IA compite con Anthropic y a la vez le suministra capacidad de cómputo. Amazon, Google y Microsoft invierten en Anthropic, le venden cómputo, distribuyen Claude y construyen modelos competidores. Anthropic se ha comprometido a pagar al menos 110.000 millones de dólares a Amazon hasta 2036 y unos 114.500 millones a Google hasta 2033, aunque use menos cómputo del previsto. Los clientes pueden reducir su gasto, pero esas facturas seguirán llegando.

Esa presión se extiende a las reglas para los clientes. Anthropic estima que entre el 5% y el 7% de sus ingresos de los primeros nueve meses de 2026 procedieron de clientes que después descubrió que incumplían su política de uso o sus términos comerciales. Detectar e investigar las infracciones lleva tiempo, y la empresa ingresa dinero de esos clientes antes de restringirles o cancelarles el acceso. Anthropic admite que seguir aplicando las normas podría reducir ingresos y crecimiento futuros. Con compromisos tan grandes, decir que no a un cliente tiene un precio.

Las reglas pesan aún más cuando el cliente es el Gobierno. Anthropic rechazó la exigencia del Pentágono de poner Claude a disposición para todos los usos legales, y mantuvo restricciones sobre la vigilancia masiva de estadounidenses y la guerra letal autónoma. Para entonces ya había hecho excepciones para usos gubernamentales que negaba a clientes privados, entre ellos el diseño de armas y las operaciones cibernéticas ofensivas.

La pregunta de fondo es quién decide qué riesgos se aceptan, qué clientes reciben excepciones y dónde se traza la línea, justo cuando la empresa se dispone a vender acciones al público. La autora vincula esto con su texto de 2023, en el que analizó los lazos de Anthropic con el altruismo eficaz y su ambición de hacer el máximo bien, y se pregunta quién decide qué es "bueno" y cómo.

Sobre la gobernanza, el editorial detalla varios puntos. Los siete fundadores se han comprometido a donar el 80% de su participación a filantropía, aunque el compromiso es revocable. Una acción especial les da el 50,1% de los votos en asuntos generales de los accionistas. Un fideicomiso independiente elige a la mayoría del consejo, pero su acción especial puede retirarse pese a la oposición de los fideicomisarios con los votos requeridos de fundadores, empleados y accionistas de clase A. El propio consejo fijará sus criterios para medir el beneficio público.

La conclusión es que la carrera de la IA es real y Anthropic es una de las empresas que la impulsan. La compañía ha reconocido la presión de sus competidores y ha debilitado su promesa de pausar cuando faltan salvaguardas. Según la autora, quienes vivirán las consecuencias necesitan un modo de intervenir antes de que se lance un modelo peligroso, y ella no confía en que Anthropic tome esa decisión por los demás.

El resumen inicial de la newsletter anuncia además otros temas: el Dessa de Block, que aprende directamente de la conversación humana, robots que aprenden de experiencia compartida y un modelo del mundo que ayuda a los robots a actuar mejor aunque sus predicciones parezcan peores. La agenda semanal de Turing Post incluye un análisis de Flint de Recursive (miércoles), una guía sobre DeepSeek en abierto (viernes) y una biblioteca de fuentes sobre Harness (domingo). La edición enlaza también un vídeo sobre DeepSeek y una selección de la Twitter Library sobre modelos de "System One".