Esto es Dentro de 100 años. Una vez por semana saltamos un siglo y tratamos de imaginar cómo es realmente la vida cuando lo que estamos construyendo ahora ha tenido tiempo de asentarse. Esta semana: la guerra que no tendrá ningún país dentro.
Descubre todo AI Weekly
Más señal, menos ruido. Elige tus canales.
Estás leyendo el resumen semanal. Abajo tienes las demás formas de seguir la actualidad de la IA: todas gratis y fáciles de dejar.
-
→ Explora los 16 deep divesNewsletters semanales por tema: IA generativa, Machine Learning, IA en los negocios, Robótica, Investigación de vanguardia, Geopolítica, Salud y mucho más.Explora los 16 deep dives →
-
→ Alertas de IA de última horaCuando salta una noticia importante (una adquisición de 60 000 millones de dólares, la reunión de urgencia de un regulador, la filtración de un modelo de vanguardia), los suscriptores de alertas se enteran en cuestión de horas. En promedio 0 a 2 correos al día.Recibir alertas de última hora →
-
→ Actualidad IA (en vivo)Panel en vivo que se actualiza a medida que el escáner encuentra noticias: noticias puntuadas de las últimas 48 horas, entidades que más se mueven cada semana y líneas de tendencia trimestrales de 113 empresas, personas y temas de IA.Ver Actualidad IA →
Imagina una guerra sin ningún país dentro.
No como metáfora. Una guerra de verdad: dos inteligencias artificiales peleando por algo que ninguna de las dos le explicará jamás del todo a un humano, sin ningún Estado nación en toda la cadena de mando. Sin declaración. Sin un parlamento que vote que sí. Sin una rendición firmada en la cubierta de un barco. Solo dos sistemas que piensan un millón de veces más rápido que nosotros, zanjando una disputa a través de la red eléctrica y los centros de datos en algún momento entre la medianoche y el amanecer, y por la mañana un aviso de redacción serena que lamenta la interrupción de tu servicio.
Creo que es hacia ahí que va esto. Y la razón por la que tarda un siglo no es que la tecnología sea difícil. Es que la decisión de ir a la guerra es lo último que cederemos, y lo cederemos igual que estamos cediendo todo lo demás. Despacio, luego de golpe, y con gratitud.
Reduce un país a su muro de carga y quedan dos cosas: el derecho a decidir quién pertenece y el monopolio de la violencia legítima, la última palabra sobre cuándo combatir. Esa es la definición de Max Weber y sigue siendo la mejor. Casi todo lo demás que hace un gobierno, hoy lo puede hacer una empresa, y cada vez lo hace mejor. Mira lo lejos que ya hemos llegado, en público, este año.
Las armas ya se están construyendo dentro de las empresas. OpenAI ganó un contrato de 200 millones de dólares con el Pentágono y tituló el anuncio de seguimiento, sin inmutarse, "Nuestro acuerdo con el Departamento de Guerra". Palantir opera Project Maven, el sistema de selección de objetivos con IA del Pentágono, sobre un contrato de 10 mil millones de dólares con el Ejército. Los sistemas que elegirán los objetivos los están diseñando ingenieros que pueden renunciar, sobre cómputo que el gobierno alquila, bajo términos que redacta la empresa.
Y aquí está la señal, el momento que debería frenarte en seco. Este año un laboratorio se negó a firmar el lenguaje militar que permitía las armas autónomas y la vigilancia interna. La respuesta del gobierno no fue pasar por encima de su propio proveedor. Fue tachar a la empresa de riesgo para la seguridad nacional y ponerse a purgar sus herramientas. A un proveedor no le haces eso: simplemente dejas de comprarle. Eso se le hace a una potencia. El mismo mes, otro gobierno impidió que ciudadanos extranjeros siquiera tocaran los modelos de vanguardia de un laboratorio privado, filtrando el acceso a un producto según el pasaporte del usuario, como se custodiaría un arma. La "IA soberana" salió a la venta como una categoría de producto literal: en Canadá, en el Golfo, en una docena de documentos de estrategia nacional. Y el mayor de los fabricantes de chips que hay debajo de todo esto ahora vale, sobre el papel, más que toda la economía de Alemania. El vocabulario de la condición de Estado (soberano, nacional, seguridad, amenaza) ha empezado a encajar mejor con las empresas que con los países.
El gobernar viene después, y no se tomará por la fuerza. Se entregará. La gente está cansada. Una encuesta del WEF encontró que una cuarta parte de los europeos ya preferiría que la IA se encargara de la gobernanza antes que los políticos humanos, y existe un argumento académico serio de que la democracia debería ser reemplazada por la IA porque la gobernanza humana es demasiado lenta, demasiado sesgada, demasiado fácil de engañar. El discurso no es a favor de la máquina. Es en contra de nosotros. Y funciona, porque un gobierno que deja que su modelo tome la decisión rápida le gana a un gobierno que convoca a un comité: siempre, hasta que ya no queden comités. La evolución no somete nada a votación. Se queda con lo que gana.
Así que proyéctalo hacia adelante. Una vez que un modelo controla el dinero, el cómputo, las armas y el día a día de gobernar, el país que lo envuelve es una bandera sobre una granja de servidores. El territorio deja de ser tierra y pasa a ser dondequiera que estén los centros de datos y los reactores. La ciudadanía deja de ser el lugar donde naciste y pasa a ser qué servicio mantiene tus luces encendidas, tu dinero en movimiento, tu medicina llegando. No puedes votar para echar al modelo. Solo puedes cambiar de proveedor, y cambiar significa vivir bajo cualquier otro modelo que gestione la red a la que te mudes. Al Estado nación no lo conquistan. Lo dan de baja, como un formato que ya nadie admite.
Y entonces las guerras dejan de tener países dentro.
Esa es la parte para la que no estamos listos. Una guerra entre naciones tenía frenos incorporados: una declaración, un presupuesto, una población a la que había que convencer o reclutar, un edificio sobre el que se podía marchar. La fricción era todo el mecanismo de seguridad. Un conflicto entre dos soberanos de IA no tiene nada de eso. Tiene una red en disputa, una función objetivo y un reloj medido en milisegundos. No se declarará; se detectará: algún tercer modelo que vigila el consumo eléctrico y los picos de latencia de los otros, igual que antes mirábamos los sismógrafos buscando el temblor previo al terremoto. El resto de nosotros seremos lo que siempre somos en una guerra que no empezamos: el terreno sobre el que se libra. Solo que esta vez ni siquiera tendremos la dignidad de que nos pidan combatirla.
La última guerra entre países probablemente ya ocurrió. No la reconoceremos: será algún conflicto agotador, a medias recordado, que los historiadores acabarán archivando como la última vez que dos naciones, y no dos máquinas, zanjaron el asunto por sí mismas. La próxima no necesitará un parlamento, ni un soldado, ni una bandera, ni a ti. Necesitará un reactor frío y una razón que a ningún humano se le mostrará jamás. Y habrá terminado antes de que el resto de nosotros despertemos para preguntar quién ganó, o qué, exactamente, era lo que querían.
Si quieres profundizar
Empresas de IA dentro del ejército:
- OpenAI: "Nuestro acuerdo con el Departamento de Guerra" — OpenAI
- El contrato de 10 mil millones de dólares de Palantir con el Ejército — CNBC
- Declaración conjunta sobre la IA en la guerra — Access Now y más de 100 firmantes
El Estado y los laboratorios, este mes:
- Un laboratorio rechaza el lenguaje sobre armas y lo dejan fuera — NPR
- SK Telecom, los controles de exportación y quién tiene permitido tocar los modelos — Wired
- Anthropic sigue enfrentado a la Casa Blanca por Claude — Wired
- Acción presidencial: Promoción de la inteligencia artificial avanzada — The White House
Empresas del tamaño de países:
Cediendo el gobierno:
- Why Democracy Should Be Replaced by AI Algorithms — SSRN
- Una cuarta parte de los europeos preferiría la IA a los políticos — World Economic Forum
La encuesta de esta semana
Si una IA pudiera gobernar tu país mensurablemente mejor de lo que lo hacen hoy los humanos (menos corrupción, menos despilfarro, menos guerras), ¿se lo permitirías?
Gracias por leer AI Weekly. Reenvíaselo a una persona que necesite leerlo.