Anthropic acusó a Alibaba de operar 25 000 cuentas falsas para extraer casi 29 millones de conversaciones de Claude, y luego llevó las pruebas a la Casa Blanca. Ese fue apenas el primer disparo de una semana que los laboratorios pasaron en guerra con todos, incluidos ellos mismos: robándole a Google sus mejores mentes de Gemini, viendo cómo desconocidos anónimos abrían de par en par sus propias herramientas para desarrolladores y con la fecha límite europea de divulgación de agosto encima. ¿El giro? Las únicas empresas que esta semana ganan dinero de forma limpia venden memoria y silicio, no modelos.

Descubre todo AI Weekly

Más señal, menos ruido. Elige tus canales.

Estás leyendo el resumen semanal. Abajo tienes las demás formas de seguir la actualidad de la IA: todas gratis y fáciles de dejar.

  • → Explora los 16 deep dives
    Newsletters semanales por tema: IA generativa, Machine Learning, IA en los negocios, Robótica, Investigación de vanguardia, Geopolítica, Salud y mucho más.
    Explora los 16 deep dives →
  • → Alertas de IA de última hora
    Cuando salta una noticia importante (una adquisición de 60 000 millones de dólares, la reunión de urgencia de un regulador, la filtración de un modelo de vanguardia), los suscriptores de alertas se enteran en cuestión de horas. En promedio 0 a 2 correos al día.
    Recibir alertas de última hora →
  • → Actualidad IA (en vivo)
    Panel en vivo que se actualiza a medida que el escáner encuentra noticias: noticias puntuadas de las últimas 48 horas, entidades que más se mueven cada semana y líneas de tendencia trimestrales de 113 empresas, personas y temas de IA.
    Ver Actualidad IA →

Quick Hits

La era de los gladiadores de los laboratorios

  • Anthropic acusa a Alibaba del mayor ataque de destilación jamás dirigido contra Claude — En una carta a la Casa Blanca y a senadores de EE. UU., Anthropic afirma que operadores vinculados al laboratorio Qwen de Alibaba usaron unas 25 000 cuentas fraudulentas para ejecutar casi 29 millones de intercambios contra Claude entre abril y junio, cosechando de forma sistemática sus capacidades más valiosas, la ingeniería de software y el razonamiento agéntico, mediante lo que denomina "destilación adversaria". Es la primera vez que Anthropic señala públicamente a un gran gigante tecnológico chino como origen de una campaña de robo de modelos. [CNBC]
  • Google pierde a su cerebro de Gemini frente a Anthropic: cuatro salidas de peso en seis días — Jonas Adler y Alexander Pritzel, ambos considerados internamente piezas clave de Gemini, están a punto de marcharse a Anthropic, apenas días después de que John Jumper, de DeepMind, hiciera lo mismo y de que Noam Shazeer se fuera a OpenAI. Google puede igualar el salario; lo que no puede igualar es el equity previo a la salida a bolsa de una startup a punto de cotizar. Anthropic no solo está contratando personas: está comprando el conocimiento de cómo funciona el modelo insignia de Google. [TechCrunch]

La cadena de suministro de la IA bajo asedio

  • Un solo pull request anónimo puede secuestrar más de 300 de los mayores repositorios de código del mundo — Los investigadores de Novee Security escanearon unos 30 000 repositorios de GitHub de alto impacto y encontraron más de 300 explotables por completo por cualquier usuario sin autenticar con una cuenta gratuita, un patrón que denominan "Cordyceps". En el repositorio Azure Sentinel de Microsoft, un comentario anónimo en un pull request podía ejecutar código y robar una clave de GitHub App sin caducidad; en los ejemplos del AI Agent Dev Kit de Google, un único PR malicioso otorgaba la propiedad total del proyecto en la nube vinculado. Apache, Cloudflare y la Python Software Foundation también están afectados. [The Hacker News]
  • Un post de 13 palabras en Reddit puede envenenar en silencio las respuestas de IA de ChatGPT y Google — Investigadores de Cornell demostraron que un fragmento de apenas 13 palabras, colocado en Reddit, Wikipedia o Quora, puede dirigir de forma fiable a los agentes de búsqueda con IA para que repitan spam o contenido fraudulento. La exposición es estructural: los modos de investigación profunda detrás de ChatGPT y Google citan páginas generadas por usuarios en cerca de la mitad de sus respuestas, y alrededor de un cuarto de todas sus citas provienen de ese contenido. Compartido esta semana por 11 de los expertos en IA que seguimos. [404 Media]

El año en que los gobiernos se pusieron serios

  • La ley europea de transparencia en IA entra en vigor el 2 de agosto: todo chatbot y deepfake deberá declararlo — A partir del 2 de agosto, el Artículo 50 de la Ley de IA de la UE obliga a los proveedores a avisar a los usuarios cuando están hablando con una IA, y a quienes la despliegan a etiquetar como artificiales las imágenes, el audio, el video y los textos de interés público generados o manipulados con IA. Se aplica a todo sistema generativo, no solo a los de alto riesgo, y las directrices preliminares que acaba de publicar la Comisión son el manual que las empresas tienen semanas para implementar. [European Commission]
  • Un bot de IA inundó a los reguladores del aire de California con comentarios públicos falsos, y ganó — Decenas de miles de correos que se oponían a un plan para eliminar de forma gradual las calderas y los calentadores de agua a gas llegaron al distrito de calidad del aire del sur de California, muchos de ellos generados por una plataforma de IA operada por un consultor vinculado a una firma cuyos clientes incluyen a la matriz de la empresa local de gas. La junta desechó el plan; ahora 22 funcionarios estatales y locales piden al fiscal general que investigue. [GovTech]

El impuesto del capex de la IA

  • Se suponía que la IA iba a acabar con los empleos de ingeniería. Los datos dicen lo contrario — El informe State of Talent de SignalFire concluye que la contratación de ingeniería en las grandes tecnológicas ha caído apenas un 11 % desde 2019, frente a una caída del 25 % en todos los puestos, y que los ingenieros representan ahora el 55 % de las contrataciones de esas empresas, frente al 46 % anterior. Son a quienes más rápido se contrata y quienes menos renuncian. El "apocalipsis del código por IA" no ha llegado; el apretón está cayendo sobre todos los que rodean a los ingenieros. [TechCrunch]
  • La IA va por los 11 millones de 'empleos puente' que no exigen un título — Un nuevo análisis de Opportunity@Work y Brookings advierte que 11 millones de "empleos puente" en EE. UU., los puestos de atención al cliente, administrativos y de coordinación que permiten a los trabajadores sin un título universitario de cuatro años ascender a la clase media, son ahora los más expuestos a la automatización con IA. Mientras los laboratorios de vanguardia perdonan a los ingenieros senior, la escalera que tienen debajo es la parte que están retirando. [Opportunity@Work]

La fiebre del oro paga a los que venden las palas

Mientras los laboratorios pasaron la semana acusándose de robo y quitándose personal unos a otros, las empresas que de verdad están capitalizando el boom de la IA apenas aparecieron en portada.

Micron acaba de registrar su mejor trimestre de la historia: 41 500 millones de dólares en ingresos y un margen bruto récord del 84,9 %, con su memoria de alto ancho de banda, la pieza que necesita todo acelerador de IA, prácticamente agotada y más de 1 000 millones de dólares de la HBM4 de nueva generación ya despachados. Proyectó 50 000 millones de dólares para el próximo trimestre. Qualcomm, durante mucho tiempo una empresa de chips para teléfonos, aprovechó su día del inversor para fijar un objetivo de ventas de 15 000 millones de dólares en centros de datos para 2029 y presentar una CPU de servidor de 250 núcleos, con Meta como su primer cliente confirmado. Y, según se informa, SambaNova está levantando hasta 1 000 millones de dólares con una valoración cercana a los 10 000 millones, cinco veces lo que valía en febrero.

El contraste con los fabricantes de modelos es la noticia. Esa misma semana, 404 Media documentó un "Tokenpocalypse", una de las lecturas más compartidas de la semana entre los expertos en IA que seguimos: empresas como Uber que queman todo un presupuesto anual de IA en meses y luego limitan el acceso de sus empleados a herramientas como Claude Code. Los laboratorios siguen buscando una ganancia duradera. Quienes les venden memoria y silicio ya la encontraron.

Puntos clave

  • El robo de modelos es ahora el frente principal de la guerra entre laboratorios. Anthropic no está demandando a un rival en los tribunales: le está diciendo al Congreso que un gigante extranjero industrializó la copia de Claude, mientras le arrebata a Google a las personas que saben cómo funciona Gemini. El foso son los datos de entrenamiento y el talento, y ambos están bajo ataque directo.
  • Aquello sobre lo que construyes la IA es el blanco fácil. En una sola semana, desconocidos anónimos pudieron secuestrar más de 300 repositorios de código de primer nivel y 13 palabras de Reddit pudieron torcer las respuestas de ChatGPT. Las herramientas y los datos que alimentan a los agentes de IA son mucho más fáciles de envenenar que los propios modelos.
  • La divulgación se convierte en ley justo cuando manipular al público se vuelve trivial. Europa exigirá que todo chatbot y deepfake se identifique el 2 de agosto, la misma semana en que un bot de IA inclinó en silencio una decisión regulatoria en EE. UU. con comentarios falsos. Las reglas y el abuso llegan a la vez.
  • El dinero seguro está en el medio de la pila. La memoria y el silicio están agotados con márgenes récord mientras los laboratorios limitan el presupuesto de IA de su propio personal, y, hasta en el mercado laboral, la IA perdona a los ingenieros senior mientras amenaza los 11 millones de empleos puente que tienen debajo.

Vale la pena leer

Wait, What?

  • El celebrado "avance" cuántico de Microsoft podría ser un error básico de Python — Una nueva crítica en Nature del físico de St Andrews Henry Legg sostiene que el resultado sobre cúbits topológicos que sustenta la hoja de ruta de Microsoft hacia una "computadora cuántica en funcionamiento para 2029" se apoya en datos omitidos, gráficos selectivos y errores de código, y que un conjunto de datos más completo se parece más a ruido aleatorio que a una prueba. Microsoft dice que mantiene sus resultados. [Slashdot]
  • Si la IA es consciente, entonces "Age of Empires II" también lo es — Mientras los laboratorios contratan en silencio a filósofos para debatir sobre la conciencia de las máquinas, 404 Media ofrece el reductio: un investigador construyó una red neuronal funcional a partir de cabras digitales dentro del juego de estrategia de 1999. Si un chatbot puede ser consciente, según el argumento, también puede serlo la IA del juego, y, ya puestos, también Microsoft Word. Compartido esta semana por 8 de los expertos en IA que seguimos. [404 Media]

La encuesta de esta semana

Anthropic dice que Alibaba industrializó el robo de Claude y lo llevó a Washington. ¿De quién es este problema, en realidad?

— Alexis