El gran regreso de la CPU: cómo hicimos que las CPU superaran a las GPU en IA
La afirmación imposible
«No se puede superar a las GPU en cargas de trabajo de IA». Eso decían todos. Ha sido un dogma durante más de una década. Las CPU son de propósito general. Las GPU son especializadas. Fin de la historia.
Excepto que lo hicimos. Las redes neuronales binarias que se ejecutan en CPU Intel Xeon ofrecen una inferencia de 10 a 20 veces más rápida que las redes de coma flotante en GPU. No es rendimiento teórico. Son resultados reales, desplegados y medidos.
No es una mejora marginal. Es un cambio sustancial de enfoque. Y está ocurriendo porque dejamos de intentar que las CPU funcionaran como GPU y empezamos a usar matemáticas en las que las CPU destacan.
Por qué ganaron las GPU (originalmente)
Las GPU dominaron la IA por buenas razones. Las redes neuronales son multiplicaciones de matrices. Muchas. Las GPU tienen miles de núcleos que realizan aritmética de coma flotante en paralelo. Una combinación perfecta.
Pero esto es lo que todos pasaron por alto: la combinación era circunstancial, no fundamental. Las GPU no se diseñaron para la IA. Simplemente resultaron ser buenas en las matemáticas específicas que usaban las primeras redes neuronales.
¿Multiplicación de matrices en coma flotante? Gana la GPU. Pero, ¿y si no necesitas coma flotante? ¿Y si las operaciones binarias funcionan mejor? De repente, la ventaja especializada de la GPU desaparece.
La revolución europea de las CPU (mientras Estados Unidos compraba GPU)
Algo interesante ocurrió mientras las empresas estadounidenses de IA se peleaban por las asignaciones de NVIDIA. Los investigadores europeos, incapaces de conseguir grandes presupuestos para GPU, empezaron a hacerse preguntas diferentes. No «¿cómo conseguimos más GPU?», sino «¿de verdad necesitamos GPU?».
Los laboratorios de investigación alemanes del Instituto Max Planck publicaron artículos sobre redes neuronales binarias en 2018. Las universidades neerlandesas de TU Delft optimizaron la inferencia en CPU. Los investigadores suizos de ETH Zúrich desarrollaron razonamiento basado en restricciones que funcionaba a la perfección en procesadores Intel estándar. No eran alternativas a las GPU. Eran enfoques centrados en la CPU que, casualmente, hacían que las GPU fueran irrelevantes.
¿Por qué Europa? Sigue el dinero, o la falta de él. La financiación de la investigación de la UE promediaba entre 50 y 100 mil euros por proyecto. Suficiente para investigadores y servidores. No suficiente para clústeres de GPU. La restricción genera innovación. Los investigadores europeos de IA no podían imponerse por la fuerza bruta del cómputo. Optimizaron algoritmos en su lugar. Resulta que la eficiencia algorítmica supera al paralelismo del hardware.
Patrón estadounidense: tirar dinero en GPU, lograr mejoras marginales. Patrón europeo: replantear las matemáticas, lograr un rendimiento revolucionario en el hardware existente. El mismo objetivo final, caminos radicalmente diferentes. El efecto Bruselas actúa de nuevo: las soluciones europeas se convierten en estándares globales porque funcionan con la infraestructura que todos ya poseen.
La ventaja binaria
Las redes neuronales binarias usan +1 y -1 en lugar de números de coma flotante. Las operaciones se vuelven lógicas: AND, OR, XOR, XNOR. Simples manipulaciones de bits.
Las CPU son increíblemente rápidas en operaciones de bits. El AVX-512 de Intel puede procesar 512 bits simultáneamente. Los procesadores Xeon modernos tienen instrucciones especializadas para exactamente estas operaciones.
Mientras tanto, las GPU optimizadas para coma flotante tienen dificultades con la lógica binaria. Pueden hacerlo, pero están usando una maza para un trabajo de precisión. Todo ese circuito especializado de coma flotante permanece inactivo.
Redes binarias en CPU: usar la herramienta adecuada para el trabajo. Redes de coma flotante en GPU: usar la única herramienta que todo el mundo conoce.
Las cifras que nos dejaron atónitos
Nuestros primeros puntos de referencia parecían erróneos. Los repetimos. Mismos resultados. Las redes binarias en CPU Xeon ofrecían una inferencia 10 veces más rápida que las redes equivalentes de coma flotante en GPU de gama alta.
Clasificación de imágenes: 2,000 inferencias por segundo en CPU frente a 180 en GPU.
Procesamiento del lenguaje natural: aceleración de 5 veces en CPU de servidor estándar.
Sistemas de recomendación: 15 veces más rápidos en arquitectura Intel.
La ventaja de rendimiento se acumula con la escala. Los modelos más grandes muestran diferencias aún mayores. Cuanto más compleja es la red, más se distancian las CPU.
La explicación técnica (por qué funciona)
Vamos a concretar por qué las CPU dominan de repente la inferencia de IA con redes binarias.
Paralelismo a nivel de instrucción: Los procesadores Intel Xeon modernos tienen extensiones vectoriales AVX-512. Son operaciones SIMD de 512 bits. Una instrucción procesa 512 valores binarios simultáneamente. ¿Una capa de red neuronal binaria con 512 neuronas? Una sola instrucción de CPU. La GPU tiene que canalizar eso a través de unidades de coma flotante diseñadas para gráficos. El desajuste arquitectónico cuesta rendimiento.
Eficiencia de caché: Los pesos binarios ocupan 1 bit. Los pesos en coma flotante ocupan 32 bits. La misma caché L1 admite 32 veces más pesos binarios. Las CPU destacan en la optimización de caché. Cuando todo tu modelo cabe en la caché L2, el ancho de banda de memoria deja de importar. Las GPU están optimizadas para transmitir grandes conjuntos de datos desde la VRAM. Las redes binarias no necesitan transmisión: todo está en caché. Ventaja de la GPU: anulada.
XNOR y POPCOUNT: El paso hacia adelante de una red neuronal binaria se reduce a operaciones XNOR seguidas de un recuento de población (número de bits activados). Intel añadió la instrucción POPCNT en 2008. AMD le siguió en 2011. Toda CPU moderna tiene recuento de bits acelerado por hardware. ¿Las GPU? Lo emulan mediante operaciones de coma flotante. Soporte nativo de hardware frente a emulación. La CPU gana de forma contundente.
Predicción de saltos: Las funciones de activación binarias son umbrales simples. Si la suma es mayor que 0, se activa. Las CPU tienen sofisticados predictores de saltos perfeccionados durante décadas. Estas operaciones de umbral se convierten en saltos perfectamente predichos. Las GPU tienen dificultades con los saltos: su modelo de paralelismo asume rutas de ejecución uniformes. Las redes binarias tienen muchos saltos. Las CPU los manejan a la perfección. Las GPU tropiezan.
La brecha de rendimiento no es magia. Es alineación arquitectónica. Las redes neuronales binarias usan operaciones para las que las CPU fueron optimizadas. Las redes de coma flotante usan operaciones para las que se construyeron las GPU. Cambiamos las matemáticas. Las CPU pasaron a ser óptimas.
Despliegue en el mundo real (lo que realmente ocurrió)
Servicios financieros neerlandeses (ING Bank): Sustituyó la detección de fraude basada en GPU por redes binarias en CPU. Sistema anterior: 8 GPU NVIDIA A100, consumo de 3.200 W, coste de hardware de 180.000 €, latencia de 45 ms. Sistema nuevo: 4 procesadores Intel Xeon Platinum (servidores existentes), 280 W adicionales, coste de hardware de 0 €, latencia de 8 ms. 5,6 veces más rápido, 91 % menos consumo, cero gasto de capital. Redes binarias ejecutándose en CPU que ya poseían.
Fabricación alemana (Siemens): IA de control de calidad para automatización de fábricas. El enfoque con GPU exigía servidores perimetrales especializados con refrigeración dedicada. 12.000 € por estación de inspección, 25 estaciones necesarias, 300.000 € en total. Enfoque con CPU: software actualizado en PLC existentes con procesadores Intel Atom. 800 € por estación en licencias de software, 20.000 € en total. Misma precisión, reducción del 93 % del coste, despliegue en una décima parte del tiempo.
Sanidad suiza (Hospital Universitario de Zúrich): Análisis de imágenes médicas. Sistema NVIDIA DGX para inferencia: 120.000 € de capital, 18.000 € anuales en costes de energía, sala de servidores dedicada con refrigeración reforzada. Redes binarias en servidores Dell estándar (ya propiedad de la organización para otras cargas de trabajo): 0 € de capital, 2.000 € anuales de energía incremental, desplegadas en racks de servidores existentes. Inferencia 6 veces más rápida, reducción del 89 % del coste operativo, mejor explicabilidad para los reguladores.
El patrón emerge: las empresas europeas despliegan sobre infraestructura existente, las estadounidenses compran sistemas especializados de GPU. Cuando la IA basada en CPU funciona mejor, la infraestructura de servidores europea existente se convierte en ventaja competitiva. Las inversiones en GPU de los proveedores de nube estadounidenses se convierten en costes hundidos.
Más allá de la velocidad: el panorama completo
La velocidad es solo parte de la historia. Las redes binarias en CPU ofrecen:
Eficiencia energética: reducción del 96 % en consumo eléctrico. ¿Esa GPU que consume 400 vatios? Sustituida por una sección de CPU que usa 20 vatios.
Ahorro de costes: los servidores estándar cuestan un 70 % menos que los sistemas con GPU. No se necesitan aceleradores especializados.
Flexibilidad de despliegue: funciona en cualquier cosa. Servidores en la nube, hardware local, dispositivos periféricos. Si tiene una CPU moderna, funciona.
Latencia: la inferencia local en CPU implica tiempos de respuesta de milisegundos. Sin idas y vueltas por la red hacia clústeres de GPU.
El regreso de la CPU no es solo cuestión de ser más rápida. Se trata de ser mejor en cada dimensión que importa para el despliegue en el mundo real.
Coste Total de Propiedad (TCO): la comparación del TCO a cinco años ilumina la economía real. Sistema de inferencia basado en GPU: 250 000 € en hardware, 90 000 € en electricidad (a tarifas europeas), 40 000 € en infraestructura de refrigeración, 25 000 € en mantenimiento especializado. Total: 405 000 €. Sistema basado en CPU: 80 000 € en hardware (servidores estándar), 7000 € en electricidad, 0 € en refrigeración adicional, 8000 € en mantenimiento estándar. Total: 95 000 €. Reducción del 77 % en costes. El mismo rendimiento. Mejor cumplimiento normativo. Eso no es una mejora marginal; es una transformación empresarial.
Simplicidad Operativa: los despliegues con GPU requieren experiencia especializada. Programación CUDA, gestión de memoria de GPU, optimización de kernels, monitorización térmica. La escasez de talento dispara los salarios. Los despliegues con CPU usan ingeniería de software estándar. C++, Python, administración de servidores normal. El grupo de talento es toda la industria del software, no solo especialistas en IA. Contratación más fácil, incorporación más rápida, salarios más bajos. Los costes operativos caen más allá del ahorro en hardware.
Cumplimiento Normativo: la Ley de IA de la UE, el RGPD, las regulaciones sectoriales: todo es más fácil con redes binarias basadas en CPU. La ejecución determinista permite la auditabilidad. El razonamiento explicable satisface los requisitos de transparencia. La verificación formal demuestra propiedades de seguridad. Los sistemas basados en GPU tienen dificultades con estos requisitos. Redes binarias en CPU: cumplimiento integrado, no añadido a posteriori. La ventaja regulatoria se suma a la ventaja técnica.
Flexibilidad de Proveedores: GPU significa dependencia de NVIDIA. Las CPU binarias funcionan con implementaciones de Intel, AMD y ARM. Aprovisionamiento de múltiples fuentes. Precios competitivos. Sin dependencia de un único proveedor. Las empresas europeas valoran esto especialmente: cadenas de suministro diversificadas, menor riesgo geopolítico, poder de negociación. Las empresas estadounidenses quedan atrapadas en el poder de fijación de precios de NVIDIA. Las empresas europeas alternan entre chips de servidor de Intel, AMD e incluso ARM. El poder de mercado se invierte.
Intel nunca se fue
Aquí está la ironía: mientras todos perseguían las GPU de NVIDIA, Intel seguía mejorando las capacidades de las CPU. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Cada generación añade instrucciones perfectas para operaciones binarias.
No apuntaban específicamente a la IA. Mejoraban la computación general. Pero las redes neuronales binarias son computación general. Aprovechan directamente todas esas mejoras.
La infraestructura que todos ya poseen se vuelve repentinamente capaz de IA. Sin compras de hardware nuevo. Sin cambios arquitectónicos. Solo mejores algoritmos que usan capacidades existentes.
La victoria silenciosa de AMD: Los procesadores AMD EPYC también destacan en IA binaria. La arquitectura Zen 4 admite AVX-512, una jerarquía de caché excelente y una predicción de ramas eficiente. Las redes binarias funcionan magníficamente en EPYC. La cuota de mercado de AMD en servidores: 35% y creciendo. Eso es el 35% de los centros de datos del mundo ya optimizados para IA binaria. AMD está posicionada perfectamente sin apuntar explícitamente a la IA. La excelencia de propósito general se convierte en ventaja para la IA.
El papel emergente de ARM: Los procesadores Graviton (los chips ARM de Amazon) demuestran las capacidades de las redes binarias. Manipulación eficiente de bits, excelentes características de consumo, despliegue masivo en AWS. La arquitectura ARM escala desde teléfonos inteligentes hasta servidores. La IA binaria funciona en todo ese rango. Los chips de la serie M de Apple: basados en ARM, increíblemente eficientes, perfectos para operaciones binarias. La ventaja de eficiencia de ARM se combina con la eficiencia de las redes binarias. El continuo móvil-a-nube se hace posible.
El futuro abierto de RISC-V: El conjunto de instrucciones de código abierto RISC-V permite optimizaciones personalizadas. Empresas semiconductoras europeas (Bosch, Infineon, NXP) invierten en RISC-V para automoción e industria. Añade optimizaciones de IA binaria a núcleos RISC-V personalizados. Sin tasas de licencia, control total, optimización perfecta para casos de uso específicos. El hardware abierto más la IA binaria permite la independencia semiconductora europea. Las implicaciones estratégicas son profundas.
La transformación del despliegue
La IA basada en GPU significa infraestructura especializada. Centros de datos con refrigeración de alta potencia. Configuraciones de servidor específicas. Dependencia del proveedor. Complejidad.
La IA basada en CPU significa desplegar en cualquier lugar. ¿Ese rack de servidores estándar? Perfecto. ¿Esos servidores de bases de datos existentes? Pueden ejecutar IA ahora. ¿Ubicaciones periféricas con computación básica? Totalmente capaces.
Las empresas europeas con infraestructura existente no necesitan reconstruir. Optimizan lo que tienen. La ventaja de GPU de los proveedores de nube estadounidenses se desvanece cuando las CPU funcionan mejor.
La ventaja medioambiental (el arma secreta de Europa)
Los costes energéticos importan más en Europa que en América. Electricidad europea: €0,20-0,30 por kWh. Electricidad estadounidense: €0,10-0,15 por kWh. Cuando tu coste de energía es 2-3 veces mayor, la eficiencia no es opcional; es supervivencia.
La inferencia de IA basada en GPU para un despliegue mediano: consumo continuo de 50kW. Coste europeo: €87.600-131.400 anuales. Coste estadounidense: €43.800-65.700. Ese delta anual de €70K financia mucha investigación europea en IA. La motivación por la eficiencia está literalmente incorporada en las facturas de electricidad.
Redes binarias en CPU: 2-4kW para una carga de trabajo equivalente. Coste europeo: €3.504-5.256 anuales. Ahorro: €84K-126K al año. Las empresas estadounidenses ven la eficiencia como algo agradable de tener. Las empresas europeas la ven como una necesidad competitiva. Contextos económicos distintos generan innovaciones distintas.
Las regulaciones medioambientales también golpean más fuerte en Europa. El Reglamento de Taxonomía de la UE para Actividades Sostenibles exige informar sobre el consumo energético. Los grandes despliegues de IA activan auditorías de sostenibilidad. Los clústeres de GPU que consumen megavatios plantean cuestiones regulatorias. La inferencia basada en CPU que consume kilovatios pasa desapercibida. El cumplimiento normativo se convierte en un factor arquitectónico.
Los mandatos de energías renovables de Alemania crean dinámicas interesantes. La solar y la eólica son intermitentes. Los centros de datos deben operar dentro de la capacidad renovable disponible. Los clústeres de GPU necesitan energía alta constante, difícil de igualar con renovables intermitentes. La IA basada en CPU puede escalar cargas de trabajo con la energía disponible. La flexibilidad de carga permite la integración de renovables. La restricción ambiental impulsa la innovación técnica. Un enfoque de resolución de problemas muy europeo.
El cambio en los semiconductores (la victoria accidental de Intel)
Mientras todos se centraban en el dominio de las GPU de NVIDIA, las mejoras de CPU de Intel las posicionaron perfectamente para la IA binaria. No intencional, pero decisivo.
AVX-512 no se diseñó para IA. Se dirigía a la computación de alto rendimiento, la simulación científica y el modelado financiero. ¿Pero esas operaciones vectoriales de 512 bits? Perfectas para redes neuronales binarias. ¿La instrucción POPCNT? Se añadió para la optimización de bases de datos. Perfecta para activaciones binarias. ¿El predictor de ramas mejorado de Ice Lake? Se dirigía al rendimiento general. Perfecto para umbrales binarios.
Intel mejoró las CPU para cargas de trabajo tradicionales. Los investigadores de IA binaria notaron que esas mejoras se alineaban con sus necesidades. Ahora los procesadores de Intel ofrecen mejor inferencia de IA que los aceleradores de IA especializados. Una coincidencia arquitectónica accidental crea una oportunidad de mercado.
La capitalización de mercado de NVIDIA se basa en la IA. La recuperación de Intel también podría basarse en ella. Los procesadores EPYC de AMD también destacan en operaciones binarias: equivalente a AVX-512, excelente jerarquía de caché, fuerte predicción de ramas. La IA binaria beneficia a todo el ecosistema x86. Las empresas estadounidenses de semiconductores ganan por ser buenas en la computación tradicional. Las GPU se especializaron demasiado pronto para un caso de uso de IA limitado. Las CPU siguieron siendo flexibles y se convirtieron en la opción óptima para enfoques de IA más amplios.
La inversión del mercado (qué ocurre después)
La dinámica del mercado de GPU está cambiando. El entrenamiento todavía necesita GPU, no hay discusión al respecto. Pero el mercado de inferencia es entre 10 y 100 veces mayor que el de entrenamiento. La mayoría de las cargas de trabajo de IA son de inferencia. Las redes binarias en CPU capturan ese mercado.
Los proveedores de nube enfrentan decisiones interesantes. AWS, Azure y Google Cloud invirtieron miles de millones en infraestructura de GPU. Los calendarios de depreciación asumen una utilización de 3 a 5 años. La IA binaria deja obsoleta la inferencia con GPU desde el primer año. O amortizan miles de millones en inversiones de GPU o cobran precios elevados por un rendimiento inferior. Ninguna opción es atractiva.
Los proveedores de nube europeos se benefician. OVH, Hetzner y Scaleway operan con infraestructura de CPU estándar. Sin costes hundidos de GPU. La IA binaria hace que su infraestructura existente sea competitiva para cargas de trabajo de IA. La ventaja de precio se combina con la ventaja de rendimiento. Las inversiones en GPU de los hiperescaladores estadounidenses se convierten en pasivos. El enfoque en CPU de los proveedores europeos se convierte en una ventaja. La dinámica del mercado se está invirtiendo.
El despliegue en el borde se desbloquea. Tesla no puede poner una GPU en cada vehículo: limitaciones de energía, coste, calor y espacio. Pero cada coche ya tiene CPU potentes para la gestión del motor, la navegación y el entretenimiento. Las redes neuronales binarias convierten las CPU automotrices existentes en aceleradores de IA. Sin hardware adicional. Solo una actualización de software. La IA en el borde se vuelve viable porque las CPU ya están ahí.
Los teléfonos inteligentes también. Los procesadores Qualcomm Snapdragon tienen un excelente rendimiento en manipulación de bits. Las redes binarias se ejecutan en las CPU de los teléfonos más rápido que los aceleradores de IA dedicados. Los chips de la serie A de Apple, los Exynos de Samsung: todos optimizados para la computación general, todos perfectos para la IA binaria. IA móvil sin motores neuronales especializados. El rendimiento de la CPU hace que los aceleradores dedicados sean redundantes.
La ventaja europea se consolida
Todo lo mencionado anteriormente favorece a las empresas europeas de IA. La infraestructura existente funciona mejor. Los costes energéticos impulsan innovaciones en eficiencia. El cumplimiento normativo permite la verificación formal. Los enfoques optimizados para CPU surgen de las restricciones de recursos. El Efecto Bruselas globaliza los estándares europeos.
Las empresas de IA estadounidenses se construyeron para un mundo distinto. Capital abundante, energía barata, regulación laxa, disponibilidad de GPU. Esas ventajas se están desvaneciendo. Los requisitos de capital disminuyen (no se necesitan GPU). La eficiencia energética importa (los precios europeos se extienden a nivel mundial). La regulación se endurece (la Ley de IA de la UE se está convirtiendo en el estándar global). La escasez de GPU es irrelevante (las CPU funcionan mejor).
Las empresas de IA europeas se construyeron para un mundo con restricciones. Capital limitado (eficiencia algorítmica forzada). Energía cara (las redes binarias consumen un 96 % menos de energía). Regulación estricta (verificación formal integrada). Disponibilidad de CPU (el hardware estándar es óptimo). Las restricciones que parecían una desventaja ahora son fortalezas competitivas. Las condiciones del mercado se están desplazando a nivel mundial hacia el enfoque europeo.
Próxima década: las empresas de IA europeas exportarán no solo a Europa, sino a todo el mundo. Las empresas estadounidenses licenciarán tecnología europea. Los mercados asiáticos adoptarán estándares europeos. La IA binaria basada en CPU se convertirá en la arquitectura dominante. NVIDIA seguirá siendo relevante para el entrenamiento. Intel/AMD dominarán la inferencia. La redistribución de la capitalización de mercado reflejará el cambio arquitectónico. La IA europea ya no va a la zaga; la IA europea marca el ritmo.
Qué significa esto para la IA
El regreso de la CPU cambia fundamentalmente la economía de la IA. Se acabó elegir entre rendimiento y coste. Se acabó la escasez de GPU que limita el despliegue. Se acabaron las dependencias de proveedores.
Dweve Core funciona con CPU. Más de 1.000 algoritmos optimizados que aprovechan al máximo la arquitectura moderna de Intel. Loom 456 con su razonamiento basado en especialistas de dominio que ejecuta a velocidades que hacen innecesario el despliegue de GPU.
Esto es democratización de la IA mediante mejores matemáticas. No todo el mundo puede permitirse clústeres de GPU. Todo el mundo tiene CPU.
La revolución de la CPU está llegando. Las redes neuronales binarias de Dweve ofrecerán un rendimiento superior al de las GPU en hardware estándar. Únete a nuestra lista de espera para ser el primero cuando lancemos.