Un modelo de 35.000 millones de parámetros dentro del coche: por qué importa el modo sin conexión

Quien haya usado un asistente de voz al volante conoce el momento: el coche entra en un túnel, un garaje subterráneo o una carretera de montaña, la señal cae y el asistente que respondía un segundo antes se queda callado. Ninguna lista de funciones sobrevive a ese fallo. La AI Box de PATEO, anunciada el 3 de noviembre de 2026, apunta exactamente a ese problema poco vistoso y muy real.

En lugar de sustituir el controlador principal del vehículo, añade a su lado una unidad de cálculo modular construida sobre NVIDIA DRIVE AGX Thor. Es una decisión tan pesada como el modelo: el fabricante no tiene que rediseñar toda la arquitectura electrónica por una mejora de IA, y los programas ya avanzados pueden incorporarla sin empezar de cero.

Dentro corren dos cargas: Nemotron 3.5 ASR de NVIDIA para el reconocimiento de voz en tiempo real y el modelo lingüístico Doubao de ByteDance para la comprensión y el razonamiento contextual, una mezcla de expertos de unos 35.000 millones de parámetros. Voz que entra, significado que sale, con el bucle cerrado en el habitáculo y sin conexión celular.

Meter 35.000 millones de parámetros en un coche no es solo un problema de cálculo punta. DRIVE AGX Thor ofrece hasta 1.000 INT8 TOPS y 273 GB/s de ancho de banda de memoria, y PATEO subraya precisamente lo segundo: a medida que la conversación se alarga, la caché de clave-valor crece y lo que se estrangula primero es el ancho de banda, no los TOPS. Un chip con buena puntuación pero poca banda empieza a rezagarse a mitad de frase, justo cuando el conductor deja de fiarse.

La arquitectura de mezcla de expertos no es decoración: en lugar de activar todos los parámetros en cada petición, encamina la entrada a un subconjunto especializado, reduce el cálculo por consulta y conserva la profundidad de un modelo denso que exigiría servidor. Para un habitáculo que debe controlar consumo y calor, activar bajo demanda se acerca más a la ingeniería real que apilar rendimiento bruto.

Sin conexión no significa rechazar la nube. Es una estratificación: despertar, reconocimiento, controles de climatización y razonamiento básico quedan en local; actualizaciones de modelo, software y servicios ampliados siguen en red. La conectividad pasa de interruptor a capa de mejora. La plataforma Agent fusiona voz, cámara orientada al conductor y sensores del vehículo, detecta signos de fatiga y puede proponer ventilación o masaje sin esperar una orden. Un fabricante de vehículos de nueva energía ya ha emitido una nominación de producción en serie para el segundo trimestre de 2027, y PATEO estudia además facturar el cálculo por tokens. Los riesgos son físicos, consumo, calor en un coche al sol y coste trasladado al precio. Para quien conduce, el estándar es simple: se puede terminar la frase dentro del túnel.