Apple da un gran paso en la carrera de la IA con el lanzamiento del nuevo Mac Studio M3 Ultra, que permite configuraciones de memoria unificada de hasta 512GB. Analizamos si es un buen equipo para ejecutar LLM en local.
Este equipo se presenta como una solución para el desarrollo y la ejecución de modelos masivos de IA, como DeepSeek V3/R1, gracias a su capacidad de memoria unificada y un precio más asequible en comparación con otras opciones del mercado.
En el contexto actual, donde el desarrollo de modelos de IA requiere más memoria y potencia, la oferta de Apple representa un cambio importante en la industria. Tradicionalmente, los centros de datos y los investigadores han dependido de soluciones de NVIDIA y AMD para entrenar y ejecutar modelos avanzados. Estas opciones suelen tener un coste muy elevado, lo que limita el acceso a esta tecnología a empresas con grandes presupuestos.
Con el M3 Ultra, Apple ofrece una alternativa más accesible y eficiente en términos de precio por gigabyte de memoria y de consumo energético. Si bien su capacidad de memoria es mayor que muchas opciones de NVIDIA y AMD, al usar una arquitectura de memoria unificada RAM/VRAM, el rendimiento en IA no solo depende de la cantidad de memoria, sino también del ancho de banda y la potencia de cálculo. En estos aspectos, NVIDIA y AMD siguen siendo superiores para cargas de trabajo de IA a gran escala y sobre todo en configuraciones en clúster.
Más memoria, pero un reto en el ancho de banda
A pesar de su capacidad de memoria, el M3 Ultra tiene un problema en términos de ancho de banda de memoria, es decir, la cantidad de datos que pueden transferirse por segundo entre la memoria y el procesador. Este parámetro es importante para el rendimiento de modelos de IA, ya que afecta la velocidad de acceso a los datos almacenados. El M3 Ultra tiene un ancho de banda de memoria de aproximadamente 800 GB/s, mientras que soluciones como la NVIDIA H100 superan los 3 TB/s, lo que puede afectar su rendimiento en modelos de IA que dependen de una alta velocidad de transferencia de datos.
Privacidad y protección de datos: una ventaja clave
Una de las principales ventajas es la posibilidad de ejecutar modelos de IA de código abierto directamente en el dispositivo, sin depender de servidores externos. Esto significa que los usuarios pueden trabajar con modelos como Llama, DeepSeek o Mistral sin enviar datos a la nube, reduciendo el riesgo de filtraciones o exposición de información sensible. Los desarrolladores y empresas que priorizan la privacidad pueden procesar información localmente, manteniendo un mayor control sobre sus datos y cumpliendo con regulaciones más estrictas de protección de datos.
NVIDIA Project DIGITS: la respuesta a Apple
A pesar del avance de Apple con el M3 Ultra, el panorama de la IA sigue en constante evolución. NVIDIA, el líder en hardware de IA, reveló en el CES de Las Vegas detalles sobre Project DIGITS, su nuevo hardware enfocado en el cómputo de IA a gran escala para el consumidor final. Este sistema contará con 128GB de memoria y tendrá un precioque partirá de los 3.000 dólares.
Project DIGITS es más accesible en términos de precio que muchas GPUs de gama alta de NVIDIA, pero su configuración de memoria es menor que la del M3 Ultra, que permite hasta 512GB de memoria unificada. Aun así, NVIDIA sigue teniendo la ventaja del ancho de banda de memoria, lo que podría hacer que Project DIGITS sea una opción más atractiva.
Apple ha logrado reducir el precio por GB de memoria con el M3 Ultra, pero sigue teniendo desventaja en términos de ancho de banda.
Nvidia Project DIGITS
Apple apuesta por el futuro de la IA
Hasta ahora, Apple había centrado sus esfuerzos en dispositivos de consumo, pero con la introducción del M3 Ultra, deja claro que busca convertirse en una empresa relevante dentro del mercado del hardware para IA. La posibilidad de ejecutar modelos avanzados en un equipo compacto y sin necesidad de grandes infraestructuras podría transformar la manera en que trabajamos con la IA.
Si Apple mantiene el patrón de mejora que ha tenido en sus chips anteriores, es probable que el M4 Ultra incluya mejoras en el ancho de banda de memoria, aunque todavía no hay información oficial sobre ello. Mientras tanto, el desarrollo de Project DIGITS de NVIDIA podría cambiar el panorama del mercado, poniendo más presión sobre Apple para seguir mejorando su hardware en la carrera de la IA.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
