Estos modelos se pueden ejecutar en local y tienen una ventana de contexto de 128 mil tokens, ideal para smartphones
Mistral AI, la empresa francesa de IA generativa, acaba de dar un paso gigante con el lanzamiento de dos nuevos modelos de IA diseñados específicamente para dispositivos móviles y computadoras portátiles. Estos modelos, bautizados como «les Ministraux«, prometen llevar la potencia de la IA avanzada a la palma de nuestra mano. Aunque su uso estaría enfocado a los teléfonos móviles, su versatilidad y eficiencia podría revolucionar otros sectores, como el de las gafas inteligentes o los robots autónomos.
El anuncio coincide con el primer aniversario del lanzamiento de Mistral 7B, un modelo que marcó un antes y un después en la democratización de la IA. Ahora, con Ministral 3B y Ministral 8B, la compañía eleva aún más el listón en términos de eficiencia y rendimiento para modelos de menos de 10 mil millones de parámetros.
Lo más destacable de estos nuevos modelos es su capacidad para funcionar localmente en dispositivos con recursos limitados, sin necesidad de una conexión constante a servidores remotos. Esto abre un abanico de posibilidades para aplicaciones que requieren privacidad y baja latencia, como asistentes inteligentes sin conexión a internet, traducción en tiempo real o análisis de datos local.
Podrían usarse en robótica autónoma
La versatilidad de los Ministral es impresionante. Pueden adaptarse a una amplia gama de tareas, desde la coordinación de flujos de trabajo complejos hasta la creación de asistentes especializados. Su diseño permite manejar contextos de hasta 128,000 tokens, lo que les confiere una comprensión más profunda y contextual en sus interacciones.
El modelo Ministral 8B destaca especialmente por su innovador patrón de atención de ventana deslizante entrelazada, que optimiza la velocidad de procesamiento y el uso de memoria. Esto lo convierte en una opción ideal para dispositivos con limitaciones de hardware, sin comprometer la calidad de los resultados. Su eficiencia computacional los hace perfectos para aplicaciones en robótica autónoma, donde la toma de decisiones rápida y el limitado espacio hacen que sea esencial comprimir la inteligencia y ser lo más eficientes posible.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
