La página Chatbot Arena, en la que se pueden comparar diversos LLM, muestra un nuevo modelo llamado upcoming GPT mini. No ha trascendido más información sobre este modelo, pero podría tratarse de una versión más pequeña para ejecutarse directamente en local. Una versión más pequeña de GPT también permitiría reducir los costes del servicio y ofrecer una versión más eficiente.
Open AI no sería la primera compañía en ofrecer un modelo de estas características. Microsoft ya presentó en abril su Phil-3 Mini, un modelo de tan solo 3,8 millones de parámetros. Estos sistemas deben entrenarse con datos de mayor calidad para asegurar que el desempeño será óptimo.
Si se confirma la creación de un GPT mini, es probable que OpenAI tenga pensado instalarlo en local en dispositivos móviles, con la ventaja que supondría en términos de privacidad y autonomía. Hay que tener en cuenta que un modelo que se ejecuta en local no necesita conectarse a Internet, lo que lo convierte en una alternativa privada a los LLM que se ejecutan en la nube.
Como explica Jon Hernández, «GPT mini podría ser un modelo reducido de 4o para ejecutar en dispositivos móviles». La última vez que ocurrió algo similar en Chatbot Arena, «acabamos teniendo GPT-4 omni, así que no sería descabellado que fuese un modelo que se va a presentar dentro de poco en ChatGPT».