Liquid AI presenta el modelo LFM2.5-2.6B, capaz de competir con modelos cuatro veces más grandes, con una ventana de contexto de 128K tokens y que puede ejecutarse en dispositivos locales. El modelo funciona a una velocidad de 220 tokens/s en Apple M5 Max y 113 tokens/s en una CPU AMD Ryzen, con un uso eficiente de memoria de 2.5 GB.
LFM2.5-2.6B ha sido preentrenado en 34 billones de tokens y ha pasado por cuatro etapas de entrenamiento: ajuste fino supervisado, entrenamiento de maestro experto, limpieza con políticas multiarea y aprendizaje de refuerzo basado en agentes. Este modelo muestra un rendimiento superior en el uso de herramientas, seguimiento de instrucciones y tareas de agentes multietapa, liderando en todas las pruebas de uso de herramientas excepto frente al modelo Qwen de 9.7B.
LFM2.5-2.6B destaca como un modelo a elegir para cargas de trabajo de alto volumen en dispositivos locales cuando se requieren agentes.
