Meta y Apple adaptan Muse Spark Open para ejecutarlo en Mac Studio
Meta presentó Muse Spark Open, un modelo de inteligencia artificial de pesos abiertos que, según la empresa, es el más capaz de su categoría en Estados Unidos.
La colaboración con Apple permite ejecutarlo localmente en varios Mac Studio con chip M5 Ultra, mediante el framework MLX, sin depender de servidores en la nube.
El modelo tiene 816.000 millones de parámetros, de los que 42.000 millones están activos, y una ventana de contexto de un millón de tokens.
¿Qué equipos hacen falta para ejecutarlo?
La configuración descrita requiere al menos 1 terabyte de memoria unificada: dos Mac Studio de 512 GB o cuatro equipos de 256 GB.
La opción de 512 GB aún no se había lanzado al 15 de octubre; una fuente prevé su llegada a finales de mes. Los equipos de 256 GB ya permiten la configuración de cuatro máquinas.
MLX distribuye el modelo entre los Mac conectados y aprovecha el ancho de banda de memoria de hasta 1,2 TB por segundo del M5 Ultra.
¿Para qué tareas está diseñado y dónde se consigue?
Meta orientó el modelo al desarrollo de software y a tareas con varios pasos; afirma haberlo probado para corregir y ampliar una aplicación de Mastodon y editar vídeo en DaVinci Resolve.
Sus pesos se pueden descargar en Hugging Face y otros catálogos, y el modelo también está disponible mediante varias plataformas de API.
La licencia permite uso comercial limitado. Apple y Meta no precisaron si la colaboración dará lugar a una relación más amplia.