Mistral presenta Large 4, un modelo multimodal de un billón de parámetros
Mistral AI presentó Large 4, apodado Le Chonk, y afirma que compite con los modelos abiertos más capaces; por ahora ofrece una versión preliminar.
El modelo tiene un billón de parámetros, de los cuales 49.000 millones están activos, y fue entrenado desde cero en centros de datos de Mistral en Europa.
La compañía prevé publicar sus pesos a finales de octubre, después de probar el sistema con socios y autoridades para evaluar su seguridad.
¿Qué tareas busca resolver?
Mistral destaca capacidades en programación, ciberseguridad, flujos de trabajo con agentes y comprensión multimodal; también señala aplicaciones en finanzas, derecho y manufactura.
La empresa afirma que el modelo supera a los sistemas abiertos desarrollados en Estados Unidos y Europa, aunque los resultados independientes de referencia aún están pendientes.
Según Mistral, Large 4 supera a modelos cerrados de frontera en tareas específicas, como la localización visual; en programación, una fuente señala que aún queda por detrás de la frontera.
¿Cómo se entrenó y quién puede probarlo?
Mistral informó que entrenó el modelo durante dos meses con 3.800 GPU NVIDIA Grace Blackwell propias en Europa; otro artículo cita 4.000 GPU NVIDIA.
La vista previa está disponible para desarrolladores y, en pruebas controladas, para líderes de ciberseguridad, socios seleccionados y autoridades estatales.
Cuando publique los pesos, los usuarios podrán modificar y alojar el modelo; hasta entonces, el acceso público se limita a la API de vista previa.