Mixtral

Kategori:Open Source LLMsFiyatlandırma: Ücretsiz

Açıklama

Mixtral 8x7B, açık ağırlıklı, yüksek kaliteli seyrek uzman karışımı modelidir (SMoE). Mixtral, çoğu kıyaslamada Llama 2 70B'yi geride bırakır ve 6 kat daha hızlı çıkarım yapar. Çoğu standart kıyaslamada GPT3.5'e eşit veya ondan daha iyidir.<br>Makale: https://arxiv.org/pdf/2401.04088.pdf<br>Haberler: https://mistral.ai/news/mixtral-of-experts/