Mixtral

Kategori:Open Source LLMsHarga: Gratis

Deskripsi

Mixtral 8x7B, model pakar campuran jarang (SMoE) berkualitas tinggi dengan bobot terbuka. Mixtral mengungguli Llama 2 70B di sebagian besar benchmark dengan inferensi 6 kali lebih cepat. Ini menyamai atau mengungguli GPT3.5 di sebagian besar benchmark standar.<br>Kertas: https://arxiv.org/pdf/2401.04088.pdf<br>Berita: https://mistral.ai/news/mixtral-of-experts/