Mixtral

Kategori:Open Source LLMsHarga: Percuma

Penerangan

Mixtral 8x7B, model campuran pakar jarang (SMoE) berkualiti tinggi dengan pemberat terbuka. Mixtral mengatasi Llama 2 70B dalam kebanyakan penanda aras dengan inferens 6 kali lebih pantas. Ia menyamai atau mengatasi GPT3.5 dalam kebanyakan penanda aras standard.<br>Kertas: https://arxiv.org/pdf/2401.04088.pdf<br>Berita: https://mistral.ai/news/mixtral-of-experts/