Mixtral

Kategori:Open Source LLMsPrissättning: Gratis

Beskrivning

Mixtral 8x7B, en högkvalitativ gles blandning av experter-modell (SMoE) med öppna vikter. Mixtral överträffar Llama 2 70B i de flesta riktmärken med 6 gånger snabbare inferens. Den matchar eller överträffar GPT3.5 i de flesta standardmått.<br>Papper: https://arxiv.org/pdf/2401.04088.pdf<br>Nyheter: https://mistral.ai/news/mixtral-of-experts/