Mixtral

Kategoria:Open Source LLMsHinnoittelu: Ilmainen

Kuvaus

Mixtral 8x7B, korkealaatuinen harva asiantuntijoiden sekoitusmalli (SMoE), jonka painot ovat avoimet. Mixtral ylittää Llama 2 70B:n useimmissa vertailuissa 6 kertaa nopeammalla päätöksenteolla. Se vastaa tai ylittää GPT3.5:n useimmissa vakioväitteissä.<br>Paperi: https://arxiv.org/pdf/2401.04088.pdf<br>Uutiset: https://mistral.ai/news/mixtral-of-experts/