Mixtral-8x7B

分类:Open Source LLMs价格: 免费

描述

法国人工智能初创公司 Mistral AI开源的一种具有开放权重的稀疏专家混合模型 (SMoE),在大多数基准测试中都优于 Llama 2 70B 和 GPT-3.5 <br>论文地址:https://arxiv.org/pdf/2401.04088.pdf <br>论文主页:https://mistral.ai/news/mixtral-of-experts/