Mistral 发布针对笔记本电脑和手机优化的最新 AI 模型 性能优于Llama 和 Gemma 模型

法国AI初创公司 Mistral 推出了名为 “Les Ministraux” 的新一代生成式AI模型，专为笔记本电脑和智能手机等边缘设备设计。

模型大小分为 Ministral 3B 和 Ministral 8B，专门针对本地、隐私优先的AI任务优化，比如设备内翻译、智能助手、局部分析和自主机器人等应用。

Mistral 的模型声称在多个AI基准测试中表现优于同类型的 Llama 和 Gemma 模型，特别是在指令执行和问题解决能力方面。

• Ministral 3B：相对较小的模型，适合基础的文本生成任务。
• Ministral 8B：更强大的模型，可用于复杂的任务和应用。

两个模型将在未来几周通过 Mistral 的云平台 La Platforme 提供使用。

主要亮点包括：

• 上下文窗口：这两个模型均具备 128,000 个 token 的上下文窗口，能够处理长达50页书籍的文本，显著提高了处理复杂任务的能力。
• 本地推理：这些模型旨在实现本地推理，增强隐私保护，适用于如设备内翻译、离线智能助手等关键应用。
• 多功能适用性：可用于多种应用，如任务路由、API调用和智能工作流，支持多种输入解析和任务处理。
• 增强的推理能力：在知识、常识推理和功能调用方面，Les Ministraux 在同类模型中表现出色，能够有效处理复杂任务。

Les Ministraux 为关键应用提供了高效、低延迟的解决方案。这些应用包括：

• 设备内翻译
• 无互联网的智能助手
• 本地数据分析
• 自主机器人

此外，Les Ministraux 还可以与更大的语言模型（如 Mistral Large）结合使用，作为多步智能工作流中的高效中介。

性能基准

1. 综合评估：
   • Les Ministraux 在多个任务中表现优异，经过内部框架的重新评估，确保了各模型之间的公平比较。
2. 基准测试：
   • 与其他模型（如 Gemma 2、Llama 3.1、Llama 3.2 和 Mistral 7B）相比，Les Ministraux 在知识推理、常识理解和功能调用等方面的表现均优于同类产品。Ministral 3B 和 8B 模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B 和 Mistral 7B 在多个类别上的比较

     Ministral 3B 和 8B 基本模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B 和 Mistral 7B 的比较

     

     Ministral 3B 和 8B Instruct 模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B、Gemma 2 9B 和 Mistral 7B 在不同评估类别上的比较。
     

     3B 系列 Instruct 模型的比较 – Gemma 2 2B、Llama 3.2 3B 和 Ministral 3B。该图展示了 Ministral 3B 相对于更大的 Mistral 7B 的改进。

     8B 系列 Instruct 型号的比较 – Gemma 2 9B、Llama 3.1 8B、Mistral 7B 和 Ministral 8B。

3. 任务处理能力：
   • 模型能够高效处理多种任务，包括输入解析、任务路由和 API 调用，展现出强大的多任务处理能力。

定价方面：

• Ministral 8B：每百万 tokens 收费 $0.10（约 75 万字）。
• Ministral 3B：每百万 tokens 收费 $0.04。

官方博客：https://mistral.ai/news/ministraux/