Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Qwen2 团队推出了一系列专注于数学能力的语言模型：Qwen2-Math，旨在提升推理能力，特别是在解决算术和数学问题方面。 Qwen2-Math 系列包括 1.5B、7B 和 72B 参数。 是基于 Qwen2 LLM 构建的专门用于数学解题的语言模型，这些模型基于大量高质量的数学语料库进行预训练，并通过基于指令的训练微调，以解决复杂的数学问题。 这些模型在多个数学基准测试（如 GSM8K、Math、MMLU-STEM 等）中表现出色，在英语和中文基准测试中均超过了当前的最先进模型。其数学能力显著超越了开源模型，甚至超过了闭源模型（包括GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro 和 Llama-3.1-405B）。 Qwen2-Math 的主要功能特点包括： 增强数学推理能力： Qwen2-Math 对复杂的数学问题进行了优化，特别是在需要多步骤推导的数学问题上表现出色。它能够理解并解决复杂的数学表达式和推理过程。 多领域数学任务支持： 模型支持广泛的数学领域任务，包括但不限于代数、几何、微积分、概率与统计等。它能够处理各种类型的数学问题，从基础到高级。 多语言支持 虽然目前的 Qwen2-Math 主要支持英语，但团队计划很快发布支持英语和中文的双语模型，这将扩大模型的适用范围，并为不同语言用户提供强大的数学推理工具。 开放的 API 接口： Qwen2-Math 提供了易于使用的 API，使得开发者可以将模型集成到不同的应用程序中。这意味着用户可以轻松地将 Qwen2-Math 的数学能力引入到他们的产品或研究中。 Qwen2-Math基础模型架构 Qwen2-Math 的基础模型使用 Qwen2-1.5B/7B/72B 进行初始化，然后在精心设计的数学专用语料库上进行预训练，该语料库包含大规模的高质量数学网页文本、书籍、代码、考试题目，以及 Qwen2 合成的数学预训练数据。这些数据覆盖了广泛的数学主题，以确保模型在处理复杂数学问题时具备扎实的基础。 专用语料库的预训练 为了使模型在数学推理和计算上表现更好，Qwen2-Math 在一个专门设计的数学语料库上进行了进一步的预训练。该数学语料库包括： 高质量的数学网页文本 数学书籍 编程代码 数学考试题目 由 Qwen2 模型合成的数学预训练数据 通过在这些多样化和高质量的数学数据上进行预训练，Qwen2-Math 建立了扎实的数学基础，能够理解和处理复杂的数学概念和问题。 指令微调 (Instruction Tuning) 在预训练完成后，Qwen2-Math 还进行了指令微调（Instruction Tuning），尤其是在 72B 参数的 Qwen2-Math-Instruct 模型上。指令微调的过程包括： 奖励模型训练： 基于 Qwen2-Math-72B 构建一个数学特定的奖励模型，结合密集的奖励信号和二元信号（模型回答正确与否）进行训练。 监督微调（SFT）： 使用拒绝采样（Rejection Sampling）的方法，利用奖励模型生成的数据对模型进行微调。 强化学习： 通过群体相对策略优化（Group Relative Policy Optimization, GRPO）进一步提升模型的表现，特别是在复杂数学问题上的准确性和效率。 去重与去污染处理 为了确保模型训练的有效性和评估的公平性，团队对预训练和微调的数据集进行了严格的去重和去污染处理。具体措施包括： 13-gram 去重： 使用 n-gram 技术（13-gram）来去除数据中可能存在的重复部分，确保训练数据和测试数据之间没有显著重叠。 长序列匹配： 通过检查数据集中最长公共子序列的比率，进一步去除潜在的污染数据，特别是在 GSM8K、MATH、Aqua、SAT Math 等重要基准测试上。 评估结果 基础模型在以下数学基准测试中表现卓越： 英语基准测试 ： GSM8K : 一个针对数学推理问题的基准测试。 Math : 涵盖了各种数学领域的复杂问题。 MMLU-STEM : 针对科学、技术、工程和数学（STEM）的多选题基准测试。 中文基准测试 ： CMATH : 中文数学问题集合。 高考数学填空题 : 中国高考中的数学填空题部分。 高考数学问答题 : 中国高考中的数学问答题部分。 这些基准测试采用了少样本链式思维提示（few-shot chain-of-thought prompting）方法来进行评估。 指令微调模型（Qwen2-Math-Instruct） Qwen2-Math-Instruct 模型是在 Qwen2-Math 基础模型之上进一步训练的，通过使用精细设计的奖励模型进行监督学习微调（SFT），以及使用群体相对策略优化（GRPO）进行强化学习。 数学基准测试结果 ： Qwen2-Math-Instruct 模型在多个数学基准测试中（包括 GSM8K 和 Math）表现出色，尤其在更具挑战性的数学考试（如 OlympiadBench、CollegeMath、AIME2024、AMC2023 等）中，展现了其强大的数学推理能力。 该模型还在中文数学基准测试（如 CMATH 和中国中学24题）中取得了优秀的成绩。 评估指标 ： Greedy、Maj@8 和 RM@8 ：这是在零样本设置下评估的主要指标，其中 RM@8 在相同大小的模型中表现尤为突出，尤其是在 1.5B 和 7B 模型中，显示出该数学奖励模型的有效性。 多项选择题的5-shot 设置 ：在 MMLU STEM 和高考等多项选择题基准中，使用了5-shot 设置进行评估。 复杂数学竞赛评估 Qwen2-Math-Instruct 模型在一些复杂的数学竞赛如 AIME 2024 和 AMC 2023 中的表现也十分优异。通过 Greedy、Maj@64、RM@64 和 RM@256 等不同的设置，模型展现了其在不同难度级别下的一致表现。 官方介绍： https://qwenlm.github.io/zh/blog/qwen2-math/ 模型下载： https://huggingface.co/Qwen GitHub： https://github.com/QwenLM/Qwen2-Math

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Related Posts

Comfyui_Object_Migration：一致性换衣模型和工作流实物衣服一键穿上

ElevenLabs 推出构建语言对话AI代理的功能可使用其语音模型接入AI模型

Stripe 推出 Stripe Agent Toolkit：让 AI 代理能自动进行支付帮你购物、订机票等

Mistral AI 发布了全新的 Pixtral Large 开源模型超越 GPT-4o、Gemini-1.5 Pro 和 Claude-3.5 Sonnet

Perplexity 推出全新 AI 驱动购物助手：Shop Like a Pro 支持搜索结果一键下单

Mistral AI推出了更新版的Le Chat 支持在聊天中进行搜索、上传 PDF、编程、图像生成等

Recommendeds

TripoSR：不到0.5秒，从单张图片快速生成高质量3D模型

OpenCodeInterpreter：能够执行代码的代码解释器

Jina AI Reader 工具能够从任意 URL 读取 PDF 文件并快速解析成文本

Zerox ：一个简单易用的GPT OCR 工具可将 PDF、DOCX 等文件转换为 Markdown 格式

Midjourney 角色人物一致性功能上线复杂文本理解能力提升

GOT-OCR2.0：端到端的 OCR 模型可以处理各种复杂的光学字符任务

D-ID推出了两款新数字人工具只需一分钟视频训练即可生成支持复杂表现

Amazon Q：为企业和开发人员提供支持的生成式 AI 助手

image-Translator: 一键翻译各类图片、漫画内文字支持多种语言

OpenAI 提出了一种新方法来提高模型输出答案的可读性确保输出正确且易于理解

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Support authors and subscribe to content

加入会员

Related Posts

Recommendeds

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?