Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Qwen2 团队推出了一系列专注于数学能力的语言模型：Qwen2-Math，旨在提升推理能力，特别是在解决算术和数学问题方面。 Qwen2-Math 系列包括 1.5B、7B 和 72B 参数。 是基于 Qwen2 LLM 构建的专门用于数学解题的语言模型，这些模型基于大量高质量的数学语料库进行预训练，并通过基于指令的训练微调，以解决复杂的数学问题。 这些模型在多个数学基准测试（如 GSM8K、Math、MMLU-STEM 等）中表现出色，在英语和中文基准测试中均超过了当前的最先进模型。其数学能力显著超越了开源模型，甚至超过了闭源模型（包括GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro 和 Llama-3.1-405B）。 Qwen2-Math 的主要功能特点包括： 增强数学推理能力： Qwen2-Math 对复杂的数学问题进行了优化，特别是在需要多步骤推导的数学问题上表现出色。它能够理解并解决复杂的数学表达式和推理过程。 多领域数学任务支持： 模型支持广泛的数学领域任务，包括但不限于代数、几何、微积分、概率与统计等。它能够处理各种类型的数学问题，从基础到高级。 多语言支持 虽然目前的 Qwen2-Math 主要支持英语，但团队计划很快发布支持英语和中文的双语模型，这将扩大模型的适用范围，并为不同语言用户提供强大的数学推理工具。 开放的 API 接口： Qwen2-Math 提供了易于使用的 API，使得开发者可以将模型集成到不同的应用程序中。这意味着用户可以轻松地将 Qwen2-Math 的数学能力引入到他们的产品或研究中。 Qwen2-Math基础模型架构 Qwen2-Math 的基础模型使用 Qwen2-1.5B/7B/72B 进行初始化，然后在精心设计的数学专用语料库上进行预训练，该语料库包含大规模的高质量数学网页文本、书籍、代码、考试题目，以及 Qwen2 合成的数学预训练数据。这些数据覆盖了广泛的数学主题，以确保模型在处理复杂数学问题时具备扎实的基础。 专用语料库的预训练 为了使模型在数学推理和计算上表现更好，Qwen2-Math 在一个专门设计的数学语料库上进行了进一步的预训练。该数学语料库包括： 高质量的数学网页文本 数学书籍 编程代码 数学考试题目 由 Qwen2 模型合成的数学预训练数据 通过在这些多样化和高质量的数学数据上进行预训练，Qwen2-Math 建立了扎实的数学基础，能够理解和处理复杂的数学概念和问题。 指令微调 (Instruction Tuning) 在预训练完成后，Qwen2-Math 还进行了指令微调（Instruction Tuning），尤其是在 72B 参数的 Qwen2-Math-Instruct 模型上。指令微调的过程包括： 奖励模型训练： 基于 Qwen2-Math-72B 构建一个数学特定的奖励模型，结合密集的奖励信号和二元信号（模型回答正确与否）进行训练。 监督微调（SFT）： 使用拒绝采样（Rejection Sampling）的方法，利用奖励模型生成的数据对模型进行微调。 强化学习： 通过群体相对策略优化（Group Relative Policy Optimization, GRPO）进一步提升模型的表现，特别是在复杂数学问题上的准确性和效率。 去重与去污染处理 为了确保模型训练的有效性和评估的公平性，团队对预训练和微调的数据集进行了严格的去重和去污染处理。具体措施包括： 13-gram 去重： 使用 n-gram 技术（13-gram）来去除数据中可能存在的重复部分，确保训练数据和测试数据之间没有显著重叠。 长序列匹配： 通过检查数据集中最长公共子序列的比率，进一步去除潜在的污染数据，特别是在 GSM8K、MATH、Aqua、SAT Math 等重要基准测试上。 评估结果 基础模型在以下数学基准测试中表现卓越： 英语基准测试 ： GSM8K : 一个针对数学推理问题的基准测试。 Math : 涵盖了各种数学领域的复杂问题。 MMLU-STEM : 针对科学、技术、工程和数学（STEM）的多选题基准测试。 中文基准测试 ： CMATH : 中文数学问题集合。 高考数学填空题 : 中国高考中的数学填空题部分。 高考数学问答题 : 中国高考中的数学问答题部分。 这些基准测试采用了少样本链式思维提示（few-shot chain-of-thought prompting）方法来进行评估。 指令微调模型（Qwen2-Math-Instruct） Qwen2-Math-Instruct 模型是在 Qwen2-Math 基础模型之上进一步训练的，通过使用精细设计的奖励模型进行监督学习微调（SFT），以及使用群体相对策略优化（GRPO）进行强化学习。 数学基准测试结果 ： Qwen2-Math-Instruct 模型在多个数学基准测试中（包括 GSM8K 和 Math）表现出色，尤其在更具挑战性的数学考试（如 OlympiadBench、CollegeMath、AIME2024、AMC2023 等）中，展现了其强大的数学推理能力。 该模型还在中文数学基准测试（如 CMATH 和中国中学24题）中取得了优秀的成绩。 评估指标 ： Greedy、Maj@8 和 RM@8 ：这是在零样本设置下评估的主要指标，其中 RM@8 在相同大小的模型中表现尤为突出，尤其是在 1.5B 和 7B 模型中，显示出该数学奖励模型的有效性。 多项选择题的5-shot 设置 ：在 MMLU STEM 和高考等多项选择题基准中，使用了5-shot 设置进行评估。 复杂数学竞赛评估 Qwen2-Math-Instruct 模型在一些复杂的数学竞赛如 AIME 2024 和 AMC 2023 中的表现也十分优异。通过 Greedy、Maj@64、RM@64 和 RM@256 等不同的设置，模型展现了其在不同难度级别下的一致表现。 官方介绍： https://qwenlm.github.io/zh/blog/qwen2-math/ 模型下载： https://huggingface.co/Qwen GitHub： https://github.com/QwenLM/Qwen2-Math

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Related Posts

Gemini Teacher：基于 Gemini 2.0的英语口语练习助手实时发音纠正和建议

Livekit推出一个开源的精准语音轮次检测模型可精准识别用户是否说完话

微软开源了一款金融市场预测工具 MarS 能够实现逼真的市场模拟

MidJourney 推出个性化档案和情绪版新功能记住你的风格喜好

Google视频和图像生成模型更新包括Veo 2、Imagen 3和一个新工具Whisk

Google发布 2024年值得关注的Chrome扩展程序

Recommendeds

ToucanTTS：支持语言种类最多的 TTS 模型支持超过7000种语言的语音合成

TCAN：从视频中提取人物姿态动作转移给图片能让静态图片动起来

Paper Piano 纸钢琴：通过摄像头将任何一张纸变成一架钢琴

VASA-1：一张静态图像 + 一段语音生成逼真的对话面部视频

教程：只需四步使用 Luma 关键帧制作动态图表动画

Mobile-Agent-v2：让AI可以像真人一样来操控你的手机执行各种任务

PersonaTalk：字节跳动开发出可精准给视频进行AI配音的模型能保持口型同步、说话风格完美匹配

SuperCraft：通过无限工作流画布将草图直接转换成真实产品图像并自动生成3D渲染

Project Astra详细介绍：Google的全能AI助手能听、能看并能实时回答任何问题

StableFace：使用Stable Diffusion 2.1构建自己的面部美颜应用程序

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Support authors and subscribe to content

加入会员

Related Posts

Recommendeds

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?