香港中文大学明瑞、吴昊原团队联合华为诺亚方舟实验室与ChatEDA科技公司，在人工智能训练领域取得突破性进展。这项发表于arXiv预印本平台的研究（编号：arXiv:2509.26313v1），提出一种名为"单词汇滚动"的创新训练方法财盛证券，有效解决了AI模型在知识学习与泛化能力之间的平衡难题。
传统AI训练存在显著的两难困境：监督微调虽能快速让模型掌握标准答案，但面对新问题时往往束手无策；强化学习虽能培养泛化能力，却需要海量计算资源和漫长训练周期。研究团队通过类比人类学习过程发现，关键在于让AI在"动态实践"中学习，而非单纯模仿静态样本。
新方法的核心创新在于将文本生成过程分解为数百个独立的词汇级学习任务。当AI需要生成下一个词汇时，系统会从其概率分布中随机抽取256个候选词，通过与标准答案对比即时评估选择质量。这种设计使每个词汇生成都成为完整的学习循环，既保持了监督微调的效率，又获得了强化学习的泛化优势。
实验数据显示，在Qwen2.5-3B至Qwen3-8B四个不同规模模型上，新方法均取得显著提升。以Qwen3-4B为例，MATH基准测试分数从63.95跃升至75.30，奥林匹克数学竞赛基准从32.10提升至40.63。更关键的是，该方法将传统训练中常见的"灾难性遗忘"现象发生率从10次降至4次，且性能下降幅度明显减小。
技术实现层面，研究团队将复杂的策略梯度理论简化为词汇级操作。每个候选词汇根据匹配情况获得即时反馈：正确选择得+1分财盛证券，错误选择扣0.1分。这种二元奖励机制配合动态调整的采样频率，使模型在训练过程中自动形成正向学习循环。通过引入"温度调节"参数，系统还能平衡探索与利用，避免陷入局部最优。
与同期提出的动态微调方法相比，新方法展现出独特优势。当惩罚参数β设为0时，两者数学等价；但β取-0.1时，新方法通过显式建模错误选择，使所有测试任务的性能进一步提升。这种改进源于对负样本的有效利用，帮助AI建立更清晰的选择标准。
跨领域测试验证了方法的通用性。在代码生成任务中，Humaneval+基准分数平均提升3.8分，MBPP+提升2分；通用推理测试如MMLU-Pro也表现出稳定改进。这些结果证明，新方法培养的不仅是特定领域技能，更是深层的语言理解和逻辑推理能力。
深入分析揭示，成功关键在于适度惩罚机制的设计。β=-0.1时，系统既能提供明确的学习信号，又不会抑制探索行为。训练过程中，正确词汇的采样频率持续上升，形成健康的学习曲线。相比之下，传统方法的学习效率明显较低，而β=0.1的正向激励设置则导致训练不稳定。
尽管当前研究主要在80亿参数以下模型展开，且数据集集中于数学推理领域，但跨任务表现已显示良好泛化性。研究团队正着手扩展至更大规模模型和更多专业领域，同时优化奖励机制以捕捉更细致的质量差异。计算成本方面，虽然仍高于标准监督微调，但已比传统强化学习降低一个数量级。
这项突破为AI训练开辟了新路径。在教育辅助领域，该方法训练的模型能更准确地解释错误原因；在代码开发中，可显著减少程序漏洞；在专业咨询服务里，有望提高关键领域建议的可靠性。随着技术成熟和成本下降，这些应用场景将逐步从实验室走向现实产品。
问：单词汇滚动方法如何解决AI训练的效率与泛化矛盾？答：该方法通过将完整文本生成分解为词汇级学习任务，使每个词汇选择都成为独立的学习机会。AI在生成过程中持续接收即时反馈，既保持了监督微调的高效性，又通过动态数据采样获得了强化学习的泛化能力。
问：新方法在防止模型"遗忘"旧知识方面表现如何？答：实验显示，传统监督微调在10个测试场合出现性能下降，而新方法仅发生4次且幅度更小。这得益于其动态学习机制，使模型在掌握新知识的同时能更好保留已有能力。
问：普通开发者何时能应用这项技术？答：目前该方法仍处于研究阶段财盛证券，计算成本虽已大幅降低但仍高于标准训练。随着技术优化和硬件发展，预计未来3-5年内将逐步应用于教育、编程辅助等实际场景，帮助开发者提升工作效率和输出质量。
可盈配资提示：文章来自网络，不代表本站观点。
- 上一篇：国融资管 今起南海部分海域进行实弹射击，禁止驶入！
- 下一篇：没有了
相关文章
沪深京指数
热点资讯
