尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

Toto-2.0-2.5B-FT vs 基础模型:45% GIFT-Eval数据集微调带来的惊人提升

Toto-2.0-2.5B-FT vs 基础模型:45% GIFT-Eval数据集微调带来的惊人提升 Toto-2.0-2.5B-FT vs 基础模型45% GIFT-Eval数据集微调带来的惊人提升【免费下载链接】Toto-2.0-2.5B-FT项目地址: https://ai.gitcode.com/hf_mirrors/Datadog/Toto-2.0-2.5B-FTToto-2.0-2.5B-FT是Datadog基于Toto-2.0-2.5B基础模型通过45% GIFT-Eval数据集微调后的时间序列预测模型在GIFT-Eval基准测试中实现了显著性能提升尤其在CRPS和MASE指标上表现突出为时间序列 forecasting领域带来了新的突破。 模型简介从基础到微调的进化Toto-2.0-2.5B-FT本质上是对Toto-2.0-2.5B基础模型的定向优化版本。基础模型作为时间序列 forecasting领域的foundation model已具备强大的通用预测能力而微调版本则通过引入45% GIFT-Eval Pretrain数据进一步强化了在特定基准场景下的表现。⚠️ 注意这是一个基准测试专用模型非通用部署模型。实际应用建议选择Toto 2.0系列基础模型其在各类评估中均表现出优秀的泛化能力。 GIFT-Eval微调的核心价值45%数据占比的科学配比微调数据混合策略经过精心设计在避免过拟合的前提下最大化性能提升 | 数据来源 | 占比 | |---------|------| | GIFT-Eval Pretrain | 45% | | Datadog 5分钟监控指标 | 25% | | GIFT-Eval训练集 | 15% | | 合成数据(TempoPFN) | 10% | | Datadog 10秒监控指标 | 2.5% | | Datadog 60秒监控指标 | 2.5% |这种配比既保证了模型对GIFT-Eval基准的适应性又保留了基础模型在监控场景的原生优势。关键指标的显著提升在GIFT-Eval leaderboard上Toto-2.0-2.5B-FT取得了令人瞩目的成绩CRPS值0.463排名#2MASE值0.679排名#2这些指标不仅超越了基础模型在所有foundation models finetuned ensemble agentic类别中也稳居前列仅次于Toto 2.0 Family-and-Friends集成模型。 微调技术细节架构参数保持一致微调过程中保留了基础模型的核心架构设计包括2048维模型维度(d_model)32个注意力头(num_heads)48层网络结构(num_layers)5464维前馈网络维度(d_ff)完整配置可参考config.json文件。训练策略优化相比预训练阶段微调采用了更保守的学习率策略NorMuon学习率降低一个数量级至0.05AdamW学习率降低一个数量级至0.001总训练步数10,000步这种设置有效平衡了模型收敛速度与过拟合风险。 实际应用建议虽然Toto-2.0-2.5B-FT在基准测试中表现优异但官方明确建议对于实际工作负载请使用基础Toto 2.0系列模型。这些基础模型未经任何公共数据训练在我们评估的所有基准上均具有出色的泛化能力是部署的推荐选择。如需复现基准测试结果可通过以下命令获取模型git clone https://gitcode.com/hf_mirrors/Datadog/Toto-2.0-2.5B-FT 扩展资源技术报告深入了解Toto 2.0的技术原理博客文章官方解读与应用案例GIFT-Eval基准查看完整leaderboard排名GitHub仓库获取源码与更多技术细节 引用格式如果您在研究中使用了本模型请引用以下论文misc{khwaja2026toto20timeseries, title{Toto 2.0: Time Series Forecasting Enters the Scaling Era}, author{Emaad Khwaja and Chris Lettieri and Gerald Woo and Eden Belouadah and Marc Cenac and Guillaume Jarry and Enguerrand Paquin and Xunyi Zhao and Viktoriya Zhukov and Othmane Abou-Amal and Chenghao Liu and Ameet Talwalkar and David Asker}, year{2026}, eprint{2605.20119}, archivePrefix{arXiv}, primaryClass{cs.LG}, url{https://arxiv.org/abs/2605.20119}, }通过45% GIFT-Eval数据集的定向微调Toto-2.0-2.5B-FT展示了基础模型在特定任务上的巨大潜力为时间序列 forecasting的模型优化提供了宝贵参考。无论是学术研究还是工业应用这一成果都值得关注与借鉴。【免费下载链接】Toto-2.0-2.5B-FT项目地址: https://ai.gitcode.com/hf_mirrors/Datadog/Toto-2.0-2.5B-FT创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表