跳到正文
Hugging Face Blog·· 3 天前AI 评分46

Hugging Face:为什么你的微调任务比 FLOPs 预估的更耗时

Why your fine-tuning job takes longer than the FLOPs say

AI 导读

Hugging Face 基于 272 个生产环境 SFT 任务(约 7,382 GPU 小时、NVIDIA H200)发现,常用 FLOP 预估与实际耗时偏差很大(R² = 0.31,MAE 12.41 h),而仅用派发前配置信息训练的 CatBoost 回归器达到 R² = 0.98、MAE 1.71 h、中位误差 0.51 h。

来源:Hugging Face Blog · huggingface.co