허깅페이스 팀 블로그, 파인튜닝 소요 시간 예측 회귀 모델 연구 발표
2026년 11월 19일 · SmartMakers GitStar Radar
1 / 4
허깅페이스 팀 블로그, 파인튜닝 소요 시간 예측 회귀 모델 연구 발표 실제 파인튜닝 소요 시간 사전 예측 머신러닝 모델 연구 공개 허깅페이스 팀 블로그를 통해 공유 GPU 클러스터의 미세조정 완료 시간을 디스패치 전에 예측하는 회귀 모델 연구가 공개되었습니다. 엔비디아 H200 기반 272건의 실제 감독 미세조정 실행에서 기존 FLOP 기준 추정치는 평균 절대 오차가 12.41시간이었으나 연구진의 캣부스트 모델은 1.71시간을 기록했는데요. 해당 모델은 5겹 교차검증 평가에서 결정계수 0.98과 중앙값 오차 0.51시간을 달성해 순수 연산 공식 대비 실제 완료 시점과의 오차를 크게 줄였습니다. 연산량뿐 아니라 총 평가 데이터 수와 체크포인트 저장 빈도 등 디스패치 전 확인 가능한 24개 설정 피처를 반영해 비선형 상호작용을 학습합니다. 클러스터 운영자는 학습 설정 파일에서 평가 주기와 체크포인트 파라미터를 변경해 예상 소요 시간의 변화를 사전에 즉시 확인해 볼 수 있습니다. 발표일과 원문은 아래 출처에서 확인하세요. 성능 수치는 회사 발표 기준입니다. Hugging Face · 2026-11-18 https://huggingface.co/blog/Dharma-AI/predicting-fine-tuning-time
