← 피드로
동일한 노트북과 로컬 모델을 써도 하네스에 따라 첫 토큰 대기 시간이 llama.cpp 기준 12.2~225.7초로 벌어져, 모델 속도만으로 실제 응답성을 판단하기 어려움 긴 시스템 프롬프트·도구 스키마와 부가 요청은 제한된 로컬 자원을 압박함 — 데이터센터에서 부담이…
출처: news.hada.io · https://news.hada.io/topic?id=33542