Unsloth, Qwen3.8 2.4T를 397GB로 줄여 로컬 실행 지원

← 피드로

Unsloth가 Qwen3.8-2.4T-A95B의 GGUF 양자화 모델과 로컬 실행 가이드를 공개 BF16 원본은 4.89TB지만 Dynamic 1-bit 버전은 397GB까지 축소해 약 91% 크기를 줄임 1-bit부터 8-bit/BF16까지 다양한 버전을 제공하며 2-bit 약 657GB, 3-…

원문 보기 ↗