Show GN: Fable5는 비싸지고, 로컬 GPU는 부족하다: LLM 하나를 Mac & CUDA로 나눠 돌리는 DRIFT

← 피드로

LLM이 개인에게서 멀어지고 있고, DRIFT는 LLM 하나를 여러 개인 기기로 나눠 돌려 이에 맞섭니다. DRIFT는 하나의 LLM을 여러 개인 기기에 레이어 단위로 나눠 실행하는 오픈소스 프로젝트입니다. 요즘 개인 개발자가 AI를 직접 다뤄보려 하면 양쪽 모두 쉽지 않습니다. Fable5 같은 최상위 모델은

원문 보기 ↗