로컬 LLM, 나를 위한 작은 AI 작업대 만들기

← 피드로

예전에는 로컬에서 LLM을 돌린다는 말만 들어도 피곤했습니다. 모델 파일부터 실행 환경, GPU 설정까지 줄줄이 떠올랐으니까요. 요즘은 그 장벽이 많이 낮아졌습니다. Ollama 같은 도구를 쓰면 명령어 몇 줄로 모델을 내려받고 바로 실행합니다. 이쯤 되면 로컬 LLM을 다시 보게 됩니다. ChatGPT를 대체하는 무언가라기보다는, 개인 개발자가 자기 작업…

원문 보기 ↗