압축은 예측이다

← 피드로

압축기와 LLM은 문맥을 바탕으로 다음 기호의 확률을 예측하며, 실제 기호에 높은 확률을 부여할수록 더 적은 비트로 표현할 수 있음 현대 압축기는 대체로 변환·확률 모델·엔트로피 부호화기로 구성되며, 산술 부호화나 Huffman 부호화가 모델의 확률 분포를 최종…

원문 보기 ↗