과금 폭탄의 늪: LLM 비용 최적화 90% 절감한 삽질기

← 피드로

AI 비용 청구를 받고 깜짝 놀랐던 경험 다들 있으신가요? 저는 'My Office AI Town'을 처음 가동했던 날, 그야말로 눈을 의심했습니다. 이 글은 그 과금 폭탄의 순간부터 시작합니다. 직원(에이전트) 10명이 하루 동안 나눈 대화 기록을 확인했을 때, 예상보다 훨씬 큰 금액이 청구돼 있었습니다. 시뮬레이션이 잘 돌아가는…

원문 보기 ↗