#LLM비용
6편
28조각 중 하나만 실패해도 전부 버리던 전사 작업, 부분 성공과 구간 재시도로 바꿨습니다
#부분성공#재시도#병렬처리#지터구독 LLM 한도를 태운 건 사람이 아니라 측정이었습니다 — 건수 7배 × 건당 5배 = 35배
#구독한도#평가측정#RAG평가#회귀측정LLM 토큰 계측표의 0은 '안 썼다'가 아니라 '안 알려준다'였습니다
#LLM계측#토큰#임베딩#스트리밍표에 다 있는 요구사항을 LLM에게 다시 찾게 했습니다 — 12만 청크에 $246
#배치처리#구조파싱#추출파이프라인#단발호출그래프RAG 발신자 추출에 LLM부터 쓰지 않았습니다 — 헤더와 규칙으로 78%를 커버한 이야기
#이메일파싱#발신자추출#파이프라인설계#정규식RAG 챗봇 1건당 LLM이 어디서 몇 번 호출되는지 분석했습니다
#RAG비용#Gemini#모델분리#thinkingbudget
다른 주제 보기
글이 3편 이상인 주제만 따로 모아 둡니다.