SuperMemory가 RAG 대체한다길래 뜯어봤습니다.
SuperMemory, 진짜 RAG를 대체하는 건가
최근 SuperMemory라는 서비스가 화제입니다. "메모리 레이어"를 표방하면서 RAG의 한계를 넘겼다는 포지셔닝인데, 마케팅 메시지만 보면 기존 RAG가 곧 사라질 것 같은 느낌이거든요.
GraphRAG 작업을 하고 있는 입장에서 이게 진짜 대체인지, 아니면 다른 문제를 푸는 건지 궁금해서 직접 뜯어봤습니다.
SuperMemory가 스스로 정의하는 차이
SuperMemory 측에서 내세우는 핵심 구분은 깔끔합니다.
RAG: "내가 무엇을 알고 있는가(What do I know?)"
Memory: "너에 대해 무엇을 기억하는가(What do I remember about you?)"
이 한 줄이 사실 거의 모든 걸 설명하더라고요. RAG는 외부 지식을 가져오는 파이프라인이고, SuperMemory는 사용자 상태를 추적하는 레이어라는 겁니다.
기존 RAG가 못하는 것
일반적인 RAG는 문서를 청크로 쪼개고, 벡터 유사도로 검색해서, LLM 컨텍스트에 넣어주는 구조잖아요. 이 방식의 약점은 시간 흐름을 모른다는 겁니다.
예를 들어 사용자가 이렇게 말했다고 해볼게요.
"아디다스가 좋아"
(3일 후) "아디다스 실망이야"
(일주일 후) "이제 푸마가 좋아"
벡터 유사도 검색은 이 세 문장을 시간 순서 없이 동등하게 취급합니다. "운동화 추천해줘"라고 물으면 "아디다스가 좋아"가 유사도 높게 걸려서 올라올 수 있는 거죠. 사용자 입장에서는 이미 마음이 바뀌었는데, 시스템은 그걸 모릅니다.
SuperMemory는 이걸 어떻게 풀었나
SuperMemory는 내부적으로 5개 레이어를 통합 운영하는데, 핵심만 추리면 세 가지가 중요합니다.
첫째, 팩트의 진화를 추적합니다. 대화에서 원자적(atomic) 팩트를 추출하고, 기존 메모리와 비교해서 "수정(State Mutation)"인지 "보강(Refinement)"인지를 분류하거든요. "아디다스 → 푸마"는 수정으로 처리되는 식입니다.
둘째, 자동 망각(Automatic Forgetting)이 있습니다. "내일 시험이야" 같은 임시 팩트는 날짜가 지나면 만료됩니다. 노이즈가 영구 메모리가 되지 않도록 관리하는 거죠.
셋째, 온톨로지 기반 벡터-그래프 엔진을 씁니다. 지식을 단순히 추가(append)하지 않고, 업데이트·병합·모순 해소·추론을 수행합니다. 여기까지 보면 확실히 기존 RAG보다 정교한 건 맞습니다.
가장 흥미로운 부분: ASMR
SuperMemory 팀이 최근 공개한 ASMR(Agentic Search and Memory Retrieval)이 인상적이었는데요. 벡터 임베딩 기반 검색을 아예 버리고, 에이전트가 능동적으로 컨텍스트를 탐색하는 방식으로 전환했다는 겁니다.
구체적으로는 3개의 병렬 리더 에이전트 + 3개의 검색 에이전트를 두고, 개인정보·선호도·이벤트·시간데이터·업데이트·어시스턴트 정보 6개 축으로 팩트를 추출합니다. 이 파이프라인으로 LongMemEval 벤치마크에서 약 99%를 달성했다고 해요.
"의미적 유사도 함정"을 에이전틱 검색으로 우회한 셈인데, 접근 자체는 꽤 설득력이 있더라고요.
그래서, RAG를 대체하는 건가
솔직하게 정리하면 이렇습니다.
SuperMemory가 우위인 영역
사용자별 개인화 컨텍스트 관리
대화 히스토리 기반 맥락 유지
시간에 따라 변하는 팩트 추적 (선호도 변경, 임시 정보 만료 등)
이 영역에서는 기존 "벡터DB + 청킹" RAG보다 확실히 앞서 있습니다.
RAG가 여전히 강한 영역
수십만 건 정적 문서 기반 검색 (법률 DB, 기술 문서, 매뉴얼)
도메인 특화 스키마와 쿼리 로직이 필요한 경우
대규모 지식 그래프 탐색 (커뮤니티 감지, 글로벌 서머리 등)
방대한 지식 베이스를 다룰 때는 청킹 전략, 임베딩 모델 선택, 그래프 구조 설계, 리랭킹 파이프라인이 검색 품질을 결정하거든요. SuperMemory의 메모리 엔진은 이 부분을 혁신한 게 아니라, 그 위에 "시간축 + 사용자 상태 관리" 레이어를 올린 겁니다.
실제로 SuperMemory 내부에서도 문서 검색할 때는 결국 벡터 유사도 검색을 돌리고 있어요.
GraphRAG 하고 있다면
온톨로지 기반 엔티티 관계 관리 + 벡터 하이브리드 검색을 직접 구축하고 있다면, SuperMemory의 범용 API보다 도메인 특화 측면에서 더 정교한 제어가 가능합니다.
1,000개 콘텐츠 노드에 7,600개 관계를 그래프로 엮어서 키워드 간 구조적 관계를 탐색한다든지, 온톨로지 기반으로 센서→규칙→시나리오 탐지를 한다든지 하는 건 범용 메모리 API로는 커버가 안 되거든요. 도메인 특화된 스키마와 쿼리 로직이 필요한 영역이니까요.
SuperMemory의 핵심 가치는 이런 복잡한 파이프라인을 "원스톱 API"로 추상화해서 빠르게 도입할 수 있게 해주는 데 있습니다. 직접 구축할 여력이 있으면 GraphRAG가 더 강력하고, 빠르게 메모리 기능만 붙이고 싶으면 SuperMemory가 합리적인 선택이 됩니다.
한 줄로 정리하면
SuperMemory가 해결하는 문제는 "stateless LLM을 stateful하게 만드는 것"이고, RAG가 해결하는 문제는 "LLM이 모르는 지식을 외부에서 정확하게 가져오는 것"입니다.
겹치는 부분이 있어서 마케팅적으로 "RAG 대체"라고 포지셔닝하는 거지, 실제로는 서로 다른 계층의 문제를 풀고 있습니다. 방대한 지식 검색이 핵심이라면 RAG(+ 그래프)가 여전히 본류이고, 사용자 맥락 유지가 핵심이라면 메모리 레이어를 얹는 구조가 맞습니다. 둘 다 필요하면 둘 다 쓰는 게 정답이고요.