• 여러분이 소유하는 메모리를 코딩 에이전트에 제공하세요
  • 이미 사용 중인 에이전트에 메모리 추가하기
  • 메모리는 서비스가 아니라 데이터셋입니다
  • 먼저 질문하고, 나중에 연결하기
  • 흐름을 잃지 않고 에이전트 전환하기
  • 긴 세션에서 빠져나오는 가장 저렴한 방법
  • 이제 처음부터 시작하지 마세요
  • 오픈 소스를 기반으로 구축

이 글은 Hugging Face 블로그의 Give Your Coding Agents a Memory You Own를 한국어로 번역한 글입니다.

여러분이 소유하는 메모리를 코딩 에이전트에 제공하세요

저는 여러 컴퓨터에서 작업하고, 작업에 따라 코딩 에이전트를 바꿔 사용합니다. 어느 에이전트든 제 프로젝트를 낯선 사람처럼 만납니다. 세션이 끝나면 “지난 화요일”의 추론은 사라집니다. 새로운 호스트에서 새로운 에이전트를 시작할 때마다 모든 것이 처음부터 시작됩니다.

올해 초, Software Forgets: Agent Traces Are the Memory는 코딩 에이전트가 우리가 계속 잃어버리는 기록을 이미 만들어 내고 있다는 주장을 펼쳤습니다. 코드베이스를 검색하고, 여러 접근법을 시도하고, 오류를 만나고, 문서를 읽고, 방향을 바꾸는 과정에서 에이전트는 단순히 무엇이 바뀌었는지만 아니라 왜 바뀌었는지까지 담은 조밀한 기록을 남깁니다.

이 진단은 정확하지만, trace는 잠재적인 메모리일 뿐입니다. 에이전트의 세션 로그는 여전히 단순한 아카이브에 불과합니다. 만 번의 턴을 거치면서 “왜 스트리밍 파서에서 벗어났지?”라는 질문에 grep만으로 답할 수는 없습니다. 에이전트가 작업 중에 이러한 trace를 사용하려면 indexing, retrieval, ranking, 그리고 정확한 provenance가 필요합니다.

funes가 바로 그것을 제공합니다. 이는 에이전트(Claude Code, Codex, pi, Hermes)를 위한 영구적인 메모리 층입니다. 여러분의 컴퓨터에 이미 있는 세션으로 구축됩니다. 로컬에서 작동하며 한 번의 명령으로 에이전트의 일반적인 워크플로에 포함됩니다. 원한다면 여러분이 소유한 Hugging Face 데이터셋으로도 가져갈 수 있고, 기본적으로 비공개입니다.

이미 사용 중인 에이전트에 메모리 추가하기

funes는 단일 바이너리입니다. 기본 추론 백엔드는 ML 런타임 의존성이 없으며, 임베딩과 reranking은 여러분의 컴퓨터에서 수행됩니다. 다음과 같이 설치하세요:

curl -fsSL https://huggingface.co/buckets/huggingface/funes/resolve/install.sh | sh

그런 다음 에이전트에 추가합니다:

funes add claude    # or: codex, pi, hermes

이 한 번의 add 명령은 첫 번째 인덱스를 구축하고, 에이전트에 recall 및 get 도구를 제공하며, 완료된 각 턴을 인덱싱하는 자동화를 설치합니다. 인덱싱은 증분 방식으로 이루어지므로, 전체 기록을 다시 임베딩하는 대신 새로운 실행에서 새로운 턴을 추가합니다. 더 오래되고 깊은 콘텐츠는 제한된 단계로 백필할 수 있습니다.

그다음부터는 평소처럼 작업하면 됩니다. 과거의 결정, 근거 또는 발견과 관련된 작업을 수행할 때 에이전트는 스스로 recall를 찾아볼 수 있습니다. 오래된 세션을 기억하거나 그 컨텍스트를 새 세션에 붙여 넣을 필요가 없습니다.

[!NOTE] funes를 추가하면 대화 안에서 recall이 이루어집니다. 에이전트는 스스로 메모리를 찾아보고, 답변의 근거가 된 세션을 명시합니다.

recall는 요약이 아닌 원문을 반환하고, 해당 내용이 정확히 어디에서 왔는지 (에이전트, 타임스탬프, 세션, 턴)를 보여줍니다. 각 결과에는 전체 턴과 그 주변 컨텍스트를 여는 get 명령이 포함됩니다.

내부적으로는 하나의 결정론적 파이프라인이 지원되는 모든 trace를 동일한 턴 및 블록 형태로 파싱하고, 이를 청크로 나누며, 고정된 로컬 모델로 임베딩한 뒤 로컬 Lance 데이터셋에 기록합니다. 쿼리는 벡터 검색과 BM25 검색을 결합하고, 두 검색의 순위를 융합하며, cross-encoder로 후보의 순위를 다시 매기고, 최신성에 따라 가중치를 재조정한 다음, 인접한 청크를 연결합니다.

이 설계는 funes에 세 가지 중요한 특성을 부여합니다:

• 에이전트 전반에서 하나의 메모리: Claude Code, Codex, pi, Hermes는 모두 동일한 형태로 기록합니다. recall는 이들의 기록 전체에 걸쳐 작동하며, 각 결과는 어느 에이전트가 생성했는지 알려줍니다.
• 원시 증거의 보존: 기록 시점에 어떤 내용도 사실로 요약되지 않습니다. 결과는 언제나 해당 결과를 만든 턴으로 되돌아갈 수 있습니다.
• recall는 기본적으로 로컬: 계정이나 Hub 저장소가 필요하지 않습니다. 호스팅 모델이 인덱싱을 위해 세션을 처리하지 않으며, 임베딩과 reranking은 여러분의 컴퓨터에서 실행되고, 추론은 코딩 에이전트가 수행합니다.

에이전트가 낯선 사람처럼 행동하는 문제는 한 대의 컴퓨터에서는 이미 해결되었습니다. 하지만 다음 에이전트가 다른 곳에서 실행될 때 메모리는 더욱 유용해집니다.

메모리는 서비스가 아니라 데이터셋입니다

메모리가 작업을 따라오게 하려면 에이전트에 funes를 추가할 때 메모리를 하나 연결하세요:

funes add codex acme/funes-memory

이 bind는 현재 메모리를 해당 위치에 게시합니다. 그러면 funes는 각 턴을 로컬에서 인덱싱하고 세션 경계에서 게시하면서 메모리를 최신 상태로 유지합니다. 에이전트는 그동안 계속 메모리를 recall합니다. 다른 컴퓨터에서 같은 명령을 실행하면 메모리도 그곳으로 따라옵니다.

내부적으로 로컬 메모리는 Lance 데이터셋이고, 공유 메모리는 여러분이 소유한 Hugging Face 데이터셋(기본적으로 비공개)입니다.

Hub에 어떤 내용이 도달하기 전에, 인덱싱 과정에서 자격 증명이 이미 삭제됩니다. 게시할 때는 모든 청크를 다시 검사하여 여전히 비밀처럼 보이는 내용이 있으면 게시하지 않습니다. 이 검사를 담당하는 도구는 SECURITY.md에 문서화되어 있으며, 무엇을 처리하고 무엇을 처리하지 않는지도 설명합니다.

에이전트가 원격 메모리를 읽을 때 funes는 데이터셋 파일을 로컬에 캐시하므로, 캐시가 준비된 쿼리는 로컬 속도로 돌아옵니다. Hub는 다른 데이터셋에 제공하는 소유권, 접근 제어, 버전 관리, 배포 기능을 메모리에도 제공합니다. 여러분의 메모리는 별도의 메모리 서비스에 계정으로 등록되지 않으며, API를 통해 다시 대여할 필요도 없습니다.

먼저 질문하고, 나중에 연결하기

recall는 에이전트를 위해 설계되었습니다. 메모리에 직접 질문하고 싶다면 ask를 사용하세요. 기본적으로 로컬 메모리를 읽습니다:

funes ask claude "what did we decide about the streaming parser"

또는 공유 메모리를 지정할 수도 있습니다. funes 개발 과정의 memory를 게시했으므로, 여러분이 직접 메모리를 만들지 않아도 funes가 이런 방식으로 작동하는 이유를 질문할 수 있습니다:

funes ask claude "why is funes append-only" --memory huggingface/funes-memory

[!NOTE] funes ask는 funes add의 읽기 전용 단일 질문 버전입니다. 관련 문단을 찾아 코딩 에이전트에 전달하고, 출처를 명시하는 근거 기반 답변을 반환합니다. 통합을 설치하거나 에이전트의 영구 설정을 변경하지 않습니다.

retrieval이 실패했다고 해서 얼버무리지 않습니다. 문단이 답변을 뒷받침하지 못하면 에이전트는 그렇게 말합니다. 질문을 바꾸어 표현하거나 에이전트에 funes를 추가하여, 일반적인 작업 중에 메모리를 반복적으로 검색하도록 할 수 있습니다.

흐름을 잃지 않고 에이전트 전환하기

공유 메모리는 이를 만든 에이전트나 모델에 종속되지 않습니다. Claude Code에서 작업을 시작하고 다음 주에 Codex에서 이어서 진행하면, 두 번째 에이전트가 첫 번째 에이전트의 추론을 recall할 수 있습니다. 로컬 모델 또는 Hugging Face router를 통해 제공되는 모델과 함께 pi를 사용한 다음 Claude로 돌아갈 수도 있습니다.

Claude가 결정을 내리고, hook이 이를 인덱싱하며, Codex가 다른 세션에서 이를 recall합니다. 데모에서 더 오래된 결과는 같은 실험을 앞서 기록한 것입니다. append-only 메모리는 리허설도 기억했습니다.

이는 몇 가지 서로 다른 범위에서 중요합니다:

• 여러분의 컴퓨터 전반에서: 각 에이전트를 하나의 메모리에 연결하고, 사용 중인 호스트가 무엇이든 그곳에서 기록을 불러오세요.
• 팀 전반에서: 새 팀원의 에이전트는 첫날부터 수개월에 걸친 결정을 검색할 수 있습니다. 여기에는 pull request에 들어가지 못한 막다른 길과 근거도 포함됩니다.
• 오픈 소스 프로젝트와 함께: 메인테이너는 릴리스 뒤에 있는 세션을 게시하면서 push 시 세션 이름을 지정할 수 있습니다. 이를 누군가 계속 다시 작성해야 하는 페이지가 아니라, 프로젝트가 왜 지금과 같은 모습이 되었는지에 대한 기록을 담은 검색 가능한 CLAUDE.md라고 생각해 보세요. 누구나 --memory로 공개 메모리를 읽을 수 있습니다.

게시된 메모리에는 데이터셋 카드와 funes 태그가 포함되어 있어 식별할 수 있고 discoverable on the Hub할 수 있습니다. Hub는 이미 오픈 가중치와 데이터셋을 호스팅하고 있습니다. funes는 여기에 오픈 작업 메모리를 더합니다. 메모리에는 프로젝트를 뒷받침하는 결정, 실패한 접근법, 근거가 담기며, 다른 에이전트가 쿼리할 수 있고 이를 만든 세션까지 추적할 수 있습니다.

긴 세션에서 빠져나오는 가장 저렴한 방법

긴 조사 작업은 세션을 부풀려 각 턴에서 컨텍스트를 유지하는 비용이 실제 작업을 수행하는 비용보다 커지게 만듭니다. 일반적인 해결책은 에이전트가 세션을 compact한 뒤 계속 진행하게 하거나, handoff를 작성하고 새로 시작하는 것입니다. recall은 세 번째 방법이므로, handoff-vs-recall benchmark에서 서로 비교해 보았습니다. 세션의 사전 지식 없이는 답을 재구성할 수 없는 두 가지 작업입니다.

Compaction은 대부분의 에이전트가 기본적으로 수행하는 방식이며, 세 가지 중 결과가 나뉜 유일한 방법이었습니다. 한 작업에서는 답에 도달했지만 다른 작업에서는 끝내 도달하지 못했습니다. 실패한 경우에는 요약이 중요한 발견을 평탄화해 버렸습니다. Recall은 문단 자체를 반환하므로 발견이 요약을 거쳐 살아남을 필요가 없습니다.

두 작업 모두에서 recall이 세 방법 중 가장 저렴했습니다. 한 작업에서는 작성한 handoff보다 8배, 다른 작업에서는 4배 저렴했습니다.

각 막대의 더 밝은 부분은 채널, handoff 또는 compaction을 준비하는 일회성 비용입니다. 첫 번째 질문을 하기 전에 지불하고 한 번만 계산합니다. X 표시는 끝내 도달하지 못한 채널을 나타내므로 성공당 비용이 없습니다.

이제 처음부터 시작하지 마세요

“생각한다는 것은 차이를 잊고, 일반화하고, 추상화하는 것이다.” — Jorge Luis Borges, Funes the Memorious

여러분의 에이전트는 이미 기록을 작성했습니다. funes는 github.com/huggingface/funes에 존재하며, 한 번의 명령으로 그 기록을 어떤 컴퓨터에서 작업하든 다음 에이전트가 읽을 수 있는 메모리로 바꿔 줍니다.

오픈 소스를 기반으로 구축

funes가 이 모든 것을 새로 발명한 것은 아닙니다. 로컬에서 실행하기에 충분히 좋은 오픈 소스 임베딩 모델, 저렴한 증분 쓰기를 지원하는 Lance의 append-only 데이터셋, 그리고 데이터셋을 위한 Hub의 캐싱 및 콘텐츠 중복 제거 기능을 활용합니다. 중요한 작업은 이를 에이전트가 실제로 사용할 수 있는 메모리로 결합하는 것입니다.

funes 역시 오픈 소스입니다. 설치 문제부터 recall 누락, 또는 지원을 원하는 에이전트까지 무엇이든 Open an issue.