어두운 공간에서 작은 빛 하나가 길게 이어진 서랍장의 앞부분만 비추고 나머지는 어둠 속으로 사라지는 모습

Blog

Claude Code 메모리는 작게, 틀린 기록은 고쳐야

이정민

2026년 11월 6일, Anthropic이 엔지니어링 글 “The components of agent memory”를 공개했습니다. 에이전트가 세션을 넘어 무엇을 기억하고, 그 기억을 어떻게 관리해야 하는지 다룬 글입니다. 글에는 Claude Code의 자동 메모리(auto memory)가 어떤 방식으로 동작하는지에 대한 설명도 담겨 있습니다.

AI 에이전트를 업무에 들이는 조직은 곧 같은 질문을 마주합니다. 에이전트가 지난 작업을 기억하면 편리합니다. 하지만 기억이 쌓일수록 비용이 늘고, 틀린 내용이 남을 수도 있습니다. 이 글은 그 균형을 어떻게 잡을지에 대한 Anthropic의 관점을 보여 줍니다.

매 세션에 불러오는 층은 작게 둡니다

Claude Code의 자동 메모리는 모든 세션에 불러오는 층을 작게 유지합니다. 이 층은 사람이 따로 관리하지 않습니다. 세션이 진행되는 동안 Claude가 직접 내용을 정리합니다.

크기에도 분명한 한도가 있습니다. Claude Code는 자동 메모리 전체를 불러오지 않습니다. MEMORY.md 파일의 처음 200줄 또는 25KB까지만 세션에 불러옵니다. 그 뒤에 적힌 내용은 세션을 시작할 때 자동으로 들어가지 않습니다.

이 설계는 기억을 많이 담을수록 좋다는 직관과 반대입니다. 에이전트가 기억하는 전체 양보다, 매번 꺼내 보는 양을 얼마나 작게 유지하는지가 더 중요하다는 뜻입니다.

머리말은 목차 역할을 합니다

작게 유지한다고 해서 아는 것이 줄어드는 것은 아닙니다. MEMORY.md의 앞부분은 일종의 목차로 동작합니다. Claude가 무엇을 알고 있는지, 그 내용을 어디에서 찾을 수 있는지를 보여 주는 역할입니다.

도서관의 색인 카드를 떠올리면 이해가 쉽습니다. 모든 책을 책상 위에 쌓아 두는 대신, 어떤 책이 어느 서가에 있는지만 적어 둡니다. 필요한 순간에 그 위치를 찾아가면 됩니다.

Anthropic은 이와 관련해 자사 Claude Code 문서의 경고를 함께 언급합니다. 지시 파일이 길어질수록 Claude가 지시를 따르는 정도가 낮아진다는 내용입니다. 기억을 길게 늘어놓으면 정작 중요한 지시가 묻힐 수 있습니다.

틀린 기록도 다음 세션에서 믿어집니다

메모리에는 위험도 따릅니다. 처음부터 잘못 적힌 기록이 있을 수 있습니다. 처음에는 맞았지만 환경이 바뀌면서 사실과 어긋나게 된 기록도 있습니다. 두 경우 모두 이후 세션의 Claude가 그 기록을 읽고 그대로 믿을 수 있습니다.

Anthropic은 매 세션에 불러오는 메모리가 귀한 토큰을 소모한다고 지적합니다. 또한 틀린 기록 하나가 모든 세션에 계속 따라 들어갈 수 있다고 설명합니다. 한 번의 실수가 한 번으로 끝나지 않는 구조입니다.

조직의 관점에서 보면 이것은 운영의 문제입니다. 사람이 작성한 업무 매뉴얼도 오래 방치하면 현장과 맞지 않게 됩니다. 에이전트의 메모리도 같은 방식으로 낡아 갑니다. 차이는 에이전트가 그 기록을 의심 없이 따를 수 있다는 점입니다.

드리밍은 기록을 고치지만 연산이 필요합니다

Anthropic은 틀린 기록을 바로잡는 방법 하나로 드리밍(dreaming)을 소개합니다. Anthropic이 진행한 포켓몬(Pokémon) 테스트에서, Claude는 잘못된 메모리 기록을 세션 기록과 대조했습니다. 그리고 오류를 찾아내 기록을 다시 작성했습니다.

여기서 눈여겨볼 점은 대조할 근거가 있었다는 사실입니다. 메모리는 요약이고, 세션 기록은 실제로 일어난 일입니다. 요약을 원래 기록과 비교할 수 있었기 때문에 틀린 부분을 찾을 수 있었습니다.

다만 Anthropic은 드리밍에 연산 자원이 든다고 밝힙니다. 기록을 고치는 작업 자체가 비용이 되는 셈입니다. 얼마나 자주, 어떤 범위의 메모리를 점검할지는 비용과 정확도 사이에서 조직이 정해야 할 문제입니다.

사용법보다 목적을 알려 줍니다

메모리에 관한 지시 방식에 대해서도 Anthropic은 한 가지 경험을 공유합니다. Claude에게 메모리 사용법을 일일이 정해 주기보다, 메모리가 무엇을 위한 것인지 알려 주는 편이 도움이 되었다는 내용입니다.

이 원칙은 사람을 교육하는 방식과도 닮았습니다. 새로 온 동료에게 노트 작성 규칙을 줄마다 알려 주기보다, 그 노트가 누구를 위해 왜 필요한지 설명하면 스스로 판단할 여지가 생깁니다. 에이전트에게 지시문을 작성하는 실무자도 같은 원칙을 적용해 볼 수 있습니다.

도입 전에 확인할 것

Claude Code나 메모리를 갖춘 에이전트를 도입하려는 조직이라면 몇 가지를 먼저 정해 두는 것이 좋습니다.

첫째, 매 세션에 불러오는 메모리의 크기를 관리할 기준이 있어야 합니다. 불러오는 양에 한도가 있다는 사실을 모르면, 중요한 내용이 뒤로 밀려 세션에 들어가지 않을 수 있습니다. 앞부분에는 무엇을 알고 있고 상세 내용이 어디에 있는지만 남기는 원칙을 팀이 함께 알고 있어야 합니다.

둘째, 틀린 기록을 발견하고 고치는 절차가 필요합니다. 시스템이나 업무 규칙이 바뀌는 시점에 메모리를 다시 점검하면, 낡은 기록이 계속 이어지는 일을 줄일 수 있습니다. 드리밍처럼 자동으로 고치는 방법을 검토한다면 그 연산 비용을 예산에 포함해야 합니다.

셋째, 메모리에 무엇이 저장되는지 파악해야 합니다. 메모리는 세션이 끝난 뒤에도 남는 데이터입니다. 어떤 정보가 기록으로 남아도 되는지, 누가 그 기록을 보고 고칠 수 있는지 권한을 정해 두어야 합니다.

넷째, 지시문을 작성하는 역량을 교육해야 합니다. 지시 파일이 길수록 따르는 정도가 낮아진다면, 짧고 목적이 분명한 지시를 작성하는 능력이 곧 에이전트의 성과로 이어집니다. 메모리 사용 규칙을 늘어놓기보다 목적을 설명하는 연습을 팀 단위로 해 보시기를 권합니다.

자주 묻는 질문

Claude Code는 자동 메모리를 전부 세션에 불러오나요?
아닙니다. Claude Code는 MEMORY.md의 처음 200줄 또는 25KB까지만 세션에 불러옵니다.
메모리에 내용을 많이 담을수록 에이전트가 더 잘 일하나요?
그렇지 않을 수 있습니다. Anthropic은 Claude Code 문서에서 지시 파일이 길어질수록 지시를 따르는 정도가 낮아진다고 경고합니다.
메모리에 틀린 내용이 들어가면 어떤 문제가 생기나요?
이후 세션의 Claude가 그 기록을 읽고 그대로 믿을 수 있습니다. 틀린 기록 하나가 모든 세션에 계속 이어질 수도 있습니다.
틀린 메모리를 자동으로 바로잡는 방법이 있나요?
Anthropic은 드리밍(dreaming)을 한 가지 방법으로 소개합니다. 다만 드리밍에는 연산 자원이 든다고 밝혔습니다.
메모리에 관한 지시문은 어떻게 작성하는 것이 좋나요?
Anthropic은 메모리의 사용법보다 메모리가 무엇을 위한 것인지 알려 주는 편이 도움이 되었다고 밝혔습니다.

다른 글

AI 도입 성과를 높이는 1분

참여자의 역할, 규모에 맞추어 과정을 구성합니다.
신청 후에는 담당자가 1영업일 내로 연락드릴게요.

1분 내로 문의하기