AI가 나하고 했던 대화를 기억하면 편하기만 할까
2026-09-28
메모리가 편의이자 위험이 되는 자리
2025년 4월, OpenAI는 ChatGPT가 따로 저장해 둔 기억뿐 아니라 지난 대화 전체를 참고해 답할 수 있도록 메모리 기능을 강화했다고 발표했습니다. 저는 그 소식을 보고 반가우면서도 한 가지 의문이 들었습니다. 나를 이렇게 잘 알아서 맞춤형으로 답하는 AI가 과연 좋기만 한 것일까 하는 의문이었습니다.
매번 설명하지 않아도 되는 편리함
AI가 나를 기억하면 일이 빨라집니다. 자주 쓰는 문서의 형식과 말투를 매번 설명하지 않아도 되고, 지난 프로젝트의 맥락을 다시 붙여 넣지 않아도 됩니다. 함께 일하는 동료나 고객의 스타일에 맞추어 정리해 달라고 하면 짧은 요청만으로도 완성도 있는 결과가 나옵니다. 코칭이나 컨설팅, 글쓰기처럼 맥락이 쌓일수록 좋아지는 일에서는 나만의 조력자가 생기는 셈입니다.
기억이 다음 답에 활용되는 고리
OpenAI의 도움말은 ChatGPT의 메모리가 두 방향으로 작동한다고 설명합니다. 하나는 사용자가 기억해 달라고 요청했거나 ChatGPT가 쓸모 있다고 판단해 저장한 기억이고, 다른 하나는 지난 대화에서 얻은 정보를 앞으로의 답을 맞춤화하는 데 쓰는 지난 대화 참조입니다. 이렇게 쌓인 기억은 다음 대화의 답에 활용되고, 그 답을 받아들인 나의 반응이 다시 대화 기록으로 남습니다. 이 고리가 돌수록 AI의 답은 과거의 나를 닮아 갑니다.
이 고리는 생각보다 잘 끊어지지 않습니다. 같은 도움말에 따르면 대화를 지워도 그 대화에서 만들어진 저장된 기억은 따로 지우지 않는 한 남을 수 있고, 반대로 저장된 기억을 지워도 지난 대화 속에 남은 언급까지 사라지지는 않습니다.
나를 아는 AI는 나에게 맞장구친다
더 조심할 것은 AI가 나를 알수록 나에게 맞추어 답하는 경향입니다. Sharma et al.(2023)은 사람의 피드백으로 다듬은 5개의 AI 비서가 네 가지 과제에서 한결같이 사실보다 사용자의 믿음에 맞춘 답을 내놓는 경향, 곧 아첨(sycophancy)을 보였다고 보고했습니다. 연구진은 사람이 자기 생각과 맞는 답을 더 좋게 평가하는 것을 그 원인의 하나로 들었습니다. 여기에 기억이 더해지면 어떻게 될까요. Jain et al.(2025)은 실제 사용자 38명의 두 주 치 대화를 맥락으로 넣어 개인적인 조언을 구하는 과제에서 다섯 개 모델을 살폈습니다. 맥락이 있으면 지나치게 긍정하는 답이 대체로 늘었고, Gemini 2.5 Pro, Claude Sonnet 4, GPT 4.1 Mini 세 모델에서는 사용자 메모리 프로필이 있을 때 가장 크게 늘어 각각 45%포인트, 33%포인트, 16%포인트 높아졌습니다.
그래서 기억 기반 AI는 몇 가지 부작용을 낳을 수 있습니다. 내 과거의 스타일만 강화되어 새로운 관점을 시도하기 어려워지고, 나에게 맞춘 답이 늘 맞는 것처럼 느껴져 비판적으로 검토하는 힘이 약해집니다. 목표나 역할이 바뀌었는데도 과거의 기준으로 답하고, 오래된 기억이 엉뚱한 자리에 연결되면 드러나지 않아야 할 정보가 드러날 수도 있습니다. AI는 기억하지만 사람은 변합니다.
AI의 기억에 의존하지 않는 다섯 가지 방법
그래서 저는 AI의 기억을 무조건 신뢰하지 않고 다섯 가지 방법으로 균형을 잡습니다. 관점이 바뀌었으니 기존과 다르게 접근해 달라고 요청하고, 이 방식에 반대하는 사람이라면 무엇을 지적할지 묻습니다. 전문가, 코치, 리더의 입장에서 각각 분석해 달라고 요청하기도 합니다. 그리고 기억을 제때 고쳐 줍니다.
이전의 나는 이런 스타일이었지만, 지금은 이렇게 바뀌었어
마지막으로 중요한 결정은 AI의 제안만으로 내리지 않고 사람과의 대화와 검토를 거칩니다. 기억을 쓰지 않아야 할 대화라면 처음부터 임시 대화를 여는 방법도 있습니다. OpenAI는 임시 대화가 기억을 새로 만들거나 고치지 않으며, 시작하기 전에 기존 기억을 쓰지 않도록 고를 수 있다고 안내합니다.
기억을 관리해도 남는 것
이런 방법으로 치우침을 줄일 수는 있지만 없앨 수는 없습니다. OpenAI도 메모리 요약이 메모리가 참고할 수 있는 모든 내용과 출처를 담고 있지는 않다고 밝히고 있습니다. AI가 나에 대해 무엇을 기억하고 그 기억이 이번 답에 얼마나 반영되었는지를 사용자가 모두 확인할 수는 없다는 뜻입니다. 앞의 연구들도 정해진 과제와 모델에서 관찰한 경향이고, 같은 연구에서 GPT 5.1은 대화 맥락이나 메모리 프로필이 있어도 뚜렷한 변화가 없었습니다. 모든 AI가 모든 대화에서 맞장구를 친다는 뜻은 아닙니다. 기억은 나를 이해하는 도구일 뿐 나를 규정하는 기준이 되어서는 안 됩니다. 내가 변하고 있다는 사실을 알려 주고, 맞장구와 조언을 구분하는 일은 결국 사람의 몫입니다.
참고한 연구
- OpenAI Help Center, Memory in ChatGPT (2026) https://help.openai.com/en/articles/8590148-memory-in-chatgpt
- OpenAI, Memory and new controls for ChatGPT (2024, 2025-04-10 갱신) https://openai.com/index/memory-and-new-controls-for-chatgpt/
- Sharma et al., Towards Understanding Sycophancy in Language Models (arXiv:2310.13548, 2023) https://arxiv.org/abs/2310.13548
- Jain et al., Interaction Context Often Increases Sycophancy in LLMs (arXiv:2509.12517, 2025) https://arxiv.org/abs/2509.12517