맥락창이 뭐길래
긴 문서 넣을 때 흐트러지지 않는 법
🎯 이 레슨으로 얻는 것
긴 문서·긴 대화에서 AI가 갑자기 바보가 되는 이유를 알고, 맥락창을 똑똑하게 관리할 수 있어요.
🧠 맥락창(Context Window)이 뭔데?
AI가 한 번에 들고 있을 수 있는 글자 수예요. 비유하자면 작업용 책상 크기죠.
- 책상이 작으면 → 펼쳐놓은 자료가 적음 → 빠뜨리는 게 생김
- 책상이 크면 → 많이 펼쳐놓을 수 있음 → 대신 뭐가 중요한지 헷갈림
📏 2026년 주요 모델 맥락창 비교
| 모델 | 맥락창 | 한글 대략 환산 | |------|-------|---------------| | GPT-4o mini | 128K 토큰 | A4 200페이지 | | Claude Haiku 4.5 | 200K 토큰 | A4 300페이지 | | Claude Sonnet 4.6 | 1M 토큰 | A4 1,500페이지 | | Claude Opus 4.7 | 1M 토큰 | A4 1,500페이지 | | Gemini 2.5 Pro | 2M 토큰 | A4 3,000페이지 |
토큰이란: AI가 보는 단위. 한국어는 대략 1글자 ≈ 1토큰 정도로 잡으면 얼추 맞아요.
🐛 맥락창이 꽉 차면 생기는 일
1. 앞부분을 잊어버림
긴 대화에서 맨 처음 지시사항을 잊어버립니다. "너는 존댓말만 써"라고 해놨는데 10번째 답부터 반말이 섞이는 이유예요.
2. 중간 부분 무시 (Lost in the Middle)
긴 문서를 넣으면 맨 앞과 뒤만 챙기고 가운데는 대충 봅니다. 연구로도 증명된 현상이에요.
3. "방해자" 효과
맥락에 관련 없는 내용이 많이 섞이면, 중요한 정보의 비중이 희석되어 놓치는 확률이 올라갑니다.
💡 긴 문서 다루는 3가지 전략
전략 1: 요약 → 질문 (가장 기본)
긴 PDF를 통째로 넣지 말고, 먼저 요약 뽑고 그 위에서 질문하세요.
[긴 PDF 붙여넣기]
위 문서를 아래 형식으로 요약해줘:
## 핵심 주장 (3줄)
## 근거 데이터 (불릿)
## 한계 (불릿)
요약 끝나면, 내가 추가 질문할게.
전략 2: 구조화된 청크 (Chunking)
문서를 목차 단위로 쪼개서 각각 따로 처리한 뒤 합치세요.
아래는 보고서의 3장(경쟁 분석)만 붙여넣었어.
이 장의 핵심 3줄 + 인용 가능한 문장 5개만 뽑아줘.
다른 장은 나중에 따로 줄게.
전략 3: 스크래치패드 만들기
긴 대화에서 중요한 결정사항을 메모장으로 따로 관리하세요.
지금까지 합의된 사항:
- 타겟: 30대 직장인
- 톤: 친구같은 존댓말
- 금지어: "혁신", "최고"
앞으로 이 합의사항 유지하면서 답해줘.
맥락이 길어지면 이 메모만 다시 붙여넣어 리셋하세요.
🧪 5분 실험 — 맥락 까먹기
- AI에게 "대화 끝까지 존댓말로 답해"라고 시킵니다.
- 뉴스 기사 하나를 통째로 붙여넣고 요약 요청.
- 다시 뉴스 기사 붙여넣고 또 요약 요청. (3~4번 반복)
- 마지막에 "네 이름이 뭐야?"라고 물어보세요.
보통 이때부터 반말 섞임 시작합니다 😅
📐 꿀팁 — "프로젝트" / "시스템 프롬프트" 활용
요즘 Claude·ChatGPT엔 Projects 같은 기능이 있어요. 여기에 맥락을 한 번 넣어두면 매 대화마다 새로 넣을 필요가 없습니다.
- Claude Projects:
claude.ai→ 좌측 Projects → 프로젝트 생성 → Custom Instructions에 배경 맥락 저장 - ChatGPT: 설정 → Personalization → Custom Instructions
⚠️ 오해 주의
- ❌ "맥락창이 크면 무조건 좋다" → 크기만 크고 집중력이 떨어짐. 필요한 만큼만 주세요
- ❌ "한 번에 다 넣어야 AI가 잘 이해한다" → 오히려 쪼개서 주는 게 품질 더 좋을 때 많음
- ❌ "맥락창 = 장기 기억" → 대화창 닫으면 다 사라짐. 기억 유지는 Memory 레슨 참고
🔗 다음에 뭘 볼까
- 다음 레슨: "확신에 찬 거짓말" 피하기 — 할루시네이션 감지법
- 심화: 기억 남기기 — Memory Management