6장. 대화를 이어 가며 다듬기
한 줄 요약: AI의 첫 답은 완성품이 아니라 초안입니다. 같은 대화 안에서 고쳐 가며 완성하고, 대화가 엉키기 시작하면 요약을 들고 새 대화로 옮깁니다.
AI는 대화를 어디까지 기억하나
같은 대화 안에서는 기억한다
한 대화 창 안에서 주고받은 내용은 AI가 함께 읽고 답합니다. 그래서 "방금 쓴 글에서 두 번째 문단만 줄여 줘"라고 하면 어떤 글을 말하는지 알아듣습니다.
정확히 말하면 AI가 기억을 "저장"하는 것은 아닙니다. 답할 때마다 그 대화 전체를 처음부터 다시 읽는 것에 가깝습니다. 1장에서 본 컨텍스트 윈도우(한 번에 읽을 수 있는 글의 양)를 떠올려 보세요. 대화가 그 안에 들어 있는 동안만 앞 내용을 참고할 수 있습니다.
이렇게 여러 번 주고받는 대화를 멀티턴(multi-turn) 대화라고 부릅니다. 턴(turn)은 내가 한 번 말하고 AI가 한 번 답하는 한 차례입니다.
새 대화에서는 기본적으로 모른다
새 대화 창을 열면 AI는 이전 대화를 모르는 상태에서 시작합니다. 어제 한참 설명한 내 사정도 다시 알려 줘야 합니다.
일부 서비스에는 이전 대화의 일부를 기억해 두는 메모리(memory) 기능이 있습니다. 서비스마다 동작과 설정 방법이 달라서 2단계(서비스별 가이드)에서 다룹니다. 이 장에서는 "새 대화는 처음부터"라고 생각하고 써 보세요.
확인 퀴즈
어제 AI와 한참 이야기한 뒤, 오늘 새 대화 창을 열었습니다. AI는 어제 이야기를 알고 있을까요?
고쳐 달라고 잘 말하는 법
답이 마음에 들지 않을 때 가장 흔한 실수는 이렇게 말하는 것입니다.
별로야. 다시 써 줘.AI는 무엇이 별로인지 모릅니다. 그래서 처음과 비슷한 수준의 다른 글을 줍니다. 고쳐 달라고 할 때는 세 가지를 넣어 보세요.
| 요소 | 질문 | 예 |
|---|---|---|
| 어디를 | 어느 부분이 문제인가? | "세 번째 문장" "결론 부분" "전체 말투" |
| 어떻게 | 어떻게 바꾸고 싶은가? | "더 짧게" "숫자를 넣어서" "덜 딱딱하게" |
| 무엇은 그대로 | 지켜야 할 것은? | "첫 문단은 좋으니 그대로 둬" |
세 가지를 넣으면 이렇게 됩니다. "별로야"와 달리 고칠 곳과 지킬 곳이 분명합니다.
전체 흐름은 좋아. 세 번째 문단이 너무 길어서, 두 문장으로 줄여 줘.
마지막 문장의 "감사합니다"는 그대로 두고, 나머지 말투는 지금처럼 유지해 줘.바로 쓰는 수정 표현
| 이럴 때 | 이렇게 말해 보세요 |
|---|---|
| 너무 길다 | "핵심만 남기고 절반 길이로 줄여 줘" |
| 너무 딱딱하다 | "친한 선배가 후배에게 말하듯 바꿔 줘" |
| 너무 뻔하다 | "누구나 할 법한 말은 빼고, 이 상황에만 해당하는 내용으로 바꿔 줘" |
| 이해가 안 된다 | "이 부분을 중학생도 알 수 있게 예를 들어 다시 설명해 줘" |
| 근거가 궁금하다 | "그렇게 생각한 이유를 세 가지로 알려 줘" |
| 처음 지시를 잊었다 | "처음에 말한 조건(다섯 문장 이내, 존댓말)을 다시 지켜 줘" |
지시는 지켰는데 쓸모가 없을 때 — 목표를 말하기
"더 짧게 해 줘"라고 했더니 정말 짧아졌습니다. 그런데 중요한 내용까지 같이 빠졌습니다. AI가 내 말의 글자는 지켰지만 뜻은 놓친 경우입니다.
이럴 때 같은 말을 더 세게 되풀이해도 잘 고쳐지지 않습니다. 대신 무엇을 위해 그러는지를 덧붙여 보세요.[1]
아쉬운 예
더 짧게 해 줘. 진짜 짧게.나은 예
더 짧게 해 줘. 바쁜 팀장님이 끝까지 읽고
두 번째 문단의 조사 결과를 기억하게 하는 게 목표야.차이는 마지막 줄입니다. 목표를 알면 AI가 무엇을 남기고 무엇을 뺄지 고를 수 있습니다.
"세 줄로", "표로"는 모양이고, "팀이 이 일정을 믿게 하기"는 목표입니다(4장 「좋은 프롬프트의 5요소」). 요청을 보내기 전에 스스로 물어보세요. 모양만 말했나, 목표도 말했나?
확인 퀴즈
AI가 써 준 글이 마음에 들지 않습니다. 고쳐 달라고 할 때 무엇을 말해 주면 좋을까요?
다시 생성, 질문 고치기, 이어서 요청 — 언제 무엇을
대부분의 서비스에는 답을 다시 받는 방법이 세 가지 있습니다. 버튼 이름과 위치는 서비스마다 달라서 2단계에서 화면과 함께 보여 드립니다.
| 방법 | 하는 일 | 이럴 때 |
|---|---|---|
| 이어서 요청 | 지금 답을 바탕으로 고쳐 달라고 말한다 | 방향은 맞고 일부만 고치면 될 때 |
| 다시 생성 | 같은 질문으로 다른 답을 하나 더 받는다 | 질문은 괜찮은데 답이 우연히 별로일 때 |
| 내 질문 고치기 | 내가 보낸 질문을 수정해서 다시 보낸다 | 처음 질문에 빠진 정보가 있었을 때 |
같은 질문에 다시 생성을 누르면 왜 다른 답이 나올까요? 1장에서 본 것처럼 AI는 "다음에 올 말"을 고를 때 가장 그럴듯한 후보 중에서 확률적으로 고릅니다. 그래서 같은 질문에도 매번 조금씩 다른 답이 나옵니다.
다시 누르기 전에 — 무엇이 문제였는지 짚기
답이 이상할 때 다시 생성부터 누르기 쉽습니다. 그 전에 어떤 종류의 실패인지 먼저 짚어 보세요. 실패의 종류를 알면 맞는 고칠 방법으로 바로 갈 수 있습니다.[2]
- 이름·숫자·출처가 그럴듯한데 의심스럽다 → 원래 자료에서 확인하세요(9장).
- 긴 대화에서 처음 조건을 잊었다 → 조건을 다시 알려 주거나, 인계 메모를 들고 새 대화로 옮기세요(아래 「언제 새 대화를 시작하나」).
- 계산이 틀렸다 → 계산을 코드로 돌릴 수 있는 서비스라면 그렇게 해 달라고 하세요.
- 내 생각에 무조건 동의한다 → 반대해도 된다고 말해 주세요(1장).
위 표처럼 다시 생성은 질문은 괜찮은데 답이 우연히 별로일 때 쓰는 방법입니다. 원인이 따로 있다면 다시 누르기보다 그 원인부터 고쳐 보세요.
확인 퀴즈
질문은 잘 썼는데, 답이 이번에만 우연히 별로인 것 같습니다. 가장 알맞은 방법은?
언제 새 대화를 시작하나
한 대화를 오래 이어 가면 오히려 답이 나빠질 때가 있습니다. 앞에서 나눈 이야기가 계속 영향을 주기 때문입니다. 예를 들어 같은 대화에서 가게 홍보 문구를 한참 만든 뒤 이력서를 부탁하면, 이력서에 홍보 문구 같은 말투가 섞일 수 있습니다.
이런 신호가 보이면 새 대화를 시작하세요.
- 주제가 바뀌었다 — 여행 계획을 짜다가 회사 보고서로 넘어갈 때
- 처음 지시를 잊기 시작한다 — 처음에 정한 말투나 분량을 자꾸 어길 때
- 같은 실수를 반복한다 — 고쳐 달라고 해도 비슷한 오류가 계속 나올 때
- 대화가 아주 길어졌다 — 스크롤을 한참 올려야 처음이 보일 때
확인 퀴즈
다음 중 새 대화로 옮기지 않고 지금 대화에서 계속해도 되는 경우는?
새 대화로 옮겨 가는 법 — 요약 인계
새 대화를 시작한다고 지금까지 정한 것을 버릴 필요는 없습니다. 기존 대화에서 요약을 받아서 새 대화에 붙여 넣으세요. 회사에서 담당자가 바뀔 때 쓰는 인수인계 메모와 같습니다.
기존 대화에서
이 대화를 새 대화에서 이어 가려고 해. 아래 항목으로 인계 메모를 써 줘.
- 목표: 무엇을 만들고 있는지
- 확정된 것: 지금까지 정한 내용과 조건
- 내 취향: 내가 좋다고 한 것, 싫다고 한 것
- 남은 일: 다음에 할 일새 대화에서
아래는 이전 대화에서 정리한 인계 메모야. 이 내용을 바탕으로 "남은 일"의 첫 번째부터 이어서 해 줘.
---
[인계 메모 붙여 넣기]
---메모는 5장의 구분자(---)로 감싸 주세요. 그러면 AI가 메모 내용과 내 요청을 헷갈리지 않습니다.
확인 퀴즈
대화가 너무 길어져 새 대화로 옮기려 합니다. 지금까지 정한 내용을 잃지 않으려면?
잘 된 프롬프트는 저장해 두기
여러 번 고쳐서 좋은 결과가 나온 요청은 버리지 말고 메모장에 모아 두세요. 다음에 비슷한 일이 생기면 빈칸만 바꿔 다시 쓸 수 있습니다.
[주간 보고 정리용]
아래는 이번 주 내 업무 메모야. 팀장님께 보고할 주간 보고로 정리해 줘.
"완료 / 진행 중 / 다음 주 계획" 세 칸 표로 만들고, 항목마다 한 줄로 써 줘.
---
[이번 주 메모]
---이렇게 빈칸을 남겨 두고 다시 쓰는 요청을 프롬프트 템플릿(prompt template)이라고 부릅니다. 서비스에 따라 이런 지시를 저장해 두고 매번 자동으로 적용하는 기능도 있습니다. 이것도 2단계에서 다룹니다.
확인 퀴즈
주간 보고를 정리해 달라는 요청이 잘 통했습니다. 다음 주에도 편하게 쓰려면 어떻게 하는 게 좋을까요?
직접 해 보기
- 새 대화에서 "다음 주 금요일 팀 회식 장소 추천해 줘"라고만 요청한다.
- 나온 답에 수정 3요소(어디를, 어떻게, 무엇은 그대로)를 넣어 두 번 고쳐 달라고 한다.
- 인계 메모를 받아 새 대화에 붙여 넣고, "이 조건으로 예약 문의 문자를 써 줘"라고 이어 간다.
새 대화의 답을 보고 스스로 물어보세요. 앞서 정한 인원, 예산, 지역 같은 조건이 그대로 지켜졌나?
정리
- 같은 대화 안에서는 앞 내용을 함께 읽지만, 새 대화는 처음부터 시작한다.
- 수정 요청은 "어디를, 어떻게, 무엇은 그대로"를 말한다.
- 주제가 바뀌거나 처음 지시를 잊기 시작하면 인계 메모를 받아 새 대화로 옮긴다.
- 잘 된 요청은 템플릿으로 저장해 다시 쓴다.
용어 정리
| 용어 | 읽는 법 | 한 줄 뜻 |
|---|---|---|
| Multi-turn | 멀티턴 | 여러 번 주고받는 대화 |
| Turn | 턴 | 한 번 묻고 한 번 답하는 한 차례 |
| Context Window | 컨텍스트 윈도우 | AI가 한 번에 읽을 수 있는 글의 양 (1장) |
| Memory | 메모리 | 이전 대화 일부를 기억해 두는 서비스 기능 |
| Regenerate | 리제너레이트 (다시 생성) | 같은 질문으로 다른 답을 받기 |
| Prompt Template | 프롬프트 템플릿 | 빈칸만 바꿔 다시 쓰는 요청 틀 |
이 장을 다 읽었나요?
기록은 이 브라우저에만 저장됩니다. 진행 현황은 전체 목차에서 볼 수 있어요.
다음 장: 7장. 구조화 프롬프트 — 마크다운·XML 태그
Claude Academy 「AI capabilities and limitations」 강의 「Steerability」. "When an instruction is followed literally but uselessly, restate the goal." / "Repeating the instruction with more force won't close the gap." / "Make this shorter. My goal is to keep the executive's attention through the key finding on page two." https://academy.claude.com/courses/ai-capabilities-and-limitations/steerability (확인일 2026-10-26) ↩︎
Claude Academy 「AI capabilities and limitations」 강의 「When Properties Collide」. "Naming the properties at play points you straight to the fix: verify specifics, re-supply context, offload to code execution, or invite pushback." https://academy.claude.com/courses/ai-capabilities-and-limitations/when-properties-collide (확인일 2026-10-26) ↩︎