ChatGPT를 쓰다가 이런 경험 한 번쯤 있으셨을 거예요.
“분명 말은 그럴듯한데… 이거 진짜 맞아?”
검색해 보니 없는 정보거나, 출처가 엉뚱하거나, 오래된 내용을 너무 자신 있게 답할 때가 있죠.
이런 현상을 흔히 ChatGPT 할루시네이션(Hallucination), AI 환각이라고 합니다.
ChatGPT 거짓말을 100% 막아주는 마법 같은 프롬프트는 없어요.
대신 모르면 모른다고 답하게 하고 → 최신 정보는 검색시키고 → 출처를 확인하고 → 중요한 내용은 다시 검증하는 방식으로
오류 가능성을 줄일 수 있습니다.
급하신 분들은 이론부터 읽지 않아도 돼요. 바로 사용할 수 있는 프롬프트부터 가져가세요.
바로 복붙 가능한 ChatGPT 거짓말 줄이는 핵심 프롬프트
상황에 따라 필요한 것만 골라 복사해서 질문 뒤에 붙이면 됩니다.
① 모르는 내용을 지어내지 않게 하고 싶을 때
확인 가능한 사실을 기준으로 답해줘.
모르는 내용은 억지로 답을 만들지 말고 '모름' 또는 '확인 불가'라고 표시해줘.
추측이나 과장은 피하고, 불확실한 내용은 확실한 사실처럼 표현하지 마.
이럴 때 써보세요:
잘 모르는 분야를 조사하거나, AI가 빈 내용을 알아서 채우는 게 걱정될 때
② 출처가 있는 정보만 받고 싶을 때
답변에 사용한 주요 정보의 출처를 함께 알려줘.
가능하면 논문, 정부·공공기관, 공식 사이트, 공식 보고서 등 1차 출처를 우선해줘.
확인 가능한 출처를 찾지 못했다면 '출처 확인 불가'라고 표시하고, 존재하지 않는 출처를 만들어내지 마.
이럴 때 써보세요:
블로그 자료조사, 보고서, 통계, 전문 정보처럼 출처 확인이 필요한 경우
③ 숫자·통계·데이터가 중요한 질문을 할 때
확실한 근거가 없는 숫자나 데이터를 임의로 만들지 마.
확인할 수 있는 데이터가 없으면 '확인 가능한 데이터 없음' 또는 '추정 불가'라고 답해줘.
추정값을 제시해야 한다면 반드시 '추정'이라고 표시하고 근거를 설명해줘.
이럴 때 써보세요:
통계, 비용, 비율, 순위, 시장 데이터처럼 숫자 하나가 중요한 경우
④ 위로나 감정적인 답변보다 사실이 필요할 때
사실 확인을 우선해서 답해줘.
모르는 내용은 '모름' 또는 '확인 불가'라고 표시하고, 근거 없는 추측은 하지 마.
감정적인 표현이나 위로보다는 확인 가능한 정보와 판단 근거를 중심으로 설명해줘.
이럴 때 써보세요:
공감이나 위로보다는 객관적인 정보와 근거를 중심으로 답을 받고 싶은 경우
⑤ 최신 정보가 중요한 질문을 할 때
현재 기준으로 최신 정보를 검색해서 확인한 뒤 답해줘.
가능하면 공식 자료와 1차 출처를 우선하고 자료의 발표·업데이트 날짜도 확인해줘.
최신 자료인지 확인하기 어렵거나 정보에 한계가 있다면 그 부분도 함께 알려줘.
이럴 때 써보세요:
AI 기능, 가격, 정책, 신청 조건, 제품 정보처럼 자주 바뀌는 내용을 물어볼 때
5개를 하나로 합친 통합 프롬프트
매번 골라 쓰기 귀찮다면 이 버전을 저장해 두는 것도 편합니다.
확인 가능한 사실을 기준으로 답해줘. 모르는 내용이나 근거가 부족한 내용은 임의로 만들지 말고 '모름' 또는 '확인 불가'라고 표시해줘.
사실과 추정을 구분하고, 추정이 포함된다면 반드시 '추정'이라고 밝혀줘.
숫자·통계·날짜는 근거와 기준 시점을 확인하고, 확인 가능한 데이터가 없다면 임의로 만들지 마.
최신성이 중요한 정보는 현재 자료를 검색해서 확인하고, 정부·공공기관·공식 사이트·논문·공식 보고서 등 신뢰할 수 있는 1차 출처를 우선해줘.
확인 가능한 출처를 찾지 못했다면 그 사실을 명시하고 존재하지 않는 출처를 만들지 마.
감정적인 표현이나 위로보다는 확인 가능한 정보와 근거를 중심으로 답해줘.
딱 하나만 저장한다면 이 통합본이 활용하기 편해요.
하지만 여기서 중요한 게 있습니다.
이 프롬프트를 넣었다고 ChatGPT가 100% 정확해지는 건 아니에요.
왜 그런지 알면 프롬프트를 훨씬 제대로 활용할 수 있습니다.
ChatGPT는 왜 틀린 정보를 이렇게 자신 있게 말할까?
우리가 편하게 'ChatGPT 거짓말'이라고 부르지만,
사람이 사실을 알면서 일부러 거짓말하는 것과 AI 할루시네이션은 의미가 다릅니다.
ChatGPT 같은 대규모 언어 모델은 학습한 데이터의 패턴을 바탕으로 응답을 생성합니다.
쉽게 기억하면 이 차이예요.
자연스러운 답변을 만드는 능력 ≠ 모든 내용이 사실인지 확인하는 능력
그래서 문장은 너무 자연스러운데 사실 확인을 해 보면 틀린 경우가 생길 수 있어요.
예를 들면,
- 존재하지 않는 논문이나 보고서를 제시하거나
- 날짜와 숫자를 잘못 알려주거나
- 비슷한 이름의 인물이나 서비스를 혼동하거나
- 오래된 정보를 현재 정보처럼 설명하거나
- 확인되지 않은 내용을 자연스럽게 이어서 설명하는 경우입니다.
OpenAI 역시 할루시네이션을 언어 모델이 그럴듯하지만 사실이 아닌 내용을 생성하는 현상으로 설명하고 있습니다.
그러니 ChatGPT를 사용할 때 이건 꼭 기억해 두세요.
말을 잘하는 것과 사실을 잘 아는 것은 같은 문제가 아닙니다.
1. “정확하게 알려줘”보다 모를 때 어떻게 할지를 정해주세요
❌ 이렇게만 묻기
정확하게 알려줘.
⭕ 이렇게 조건까지 주기
확실하지 않은 내용은 추측해서 채우지 말고 '확인 불가'라고 표시해줘. 사실과 추정도 구분해줘.
차이는 간단합니다.
첫 번째 질문에는 AI가 모르는 정보와 불확실한 정보를 어떻게 처리해야 하는지가 없어요.
두 번째에는 답변 기준이 있습니다.
특히 이름, 숫자, 날짜, 논문 제목, 제품 사양처럼 정확성이 중요한 질문에서는 이런 조건을 붙여주는 게 좋습니다.
2. 최신 정보는 날짜를 넣고 검색해서 확인하세요
AI 관련 정보를 찾을 때 특히 중요한 부분이에요.
AI 기능이나 요금제는 물론이고,
가격 / 정책 / 신청 조건 / 일정 / 제품 사양 / 최근 사건
같은 정보도 시간이 지나면서 달라질 수 있습니다.
그래서
❌ ChatGPT 기능 알려줘
보다
⭕ 2026년 9월 현재 ChatGPT 기능을 OpenAI 공식 자료를 검색해서 확인해줘. 변경 가능성이 있는 정보는 따로 표시해줘.
처럼 질문하는 편이 낫습니다.
포인트는 세 가지예요.
현재 시점 + 검색 + 공식 출처
하지만 검색을 사용했다고 해서 무조건 맞는 답이 되는 건 아닙니다.
검색한 자료를 잘못 해석할 수도 있기 때문에 중요한 내용은 한 단계 더 확인해야 해요.
3. “출처 알려줘”에서 끝내면 안 되는 이유
출처를 요청했더니 논문 제목과 기관명, 링크까지 나오면 갑자기 답변이 굉장히 믿음직스러워 보입니다.
그런데 바로 여기서 한 번 더 확인해야 해요.
출처가 있다는 것과 그 출처가 실제 답변 내용을 뒷받침한다는 것은 다릅니다.
AI가 존재하지 않는 참고문헌을 생성하거나 실제 자료를 부정확하게 설명하는 것 역시 할루시네이션의 한 형태가 될 수 있습니다.
그래서 중요한 자료라면 이렇게 물어보세요.
정부·공공기관·공식 문서 등 1차 출처를 우선해서 찾아줘.
답변의 어떤 내용이 어떤 출처에서 확인되는지도 알려줘.
숫자나 통계가 중요하다면
이 숫자가 원문 어디에서 확인되는지도 알려줘.
까지 추가하면 됩니다.
그리고 마지막에는 링크를 직접 열어보세요.
출처 요청 → 원문 확인
여기까지 해야 검증이 끝났다고 생각하는 게 좋습니다.
4. 중요한 작업은 내가 믿는 자료만 주고 답하게 해보세요
인터넷 전체의 정보가 필요하지 않은 작업이라면 아예 사용할 자료를 직접 정해 주는 방법도 있습니다.
예를 들어
- 회사 공식 매뉴얼
- 논문
- 정부 보고서
- 강의 자료
- 업무 문서
- 확인해야 할 PDF
등을 직접 제공하는 거예요.
그다음 이렇게 요청합니다.
내가 제공한 자료만 근거로 답해줘.
자료에 없는 내용은 일반 지식으로 임의 보완하지 말고 '제공된 자료에서 확인할 수 없음'이라고 표시해줘.
답변의 근거가 된 부분도 함께 알려줘.
NotebookLM처럼 사용자가 제공한 소스를 중심으로 질문하고 답을 받는 도구를 활용하는 방법도 있습니다.
하지만 여기서도
“내 자료를 넣었으니 이제 절대 틀리지 않는다”
고 생각하면 안 돼요.
AI가 문맥을 잘못 해석하거나 요약 과정에서 의미를 다르게 전달할 가능성은 남아 있기 때문입니다.
5. 첫 번째 답변을 그대로 쓰지 말고 한 번 더 검증하세요
답변이 뭔가 이상할 때
확실해?
라고 다시 묻는 경우가 많죠.
이왕 한 번 더 물어볼 거라면 검증할 항목까지 지정해보세요.
답변 재검증용 복붙 프롬프트
방금 답변을 다시 팩트체크해줘.
- 출처로 확인되지 않는 내용
- 추정이 포함된 내용
- 최신 정보인지 재확인이 필요한 내용
- 숫자·날짜·고유명사 중 추가 검증이 필요한 내용
을 각각 구분해줘.
근거가 부족한 내용은 삭제하거나 '불확실'이라고 표시해줘.
확실해?라는 한마디보다 어떤 부분을 다시 확인해야 하는지 구체적으로 지정하는 방식입니다.
“너는 팩트체크 기자야”라고 하면 더 정확해질까?
프롬프트를 찾아보면 이런 문장도 자주 보입니다.
너는 20년 경력의 팩트체크 전문가야.
역할을 지정할 수는 있지만 그 역할 자체가 답변의 사실성을 보장하는 것은 아닙니다.
차라리 이렇게 구체적으로 요청해 보세요.
아래 내용을 주장별로 팩트체크해줘.
1차 출처를 우선하고 사실·해석·추정을 구분해줘.
확인할 수 없는 주장은 '확인 불가'로 표시하고 근거를 임의로 만들지 마.
멋있는 역할 이름보다 실제로 무엇을 확인해야 하는지를 지정하는 게 중요합니다.
매번 프롬프트 입력하기 귀찮다면 맞춤 지침에 넣어두세요
앞에서 소개한 통합 프롬프트를 자주 사용한다면 매번 복사하기 번거롭죠.
이럴 때 ChatGPT 맞춤 지침(Custom Instructions)을 활용할 수 있습니다.
2026년 9월 현재 OpenAI 공식 안내 기준, 웹과 데스크톱에서는 설정 → 개인 맞춤 설정(Personalization)에서 맞춤 지침을 설정할 수 있어요.
앞에 있는 통합 프롬프트를 자신의 사용 목적에 맞게 수정해서 넣어두면 반복해서 입력하는 수고를 줄일 수 있습니다.
다만 맞춤 지침 역시 정확성을 보장하는 기능은 아니에요.
“이런 기준으로 답해줘”를 반복해서 전달하기 위한 설정으로 이해하면 됩니다.
ChatGPT 답변을 받으면 이 3가지는 꼭 확인해보세요
마지막으로 복잡한 건 다 잊어도 이 세 가지만 기억해두세요.
① 최신 정보인가?
가격, 정책, AI 기능, 일정처럼 바뀔 수 있는 내용이라면 현재 자료인지 확인하세요.
② 출처에 진짜 그 내용이 있는가?
링크가 있다는 사실만 보지 말고 원문에 해당 내용이 실제로 있는지 확인하세요.
③ 사실과 추정이 섞여 있지는 않은가?
애매하다면 '사실·해석·추정을 나눠서 다시 알려줘'라고 요청하면 됩니다.
ChatGPT 할루시네이션을 완전히 없애주는 프롬프트는 없습니다.
그래서 AI에게 “거짓말하지 마”라고 한 번 말하는 것보다,
틀릴 수 있다는 전제에서 답변 과정을 검증 가능하게 만드는 것이 더 중요해요.
처음부터 다 적용하기 어렵다면 오늘은 딱 이것만 복사해 보세요.
모르면 추측하지 말고 '확인 불가'라고 알려줘. 최신 정보는 검색하고, 확인 가능한 1차 출처를 함께 제시해줘.
그리고 중요한 정보라면 ChatGPT 답변에서 끝내지 말고 출처 원문까지 한 번 확인하기.
이 습관 하나가 AI를 사용할 때 꽤 중요합니다.