📖 [하루 1분 AI 용어 사전] 할루시네이션(Hallucination), AI가 거짓말을 한다고요?

📖 하루 1분 AI 용어 사전: 할루시네이션

AI를 실무에 도입할 때 가장 조심해야 할 단어, 할루시네이션(Hallucination)을 알아봅시다.

---

💡 쉽게 말하면?

번역하면 '환각'이라는 뜻으로, AI가 '마치 사실인 것처럼 너무나도 당당하게 거짓말을 지어내는 현상'을 말합니다.

🔍 조금 더 깊이 알아보기

AI(LLM)는 정보의 사실 여부를 판별하는 것이 아니라, 다음에 올 단어의 확률을 계산할 뿐입니다. 그래서 자기가 모르는 내용이나 존재하지 않는 사실도 그럴싸한 문장으로 지어내어 답변하는 경우가 발생합니다. 예를 들어 "세종대왕의 맥북 던짐 사건" 같은 역사적 허구를 진짜처럼 묘사하기도 하죠.

💼 비즈니스에서는 어떻게 쓰이나요?

고객에게 자동 발송되는 이메일이나, 법률/의료 등 전문적인 문서 작성 시 할루시네이션은 치명적일 수 있습니다. 따라서 AI가 작성한 중요한 문서는 반드시 사람(Human)의 최종 검토가 필요합니다.