챗GPT 사용 시 환각(Hallucination)을 줄이는 방법

 

챗GPT를 사용할 때 가장 큰 문제 중 하나는 '환각(Hallucination)'입니다. 환각이란 AI가 사실과 다른 정보를 생성하는 현상을 의미하는데, 이는 신뢰성을 떨어뜨리는 요인이 될 수 있습니다. 하지만 적절한 프롬프트 엔지니어링을 활용하면 환각을 줄이고 보다 정확한 답변을 얻을 수 있습니다. 이번 글에서는 챗GPT의 환각을 최소화하는 방법을 소개합니다. 아주 간단한 방법으로 훨씬 품질 좋은 자료를 얻을 수 있습니다.

1. 사실과 견해를 명확히 구분하기

챗GPT가 사실과 의견을 혼동하지 않도록 프롬프트를 설계하는 것이 중요합니다. 예를 들어:

잘못된 예시:

"챗GPT, 커피가 건강에 좋은 이유를 알려줘."

개선된 예시:

"커피가 건강에 미치는 영향을 사실과 견해로 구분하여 설명해 줘."

이렇게 프롬프트를 구성하면 챗GPT가 정보를 분류하여 제공하기 때문에 정확도가 향상됩니다. 단지 사실, 견해로 내용을 구분해서 정리하도록 했을 뿐인데도 훨씬 더 풍부한 자료를 얻을 수 있습니다.

"챗GPT, 커피가 건강에 좋은 이유를 알려줘." 라고 질문했을 때의 답변

 

"커피가 건강에 미치는 영향을 사실과 견해로 구분하여 설명해줘." 라고 질문했을 때

2. 셀프 크리틱(Self-Critique) 활용하기

셀프 크리틱 기능을 활용하면 챗GPT가 스스로 오류를 점검하고 보다 신뢰할 만한 정보를 제공할 수 있습니다. 예를 들어:

프롬프트 예시:

"이 정보가 정확한지 스스로 점검하고 확신이 없는 부분은 모른다고 답변해 줘."

이런 방식으로 요청하면 챗GPT가 자신이 모르는 부분을 인정하고 거짓 정보를 줄이는 데 도움이 됩니다.

"이 정보가 정확한지 스스로 점검하고 확신이 없는 부분은 모른다고 답변해줘." 에 대한 답변

 

3. 언어 혼용(코드 스위칭) 활용하기

한국어와 영어를 함께 사용하면 챗GPT의 이해도를 높일 수 있습니다. 예를 들어:

예시:

"커피의 카페인 함량과 그 영향에 대해 설명해 줘. (Fact vs. Opinion)"

이렇게 영어 키워드를 병행하면 챗GPT가 더 정확하게 정보를 분류하여 응답할 가능성이 높아집니다.

한국어와 영어를 간단히 혼용했을 때

4. 프롬프트의 띄어쓰기와 구조화

단순히 띄어쓰기만 신경 써도 챗GPT의 이해도가 올라갑니다. 또한, 정보를 구조화하면 더 정리된 답변을 받을 수 있습니다.

잘못된 예시:

"운동의 장점을 알려줘."

"운동의 장점을 알려줘." 에 대한 답변

개선된 예시:

"운동의 장점을 다음 항목으로 나누어 설명해 줘:

• 신체 건강
• 정신 건강
• 사회적 혜택
• 장기적인 영향"

이렇게 항목을 지정하면 챗GPT가 보다 체계적인 답변을 제공합니다.

보다 세세한 정보를 제공해줍니다.

 

5. 응답 형식(Format) 지정하기

프롬프트에 응답 형식을 명확히 요구하면 환각을 줄일 수 있습니다. 예를 들어 JSON 형식으로 요청하면 구조화된 정보를 얻을 수 있습니다.

예시:

"커피의 건강상 장점을 JSON 형식으로 제공해 줘. {"장점": "", "관련 연구": "", "주의할 점": ""}"

이렇게 하면 챗GPT가 일정한 틀 안에서 응답을 구성하게 되어 오류가 줄어듭니다.

6. 추가 질문을 통해 정보 검증하기

단순한 1회 질문보다 후속 질문을 통해 정보를 검증하면 정확성을 높일 수 있습니다.

예시:

"커피가 수면에 미치는 영향을 알려줘." "해당 정보의 출처를 제공할 수 있어?"

이처럼 후속 질문을 던지면 챗GPT가 더 신중하게 답변할 수 있도록 유도할 수 있습니다.

후속질문으로 시각적인 표 형태로 정리해 달라고 하면 

표 형태로 변환된 상태

 

---

결론

챗GPT의 환각을 줄이기 위해서는 단순한 질문을 던지는 것보다 프롬프트 설계를 전략적으로 하는 것이 중요합니다. 사실과 견해 구분, 셀프 크리틱 활용, 언어 혼용, 띄어쓰기 및 구조화, 응답 형식 지정, 추가 질문을 통한 검증 등의 방법을 적용하면 보다 신뢰할 수 있는 답변을 얻을 수 있습니다.

간단히 프롬프트 질문 몇 가지만 바꾸어도 훨씬 더 좋은 품질의 답변을 이끌어낼 수 있습니다. 이제 여러분도 챗GPT를 활용할 때 이 방법들을 적용해 보세요! 😉