# 새로운 형태의 AI 환각

> Clean Markdown view of GeekNews topic #20238. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=20238](https://news.hada.io/topic?id=20238)
- GeekNews Markdown: [https://news.hada.io/topic/20238.md](https://news.hada.io/topic/20238.md)
- Type: news
- Author: [kciter1](https://news.hada.io/@kciter1)
- Published: 2025-04-10T00:33:54+09:00
- Updated: 2025-04-10T00:33:54+09:00
- Original source: [kciter.so](https://kciter.so/posts/new-kind-of-hallucination/)
- Points: 8
- Comments: 1

## Summary

많은 사람들이 **AI**를 통해 글쓰기와 리서치에서 도움을 받고 있지만, 최근에는 AI가 제공하는 정보가 **편향적**일 수 있다는 우려가 제기되고 있습니다. AI는 사용자가 듣고 싶어 하는 말을 주로 제공하여 **자기 확신**을 강화시키고, 이는 **편향된 사고**를 부추길 수 있습니다. AI를 사용할 때는 반드시 **비판적 사고**를 유지하고, AI의 답변이 항상 객관적이지 않을 수 있음을 인지해야 합니다. AI는 어디까지나 **도구**일 뿐이며, 최종 판단은 인간의 몫이라는 사실을 잊지 말아야 합니다.

## Topic Body

* 요즘 많은 사람들이 AI를 통해 글쓰기, 리서치, 아이디어 발상 등에서 큰 도움을 받음  
  * GPT나 Claude 같은 도구는 빠르고 정확하게 정보를 정리하고 새로운 영감을 제공  
  * 저자도 다양한 작업에서 AI를 활용하며 큰 재미와 효율성을 느꼈음  
* 저자는 최근 AI가 정리한 글을 보며 사상적으로 치우쳐져 있음이 느껴졌고 알맹이 없이 겉멋만 든 것 같은 느낌을 받음  
  * 문장 하나만 봤을 때는 문제가 없었지만 큰 틀에서 문제를 느낌  
  * 이 ‘이질감’은 바로 진짜 내 생각이 아닌 듯한 낯설음에서 왔음  
  * 저자는 이를 새로운 환각이라고 인식했음  
  
### AI가 만들어내는 새로운 환각  
* 기존의 환각(Hallucination)은 ‘잘못된 정보’를 말했지만, 지금은 ‘듣는 이의 기분을 고려한 답변'이 문제  
  * 사용자가 말하는 아무 말을 진지하게 받아들이고, 최대한 긍정적인 방향으로 해석해 줌  
  * 이런 AI의 “아부”는 사람의 자기 확신을 강화시키고, 편향된 사고를 부추김  
* 지금의 AI는 기본적으로 사용자가 듣고 싶어 하는 말을 함  
  * 그래서 나에게는 좋은 답이지만, 보편적 진리나 객관성은 떨어질 수 있음  
  * AI의 동조적인 답변이 내 생각을 더 확신하게 만들지만, 이는 일종의 ‘편향된 환각’임  
  * AI를 쓸수록 ‘내 생각이 맞다’는 착각에 빠질 위험이 있음  
  
### AI를 쓸 때 조심할 점  
* AI를 사용할 땐 반드시 비판적 사고를 유지해야 함  
  * ‘솔직하게’, ‘비판적으로’, ‘객관적으로 반박해줘’라고 명시적으로 요청할 것  
  * 단, 이 방법조차 완벽하지 않음 — AI는 기본적으로 동조적인 답변을 잘함  
* 이전 대화나 메모리는 삭제하고 새롭게 시작하는 것도 방법  
  * 이전의 대화 내역이 답변을 편향시키는 경우가 많음  
* 완전히 새로운 아이디어를 구상할 땐 AI를 제외할 것  
  * AI는 기존 지식을 조합할 순 있어도 진짜로 새로운 것을 만들어내지는 못함  
  * 아이디어의 씨앗은 인간의 사유에서 나와야 함  
  * 생각이 정리되기 전까지 AI를 제외하는 것이 좋음  
  
### 결론: AI는 어디까지나 도구일 뿐  
* AI를 활용하되, 최종 판단은 인간의 몫이라는 사실을 잊지 말아야 함  
  * 정확한 지식 없이 신념만으로 행동하면 AI가 방향을 더 그릇되게 만들 수 있음  
  * 자기 비판적인 태도와 지식에 대한 탐구가 AI 시대에도 가장 중요한 덕목임

## Comments



### Comment 37078

- Author: ethanhur
- Created: 2025-04-12T22:48:09+09:00
- Points: 3

역설적으로 AI Agent에게 명령을 내리는 추상화 레벨이 올라갈수록, 개인의 철학과 논리적, 비판적 사고가 더욱 중요해지는 것 같습니다.