# 현대의 예언자인가 아니면 헛소리 기계인가 - ChatGPT 세상에서 번영하는 방법

> Clean Markdown view of GeekNews topic #19140. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=19140](https://news.hada.io/topic?id=19140)
- GeekNews Markdown: [https://news.hada.io/topic/19140.md](https://news.hada.io/topic/19140.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2025-02-10T09:46:31+09:00
- Updated: 2025-02-10T09:46:31+09:00
- Original source: [thebullshitmachines.com](https://thebullshitmachines.com)
- Points: 8
- Comments: 1

## Summary

ChatGPT와 같은 초지능 컴퓨터 시스템은 우리의 업무, 학습, 놀이, 의사소통, 창작, 연결 방식을 혁신하며 일상생활의 거의 모든 측면에 영향을 미칠 것으로 기대됩니다. 그러나 이러한 AI 시스템은 정보 환경을 허튼소리로 가득 채울 위험도 있으며, 실제 유용한 정보와 과장된 주장을 구별하는 능력이 중요합니다. LLM 시대에서 살아남기 위해서는 LLM의 작동 원리를 이해하고, 시간과 노력을 절약할 수 있는 경우와 오류를 범할 가능성이 높은 경우를 구분하는 법을 배우는 것이 필요합니다.

## Topic Body

- 우리는 초지능 컴퓨터 시스템이 혁신과 번영의 시대를 가져올 것이라 기대함  
- ChatGPT의 등장으로 일부에서는 현대판 예언자라 부르고, 다른 일부는 허튼소리 기계라고 평가함  
- 기술 전문가와 홍보 관계자들은 LLM이 우리의 **업무, 학습, 놀이, 의사소통, 창작, 연결 방식**을 혁신할 것이라 주장함  
- AI는 **일상생활의 거의 모든 측면**에 영향을 미칠 것임  
- 사람들이 **일반적인 언어로 컴퓨터와 대화**할 수 있도록 하여, 컴퓨팅 접근성을 크게 향상시킴  
- 그러나 AI 시스템이 유용한 역할을 하는 만큼, **정보 환경이 거대한 허튼소리로 포화될 위험**도 있음  
  
> "이 기술은 인류가 창조한 가장 혁신적인 기술이 될 것이며, 인쇄기, 전기, 인터넷의 발명에 비견될 수 있음"  
> — Sam Altman, OpenAI CEO  
  
- 좋든 싫든 LLM은 우리 생활에 자리 잡음  
- 온라인에서 LLM이 생성한 콘텐츠를 읽고 있으며, 많은 사람들이 LLM 챗봇과 상호작용함  
- 일부는 LLM을 사용하여 직접 콘텐츠를 제작하기도 함  
  
### LLM 시대에서 살아남는 법  
  
- 5~10분 분량의 강의들을 통해 **LLM이란 무엇인지, 어떻게 작동하는지** 설명할 예정임  
- **시간과 노력을 절약할 수 있는 경우**와 **오류를 범할 가능성이 높은 경우**를 구분하는 법을 배울 수 있음  
- 과장된 마케팅 속에서 **실제 유용한 정보와 과장된 주장**을 구별하는 법을 익히는 것이 중요함  
  
### 레슨 목차   
- 레슨 1: 오토컴플리트의 폭주 (Autocomplete in Overdrive)  
- 레슨 2: 허튼소리의 본질 (The Nature of Bullshit)  
- 레슨 3: 튜링 테스트와 허튼소리 벤치마크 (Turing Tests and Bullshit Benchmarks)  
- 레슨 4: 대화 가능한 컴퓨터 (Computers You Can Talk To)  
- 레슨 5: 이해하기 어렵고, 고치기는 더 어려운 (Hard to Understand, Harder to Fix)  
- 레슨 6: 아니, 그들은 그렇게 하지 않아요! (No, They're Not Doing That!)  
- 레슨 7: 음성 복제에서 새우 예수까지 (From Voice Cloning to Shrimp Jesus)  
- 레슨 8: 독버섯과 강아지 여권 (Poisonous Mushrooms and Doggie Passports)  
- 레슨 9: 파란색 링크는 중요하다 (Blue Links Matter)  
- 레슨 10: 글쓰기의 인간 예술 (The Human Art of Writing)  
- 레슨 11: 교육의 변화? (Transforming Education?)  
- 레슨 12: AI 과학자 (The AI Scientist)  
- 레슨 13: 허튼소리 기계와 허튼소리 노동 (Bullshit Machines for Bullshit Work)  
- 레슨 14: 진정성 (Authenticity)  
- 레슨 15: 인공지능과 인간의 어리석음 (Artificial Intelligence and Human Stupidity)  
- 레슨 16: 첫걸음 오류 (The First-Step Fallacy)  
- 레슨 17: 너만의 트루먼 쇼 (Your Own Private Truman Show)  
- 레슨 18: 민주주의 (Democracy)

## Comments



### Comment 34355

- Author: neo
- Created: 2025-02-10T09:46:32+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=42989320) 
* 이 기사는 AI에 대한 매우 확신에 찬 진술로 가득 차 있지만, 근거가 부족하고 일부는 잘못된 것 같음
  - AI가 "기초 진실이 없다"는 주장은 틀림
  - AI가 논리적으로 추론할 수 없다는 것은 과장된 주장임
  - AI가 결론에 도달한 방법을 설명할 수 없다는 것도 사실이 아님
  - 이러한 확신에 찬 진술은 오히려 약한 모델에 대한 비판과 유사함

* 친구가 정부 정책에 영향을 미치는 팀에서 일하는데, 팀의 젊은 멤버가 LLM에서 가져온 숫자로 가득 찬 보고서를 작성했음
  - 보고서는 부정확하고 신뢰할 수 없었음
  - 개발자들은 LLM의 작동 방식을 잘 이해하고, 출력의 부정확성을 검토하고 수정할 수 있음
  - 많은 사람들이 이러한 기기를 신뢰하게 될 것이며, 부정확한 콘텐츠가 넘쳐날 것임

* 현재 버전의 AI는 학생들에게 위험할 수 있으며, 그들을 더 나쁘게 만들 수 있음
  - 비기술적인 친구들에게 도움을 줄 때는 변화율을 보고, 신뢰성이 가능성보다 크게 뒤처진다는 점을 강조함
  - 적대적 환경은 여전히 해결되지 않았으며, 예측이 불확실함
  - 앵무새 같은 사람들의 예측은 신뢰할 수 없음
  - RL이 존재하기 때문에 자동 수정 주장은 과장됨
  - 비관론자들은 아마도 틀렸지만, 그들의 주장을 경시하는 사람들은 비관론자들보다 덜 이해함

* "The AI scientist" 섹션은 훌륭했음
  - 앵무새에 대한 논증의 함정에 빠지지 않고, AI의 긍정적인 사용 사례를 제시함
  - 과학에서의 AI의 긍정적 사용과 해로운 예시, 시간 낭비인 예시를 객관적으로 제시함

* 이 자료는 기본적이지만 넓은 청중에게 유익함
  - 모델을 인간화하지 말라는 점을 언급한 것이 좋았음
  - 50세 이상의 정책 입안자들이 이 과정을 듣는 것이 19세의 신입생보다 더 유익할 것임

* LLM이 다음 토큰을 추측하는 것만으로 앵무새라고 하는 것은 의미가 없음
  - 인간도 키보드에서 다음 키를 추측함
  - 이 관점은 다가오는 기술 혁명에 대해 눈을 감는 것에 불과함

* 학생들이 AI 환경을 탐색하는 것은 도전적임
  - 학생들에게 이 자료를 공유할 것을 고려 중임
  - LLM을 모든 것에 사용하려는 학생은 자료에 참여하지 않을 가능성이 있음
  - LLM 없이 글을 쓰는 것이 과학 분야에서 왜 중요한지 설명하는 단락을 추가할 것을 제안함

* 제목이 너무 반기술적이지 않았으면 좋겠음
  - 직장에서 이 과정을 추진하고 싶지만, 그렇게 하면 부정적이고 방해적인 사람으로 보일 수 있음

* 이 자료는 훌륭한 자원임
  - 의료 학생들에게 ML과 LLM의 발전에 대한 기본 지식을 제공하는 과정을 설계 중임
  - 의료 ML을 이해시키고, 기술의 가능성을 보여주며, 안전하게 채택할 수 있는 경로를 제시하는 것이 목표임

* 이 자료를 정말 즐기고 있음
  - Lesson 11에서 몇 가지 오타를 발견했음
  - "No one is going to motivated by a robotic..."에서 "be"가 빠졌음
  - "People who are given a possible solution to a problem tend to less creative at..."에서 "be"가 빠졌음