▲

GN⁺: 현대의 예언자인가 아니면 헛소리 기계인가 - ChatGPT 세상에서 번영하는 방법

(thebullshitmachines.com)
8P by neo 15일전 | ★ favorite | 댓글 1개
  • 우리는 초지능 컴퓨터 시스템이 혁신과 번영의 시대를 가져올 것이라 기대함
  • ChatGPT의 등장으로 일부에서는 현대판 예언자라 부르고, 다른 일부는 허튼소리 기계라고 평가함
  • 기술 전문가와 홍보 관계자들은 LLM이 우리의 업무, 학습, 놀이, 의사소통, 창작, 연결 방식을 혁신할 것이라 주장함
  • AI는 일상생활의 거의 모든 측면에 영향을 미칠 것임
  • 사람들이 일반적인 언어로 컴퓨터와 대화할 수 있도록 하여, 컴퓨팅 접근성을 크게 향상시킴
  • 그러나 AI 시스템이 유용한 역할을 하는 만큼, 정보 환경이 거대한 허튼소리로 포화될 위험도 있음

"이 기술은 인류가 창조한 가장 혁신적인 기술이 될 것이며, 인쇄기, 전기, 인터넷의 발명에 비견될 수 있음"
— Sam Altman, OpenAI CEO

  • 좋든 싫든 LLM은 우리 생활에 자리 잡음
  • 온라인에서 LLM이 생성한 콘텐츠를 읽고 있으며, 많은 사람들이 LLM 챗봇과 상호작용함
  • 일부는 LLM을 사용하여 직접 콘텐츠를 제작하기도 함

LLM 시대에서 살아남는 법

  • 5~10분 분량의 강의들을 통해 LLM이란 무엇인지, 어떻게 작동하는지 설명할 예정임
  • 시간과 노력을 절약할 수 있는 경우와 오류를 범할 가능성이 높은 경우를 구분하는 법을 배울 수 있음
  • 과장된 마케팅 속에서 실제 유용한 정보와 과장된 주장을 구별하는 법을 익히는 것이 중요함

레슨 목차

  • 레슨 1: 오토컴플리트의 폭주 (Autocomplete in Overdrive)
  • 레슨 2: 허튼소리의 본질 (The Nature of Bullshit)
  • 레슨 3: 튜링 테스트와 허튼소리 벤치마크 (Turing Tests and Bullshit Benchmarks)
  • 레슨 4: 대화 가능한 컴퓨터 (Computers You Can Talk To)
  • 레슨 5: 이해하기 어렵고, 고치기는 더 어려운 (Hard to Understand, Harder to Fix)
  • 레슨 6: 아니, 그들은 그렇게 하지 않아요! (No, They're Not Doing That!)
  • 레슨 7: 음성 복제에서 새우 예수까지 (From Voice Cloning to Shrimp Jesus)
  • 레슨 8: 독버섯과 강아지 여권 (Poisonous Mushrooms and Doggie Passports)
  • 레슨 9: 파란색 링크는 중요하다 (Blue Links Matter)
  • 레슨 10: 글쓰기의 인간 예술 (The Human Art of Writing)
  • 레슨 11: 교육의 변화? (Transforming Education?)
  • 레슨 12: AI 과학자 (The AI Scientist)
  • 레슨 13: 허튼소리 기계와 허튼소리 노동 (Bullshit Machines for Bullshit Work)
  • 레슨 14: 진정성 (Authenticity)
  • 레슨 15: 인공지능과 인간의 어리석음 (Artificial Intelligence and Human Stupidity)
  • 레슨 16: 첫걸음 오류 (The First-Step Fallacy)
  • 레슨 17: 너만의 트루먼 쇼 (Your Own Private Truman Show)
  • 레슨 18: 민주주의 (Democracy)
▲
neo 15일전  [-]
Hacker News 의견

  • 이 기사는 AI에 대한 매우 확신에 찬 진술로 가득 차 있지만, 근거가 부족하고 일부는 잘못된 것 같음

    • AI가 "기초 진실이 없다"는 주장은 틀림
    • AI가 논리적으로 추론할 수 없다는 것은 과장된 주장임
    • AI가 결론에 도달한 방법을 설명할 수 없다는 것도 사실이 아님
    • 이러한 확신에 찬 진술은 오히려 약한 모델에 대한 비판과 유사함

  • 친구가 정부 정책에 영향을 미치는 팀에서 일하는데, 팀의 젊은 멤버가 LLM에서 가져온 숫자로 가득 찬 보고서를 작성했음

    • 보고서는 부정확하고 신뢰할 수 없었음
    • 개발자들은 LLM의 작동 방식을 잘 이해하고, 출력의 부정확성을 검토하고 수정할 수 있음
    • 많은 사람들이 이러한 기기를 신뢰하게 될 것이며, 부정확한 콘텐츠가 넘쳐날 것임

  • 현재 버전의 AI는 학생들에게 위험할 수 있으며, 그들을 더 나쁘게 만들 수 있음

    • 비기술적인 친구들에게 도움을 줄 때는 변화율을 보고, 신뢰성이 가능성보다 크게 뒤처진다는 점을 강조함
    • 적대적 환경은 여전히 해결되지 않았으며, 예측이 불확실함
    • 앵무새 같은 사람들의 예측은 신뢰할 수 없음
    • RL이 존재하기 때문에 자동 수정 주장은 과장됨
    • 비관론자들은 아마도 틀렸지만, 그들의 주장을 경시하는 사람들은 비관론자들보다 덜 이해함

  • "The AI scientist" 섹션은 훌륭했음

    • 앵무새에 대한 논증의 함정에 빠지지 않고, AI의 긍정적인 사용 사례를 제시함
    • 과학에서의 AI의 긍정적 사용과 해로운 예시, 시간 낭비인 예시를 객관적으로 제시함

  • 이 자료는 기본적이지만 넓은 청중에게 유익함

    • 모델을 인간화하지 말라는 점을 언급한 것이 좋았음
    • 50세 이상의 정책 입안자들이 이 과정을 듣는 것이 19세의 신입생보다 더 유익할 것임

  • LLM이 다음 토큰을 추측하는 것만으로 앵무새라고 하는 것은 의미가 없음

    • 인간도 키보드에서 다음 키를 추측함
    • 이 관점은 다가오는 기술 혁명에 대해 눈을 감는 것에 불과함

  • 학생들이 AI 환경을 탐색하는 것은 도전적임

    • 학생들에게 이 자료를 공유할 것을 고려 중임
    • LLM을 모든 것에 사용하려는 학생은 자료에 참여하지 않을 가능성이 있음
    • LLM 없이 글을 쓰는 것이 과학 분야에서 왜 중요한지 설명하는 단락을 추가할 것을 제안함

  • 제목이 너무 반기술적이지 않았으면 좋겠음

    • 직장에서 이 과정을 추진하고 싶지만, 그렇게 하면 부정적이고 방해적인 사람으로 보일 수 있음

  • 이 자료는 훌륭한 자원임

    • 의료 학생들에게 ML과 LLM의 발전에 대한 기본 지식을 제공하는 과정을 설계 중임
    • 의료 ML을 이해시키고, 기술의 가능성을 보여주며, 안전하게 채택할 수 있는 경로를 제시하는 것이 목표임

  • 이 자료를 정말 즐기고 있음

    • Lesson 11에서 몇 가지 오타를 발견했음
    • "No one is going to motivated by a robotic..."에서 "be"가 빠졌음
    • "People who are given a possible solution to a problem tend to less creative at..."에서 "be"가 빠졌음
답변달기