Hacker News 의견

• 이 기사는 AI에 대한 매우 확신에 찬 진술로 가득 차 있지만, 근거가 부족하고 일부는 잘못된 것 같음

  • AI가 "기초 진실이 없다"는 주장은 틀림
  • AI가 논리적으로 추론할 수 없다는 것은 과장된 주장임
  • AI가 결론에 도달한 방법을 설명할 수 없다는 것도 사실이 아님
  • 이러한 확신에 찬 진술은 오히려 약한 모델에 대한 비판과 유사함

• 친구가 정부 정책에 영향을 미치는 팀에서 일하는데, 팀의 젊은 멤버가 LLM에서 가져온 숫자로 가득 찬 보고서를 작성했음

  • 보고서는 부정확하고 신뢰할 수 없었음
  • 개발자들은 LLM의 작동 방식을 잘 이해하고, 출력의 부정확성을 검토하고 수정할 수 있음
  • 많은 사람들이 이러한 기기를 신뢰하게 될 것이며, 부정확한 콘텐츠가 넘쳐날 것임

• 현재 버전의 AI는 학생들에게 위험할 수 있으며, 그들을 더 나쁘게 만들 수 있음

  • 비기술적인 친구들에게 도움을 줄 때는 변화율을 보고, 신뢰성이 가능성보다 크게 뒤처진다는 점을 강조함
  • 적대적 환경은 여전히 해결되지 않았으며, 예측이 불확실함
  • 앵무새 같은 사람들의 예측은 신뢰할 수 없음
  • RL이 존재하기 때문에 자동 수정 주장은 과장됨
  • 비관론자들은 아마도 틀렸지만, 그들의 주장을 경시하는 사람들은 비관론자들보다 덜 이해함

• "The AI scientist" 섹션은 훌륭했음

  • 앵무새에 대한 논증의 함정에 빠지지 않고, AI의 긍정적인 사용 사례를 제시함
  • 과학에서의 AI의 긍정적 사용과 해로운 예시, 시간 낭비인 예시를 객관적으로 제시함

• 이 자료는 기본적이지만 넓은 청중에게 유익함

  • 모델을 인간화하지 말라는 점을 언급한 것이 좋았음
  • 50세 이상의 정책 입안자들이 이 과정을 듣는 것이 19세의 신입생보다 더 유익할 것임

• LLM이 다음 토큰을 추측하는 것만으로 앵무새라고 하는 것은 의미가 없음

  • 인간도 키보드에서 다음 키를 추측함
  • 이 관점은 다가오는 기술 혁명에 대해 눈을 감는 것에 불과함

• 학생들이 AI 환경을 탐색하는 것은 도전적임

  • 학생들에게 이 자료를 공유할 것을 고려 중임
  • LLM을 모든 것에 사용하려는 학생은 자료에 참여하지 않을 가능성이 있음
  • LLM 없이 글을 쓰는 것이 과학 분야에서 왜 중요한지 설명하는 단락을 추가할 것을 제안함

• 제목이 너무 반기술적이지 않았으면 좋겠음

  • 직장에서 이 과정을 추진하고 싶지만, 그렇게 하면 부정적이고 방해적인 사람으로 보일 수 있음

• 이 자료는 훌륭한 자원임

  • 의료 학생들에게 ML과 LLM의 발전에 대한 기본 지식을 제공하는 과정을 설계 중임
  • 의료 ML을 이해시키고, 기술의 가능성을 보여주며, 안전하게 채택할 수 있는 경로를 제시하는 것이 목표임

• 이 자료를 정말 즐기고 있음

  • Lesson 11에서 몇 가지 오타를 발견했음
  • "No one is going to motivated by a robotic..."에서 "be"가 빠졌음
  • "People who are given a possible solution to a problem tend to less creative at..."에서 "be"가 빠졌음