Hacker News 의견

해커뉴스 댓글 모음 요약

• Google의 검색 제안 수동 제거 접근법

  • Google이 과거에 수동으로 검색 결과를 조정하는 대신 알고리즘 자체를 조정하려 했던 사례를 떠올리게 함.
  • 2002년 Froogle 테스트 중 "running shoes" 검색 시 정원 요정 조각상이 상위 결과로 나오는 문제 발생.
  • 한 엔지니어가 해당 제품을 구매해 문제 해결. 알고리즘을 변경하지 않고도 올바른 결과를 반환하게 됨.

• AI의 정확성 문제

  • 초기 80%의 정확성은 비교적 쉽게 달성 가능하지만, 마지막 20%는 매우 어려움.
  • 100% 정확성은 인간도 달성할 수 없는 목표임.
  • 목표는 명백히 어리석은 답변을 줄이는 것임.
  • LLMs(대형 언어 모델)는 좋은 텍스트를 생성하지만, 명백히 어리석은 답변을 제거하는 것이 항상 좋은 것은 아님.

• Google의 검색 품질 문제

  • Google이 AI 전쟁으로 인해 방향을 잃었다는 논란이 있음.
  • 현재 Google의 검색 결과는 스팸, 클릭베이트, 선전물로 가득 차 있음.
  • 검색 결과가 적어도 널리 인정된 진실을 반영해야 한다고 주장.
  • 명백한 트롤링, 클릭베이트, 악의적인 콘텐츠를 식별하는 것이 중요함.

• 검색 엔진과 질문 엔진의 차이

  • 검색 엔진은 인터넷을 검색하는 도구이지 질문을 하는 도구가 아님.
  • AI를 통해 무언가를 묻는 것은 인터넷을 검색하는 것과는 다른 작업임.

• Google의 AI 통합 문제

  • Google이 AI를 통합할 때마다 반복되는 문제 발생.
  • 문제 발생 시 고위 임원이 문제를 해결하겠다고 발표하지만, 같은 문제가 반복됨.

• Google의 데이터셋 문제

  • 25년 동안 검색 결과를 미세 조정해 온 Google이 좋은 데이터셋을 가지고 있지 않다는 점에 충격을 받음.
  • 오래된 백과사전 CD를 사용해 훈련 데이터를 만드는 것이 필요할 수도 있음.

• LLM을 활용한 이상한 쿼리 생성 및 테스트

  • Google이 LLM을 사용해 이상한 쿼리를 생성하고 테스트하지 않았다는 점에 실망.
  • 깨끗한 배포에서 얻을 수 있는 이점이 많음.
  • 현재의 AI 경주는 바닥을 향한 경주일 수도 있음.

• AI의 초기 버전 문제

  • 현재의 AI는 전통적인 검색보다 모든 면에서 더 나쁨.
  • AI가 생성한 이미지의 손가락이 인상적임.

• LLM의 환각 문제

  • 사람들은 LLM이 가끔만 환각을 일으킨다고 생각하지만, 실제로는 더 자주 발생함.

• 수동으로 AI 결과 제거의 아이러니

  • 수동으로 잘못된 AI 결과를 제거하는 것이 아이러니함.