Hacker News 의견

• Spotify의 검색 쿼리 관련 업데이트가 사용자에게 더 복잡한 의도를 표현할 수 있도록 도왔다는 분석이 있음

  • 그러나 사용자가 원하는 정보를 얻기 위해 더 많이 검색하고 긴 쿼리를 입력해야 했다는 점에서 개선으로 해석하기 어려움

• LLM을 활용하여 검색 쿼리와 인덱스를 강화하는 팀들이 많음

  • 작은 모델과 간단한 프롬프트로도 검색 문자열을 구조화된 쿼리로 변환할 수 있음
  • 문서를 분류하거나 캐시를 활용하는 것도 가능함
  • 이러한 작업을 하지 않는다면 실수일 수 있음

• Eugene이 컨퍼런스 직후에 작업을 발표하는 것이 흥미로움

  • 전통적으로는 박사 과정 학생이 12개월 정도 걸려 발표하는 논문이었을 것임
  • Eugene의 능력인지 아니면 새로운 경향인지 궁금함

• Spotify 경험이 시간이 지남에 따라 나빠진 이유를 설명함

• 아침에 일어나자마자 이 기사를 텍스트 음성 변환 모델로 듣기 시작함

  • 전문 용어가 많아 저자가 매우 지적으로 보이지만 정보를 효과적으로 전달하지는 못함
  • 학술 논문에서 자주 보이는 현상이며, 본인의 연구 논문도 예외가 아님
  • ML 분야의 전문가가 아니므로 대상 독자가 아닐 수 있음
  • 다른 사람들도 같은 느낌을 받았는지 궁금함
  • 이 의견이 너무 부정적이지 않기를 바람

• SASRec과 Bert4Rec의 변형이 ID-토큰으로 훈련되며 LLM과 유사한 확장 법칙을 보임

  • Meta의 접근 방식이 예시로 제시됨

• 추천 시스템과 포럼을 결합하는 것이 사회에 큰 재앙이 되었다고 생각함

• PC와 스마트폰에 LLM 기반 검색 도구가 없는 이유에 대한 의문

  • 특히 스마트폰의 데이터가 클라우드에 저장되므로 광고나 FBI를 위한 스크래핑 대신 사용자에게 유용한 기능을 제공할 수 있음

• 추천 시스템에 대한 훌륭한 개요로 보임

  • 주요 포인트는 지연 시간이 주요 문제라는 것임
  • 미세 조정이 큰 개선을 가져올 수 있으며 지연 시간을 줄일 수 있음
  • 프롬프트나 미세 조정을 사용해야 하는 임계값이나 문제가 있음

• 이러한 논문들이 학술 연구실에서 나오지 않는 것이 흥미로움