▲

GN⁺: 영향력 있는 AI 연구를 하는 방법

(github.com/okhat)
14P by neo 22일전 | favorite | 댓글 3개

1. 논문이 아닌 프로젝트에 투자하기

  • 연구 초기에는 논문 출판이 중요하지만, 장기적으로는 논문 수보다 연구의 영향력과 큰 그림이 중요함
  • 연구를 개별 논문이 아닌 큰 비전이나 패러다임으로 생각해야 함
  • 오픈 소스 모델, 시스템, 프레임워크, 벤치마크와 같은 일관된 아티팩트를 유지하는 것이 중요함

2. 큰 확장성과 "파급력"을 가진 적시의 문제 선택하기

  • 문제는 시의적절해야 함. 예를 들어, 2-3년 후에 '핫'해질 문제를 찾는 것이 좋음
  • 많은 파생 문제에 영향을 미칠 수 있는 큰 "파급력"을 가져야 함
  • 큰 여유 공간이 있는 문제를 선택해야 함. 예를 들어, 시간이 지나면서 20배 더 빠르거나 30% 더 효과적으로 만들 수 있다는 희망이 있어야 함

3. 두 단계 앞서 생각하고 빠르게 반복하기

  • 즉각적인 해결책을 찾기보다는 두 단계 앞서 생각해야 함
  • 가장 사람들이 취할 것 같은 경로를 파악한 뒤, 그 경로의 한계를 이해하고 해결하는 데 주력해야 함
  • 문제의 버전을 빠르게 반복하고 피드백을 받는 것이 중요함

4. 작업을 공개하고 아이디어를 대중화하기

  • 논문을 발표한 후 바로 다음 논문으로 넘어가지 말고, 작업을 공개하고 사람들과 적극적으로 소통해야 함
  • arXiv에 논문을 공개하고 스레드로 논문 공개를 알리되, 구체적이고 접근 가능한 주장으로 시작해야 함
  • 논문 발표 후에도 지속적으로 아이디어를 홍보하고 커뮤니티와 소통해야 함
  • 아이디어와 과학적 소통은 고립된 논문 공개를 넘어서 연중 내내 지속되어야 함

5. 흥미를 유도하고 오픈 소스 연구를 성장시키기

  • 깃허브에 코드와 README를 올리는 것만으로는 충분하지 않음
  • 좋은 오픈소스 연구는 좋은 연구이자 명확한 하류 유용성과 낮은 마찰을 가져야 함
  • 사용 가능하고, 유용하며, 접근 가능한 코드 릴리스를 만들어야 함
  • 분명한 대안이 실패하는 이유를 설명하고 인내심을 가져야 함
  • 다양한 사용자 카테고리를 이해하고 그에 맞게 프로젝트를 발전시켜야 함
  • 관심을 커뮤니티로 전환하여 형성하고 성장시키는 것이 중요함

6. 새로운 논문을 통해 프로젝트에 계속 투자하기

  • 오픈 소스 프로젝트와 연구는 별개가 아님
  • 오픈 소스에 투자하는 대부분의 시간이 새롭고 흥미로운 연구를 수행하는 것일 수 있음
  • 오픈소스 노력의 최전선에 있으면 새로운 문제를 매우 일찍 직관적으로 인식하고, 협력자와 피드백을 받을 수 있음
  • 예를 들어, ColBERT와 DSPy는 여러 논문과 협력자들에 의해 발전됨
  • 구축한 커뮤니티는 접근 방식에 대한 직접적인 피드백을 제공하고 문제의 중요성을 이해하는 훌륭한 협력자에 대한 액세스를 제공함

GN⁺의 정리

  • 이 글은 AI 연구에서 오픈 소스 프로젝트를 통해 영향력을 극대화하는 방법을 다룸
  • 논문 수보다 큰 비전과 일관된 프로젝트가 중요함을 강조함
  • 시기적절한 문제 선택, 두 단계 앞서 생각하기, 작업 공개 및 대중화, 오픈 소스 프로젝트 성장의 중요성을 설명함
  • 연구와 오픈 소스 프로젝트는 별개가 아니며, 서로 보완하며 발전할 수 있음을 강조함
▲
kandk 22일전  [-]

그래서 요즘 AI연구는 대학원에서 안하고 빅테크에서 하죠.
빅테크에서 대학원보다 최신 논문이 더 많이 나옵니다. 신기한 세상..

답변달기
▲
nutella 21일전  [-]

아예 대학원생들을 몇 개월 인턴으로 뽑아서 같이 연구하고 논문 내고 하는 경우도 많죠

답변달기
▲
neo 22일전  [-]
Hacker News 의견

  • "프로젝트에 투자하고 논문에 투자하지 말라"는 조언은 박사 과정 학생이나 초기 연구자에게는 현실적이지 않음

    • 논문을 많이 발표하지 않으면 경력 발전이 어려움
    • 흥미로운 주제에 시간을 투자하고 싶지만, 논문이 나오지 않으면 경력에 큰 타격을 입음

  • 연구 프로그램을 성공적으로 운영하기 위해서는 시기적절한 문제를 선택하고, 아이디어를 널리 알리는 것이 중요함

    • 피드백을 통해 연구 방향을 조정하고 협업을 촉진할 수 있음

  • AI 연구자에게는 1-2년 내에 유용한 주제를 선택하는 것이 산업으로 가는 이유가 될 수 있음

    • 장기적인 연구가 더 큰 영향을 미칠 수 있음
    • 초기 연구가 시간이 지나면서 큰 성과를 낼 수 있음

  • 논문이 실제 세계에 미치는 영향을 측정하는 것은 어려움

    • AI 연구는 규모가 중요하며, 이는 자금과 자원이 필요함
    • 많은 논문이 발표되면서 개별 논문의 영향력이 감소함

  • "프로젝트에 투자하고 논문에 투자하지 말라"는 조언은 좋은 프로젝트가 좋은 논문을 낳는다는 의미임

  • AI 논문은 많은 저자가 참여하는 경우가 많으며, 실제로 영향력 있는 연구는 드물음

  • 연구의 초기 단계에서는 작은 개선이 큰 영향을 미칠 수 있음

    • 연구 경력이 쌓이면 프로젝트에 더 많은 시간을 투자할 수 있음

  • 연구 결과를 쉽게 접근할 수 있게 만드는 것은 중요하지만, 모든 것을 공개하지 않는 것도 필요함

  • "하이프"도 연구의 일부분임

    • 단기적으로 영향력이 있는 연구가 장기적으로는 그렇지 않을 수 있음

  • 이 조언은 학술 연구뿐만 아니라 스타트업에도 적용될 수 있음

답변달기