일리야 수츠케버, OpenAI 퇴사

 (twitter.com/ilyasut)
1P by GN⁺ | ★ favorite | 댓글 1개

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 흥미롭게도 Karpathy와 Sutskever가 이제 둘 다 OpenAI를 떠남
    이제 OpenAI는 Sam Altman과 Greg Brockman 중심으로 굴러가는 것처럼 보임
    네 명 중에서는 Karpathy와 Sutskever가 가장 인상적이었고, 앞으로도 큰일을 해내길 바람

    • 상위 과학자 6명은 오래전에 떠났고, OpenAI는 이제 마케팅·비즈니스·소프트웨어·제품화 사람들이 운영하는 회사가 됨
      다음 딥러닝 혁신 물결이 세상을 휩쓸면 Microsoft가 남은 것을 가져갈 듯함
      돈은 많이 벌겠지만, 잃어버린 것을 대체하지 못하면 미래는 없어 보임
    • Karpathy는 여전히 머신러닝/AI 분야의 거물이고, Twitter/X에서 꾸준히 팔로우할 가치가 있는 몇 안 되는 사람 중 하나임
    • Dario도 충분히 인정받지 못한다고 봄
    • Karpathy를 정말 좋아함
      고전적인 박학다식한 학자이자 교사 같은 사람임
    • 그래도 Jakub Pachocki는 아직 OpenAI에 있음

  • Jan Leike도 떠난다고 밝힘 https://twitter.com/janleike/status/1790603862132596961

    • 머릿속에 그려지는 시나리오는, Google IO 전에 새 모델을 출시하려고 안전 팀의 반대를 눌렀다는 것임
    • 이른바 superalignment도 이렇게 사라지는 듯함
      Ilya, Jan Leike, William Saunders, Leopold Aschenbrenner가 모두 떠남
    • “Bad universal priors and notions of optimality”를 쓴 사람이고, Hutter의 MIRI 프로그램에 Gödel이 Hilbert 프로그램에 한 것과 비슷한 일을 했던 인물임

  • Toronto 대학교 주변을 걸을 때마다, 약 10년 전 Ilya가 Alex 옆 연구실에서 무언가를 알아내려 하던 장면을 자주 떠올림
    이 새 AI 물결이 거기서 시작됐다는 게 믿기지 않음
    Ilya, Karpathy, Jimmy Ba 등 많은 사람이 Hinton이 있던 시기에 딱 맞춰 그곳에 있었음

    • 그때 Toronto 대학교는 정말 대단했음
      그 그룹에서 GPU 기반 비트코인 채굴 버전도 나왔음
      2014년쯤에는 Ethereum도 그 근처에서 태어났고, Queen과 Spadina 근처에서 Vitalik이 함께하던 초기 Ethereum 모임이 기억남
      하지만 다른 사람이 말한 것처럼, 딥러닝의 아버지 Geoffrey Hinton과 Ilya, Vitalik 같은 인물이 있었는데도 우리는 거기서 실질적인 이익을 거의 얻지 못했음
    • 그런데 그들 중 아무도 Toronto에서 AI 회사를 만들지 않았음
      캐나다인으로서 우리가 성공적인 회사를 만드는 데 이렇게 비효율적이라는 점이 실망스러움

  • 그 축출 시도 이후에는 거의 불가피해 보였고, 아마 퇴사 세부사항을 조율하고 있었을 것 같음
    그런데 새 기능 발표 바로 다음 날이라니?

    • “다음 주요 기능을 출시까지 가져가면 좋게 보내주겠다”가 이전 합의의 일부였을 수도 있음
    • 그가 이해의 다음 단계로 가려면 종단 간 멀티모달 학습이 필요하다고 인터뷰에서 말한 걸 보면, Omni는 그의 작업이었다고 봄
    • 한동안 고민해 왔을 것이고, 출시와 동시에 그에 대한 관심이 커지자 결정을 요구받았을 수도 있음
    • 영리한 수일 수도 있음
      Google IO를 전후로 OpenAI 소식이 끼어들어 Google의 주목도를 가져갔고, 막 큰 발표를 했기 때문에 부정적 소식의 충격도 조금 줄어듦
    • 새 기능 발표 뒤에 퇴사 소식이 나오면 다른 때보다 사람들이 상대적으로 덜 주목하게 됨

  • Jakub Pachocki는 대단함
    폴란드 알고리즘 대회에서 상위 20위 안에 들었음
    https://oi.edu.pl/contestants/Jakub%20Pachocki/

  • 이상주의적인 사람들이 대단한 것을 만들고도 권력 다툼 속에서 경영진에게 버려지는 흔한 운명임
    이런 일이 얼마나 자주 반복됐나?

    • 얼마나 자주냐니, 그게 인류의 가장 성공적인 경제 모델의 기반임
      일부는 버려지지 않을 수도 있지만, 무지한 사람들과 10억 달러 지갑을 든 사람들을 상대하는 100만 달러짜리 미소의 clueless한 수장에 비하면 충분한 공을 절대 인정받지 못함
      그래도 무언가를 이해하고 만들어내는 사람들이 우리 종 안에 존재한다는 사실에 신이나 자연에 감사해야 함
    • 혁명에 필요한 사람과 혁명 이후에 필요한 사람은 같지 않음

  • “범용 AI가 모두에게 이익이 되게 한다”는 말은 새로운 Don’t Be Evil임

    • “우리는 AI를 여러분의 손에 쥐여주고 싶습니다”
      간직하라고?
      아니! 대체 왜 그런 생각을 했나, 악당 같으니라고…
      OpenAI라는 건 두꺼운 고무장갑과 플렉시글라스 너머로 손을 벌리고 AI 한 방을 더 구걸하라는 뜻임

  • 왜 기술자들의 이직을 메이저리그 스포츠팀의 선수 명단 변경처럼 다루는지 모르겠음
    이 “이름만 불리는” 인플루언서들이 똑똑하냐고? 물론임
    하지만 똑똑함은 그렇게 드문 게 아님
    이 사람들도 여기 있는 대부분처럼 기술자이고, 특별히 더 똑똑하다기보다 경력 방향과 전문화에서 운이 좋았던 것임
    비즈니스 천재도 아니고, 역할을 맡은 사람들일 뿐임
    리더십 변화가 사업에 영향을 주냐고? 어느 정도는 있겠지만, AI 인물들을 둘러싼 가십성 호들갑에서 예상하는 것의 5% 정도일 듯함
    이제 충분함
    기술을 보고, 실제 작업을 보자
    이 사람들이 월급 받는 곳을 바꾸는 일로 직업적으로 영향을 받는 사람 수는 50%보다 0에 훨씬 가까움

    • 아니, 이들은 회사를 정의하는 사람들이고, 그런 자리는 훨씬 덜 대체 가능하며 스스로 만들어낸 역할임

  • 다음 행선지는 Meta일까?
    AI 부문에 돈이 많이 들어가고 있고, 연산 자원도 많으며 원하는 연구를 무엇이든 할 수 있을 것 같음

    • 아닐 가능성이 큼
      내부 정치만으로도 대부분의 사람을 미치게 만들 만큼 충분함

  • 지난 10년을 돌파구가 된 작업에 바친 사람들이 떠난 게 중요하지 않을 리 없음
    그들의 행운이 계속될 것이고, 이탈이 OpenAI의 쇠퇴 신호가 아니라고 보는 건 실수임
    아직 명성이 가치 있을 때 현금화하는 편이 나을 수도 있음
    새 길을 여는 건 다른 팀들일 가능성이 더 커 보임

답변달기