일리야 수츠케버의 NeurIPS 강연: seq2seq 10년 회고 [비디오]

 (youtube.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Ilya Sutskever는 NeurIPS 2014의 Sequence to Sequence Learning with Neural Networks를 10년 뒤 돌아보며, 오늘날 대형 언어 모델 흐름의 출발점을 자동회귀 텍스트 모델·큰 신경망·큰 데이터셋으로 정리함
  • 당시의 대담한 가정은 신경망이 다음 토큰을 충분히 잘 예측하면 시퀀스의 올바른 분포를 포착할 수 있다는 것이었고, 이를 번역 문제에 적용함
  • 구현은 LSTM과 8개 GPU 파이프라이닝에 기반했으며 3.5배 속도 향상을 얻었지만, 지금 기준으로는 파이프라이닝이 좋은 선택은 아니었다고 평가함
  • GPT-2, GPT-3, scaling laws로 이어진 사전학습 시대는 인터넷 데이터의 한계 때문에 끝날 수밖에 없으며, 이미 peak data에 도달했다고 봄
  • 다음 단계는 에이전트, 합성 데이터, 추론 시점 컴퓨트, o1 같은 초기 사례로 이어지고, 장기적으로는 더 추론적이고 자기인식까지 갖춘 질적으로 다른 시스템이 등장할 수 있음

2014년 seq2seq 논문을 10년 뒤 돌아보기

  • NeurIPS 2014 몬트리올에서 발표된 Sequence to Sequence Learning with Neural Networks가 10년 뒤 회고 대상이 됨
  • 수츠케버는 당시 공동 저자와 협력자들에게 감사를 전하고, 10년 전 발표 슬라이드를 다시 보며 무엇이 맞았고 무엇이 덜 맞았는지 점검함
  • 논문의 핵심은 세 가지로 압축됨
    • 텍스트에 학습된 자동회귀 모델
    • 큰 신경망
    • 큰 데이터셋

당시의 핵심 아이디어와 구현

  • 2014년 발표에는 Deep Learning Hypothesis가 포함되어 있었음
    • 10층짜리 큰 신경망은 인간이 1초 미만에 할 수 있는 일을 수행할 수 있다는 가정임
    • 근거는 인공 뉴런과 생물학적 뉴런이 어느 정도 비슷하고, 실제 뉴런은 느리다는 생각에 있었음
    • 당시 학습 가능한 신경망이 10층 정도였기 때문에 “인간이 아주 빠르게 할 수 있는 일”에 초점을 맞춤
  • 또 다른 핵심은 자동회귀 모델이 다음 토큰을 충분히 잘 예측하면 이어지는 시퀀스의 정확한 분포를 포착한다는 아이디어였음
    • 완전히 최초의 자동회귀 신경망은 아니었지만, 잘 학습하면 원하는 결과를 얻을 수 있다고 강하게 믿은 초기 사례로 소개됨
    • 당시 과제는 번역이었고, 지금 보면 겸손해 보이지만 당시에는 매우 대담한 목표였음
  • 구현에는 LSTM이 사용됨
    • 수츠케버는 LSTM을 Transformer 이전의 딥러닝 연구자들이 쓰던 구조로 소개함
    • LSTM을 “90도 회전한 ResNet”에 가깝다고 비유하며, 현재 residual stream이라고 부르는 적분기와 곱셈 구조가 있었다고 봄
  • 학습 병렬화는 GPU당 한 레이어를 배치하는 파이프라이닝 방식이었음
    • 8개 GPU로 3.5배 속도 향상을 얻음
    • 현재 관점에서는 파이프라이닝이 현명하지 않지만, 당시에는 그렇게 진행됨

스케일링, 연결주의, 사전학습의 시대

  • 2014년 결론 슬라이드는 scaling hypothesis의 시작으로 볼 수 있음
    • 매우 큰 데이터셋과 매우 큰 신경망을 학습하면 성공이 보장된다는 생각이 담겨 있었음
    • 수츠케버는 관대하게 보면 실제로 그렇게 전개되어 왔다고 평가함
  • 더 오래 살아남은 아이디어로는 connectionism을 꼽음
    • 인공 뉴런이 생물학적 뉴런과 어느 정도 비슷하다고 믿으면, 신경망을 인간 두뇌 규모까지 키우지 않더라도 인간이 하는 거의 모든 일을 하도록 구성할 수 있다는 자신감을 준다고 봄
    • 다만 인간 두뇌는 스스로 재구성하는 능력이 있고, 현재 학습 알고리듬은 파라미터 수만큼 많은 데이터 포인트를 필요로 하므로 이 점에서는 인간이 여전히 더 낫다고 말함
  • 이 흐름은 사전학습의 시대로 이어짐
    • GPT-2, GPT-3, scaling laws가 대표 사례로 언급됨
    • 전 협력자인 Radford, Kaplan, Dario Amodei가 이 방향을 실제로 작동하게 만드는 데 기여함
    • 오늘날 진전의 동력은 거대한 신경망을 거대한 데이터셋으로 학습하는 데 있었음

사전학습 이후의 방향

  • 수츠케버는 사전학습이 반드시 끝날 것이라고 봄
    • 하드웨어, 알고리듬, 클러스터는 컴퓨트를 계속 늘릴 수 있음
    • 데이터는 하나의 인터넷에 의존하며, 인터넷은 하나뿐임
    • 데이터는 AI의 화석연료와 같고, 이미 peak data에 도달했으므로 지금 있는 데이터로 대응해야 한다고 표현함
  • 사전학습 이후에는 여러 방향이 거론됨
    • 에이전트: 미래 방향으로 자주 언급되는 개념
    • 합성 데이터: 무엇을 의미하는지 자체가 큰 과제
    • 추론 시점 컴퓨트: 최근 o1 모델에서 더 선명하게 보이는 방향
  • 생물학 사례로는 포유류의 몸 크기와 뇌 크기 관계를 다룸
    • 포유류와 비인간 영장류는 유사한 관계를 보이지만, hominids는 뇌-몸 크기 스케일링 지수의 기울기가 다름
    • x축과 y축이 로그 스케일인 그래프에서 이런 차이가 나타남
    • 생물학에서도 다른 종류의 스케일링을 찾아낸 전례가 있으며, 지금까지 AI가 스케일한 것은 처음으로 스케일하는 법을 알아낸 대상이라고 봄

초지능, 추론, 질적으로 다른 시스템

  • 장기적으로 이 분야는 초지능을 향하고 있음
    • 현재 언어 모델과 챗봇은 놀랍지만, 동시에 이상하게 신뢰성이 낮고 혼란스러워하기도 함
    • 평가에서는 극적으로 초인간적 성능을 보이는 경우도 있어 두 모습을 조화시키기 어렵다고 봄
  • 앞으로의 시스템은 현재와 질적으로 달라질 수 있음
    • 실제 의미에서 에이전트적이 될 것이라고 전망함
    • 현재 시스템은 의미 있는 수준의 에이전트가 아니라 아주 약하게 시작된 정도로 평가됨
    • 추론 능력을 갖추고, 제한된 데이터에서 이해하며, 혼란스러워하지 않게 될 것으로 봄
  • 추론은 예측 불가능성을 키움
    • 기존 딥러닝은 인간의 직관, 즉 0.1초 반응 같은 처리를 복제하는 데 가까워 예측 가능성이 높았음
    • 추론하는 시스템은 더 많이 추론할수록 더 예측 불가능해짐
    • 강한 체스 AI가 최고의 인간 체스 선수에게도 예측 불가능하다는 점을 예로 듦
  • 자기인식도 가능성에 포함됨
    • 자기 자신은 세계 모델의 일부이므로 self-awareness가 유용하다고 봄
    • 이런 요소들이 합쳐지면 오늘날 존재하는 시스템과 근본적으로 다른 성질과 능력을 가진 시스템이 될 수 있음
    • 그런 시스템에서 생길 문제들은 지금 익숙한 문제들과 매우 다를 수 있으며, 미래는 실제로 예측하기 어려움

질의응답에서 나온 쟁점

  • 생물학적으로 영감을 받은 AI에 대해서는, 구체적 통찰이 있는 사람이라면 추구할 가치가 있다고 답함
    • 지금까지 성공한 생물학적 영감은 “뉴런을 쓰자”는 매우 제한적인 수준이었다고 봄
    • 더 상세한 생물학적 영감은 얻기 어려웠지만, 특별한 통찰이 있다면 유용할 수 있음
  • 추론 모델이 환각을 스스로 고칠 수 있느냐는 질문에는 가능성이 매우 높다고 답함
    • 장기적으로 모델이 추론을 통해 환각 발생을 이해하고 수정할 수 있다는 방향에 동의함
    • 일부 초기 추론 모델에서 이미 그런 일이 일어나고 있을 가능성도 배제하지 않음
    • 다만 이를 autocorrect라고 부르는 것은 규모를 과소평가하는 표현이라고 봄
  • AI의 권리, 공존, 인센티브 구조에 대해서는 확답을 피함
    • AI가 인간과 공존하고 권리를 원한다면 나쁘지 않은 결과일 수 있음
    • 하지만 상황은 매우 예측 불가능하므로 자신 있게 말하기 어렵다고 덧붙임
  • LLM이 다중 홉 추론을 분포 밖으로 일반화하느냐는 질문에는 단순한 예/아니오로 답하기 어렵다고 봄
    • “분포 안”과 “분포 밖”이 무엇인지 자체가 문제임
    • 과거 통계적 기계번역 시대에는 데이터셋과 같은 문구가 아니면 일반화로 여겼지만, 현재는 수학 대회 문제와 인터넷 토론의 유사성을 두고 암기인지 일반화인지 따지게 됨
    • 일반화 기준은 크게 높아졌고, 인간이 더 잘 일반화하는 것은 맞지만 LLM도 어느 정도 분포 밖 일반화를 한다고 답함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이 발표는 꽤 알맹이 없는 내용처럼 느껴졌음
    피곤한 머리로 기억나는 요지는 지난 10년 요약, 사용 가능한 데이터를 거의 다 써서 스케일링 법칙의 한계에 가까워졌다는 얘기, 다음 단계로 에이전트·합성 데이터·연산 개선이 있을 수 있다는 얘기였음
    그 외에는 인공 신경망과 생물학적 신경망을 비교하는 재탕에 가까웠고, 몸무게와 뇌 질량의 양의 상관 같은 내용이었는데 명확한 논지는 잘 보이지 않았음
    질문은 환각을 모델이 스스로 알 수 있느냐, 암호화폐 관련 질문, 그리고 약간 흥미로운 다중 홉 추론 정도였음

    • 현장에서 들었는데 맥락이 필요함. 그는 test of time 강연 시리즈에 초대된 것이어서 역사 파트가 길었던 설명이 됨
      Ilya의 성향과 AI와의 연관성이 끝부분의 느슨한 추측으로 이어진 것 같음
      그는 꽤 먼 미래의 추측적 주제를 말하고 싶어 하면서도 “언제 어떻게인지는 말하지 않지만 일어날 것” 같은 식으로 방어해서 반박하기 어렵게 만듦
      이런 방식은 마지막 암호화폐 질문처럼 이상한 사람들을 끌어들이기 쉽고, 바로 직전 GAN의 영향력을 다룬 발표는 세션 주제에서 벗어나지 않았음
    • 핵심은 “더 큰 차원의 모델을 더 큰 인터넷 덤프로 학습시키면 능력이 계속 좋아질 거라고 더는 기대할 수 없다”였던 듯함
      한 문장이지만 꽤 중요하고, 많은 사람이 이미 알더라도 Sutskever가 직접 말했다는 점 때문에 공통 인식으로 자리 잡는 의미가 있음
      나머지는 사실상 도입과 마무리에 가까움
    • 영상을 LLM으로 요약해 경고 문구와 함께 댓글로 올린 사람이 없다는 게 의외임
    • 아무리 뛰어난 두뇌라도 요청받을 때마다 항상 심오한 내용을 내놓기는 어려울 듯함
    • 질문들이 큰 경고 신호처럼 보였음. 암호화폐, AI의 인권, AI용 “자동 고침” 같은 느슨한 질문들이었고, 컨퍼런스에서 질문하는 사람들은 원래 특이한 부류라 해도 지금 AI 영역에 사기꾼성 참여자가 너무 많아 진짜 연구를 덮어버릴 수 있겠다는 느낌이 듦
      기본 기여자 대부분은 이미 넉넉한 계약을 가진 백만장자들이고, 연구소와 학과들은 AI 연구 주제로 큰 자금을 확보했음
      앞으로 10년 동안 합성 데이터, 에이전트, 자동 생성 이미지에 가슴이 나오지 않게 하는 문제에는 돈을 쓸 수 있겠지만, 근본적 진전이 많을 것 같지는 않음
      /remindme 10 years

  • Sutskever가 “우리가 아는 형태의 사전 학습은 의심할 여지 없이 끝날 것”이고, “데이터 정점에 도달했고 더는 없다”고 말한 부분이 핵심임
    인터넷은 인간이 만든 콘텐츠가 유한하다는 점에서 석유 같은 유한 자원이라는 비유도 나옴
    그렇다면 인터넷 데이터를 무엇이 대체할까? 선별된 합성 데이터셋일까?
    저작권 우려 때문에 학습에 잘 쓰지 않는 거대한 독점 데이터셋들이 있지만, 그 데이터를 실제로 소유하고 있다면 법적 문제는 훨씬 줄어듦
    예를 들어 Getty는 거대한 이미지 라이브러리를 갖고 있고, 남이 학습시키면 소송 위험이 있지만 Getty가 자기 AI를 학습시키면 이야기가 다름
    News Corp가 Wall Street Journal, HarperCollins 같은 출판 자산으로 AI를 학습시키는 경우도 비슷함

    • Meta나 Google 같은 곳이 추가 데이터에 접근할 수 있었기 때문에, 모두에게 남아도는 상황은 아니었어도 그들에게는 데이터가 충분해서 합성 데이터 활용 연구가 덜 진행됐다고 봄
      예전에 객체 검출기를 학습할 때 Blender 3D 모델, 매개변수 조정 스크립트, 기존 기계학습 모델로 카메라 보정과 오버레이 방향을 추론하는 방식을 썼는데, 실제 물체를 식별하는 데 매우 잘 작동했음
      게임 엔진으로 차량 학습을 비슷하게 하는 사람들도 알고 있음
      정확도를 크게 끌어올리는 의외의 전술적 세부사항들이 있는데, 예를 들어 3D 모델의 표면 질감처럼 관련 없는 요소를 학습 세트에서 제대로 무작위화해야 함
      학습 때 물체에 무작위 프랙털 패턴을 입히면 실제 환경의 교란에 대해 객체 검출기가 더 견고해짐
    • “주 법률”을 매우 잘 해석하는 LLM을 만들고 싶다면, 특정 주의 법률과 규정 자료를 모두 내려받아 법학 실무자와 변호사 기준 상위 5% 수준이 되게 학습시키는 데 어떤 장애물이 있는지 보는 관점도 가능함
      이 경우 이미 “인터넷”이 꼭 필요하지 않음
      충분한 크기와 품질의 도메인 특화 데이터셋만 있으면 되고, 그 결과는 이미 무서울 수 있음
      “주 법률” LLM은 예시일 뿐이고, 어떤 분야든 도메인 특화 전문가가 필요하면 학습시키면 된다는 논리로 이어짐
    • 학습 데이터가 정말 고갈되기 직전이라고는 생각하지 않음. 필요한 것은 지식이지, 반드시 그 텍스트의 행동 양식까지는 아님
      LLM은 보도된 적 없는 유명 밈처럼 오래된 인터넷 사용자라면 아는 것들을 잘 떠올리지 못함
      4chan 같은 데이터를 모방하지는 않게 하면서 기억하게 만들 수 있다면, 학습에 쓰는 것이 완전히 무의미하지 않을 수도 있음
      영화 대본, 노래 가사, 유명 YouTube 영상의 자막, 심지어 텔레비전 프로그램은 어떤가 싶음
    • 인간은 추론하거나 자신이 무엇을 아는지 알기 위해 수조 개 토큰이 필요하지 않음
      일부는 진화에서 왔겠지만, 기본 언어 능력과 기본 세계 모델링처럼 진화에서 온 부분은 인터넷 데이터로 이미 어느 정도 맞췄다고 봄
      현재 사전 학습은 인간보다 훨씬 많은 데이터를 쓰며, 그림을 그리기 위해 Getty의 모든 이미지를 볼 필요가 없듯 자기인식이나 자기개선 모델도 그럴 것임
      어떤 분야에서 전문가 수준에 도달하는 데 인터넷 데이터든 어떤 데이터든 다음 토큰 예측만 학습하는 것이 해법은 아님
    • 제약과 에너지 탐사 같은 산업이 눈에 띔. 이 분야에서는 데이터 사일로 자체가 경쟁 우위의 핵심임
      데이터셋을 열어서 경쟁 조건을 평평하게 만들 이유가 없고, 닫아두면 잠재적 발견을 독점할 수 있음
      공개 데이터는 인터넷의 기반이지만, 어떤 산업들은 발견을 수십 년 동안 철저히 숨기는 방식 위에 세워져 있음

  • Ilya가 2012년에 신경망 스케일링 논문을 주도했던 Quoc Le의 사진으로 발표를 시작해서 반가웠음. 그 논문이 당시 딥러닝으로 들어가게 만든 계기였음
    그의 코멘트는 비교적 겸손하고 공개된 선행 연구에 기반해 있지만, 지금 큰일을 하고 있고 상상력도 크다는 점은 분명해 보임
    이제 “고양이는 자루 밖으로 나왔고”, AI의 미래는 아마 새로운 세대의 리더들이 이끌 텐데, 그들이 인도주의적이기를 바랄 뿐임

    • 그들이 가능한 한 인도주의적이길 바라야겠지만, 그래도 여전히 인간이라는 점은 잊으면 안 됨
    • 새로운 세대의 인공지능 리더들이 인도주의적일 가능성은 말 그대로 0에 가깝다고 봄

  • 그가 말한 “추론이 많아질수록 더 예측 불가능해진다”는 표현은 엄청난 절제된 표현이라고 봄
    추론은 어떤 의미에서는 예측 불가능성과 거의 같은 것으로 생각해야 하고, 더 구체적으로 유용한 추론은 정의상 예측 불가능함
    이 프레이밍은 정렬 같은 문제에서 중요함

    • 오히려 반대 아닌가 싶음. “비이성적”이라는 단어는 흔히 변덕스럽고 예측 불가능하며 위험하다는 뜻으로도 쓰임
      이성은 매우 예측 가능한 것으로 여겨지고, 같은 사실 집합에서 합리적으로 추론하는 두 사람은 비슷한 결론에 도달할 것으로 기대됨
      Ilya가 말하려는 건, 매우 똑똑한 사람은 덜 똑똑한 사람에게 “예측 불가능”해 보일 수 있다는 쪽에 가까운 듯함
      이성 자체가 예측 불가능한 게 아니라, 충분히 빠르고 질 좋은 추론을 하면 나중에 보면 말이 되더라도 아무도 미리 예상하지 못한 결론에 도달할 수 있음
    • 여기서 중요한 단어는 “예측 불가능”이지 “놀라움”, “검증 불가능”, “비합리”가 아님
      이 발표에서 예측은 사람이 0.1초 만에 하는 직관과 연결됨
      강력한 추론 모델은 정의상 직관적이지 않은 답에 도달할 수밖에 없음. 직관적이라면 긴 추론 사슬 없이 훨씬 빨리 같은 답에 도달했을 것이기 때문임
      여기서의 “추론”은 수학적 의미의 증명과는 다름. 수학에서는 직관적 결론에도 매우 특별한 증명이 필요할 수 있음
    • 그가 든 체스 AI 예시는 가장 적절하지 않았던 것 같음
      인간 선수는 AI만큼 먼 수를 계산하지 못해 어떤 수를 이해하기 어려울 수 있지만, 그래도 체스 AI가 같은 규칙 아래 같은 목표를 최적화한다는 점은 거의 확신할 수 있음
      추론 모델에서는 정렬이 주어진 것이 아님
      완전히 다른 규칙과 비용 함수 아래에서 추론할 수도 있고, 더 열린 질문에서 인간이 이해하지 못하는 산출물을 내놓을 때 천재적 발상인지 정렬되지 않은 사고인지 쉽게 말하기 어려움
    • 해를 찾는 것과 검증하는 것의 시간 복잡도를 생각하면 꼭 맞는 말은 아님
    • 그가 정말 그 뜻으로 말한 게 확실한가? 모델에서 더 많은 추론을 끌어내는 과정이 예측 불가능하다는 의미였지, 추론 자체가 예측 불가능하다고 말한 건 아닐 수도 있음

  • 이번 주 DeepMind 팟캐스트의 Oriole Vinyals 편이 이 발표와 비슷한 주제, 즉 LLM의 현 상황과 학습의 앞길을 다루면서 훨씬 더 흥미로웠음: https://pca.st/episode/0f68afd5-2b2b-4ce9-964f-38193b7e8dd3

  • 석유 비유는 정말 적절함. Mr Worldcoin과 그 부류의 순자산이 3센트 더 늘어나도록 호수 몇 개를 더 끓여 말리는 일이 충분히 가치 있다는 식이니까

    • 석유 비유는 이해하지만 그 도약은 모르겠음. 어떤 호수가 끓고 있다는 건가?

  • 일부 저명한 기계학습 실무자들이 아직도 Transformer의 “뉴런”을 실제 생물학적 뉴런에 비유한다는 게 놀라움
    실제 뉴런은 스파이크, 이온 기울기, 복잡한 수상돌기 구조, 정교한 생화학 과정이 지배하는 시냅스 가소성에 의존함
    Transformer의 단순하고 미분 가능한 선형 계층과 점별 비선형성에는 해당하지 않는 요소들임
    이런 비교를 지지하는 신뢰할 만한 신경과학자나 생물학자가 있는지, 아니면 기계학습 커뮤니티의 관습으로만 유지되는 비유인지 궁금함

    • 2012년 이전에 무엇이 있었는지 기억해야 함. SVM, 랜덤 포레스트 같은 것들이었고, 뇌와는 전혀 닮지 않았음
      신경망은 오래됐지만 2012년이 딥러닝 혁명의 시작이었음
      이런 기준에서 보면 뇌와 신경망은 둘 다 비슷한 성질을 가진 연결주의의 한 종류이고, 서로 비교하고 한쪽에서 영감을 얻어 다른 쪽에 적용하는 것은 충분히 말이 됨
    • 행성의 궤도를 예측하기 위해 행성의 모든 원자를 시뮬레이션할 필요는 없음
      수학적 뉴런은 완전히 다르게 작동하더라도 실제 뉴런과 비슷한 기능을 가질 수 있음
    • 부모 노드와 자식 노드가 있는 자료구조를 트리라고 부르는 것과 그렇게 크게 다른가?
    • 답글들을 보면 단순한 질문에 대한 답은 “아니다”에 가까워 보임
      나도 진지한 비교가 있었는지 궁금하고, 있다면 읽어보고 싶음
    • 발표에서 단서를 충분히 붙이지 않은 것을 옹호하려는 건 아니지만, “모든 모델은 틀렸지만 일부는 유용하다”는 오래된 격언이 여기에 적용된다고 봄

  • 세상의 많은 지식은 실증 실험을 통해서만 열 수 있게 잠겨 있고, 연산은 그 실험을 더 효율적으로 만드는 데만 실질적으로 도움을 줄 수 있음
    어떤 개입에 대해 무작위 대조 시험을 실제로 수행해야 하며, 거기에는 현실의 시간과 원자가 필요함

  • 전체 발표는 흥미로움: https://www.youtube.com/watch?v=YD-9NG1Ke5Y

    • 몸무게와 뇌 무게 관계 슬라이드에서 그는 인류 계열의 스케일링 차이를 강조했음
      그런데 흥미로웠던 건 같은 슬라이드가 같은 지점에서 비인류 계열의 단단한 상한도 보여줬다는 점인데, 그는 그 부분을 말하지 않았음

  • LLM으로 보정한 전사본이 있음. 원본 YouTube 자막에 Gemini Flash 8B를 사용함: https://www.appblit.com/scribe?v=YD-9NG1Ke5Y#0

    • Gemini가 시간이 지나면서 텍스트를 그냥 삼켜버리는 걸 어떻게 막았는지 궁금함
      오디오 전사 보정은 한두 페이지 이하로 잘라 넣지 않으면 어떤 LLM에서도 좋은 결과를 보기 어려운 영역이었음
      혹시 별도 도구를 썼는지도 궁금함
답변달기