24P by xguru 12달전 | favorite | 댓글 1개

매년 발표되는 인공지능의 현재와 미래를 폭넓게 조망한 보고서

  • Research : 현재까지의 기술 혁신과 능력
  • Industry : AI를 위한 상업적 응용 분야 및 비즈니스 임팩트
  • Politics : AI관련 규제, 경제적 의미 및 AI의 지정학(Geopolitics)
  • Safety : AI가 줄 수 있는 치명적 위험을 식별하고 완화
  • Predictions : 앞으로 일어날 일과 이전 보고서의 퍼포먼스 검토

2023년 분야별 요약

  • Research
    • GPT-4는 독점 모델과 차선책 오픈소스 사이의 기능 격차를 보여주면서, 동시에 RLHF(인간 피드백 강화 학습)의 힘을 입증
    • LLaMa-1/2를 기반으로 더 작은 모델, 더 나은 데이터 세트, 더 긴 컨텍스트등 독점 모델 성능을 복제하거나 능가하기 위한 노력이 증가
    • 인간이 생성한 데이터가 AI 확장 추세를 얼마나 오래 지속할 수 있을지(일부에서는 2025년까지 LLM에 의해 데이터가 고갈될 것으로 예상함), 합성 데이터를 추가하는 것이 어떤 영향을 미칠지는 불분명함. 기업 내에 갇혀 있는 동영상과 데이터가 다음 타깃이 될 가능성이 높음
    • LLM과 Diffusion 모델은 분자 생물학 및 신약 개발을 위한 새로운 돌파구를 마련함으로써 생명과학 커뮤니티에 계속해서 선물을 주고 있음
    • 멀티모달리티가 새로운 영역으로 떠오르면서 모든 종류의 에이전트에 대한 관심이 크게 증가
  • Industry
    • 국가, 스타트업, 대기업, 연구자 모두의 GPU에 대한 열렬한 수요로 인해 NVIDIA가 시가총액 1조 달러 클럽에 가입
    • 수출 통제로 인해 고급 칩의 중국 판매가 제한되지만, 주요 칩 공급업체들은 수출 통제를 피할 수 있는 대안을 개발중
    • ChatGPT가 이끄는 GenAI 앱들은 이미지, 비디오, 코딩, 음성, 코파일럿 등 모든 분야에서 획기적인 한 해를 보내며 180억 달러의 VC 및 기업 투자를 이끌어 냈음
  • Politics
    • 세계는 명확한 규제 진영으로 나뉘었지만 글로벌 거버넌스의 진전은 여전히 더디게 진행되고 있음. 대형 AI 연구소가 그 공백을 메우기 위해 나서는 중
    • 미국이 동맹국들을 동원하고 중국의 대응은 여전히 미흡한 가운데 칩 전쟁은 계속 진행 중
    • AI는 선거와 고용을 포함한 일련의 민감한 분야에 영향을 미칠 것으로 예상되지만 아직 큰 영향을 미치지는 않고 있음
  • Safety
    • 실존적 위험에 대한 논쟁이 처음으로 주류로 떠오르며 크게 격화
    • 많은 고성능 모델이 쉽게 '탈옥' 가능. RLHF 문제를 해결하기 위해 연구자들은 셀프 얼라인먼트 및 인간 선호도 사전 학습과 같은 대안을 모색중
    • 기능이 발전함에 따라 SOTA(State of the Art, 최고 수준)모델을 일관성 있게 평가하는 것이 점점 더 어려워지고 있음. Vibe만으로는 충분하지 않음

다음 12달 예측

  1. 할리우드급 프로덕션에서 시각 효과를 위해 제너레이티브 AI를 사용
  2. 2024년 미국 대선 과정에서 생성형 AI 미디어 회사가 이를 악용한 혐의로 조사 받음
  3. 스스로 개선하는 AI 에이전트는 복잡한 환경(예: AAA 게임, 도구 사용, 과학)에서 SOTA를 압도
  4. 기술 기업공개(IPO) 시장이 해빙되고 AI 중심 기업(예: Databricks)의 상장이 한 건 이상 이루어질 것으로 예상
  5. GenAI 확장 열풍으로 한 그룹이 하나의 대규모 모델을 학습시키는 데 10억 달러 이상을 지출하는 경우도 발생
  6. 미국 공정거래위원회(FTC)나 영국 공정거래위원회(CMA)는 Microsoft/OpenAI 거래를 경쟁법 위반으로 조사
  7. 높은 수준의 자발적 약속을 넘어서는 글로벌 AI 거버넌스의 진전은 제한적
  8. 금융 기관이 컴퓨팅 자금 조달을 위한 VC 주식 자금을 대체하기 위해 GPU 부채 펀드를 출시
  9. AI가 생성한 노래가 빌보드 핫 100 톱 10 또는 스포티파이 톱 히트 2024에 진입
  10. 추론 워크로드와 비용이 크게 증가함에 따라 대규모 AI 회사(예: OpenAI)가 추론에 중점을 둔 AI 칩 회사를 인수