아마존, Anthropic에 6조원 추가 투자

 (cnbc.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Amazon은 전 OpenAI 연구 임원들이 세운 AI 스타트업 Anthropic에 약 40억 달러($4b)를 추가 투자해 총 투자액을 80억 달러($8b) 로 늘림
  • 이번 투자 이후에도 Amazon은 소수 투자자로 남고 Anthropic 이사회 의석은 갖지 않음
  • AWS는 Anthropic의 주요 클라우드·학습 파트너가 되며, Anthropic은 Trainium과 Inferentia 칩으로 대형 AI 모델을 학습·배포함
  • AWS 고객은 자체 데이터로 Claude 파인튜닝 기능을 조기 이용할 수 있고, 이 혜택은 AWS 고객 전용으로 제공됨
  • 생성 AI 시장이 10년 안에 매출 1조 달러를 넘을 것으로 예측되는 가운데, 대형 기술 기업들은 스타트업 투자와 자체 AI 개발을 동시에 밀어붙이고 있음

Amazon의 Anthropic 투자 확대

  • Amazon은 Anthropic에 40억 달러를 추가 투자한다고 발표함
  • 이번 투자로 Amazon의 Anthropic 총 투자액은 80억 달러가 됨
  • Anthropic은 샌프란시스코 기반 회사로, Claude 챗봇과 AI 모델을 개발함
  • 투자 확대 이후에도 Amazon은 Anthropic의 소수 투자자로 남으며, 이사회 의석은 없음

AWS와 Anthropic의 클라우드·칩 협력

  • Amazon Web Services는 Anthropic의 주요 클라우드 및 학습 파트너가 됨
  • Anthropic은 AWS의 Trainium과 Inferentia 칩을 사용해 최대 규모 AI 모델을 학습하고 배포함
  • AWS 고객은 Anthropic의 Claude를 자체 데이터로 파인튜닝하는 기능에 조기 접근할 수 있음
    • 회사 블로그에 따르면 이 기능은 AWS 고객을 위한 고유한 혜택임

이전 투자와 생성 AI 경쟁 구도

  • Amazon은 2023년 9월 Anthropic에 12억 5천만 달러 초기 투자를 발표함
  • 2024년 3월 Amazon의 27억 5천만 달러 Anthropic 투자는 회사 30년 역사상 최대 외부 투자였음
  • Google도 2023년에 Anthropic에 20억 달러 투자를 약속함
    • Google은 이전에 Anthropic 지분 10% 를 확보했고, 두 회사 사이에는 대형 클라우드 계약도 있었음
  • Anthropic과 OpenAI 같은 스타트업뿐 아니라 Google·Amazon·Microsoft·Meta 같은 대형 기술 기업들도 생성 AI 경쟁에 참여 중임
  • 생성 AI 시장은 10년 안에 매출 1조 달러를 넘을 것으로 예측됨

Claude 제품과 최근 기능

  • Anthropic의 Claude는 OpenAI의 ChatGPT, Google의 Gemini처럼 인기가 커진 챗봇 중 하나임
  • 2024년 10월에는 사람이 컴퓨터를 쓰듯 복잡한 작업을 수행할 수 있는 AI 에이전트를 발표함
  • Computer Use 기능은 최신 AI 모델 2종에 포함됨
    • 컴퓨터 화면 내용을 해석함
    • 버튼을 선택하고 텍스트를 입력함
    • 웹사이트를 탐색함
    • 소프트웨어와 실시간 인터넷 브라우징을 통해 작업을 실행함
  • Anthropic 최고과학책임자 Jared Kaplan은 이 도구가 “기본적으로 우리가 하는 것과 같은 방식으로 컴퓨터를 사용할 수 있다”고 말했고, 수십 개에서 수백 개 단계의 작업을 수행할 수 있다고 밝힘
  • Amazon은 해당 도구에 초기 접근 권한을 가졌으며, 초기 고객과 베타 테스터에는 Asana, Canva, Notion이 포함됨

Anthropic의 기업용 제품 흐름

  • Anthropic은 2024년 9월 Claude Enterprise를 출시함
    • 챗봇 데뷔 이후 가장 큰 신규 제품으로, Anthropic AI를 통합하려는 기업을 대상으로 함
  • 2024년 6월에는 더 강력한 AI 모델인 Claude 3.5 Sonnet을 공개함
  • 2024년 5월에는 소규모 기업을 위한 Team 플랜을 출시함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이런 클라우드 제공자와 AI 회사 간 거래의 실제 구조가 궁금함. 이번 경우엔 Anthropic이 투자금 대부분을 AWS에서 학습 비용으로 쓰게 되는 조건처럼 보임
    Anthropic이 사실상 AWS를 원가 수준으로 쓰는 건가? Amazon이 가격에 마진을 붙인다면, 이 40억 달러 투자는 실제 비용이 훨씬 적어지고 설비투자를 AWS 매출로 바꾸는 좋은 방식처럼 보임

    • 맞음. 원래 Microsoft의 OpenAI 투자가 영리했던 이유도 그거였음
      Azure의 AI 학습 인프라 확장에 투자한 셈인데, 거대한 고객을 통해 우회적으로 진행했고, 설계 파트너로도 이상적이며 지분까지 얻었음. Anthropic도 최대 비용 항목에 대해 좋은 조건을 협상했을 테고, Amazon은 자기 시스템을 키워줄 거대 고객을 확보한 셈임
    • 구체적인 내용은 모르지만, 일반적으로 투자와 파트너십은 다름. 말 그대로 투자라면 현금일 수도 있고 현물일 수도 있는데, 현물은 Microsoft가 OpenAI에 한 것처럼 학습용 Azure 크레딧을 사실상 100억 달러 규모로 제공하는 식이 될 수 있음
      다만 그 대가로 Microsoft는 OpenAI를 Azure 서비스에 내장하고 확장하는 조건을 얻었음. 파트너십 투자라면 돈과 현물 요소가 함께 있을 수 있지만, 그 돈은 지분 소유 맥락이 아니라 파트너 개발 자금에 가까움. 보통 사용량 약정과 시장 진출 목표에 묶여 있음. 보도자료나 기사만 읽어서는 독립 소프트웨어 공급업체와 클라우드 제공자 사이의 관계가 정확히 어떤 종류인지 판단하기 어려울 때가 있음
    • 다른 관점도 있음. 지난주 Lex와의 대화에서 Dario는 향후 모델이 Annapurna Labs의 Amazon 칩에서 돌아갈 것처럼 암시했음
      Amazon은 플라이휠과 곡괭이·삽 전략에 강한 회사고, 개인적으로는 이게 최종 그림이라고 봄. 자기 하드웨어 수요를 만들어 단가를 낮추고 개발 주기를 빠르게 하는 것임. 여기에 AWS와의 결합까지 더하면 돈 찍어내는 기계가 됨
    • 원래 OpenAI/Microsoft 계약 문서는 여기서 볼 수 있음: https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-ema...
    • Amazon은 Bedrock 사업을 위해 최상위 모델이 필요함. Claude 3.5를 제공하는 몇 안 되는 사업자 중 하나인데, 이 모델은 공개 모델도 아니고 Anthropic도 많은 곳에 실행을 허용하지 않음
      Google에는 Gemini와 Claude가 있고, Microsoft에는 OpenAI가 있음. Amazon이 계속 관련성을 유지하려면 이 투자가 필요함

  • Anthropic은 더 나은 코드 생성기가 되는 전략에 더 집중해야 함. AI 에이전트가 식당에 전화해주는 건 필요 없음. 개발자를 사로잡으면 나머지는 따라올 것임

    • 정말 그럴까? 일화적이긴 하지만, 현실에서 아는 사람 중 Claude를 아는 사람은 없음. 그냥 흔한 이름 정도로만 알 뿐임
      반면 모두 ChatGPT는 쓰거나 적어도 알고 있음. 물론 그들은 소프트웨어 엔지니어가 아니지만, 기업 의사결정권자들도 소프트웨어 엔지니어는 아님
    • 내 경험상 코딩에서는 Sonnet이 OpenAI의 어떤 모델이나 Gemini보다 훨씬 앞서 있음. 모두 완벽과는 거리가 멀지만, Sonnet은 실제로 요청 의도를 이해하고 실패했을 때도 도우려 함
      다른 모델들은 헤매다가 형편없는 코드를 내놓는 경우가 많았음. 이 경험은 주로 OpenRouter를 통한 것이어서 최신 모델 상태를 완전히 반영하지 않을 수 있지만, 적어도 거기서는 차이가 큼
    • 나도 음성 모드나 컴퓨터를 조작하는 에이전트의 필요성을 잘 모르겠음. 기술 데모로는 멋질 수 있지만, 정말 원하는 건 합리적인 가격의 좋은 품질 LLM 서비스임
    • “개발자, 개발자, 개발자!”
      좀 더 진지하게 말하면 잠재적 응용은 엄청 많다고 봄. 다만 AI 도구를 쓰는 개발자들이 다른 AI 제품을 만들 가능성이 더 높은지는 확실하지 않음
    • 그러면 안 됨. Anthropic은 특정 용도의 인공지능이 아니라 범용 인공지능을 만들려는 중임
      그런 부분은 Cursor, Zed, Codeium이나 더 작은 회사들이 집중하게 두는 편이 맞음

  • Anthropic은 확실히 돈이 필요함. Pro 서비스가 이번 주 내내 용량 초과 때문에 제한 모드로 돌아갔음
    트래픽이 많을 때 기본값이 “concise” 모드가 되지만, Pro 사용자는 다시 “Full Response”로 바꿀 수 있음. 그런데 그렇게 해도 품질이 떨어지는 게 느껴지고, 실패하거나 오류 메시지가 뜨는 일이 더 잦음. 전체 수요를 감당할 만큼의 연산 자원이 부족함

    • 몇 주 동안 API를 쓰고 있는데 529 overloaded 메시지를 자주 받음. 원래 항상 그랬는지는 모르겠지만, 몇 시간씩 지속되니 운영 환경 작업에는 부적합해짐
      필요한 용량을 추가할 수 있으면 좋겠음. 내 용도에서는 GPT-4o보다 훨씬 낫기 때문임
    • 처음엔 Concise가 짜증 나서 수동으로 되돌리곤 했음. 그런데 실제로 써보니 SQL을 요청하면 SQL과 많아야 한두 문장만 돌려줬음
      일반 모드는 SQL 앞뒤로 문단을 통째로 붙이는데, 유용한 문단도 아니고 잡담에 다음 프롬프트 제안까지 늘어놓음. 이제는 concise mode가 좋음. 핵심은 줄이지 않고 군더더기만 없앰. 문제는 부하가 있을 때만 나타난다는 것임. 지금은 원해도 선택할 수 없음
    • 나도 돈을 내고 쓰는 제품에서 속도 제한을 당하거나 응답이 실패하면 답답함. 다만 “concise” 모드 답변은 군더더기가 적고 더 빠르게 주고받기 좋았음
      부하가 높지 않을 때도 concise 모드 선택기를 찾은 적이 한두 번 있음
    • Anthropic의 형편없는 UI도 인프라에 도움이 안 됨. 부하가 걸리면 답변의 90%를 써놓고 갑자기 취소한 뒤 전체를 삭제해버림
      그래서 몇 문장만 더 이어 쓰면 될 일을 처음부터 다시 생성해야 함. 모두가 선점당하자마자 새로고침을 누르는 DDoS 공격 같은 구조가 됨
    • Dario는 최근 인터뷰에서 부하가 높을 때도 매개변수가 다른 저품질 모델로 바꾸지는 않는다고 했음. 다만 그 말이 양자화나 희소성을 쓰지 않는다는 뜻인지는 해석의 여지를 남겼음
      또 빔 탐색 깊이를 낮추거나 더 싼 샘플링 기법을 쓰는지에 대해서도 답이 충분히 명확하진 않았음. 실제로 다른 모델을 받을 수 있는 경우는 새 발표 직전 A/B 테스트를 할 때뿐이라고 했고, 이 내용이 API뿐 아니라 웹 UI에도 적용된다고 정리한 것으로 보임. 출처는 https://www.youtube.com/watch?v=ugvHCXCOmm4&t=42m19s임

  • 실제로 Claude가 ChatGPT보다 우수하다고 보고, 더 인정받아야 함. 그래서 좋은 소식인 듯함

    • 기술적인 프롬프트는 대부분 LibreChat에서 4o와 Claude를 나란히 띄워 시작하는데, 결국 Claude로 진행하는 경우가 더 많음
    • 코딩에서는 더 낫다는 데 동의하지만, 유료 구독에서도 ChatGPT보다 훨씬 자주 한도에 걸리거나 매우 느려지는 느낌이 있음

  • Anthropic은 사업 상당 부분을 AWS Bedrock을 통해 얻고 있으니, Amazon이 Claude 사용량 증가를 꽤 잘 들여다보고 이번 투자에 자신감을 가졌다고 보는 게 타당함

    • Amazon은 단기적으로 그 돈이 Anthropic의 장기 생존 여부와 관계없이 AWS 지출로 다시 돌아온다는 걸 알기 때문에 투자에 자신 있는 것임
    • “AWS Bedrock을 통해 상당 부분을 얻는다”는 걸 수치화할 수 있나? 추정치라도 있음?
    • Anthropic 사업 상당 부분이 AWS Bedrock에서 나온다는 걸 어떻게 아는지 궁금함

  • Anthropic이 여기서 승자가 될 것이라고 확신함. 지난 1년 동안 OpenAI를 훌쩍 앞질렀음
    이 분야에서 일할 자격이 있는 전 세계 약 1000명을 만족시키는 것에 거의 전적으로 의존하는 사업이, 그걸 못 하자 하락세를 타는 건 어찌 보면 당연함

  • 큰 그림에서는 말이 됨. Anthropic은 예전엔 Google 진영에 가까웠지만, 최근 DeepMind가 속도를 내며 새로운 “Experimental” Gemini 모델들이 모두를 앞서고 있음
    반면 AWS는 첨단 AI에서 가진 게 없음. 이번 투자로 Anthropic의 끔찍한 속도 제한이 나아지길 바람

    • Anthropic이 어떤 진영에 충성을 맹세했다고 보진 않음. Amazon은 이미 작년에 40억 달러를 투자했고, Google은 20억 달러를 투자했음

  • Pro 플랜이 못 쓸 수준이 돼서 Teams 플랜으로 바꾸고 5개 계정에 150달러를 내야 했음
    Pro는 질문을 열몇 개쯤 허용한 뒤 “high capacity” 때문에 몇 시간 동안 막아버림. 5개 계정은 필요 없고, 몇 시간 연속으로 작업할 수만 있다면 40달러짜리 계정 하나면 충분함. 그래도 Claude는 마법 같음. 손끝에 조수 10명을 둔 느낌이라, 그 정도라면 100달러도 낼 만함

    • 채팅이 토큰 수 기준으로 길어질 때마다 새 채팅을 시작함. 충분한 맥락을 담은 프롬프트를 다시 구성해야 해서 번거롭지만, 덕분에 Pro 한도에 걸리지 않았음
      각 프롬프트에 질문과 세부사항을 더 많이 넣기도 함. 이유는 Claude가 새 프롬프트를 제출할 때마다 전체 채팅을 함께 포함하고[0], 한도는 제출한 토큰 수 기준이기 때문임. 몇 번만 주고받아도 채팅에 1만 토큰 이상이 쌓이고, 그 전체가 매번 다시 제출되어 한도에 빠르게 가까워짐. ChatGPT 구독도 있어서, 특히 웹 검색 기능이 들어간 뒤로는 많은 질문을 거기서 처리함
      [0] https://support.anthropic.com/en/articles/8324991-about-clau...
    • 대신 API와 LibreChat을 쓰지 않는 이유가 궁금함

  • Claude는 정말 대단함. 그리고 OpenAI나 Microsoft를 신뢰하지 않아서 대안이 있다는 게 좋음

    • Amazon은 신뢰성으로 유명하긴 하지
    • Claude가 휴대전화 번호를 요구하지 않는 날부터 쓰기 시작할 것임

  • “Amazon Web Services도 Anthropic의 ‘주요 클라우드 및 학습 파트너’가 된다. 이제 Anthropic은 가장 큰 AI 모델을 학습하고 배포하는 데 AWS Trainium과 Inferentia 칩을 사용할 예정이다.”
    장기적으로는 이게 40억 달러보다 더 큰 가치가 있을 것 같음. 비용 구조는 잘 모르겠지만

    • 적어도 Azure의 여러 모니터링 시스템에 붙은 AI 보조 도구에는 인상받았음. 물론 그 도구들이 너무 말도 안 되게 쓰기 어려워서, 많은 작업에서 사실상 내가 직접 못 쓰기 때문이기도 함
      그래도 AI는 꽤 잘 처리함. 클라우드 사업자 입장에서는 AI 보조 리소스 생성의 이점이 클 것 같음. 우리 개발자들은 Azure에서 정말 건드리면 안 되는 것들을 자주 만지게 되는데, 운영팀에 자원과 지식이 부족하기 때문임. 기술적으로는 외주를 줬지만 대부분의 요청은 3개월이 걸리고, 그나마도 잘못 처리됨. AI가 전역 정책에서 네트워크 설정을 생성해줄 수 있다면 훌륭할 것임. 리소스 생성 전반을 맡아줄 수 있다면, 우리 조직이 “IT”를 HR의 매력 없는 비용센터 사촌쯤으로 보는 탓에 낭비되는 시간이 크게 줄어들 것임
답변달기