내가 일하는 프라이버시 민감 조직들에서는 Claude가 훨씬 잘 받아들여졌음
"신뢰되는" 중간자 역할의 Amazon을 통해 접근할 수 있었기 때문임. OpenAI는 금지돼 있고 신뢰받지 못함
이 조직들의 법무팀 판단에 내가 꼭 동의하는 건 아니지만, 서비스 약관은 나보다 훨씬 꼼꼼히 읽었을 것 같음
이 발표가 판을 바꿀지는 두고 봐야겠지만, 지금 체감상 OpenAI는 여러 면에서 꽤 뒤처져 보임
다만 AI 업계에서 2~8주 차이는 엄청 큰 격차도 아니라서 실제 영향보다 인식의 문제일 수도 있음
적어도 내 정보 버블에서는 Sam Altman 때문에 OpenAI 평판이 바닥이고, 비윤리적으로 보이는 데다 fabs 관련 요구 같은 걸 보면 꽤 불안정해 보여서 별로 좋아하지 않음
Anthropic이 최고의 모델과 흔들림 적은 리더십을 가진 건 맞지만, 엔터프라이즈 접근성을 크게 키운 건 역시 AWS 덕분이라고 봄
둘 다 확실히 이득을 봤고, AWS 고객들의 피드백 루프 문화가 Anthropic이 엔터프라이즈 대응을 더 빨리 갖추는 데 도움이 됐을 것 같음
법적 조건, SLA, 데이터 우려 측면에서 이게 OpenAI on Azure보다 정말 더 나은지 궁금함
Azure 쪽은 이미 한동안 있었음
OpenAI는 LLM 하나만 파는 데 집중하지 않고 비디오와 이미지 생성도 같이 함
반면 Anthropic은 한 가지에 집중하고, 그래서 SWE 벤치마크에서 늘 최상위권에 드는 이유 같음
이건 AWS가 그냥 "신뢰되는 중간자"라서가 아니라, 모델이 고객 자기 AWS 계정 안에서 다른 계약 아래 실행된다는 점이 핵심임
AWS는 입력과 출력이 모델 제공자와 공유되지 않고, 기본 모델 학습에도 쓰이지 않는다고 명시함 [1]
게다가 OpenAI는 NYT v. OpenAI에서 2025년 5월 보존 명령을 받았고, 법원이 ChatGPT 출력 로그를 사실상 무기한 보관하라고 강제하고 있음
여기에는 원래 30일 내 삭제됐을 사용자 삭제 대화도 포함됨 [2]
그래서 HIPAA/GDPR에 묶인 조직에는 아예 출발선에도 못 서는 조건이 됨
[1] https://aws.amazon.com/bedrock/faqs/
[2] https://openai.com/index/response-to-nyt-data-demands/
대형 테크에서 일하면서 두 팀 사이에 작은 기능 하나 배포 조율하려고도 끝없는 회의를 하는 입장이라, 이런 모델을 Bedrock 하드웨어에 올리는 데 들어갔을 회의와 6-pager 양은 상상도 안 감
이 정도 레벨에선 그냥 결정하고 SWAT 팀 꾸려서 몇 주 안에 밀어붙이는 경우가 많음
정치질이나 관료적 리뷰는 대체로 아래 레벨 사람들을 기능 찌꺼기와 운영 일로 바쁘게 묶어두는 쪽에 더 가깝다고 봄
구현 방식에 따라 다르겠지만, Amazon은 이미 gpt-oss-20b를 넣었음
모델이 GPT의 OSS 변형과 충분히 비슷하다면 생각보다 그렇게 복잡하진 않았을 수도 있음
서로 다른 추론 플랫폼에서 돌리는 같은 모델이 꼭 똑같은 결과를 내는 건 아님 양자화, 커스텀 서빙 실리콘, 배칭, 기타 추론 최적화 때문에 원 제공자 버전과 호스팅 버전의 동작이 달라질 수 있음
이 논문은 정확히 같은 상황은 아니고 감사 가능한 오픈 웨이트 Llama를 다루지만, 비슷한 증상을 잘 보여줌 https://arxiv.org/pdf/2410.20247
OpenAI와 Microsoft를 통해 gpt-x를 둘 다 써본 사람은 이 차이를 아주 선명하게 느꼈을 것임
우리 조직에서도 Bedrock 제공이 Anthropic 사용을 밀어준 핵심 요인이었음
거기서 실제 마진도 꽤 남길 수 있을 것 같음
이게 Microsoft와의 결별 흐름과 직접 연결돼 있는지도 궁금함
내 주변 사례만 봐도 진지한 엔터프라이즈 배포에서는 OpenAI가 거의 무시되고 있는데, Azure에서 제공하는 게 별로고 그 외에 기업 친화적인 경로도 없기 때문임
Anthropic과 AWS 조합에 엔터프라이즈 시장을 계속 내주면 치명적이라는 걸 깨닫고, OpenAI가 따라붙기 위해 움직인 것처럼 보임
여기서 흥미로운 건 엔터프라이즈 세일즈 동선임
금융·헬스케어 같은 규제 산업은 이미 AWS와 데이터 거주성 약정이 들어간 계약을 맺어둔 경우가 많음
Bedrock 위의 OpenAI는 이런 조직이 OpenAI와 별도로 DPA 협상을 하지 않아도 되게 해주므로, 서류상으로 보이는 것보다 훨씬 큰 돌파구일 수 있음
이건 컴플라이언스 측면에서 꽤 반가운 변화임
서브프로세서가 하나 줄고, 데이터도 이미 AWS 안에 있으니 다른 곳으로 보낸다는 걱정을 덜 수 있음
OpenAI가 보기에 Anthropic 뒤를 바짝 쫓는 모양새임
이제 AWS를 통해 OpenAI를 살 수 있게 됐는데, 내 도구들과 완전히 호환 안 되는 인터페이스를 또 써야 한다는 뜻이기도 함
AWS가 드디어 포기하고 Bedrock을 좀 쓸 만하게 만들려고 OpenAI API 호환성을 넣은 게 아니라면 말임
실제 준비는 오래 걸렸겠지만, 대중이 보는 PR 흐름은 정교하게 잘 굴러가는 기계 같음
이번 HN 글만 해도 발표 링크가 동시에 4개나 뜬 건 우연이 아님
잘못된 말이 잘못된 타이밍에 나오면 수십억 달러의 투자금이 흔들리니, 메시지는 매우 신중하게 다듬고 단계적으로 내보낼 수밖에 없음