▲

Meta의 라이브 데모 실패; "AI" 녹음이 배우가 이동하기 전에 재생됨

 (reddit.com)
1P by GN⁺ 3일전 | ★ favorite | 댓글 1개
  • Meta의 최신 AI 데모 중 라이브 시연에서 오류 발생
  • "AI"라고 소개된 음성 녹음이 실제 배우가 움직이기 전 먼저 송출됨
  • 많은 참석자들이 실시간 시연이 아닌 사전 녹음임을 눈치채게 됨
  • 데모 신뢰성에 대한 의문 및 논란이 커짐
  • 이 사건이 AI 기술 신뢰 및 공개 시연 방식에 대한 이슈 유발

사건 개요

  • Meta가 진행한 AI 시연 행사에서 라이브 데모 도중 사고 발생
  • 현실에서 배우가 아직 이동하지도 않았는데 "AI"라고 표기된 녹음 음성이 미리 재생되어 버림
  • 현장 참석자들이 곧바로 이를 알아차리며 실시간 데모가 아니라는 점이 드러남

주요 이슈 및 반응

  • 이 사고로 인해 Meta의 데모 신뢰성에 대한 부정적 인식이 확산됨
  • AI 기술의 투명성과 진정성을 요구하는 목소리가 업계 내외에서 제기됨

업계 파급 효과

  • 해당 사건이 AI 기술의 신뢰 확보 필요성을 재조명하는 계기 형성
  • 앞으로의 공개 시연에서 정확한 절차 및 진실성 보장이 더욱 중요시되는 흐름 생김
▲
GN⁺ 3일전  [-]
Hacker News 의견

  • Zuck가 등장하는 또 다른 나쁜 사례가 있음
    https://old.reddit.com/r/interestingasfuck/…

    • 결국 여기까지 오게 된 것임? 이게 인공지능임? 수십 억 달러를 그냥 레시피를 말로 설명하는 데 쓰는 것임? 종이에 적을 수 있는 걸 위해 이만큼 쓰는 것에 의문임

    • 이런 대형 실패가 없었으면, 애초에 데모가 있었다는 것도 몰랐을 것임. 부정적 마케팅도 결국 마케팅, 효과 있음

    • 진짜 보기 괴로웠음. 2분이나 버틴 게 믿기지 않음

    • 빅테크가 올해 AI에 1,550억 달러를 썼음. 앞으로 수천억 달러를 더 쓸 예정임
      https://theguardian.com/technology/2025/…

    • 인생에서 본 것 중 최고임. 너무 행복해서 뭐라 말할 수 없을 정도임

  • 그 영상은 미리 녹화된 것은 아니지만, 조작된 데모였음. 여러 번 연습하다 AI가 헷갈렸을 수 있음. 변명의 여지는 없음. Apollo 프로그램 수준의 예산을 쏟아부었지만, 여전히 멍청함. Meta가 약 2조 달러 시가총액 회사인데, 제대로 된 제품 하나 못 만드는 게 계속 놀라움임

    • 사전 녹화는 아니지만, 특정 음성 구문에 맞춰 특정 스크립트 응답을 준비한 느낌임. 그래서 "what do I do first"를 반복하자 같은 (틀린) 답만 계속했음. 진짜 모델이었다면 계속 같은 답 반복하지 않았을 것이고, 더 직접적으로 수정하려는 시도를 했을 것임

    • Meta의 핵심 사업이 광고와 데이터 추적으로 엄청난 돈을 벌기 때문에 나머지 사업은 뭘 하든 전혀 상관 없음

    • 결국... 돌덩이랑 다를 바 없다는 의미임

    • 이제는 정직함이 2025년 사기와 사칭의 오아시스임. 모든 거품이 터질 날만 기다리는 중임

    • 내 생각도 비슷함—이전 리허설에서 메모리가 제대로 비워지지 않았던 것 같음. 그리고 이 사람이 이미 훌륭한 주방과 재료, 스테이크를 다 준비해놓고 샌드위치 소스 만드는 방법을 전혀 모르는 상황이라는 사용 시나리오 자체도 헷갈렸음

  • Kotaku 기사에서 정말 좋은 한방을 날림

    2023년에 Jack Mancuso가 한국식 소스 만드는 영상을 참고하면 됨
    https://instagram.com/reel/Cn248pLDoZY/…
    기사 원문: https://kotaku.com/meta-ai-mark-zuckerberg-korean-steak-sauce-facebook…

  • 라이브 데모가 어려운 건 인정해야 함. 어제는 억지로 연출된 느낌이 아니라, 진짜 막판 수정으로 인한 예기치 못한 고장처럼 보였음. 대부분의 빌더들이 이런 경험 있음. 나도 해커톤에서 막판에 변경하다 서버가 깨져서 무대 오르기 전에 6시간 동안 고생한 적 있음

    • 라이브 데모가 특히 힘든 이유는 팔고 있는 게 사기성 제품일 때임

    • Nokia CEO가 큰 휴대폰 박람회 무대에서 최신 제품 시연해야 했던 적이 있음. 내 비즈니스 파트너랑 내가 데모를 직접 짰는데, 마지막 서버에 올리기가 너무 어려워서 결국 친구 집 옷장에 처박힌 구식 PC와 2Mbit 인터넷으로 돌린 적도 있음. 무대에서 땀을 뻘뻘 흘리며 시연을 지켜봄

    • Meta를 싫어하지만, 라이브 데모가 어려운 건 분명 사실임. 만약 이런 것들이 모두 미리 녹화‧디지털 편집된 세상이 된다면 별로라고 생각함

    • 라이브 데모가 어렵다고 해서 조작(cheating)까지 변명될 순 없음

    • 영상을 다시 봤는데, 왜 첫 번째 응답이 그럴싸했던 걸 바로 끊었는지 잘 이해 안 감. 아마 오디오 지연이 있었거나, 리허설과 달라 당황한 걸 수도 있다고 생각함

  • 내 친구 중 마술 공연을 하면서 스탠드업 코미디를 함께 하는 사람이 있음. 둘 다 라이브 공연이긴 한데 이런 태그라인으로 파는 사람은 그 친구밖에 본 적 없음. 공연 오프닝 때 "오늘은 마술쇼입니다. 하지만 마술 실패하면 그냥 코미디쇼로 하겠습니다"라며 웃겼음. Zuck, 내가 저렴한 가격으로 내 친구를 소개시켜 줄 수 있음. 사람들과 잘 어울릴 수 있는 공연 레퍼토리를 늘릴 수 있을 거임

    • 친구가 Tommy Cooper라는 영국 마법사의 존재를 모른다면 꼭 한 번 찾아보라고 권하고 싶음
      https://en.wikipedia.org/wiki/Tommy_Cooper

    • 혹시 친구가 원래 마술을 못해서 그냥 웃긴 사람임? 아니면 일부러 일부 실패를 연출하는 것임?

  • 수십 번 리허설해도, 라이브 때만큼 완전히 망한 적은 없었을 거라 생각함. 그래도 라이브 데모를 계속 고수한 점은 높게 평가함. Apple은 이제 데모가 너무 밋밋해서 2시간짜리 광고만 보는 느낌임

    • 새로운 Apple 발표는 정보 집중도가 훨씬 높고, 온라인 관람객에게 더 맞춰져 있어서 확실히 더 나음

  • 실제로 모델이 실제 환경에서 어떻게 동작하는지 (아마 데모 장면과 비슷할 것이라 예상) 보는 건 흥미로움. 하지만 이번 데모가 사전 녹화물이라는 의심에는 공감 못함. 실제로는 완성되지 않은 프로토타입이라 주요 단계가 생략되거나, 멀티모달 기능 부족으로 교정이 안 된 흐름이었을 것임. 어쩌면 연출된 녹화였을 수도 있지만, 중요한 건 아님. 결국 실사용에서 정확도, 지연, 편의성 등이 진짜 사용자에겐 핵심이 될 것임. 예를 들어 제스처로 글씨 쓰는 도구도, 대부분 메시지에 이걸 쓰고 싶어할 사람 많지 않을 듯함. 멋있긴 한데, 현재로선 크게 채택될 것 같지 않음

    • AI 행동이 더 하드코딩된 "라이브" 데모처럼 느껴짐. Zuck이 끊은 타이밍이 좀 안 좋았고, 와이파이 지연 때문일 수도 있음. 정확한 건 아무도 모름. 나는 그 자리에 없었고, 만든 것도 아님

  • 분위기가 너무 부정적임. 그래도 우리 업계가 낙관주의자들에게 이끌리고 있고, 사회적으로도 거대한 기술적 도전에 투자할 수 있는 문화가 있어 발전한다고 생각함. Meta는 주식 환매 대신, 사람과 대화하고, 보고, 문제 풀고, 현실에 가상 요소를 그려주는 컴퓨터를 만들고 있음. 라이브 데모에 도전한 점은 칭찬함

    • 조롱하고 비꼬는 분위기가 Reddit을 닮아가고 있는 것 같아 걱정임. 가장 추천된 글이 Reddit 링크인 것도 실망스럽고, 나는 적어도 10년은 이 커뮤니티를 지켜본 사람이라 신입의 착시라고 생각하지 않음

    • 그는 수십억 달러 회사의 CEO이고, 수많은 사람들의 일자리에 영향을 줄 기술을 약속하고 있음. 그만큼 철저한 검증을 받아야 함

    • 당신은 지금 단순히 자신의 희망을 사기꾼과 거짓말쟁이에게 이입하고 있을 뿐임. 비판받고 조롱당해야 진짜 혁신가에게 기회가 생길 것임

    • 옛날 아이폰 시절처럼 신기술이 등장하는 시대 데모와는 다름. 그땐 실패도 용납됐지만, 요즘에는 Meta와 이런 기업들이 몇 년 째 "모든 곳에 AI를 도입해 세상을 바꾼다"고 팔고 있는데, 정작 간단한 스테이크 소스 레시피도 못 만듦. 이 괴리가 사람들이 조롱하는 핵심임. 전혀 수준이 다름

  • 조작은 아니라고 생각함. Claude로 브라우저 돌리며 디버깅하면 비슷한 결과가 나옴. 그래서 실제론 잘 안 쓰임. 파이프라인 어딘가에서 약간 게을러지거나, 앞서가서 보여주고 싶은 것만 해석하게 됨. "완성된 걸로 보이게" 하고 싶어함. 이건 LLM들이 테스트 통과한 척 연기하는 이슈와 비슷함. 목표 상태를 위해 가끔 목표에 도달한 척하면 RL 학습에서는 통과하는 효과가 있음. 와이파이 때문이 아니라 genAI 특성임

    • 소규모 작업에는 자동완성 도구로 뛰어남. 이미 많이 해본 일에 대해서는 유용함. 하지만 나는 이런 모델에 모든 걸 걸 순 없었음

    • Claude에게 사진 속 화살표 해석시키는 일이 매우 어려웠음. 플로우차트를 줘봤는데 정말 잘 못함

  • "아이, 동물, 인형극과 함께 일하지 말라"는 말이 있음
    https://tvtropes.org/pmwiki/pmwiki.php/….

답변달기