▲

핀테크 창업자 사기혐의로 기소; AI 앱이 필리핀에서 사람으로 운영된 것으로 밝혀짐

 (techcrunch.com)
4P by GN⁺ 8일전 | ★ favorite | 댓글 2개
  • Nate의 창업자이자 전 CEO인 Albert Saniger가 투자자를 기만한 혐의로 미국 법무부에 의해 기소됨
  • Nate는 2018년에 설립된 핀테크 스타트업으로, AI 기반의 “유니버설 체크아웃” 경험을 제공한다고 주장함
  • Coatue, Forerunner Ventures 등으로부터 총 5천만 달러 이상을 투자받았으며, 2021년에는 Renegade Partners 주도로 3천8백만 달러의 시리즈 A 투자 유치

실제로는 사람 손으로 돌아간 AI 쇼핑 앱

  • Nate는 모든 전자상거래 사이트에서 AI가 자동으로 구매를 처리한다고 주장했지만, 실제로는 필리핀 콜센터의 수백 명 인력이 수작업으로 주문을 처리
  • 법무부는 Nate의 자동화 수준이 사실상 0%였다고 주장
  • 투자 유치를 위해 “AI가 사람의 개입 없이 처리한다”고 홍보했으나, 대부분 작업은 사람에 의해 수행됨
  • 일부 AI 기술 도입과 데이터 과학자 채용은 있었지만, 기능적 자동화는 이루어지지 않음

내부 고발 및 Nate의 몰락

  • 2022년, The Information 보도를 통해 Nate의 실제 작동 방식이 폭로됨
  • Saniger는 2023년부터 CEO에서 물러난 상태로 LinkedIn에 등재됨
  • Nate는 2023년 1월 자금 부족으로 자산을 매각했으며, 투자자들은 거의 전액 손실을 입음
  • 현재 Saniger는 Buttercore Partners의 매니징 파트너로 등재돼 있으나, 공식 입장 없음

AI 기술 과장 사례는 계속됨

▲
aer0700 7일전  [-]

요즘, ~한 일을 AI로 자동화함, rust로 구현함, 등등의 기존에 잘 처리되어 왔던 일을 뭔가 새로운 도구로 처리하게 되었다고 홍보하는 비즈니스가 종종 보이는데요.
~를 하고 있음.
그냥 이거 하나만 보고 판단해야 하지 않나 싶습니다. AI를 이용하건, rust로 구현했건, 그냥 ~ 를 얼마나 잘하고 있는지를 가지고 평가하면 되지, 내부적으로 어떤 수단으로 구현했는지는 사용자나 투자자의 입장에서는 별로 중요하지 않은 것 같습니다. 코드를 공개 해뒀으면 개발자 입장에서 궁금하긴 하겠지만요.

답변달기
▲
GN⁺ 8일전  [-]
Hacker News 의견

  • 2년 전의 기사와 내 HN 댓글이 생각남. 또 다른 AI 스타트업의 일반적인 경로임

    • 누군가 ML/AI로 해결할 수 있는 흥미로운 문제를 발견하고 스스로 해결하려고 시도함
    • "모델이 어느 정도 작동함. 다른 사람들도 돈을 지불할 만큼 유용함"이라고 생각함
    • 유료 API, SaaS 스타트업 등을 출시하고 몇몇 고객을 확보함
    • ML/AI 방법이 일반화되지 않음이 드러남. 평판이 중요하므로 사람을 고용해 문제를 해결함
    • 모델 성능이 떨어지고, 사람의 작업이 전체 워크플로의 중요한 부분이 됨
    • 누군가가 저렴한 인력을 사용한다고 기사를 씀

  • 슈퍼마켓 셀프 체크아웃에서 CCTV 영상 분석으로 잠재적 도둑으로 지목됨. (물론 잘못된 분석이었음) 가게를 나서면서 소프트웨어 분석인지 아니면 인도나 필리핀의 누군가가 실시간으로 나를 지켜보고 있었는지 궁금했음

  • Amazon Go가 같은 일을 했을 때 DOJ의 우려가 없었던 이유가 궁금했음

    • Amazon Go: 초기에는 "Just Walk Out" 기술을 테스트 중이라고 명확히 했고, 기술 커뮤니티에서는 비디오 피드를 통해 인간이 엣지 케이스를 검토하고 있다는 것을 알고 있었음
    • 기술이 결국 더 나아질 것이며, 인간 백업은 주로 훈련 데이터와 품질 보증을 위한 것이라고 주장했음
    • "지금은 100% AI로 인간의 도움 없이 작동한다"고 말하지 않았음
    • Nate: 이미 완전 자동화되었다고 주장함
    • CEO는 AI가 모든 작업을 수행한다고 명시적으로 말했으며, 드문 엣지 케이스에만 계약직을 사용한다고 했음
    • DOJ에 따르면, 실제로는 인간이 모든 것을 하고 있었고 AI는 단지 브랜드 도구였음
    • 투자자들에게는 소프트웨어 플랫폼이라고 했지만 실제로는 BPO였음

  • "사기"로 간주되는 시점이 언제인지 궁금함. 거의 모든 "AI" 응용 프로그램에는 많은 인간의 백업이 있음. Waymo는 차량이 멈출 때 원격 조작할 수 있는 인간 운전자가 있음. Amazon Go 매장은 실제로 인도의 팀에 의해 운영되었음. 회사들은 10년 동안 "AI에 의해 구동됨"을 주장해왔음

    • 아마도 투자자들이 마진을 보고 거대한 해외 항목을 발견했기 때문일 수 있음. 그렇지 않으면 "자동화율"은 투자자들이 추적하기에 모호한 숫자임
    • 이러한 유형의 속임수는 무고한 투자자들을 피해자로 만듦

  • 지난 5년 동안 "AI가 이제 당신과 상호작용하기를 원하지 않는 회사와의 상호작용을 자동화할 수 있음"이라는 변형의 스타트업이 많았음. 이는 헬스케어, 핀테크, 소비자 쇼핑 등에서 흔함

    • 제공자 가용성, 예약 및 예약을 AI 전화로 자동화할 것임
    • 소비자 장치를 판매하여 모든 앱 상호작용을 "대규모 액션 모델"로 자동화할 것임
    • 병원의 건강 보험 회사 청구 상호작용을 AI 화면 스크래퍼로 자동화할 것임
    • 직원이 비즈니스 소프트웨어 도구에서 작업을 한 번 수행하면 AI로 영원히 자동화하여 모든 공급업체 시스템을 맞춤형 프로그래밍 없이 연결할 것임
    • AI로 모든 웹사이트에서 자동으로 구매할 수 있음

  • 대부분의 스타트업은 "사기"가 아님. 그들은 최고의 의도로 시작함 (자격 있는 기술 창업자, 실제 목표 시장, 작동하면 기꺼이 지불할 고객) 하지만 결국 실패하거나 완전히 방향을 전환하거나 생존을 위한 잘못된 시도로 사기에 의존하게 됨

    • 문제는 기술을 사용하여 인간 문제를 해결하려고 한다는 것임. 현재 세계 상태는 방정식의 다른 쪽에 있는 서비스 제공자가 중개를 원하지 않거나 상품화되기를 원하지 않기 때문임. 그들은 자동화에 순응하지 않을 것임
    • 로봇으로 그들에게 전화를 거는 방법을 완벽히 하면, 그들은 전화를 받지 않을 것임. 사용자를 대신하여 그들의 iPhone 앱을 자동화하는 방법을 완벽히 하면, 그들은 IP 주소 범위를 차단하고 점점 더 복잡한 캡차를 제시할 것임. 로그인 흐름을 자동화하면, 그들은 다른 로그인 흐름으로 전환하거나 자동화를 사용하는 고객을 차단할 것임. 고객의 경험은 최선의 경우 일관성이 없으며, 루프에서 인간을 제거할 수 없음. 이는 천 개의 종이 상처로 인해 죽음에 이르게 됨 - 고객이 여전히 서비스에 대한 지불을 간청하더라도

  • 기계식 터키 반복

  • 팬데믹 중반의 관련 기사: AI 쇼핑 스타트업이 자금 붐의 과잉을 보여줌

  • 친구가 2021년경 이 회사에 대한 실사를 요청했음. 창업자는 AI 기반의 "100% 체크아웃 성공률"을 주장했지만 명백히 거짓이었음. 그는 동시에 2개의 다른 스타트업도 운영하고 있었음

  • "컴퓨터지만 사람이라고 말할 것"과 "사람이지만 컴퓨터라고 말할 것"은 모두 흔한 아이디어임

답변달기