▲

AI를 억지로 강요하지 말라

 (gpt3experiments.substack.com)
4P by GN⁺ 3일전 | ★ favorite | 댓글 2개
  • 최근 AI 기술이 검색, 운영체제, 창작 도구 등 일상 전반에 빠르게 통합되고 있으며, 사용자의 동의 없이 강제로 도입되고 있음
  • 이러한 과도한 속도와 강제 배포는 기술적 효용보다 자본 유동성과 투자 회수를 위한 목적이 크다고 지적
  • 글은 AI의 한계와 오류가 이미 드러난 만큼, 검증된 부분만 점진적으로 통합해야 한다고 주장
  • AGI(범용 인공지능) 같은 거대 목표보다 실용적이고 신뢰할 수 있는 소프트웨어 개발이 우선되어야 함을 강조
  • 사용자는 가치 있는 기술만 선택적으로 수용해야 하며, 기업의 과잉 투자나 인프라 부담을 이유로 AI를 강요받아서는 안 됨

AI의 과도한 확산 비판

  • AI가 검색창, 운영체제, 창작 도구 등 다양한 영역에 강제로 통합되고 있음
    • 사용자가 원하지 않아도 기능이 추가되어 ‘업그레이드’가 아닌 강제 주입처럼 느껴짐
  • 기술은 점진적이고 유기적으로 채택될 수 있음에도, 현재는 억지로 밀어붙이는 형태로 진행 중임
  • 이러한 상황은 기술 발전의 자연스러운 과정이 아닌 자본 중심의 속도 경쟁으로 묘사됨

자본 논리에 따른 AI 추진

  • 현재의 AI 배포 속도는 효용성보다 유동성 확보 목적이 강함
    • 일부 억만장자들이 생전에 더 많은 수익을 얻기 위해 AI를 서둘러 확산시키고 있음
  • “우리는 그들에게 아무 빚도 없다”는 문구로, 사용자가 기업의 이익 논리에 휘둘릴 필요가 없음을 강조
  • AI 도입은 분기 실적이나 투자 회수 일정이 아니라, 실제 도움이 될 때 이뤄져야 함

AI의 한계 인식과 올바른 통합

  • AI의 허상과 오류, 환각(hallucination) 등이 이미 드러났음
  • 따라서 작동이 검증된 기능만 선별적으로 통합해야 하며, 무조건적인 도입은 불필요함
  • AGI(범용 인공지능) 같은 거대 목표는 필요 없으며, 단순히 잘 작동하는 소프트웨어가 중요함

연구자와 창작자에 대한 존중

  • 현재 모델이 제대로 작동하지 않는다면, 연구자들이 실험실로 돌아가 개선하면 됨
  • 사용자는 자신의 일을 계속하며, 올바른 방식으로 데이터 생성에 기여할 수 있음
  • 창작자, 작가, 예술가의 작품을 무단으로 학습에 사용하는 행위를 비판하며, 협력적 접근을 강조

소비자의 선택과 시장 원리

  • 대형 기술 기업들이 “GPU를 너무 많이 샀다”, “인프라에 수십억을 투자했다” 는 이유로 AI를 강요하는 상황을 비판
  • “그건 내 문제가 아니다”라는 표현으로, 소비자는 가치 있는 제품만 선택하겠다는 입장을 명확히 함
  • AI의 정당한 활용 사례와 수익 기회는 충분히 존재하지만, 시장에 억지로 밀어넣는 행위는 정당화될 수 없음
  • 이는 진정한 자본주의 원리, 즉 수요 기반의 선택적 소비로 돌아가야 함을 시사
▲
tensun 1일전  [-]

밑에 '현실은 선택권이 없음'에 동감합니다.
이미 빠르게 달리는 기차이자 날아가는 비행기 입니다

답변달기
▲
GN⁺ 3일전  [-]
Hacker News 의견
  • 이 제품들이 데이터 제공을 강요하는 방식이 정말 소름스러움
    단순한 부가 기능이라면 괜찮겠지만, Gemini는 유료 플랜에서도 활동 기록을 끄지 않으면 데이터를 학습에 사용하거나 사람이 프롬프트를 볼 수 있게 함
    월 20달러(Pro)나 249.99달러(Ultra)를 내는데도 데이터가 수년간 저장되는 건 말이 안 됨
    • Pixel Watch를 쓰는데, 주로 “오후 3시에 세탁물 말리기” 같은 리마인더 설정용으로 사용했음
      그런데 최근 업데이트 이후, 내 콘텐츠를 AI 학습에 제공하지 않으면 모든 기능이 작동하지 않게 됨
    • Gemini Chat Saver 프로젝트를 만들어서 개선 제안과 피드백을 받고 있음
    • 이런 걸 돈 주고 쓴다니 믿기 힘듦
    • 원하지 않아도, 사용하지 않아도 요금은 그대로 부과됨
  • 세상엔 소수의 결정에 다수가 따라가는 일이 많음
    2012년 Facebook이 사진 갤러리에 흰색 화살표를 넣었을 때, 몇몇 PM의 결정이 전 세계에 강제된 걸 보고 충격이었음
    자동차 대시보드의 버튼 제거, 3D TV, 플랫 디자인, 거대 스마트폰 등도 같은 맥락임
    Tech PM들이 독재자처럼 우리의 일상에 과도한 영향을 미치고 있음
    최근 Duck.ai를 써봤는데, 이제는 기술에도 보수적인 접근이 필요하다고 느낌
    • 이런 PM들은 스스로 훈련이 더 필요함
      우리 모두가 속도를 늦추고 문제를 바로잡아야 함
  • Microsoft도 이런 강제 행태의 대표격임
    원치 않는 기능을 OS에 억지로 넣고, 내부 대시보드에서 Bing과 Copilot 사용률을 투자자에게 보여주는 식임
    거의 재무적 사기에 가까움
    • 요즘 Windows에서 복사·붙여넣기 기능이 제대로 작동하지 않음
      마침 Microsoft가 OCR 기반으로 교체 중이라는데, 완전 엉망임
    • 그래서 올해 Windows와 VSCode를 완전히 버림
      Proton 덕분에 게임도 잘 돌아가고, 업무용으로는 원래 Linux를 써서 전환이 쉬웠음
    • 사실 이런 강제는 Windows 95 시절부터 이어져 왔음
  • “AGI는 필요 없다”는 말에 대해, 나는 오히려 갖고 싶어 하는 욕망이 있다고 생각함
    핵융합, 행성 간 이주, 암 치료처럼 인류의 진보를 상징하는 목표임
    1800년대 사람들이 전기차나 공항이 필요 없다고 했던 것과 비슷함
    AGI의 소유권과 목적은 별개의 문제이며, 비행기가 사람을 태우든 전쟁에 쓰이든 그건 인간의 선택임
    • 하지만 내 주변의 비기술 분야 사람들은 AI를 원하지 않음
      기술 업계 밖에서는 거의 관심이 없음
  • 지금의 AI 열풍은 예전 Google+ 강제 가입 사태를 떠올리게 함
    그때는 링크 몇 번만 클릭해도 자동으로 가입됐고, 회사 홈페이지에 Google+ 버튼을 달았다가 페이지 로딩이 몇 분씩 걸렸음
    결국 쓸모없는 기능이었고, 이번 AI도 비슷한 불필요한 소모로 느껴짐
    • 그래도 Google+는 디자인이 꽤 괜찮았음
      반면 지금의 AI 제품들은 소프트웨어 설계 실패의 연속임
      Fitbit과 Pixel 7조차 제대로 연동되지 않는데, 이런 상태에서 AI라니 어이없음
    • Google+를 강제로 통합하던 시절의 유산은 결국 중복된 YouTube 계정뿐이었음
  • “AI를 억지로 밀어붙이지 말라”는 말에 완전히 공감함
    • 하지만 현실은 선택권이 없음
      모든 서비스가 AI 기능을 추가하고 가격을 올림
      우리의 데이터는 AI가 분석하고, 소셜미디어와 뉴스, 이미지, 영상까지 AI 생성물로 채워짐
      기업과 정치권은 AI 결과를 근거로 결정을 내림
      결국 “AI는 너와 함께, 혹은 너를 통해” 진행 중임
    • 이건 사무실 복귀 명령(RTO) 과 비슷함
      이미 투자한 돈을 정당화하기 위해 강제로 시키는 구조임
  • “AGI는 필요 없다, 작동하는 소프트웨어면 충분하다”는 말에 동의함
    하지만 주주들은 AGI를 원함
    인건비 절감과 주가 상승을 위해서임
    모두가 ‘가치 있는 도구만 쓰겠다’고 생각하면 좋겠지만, 현실은 그렇지 않음
    • 경영진도 지금의 LLM이 AGI로 가는 길이라고 믿지 않음
      단지 마케팅용 허상이며, 노동자의 자율성을 없애는 핑계일 뿐임
    • 반대로, 많은 사람들은 자기보호 본능 때문에 오히려 AI 사용을 과도하게 늘리고 있음
  • Android에서 Gemini를 영구적으로 비활성화할 수 있는지 궁금함
    메시지나 다른 앱에 계속 끼어들고, 실수로 켜질까봐 불안함
    • 이미 화면을 잘못 눌렀다는 이유로 되돌릴 수 없는 동의를 한 셈임
    • 이런 상황을 막기 위한 법적 규제가 필요하다고 느낌
    • 나는 Gemini 앱을 삭제하고 Google 앱도 비활성화함
      두 앱이 강하게 연결돼 있어서, 대체 앱을 쓰면 문제를 피할 수 있음
  • “GPU를 너무 많이 샀다”는 대기업의 불만은 내 문제가 아님
    하지만 AI 버블 붕괴는 많은 사람에게 악영향을 줄 것임
    대기업이 버틸 수 있다고 해도, 주가 폭락은 연쇄적인 피해를 낳을 수 있음
    • 버블을 더 키우는 정부의 구제금융은 최악임
      자본 왜곡이 심화되고, 결국 더 큰 붕괴를 초래함
      차라리 몇 년 전에 터졌다면 지금처럼 전력망을 위협하는 AI 서버 문제는 없었을 것임
  • AI가 싫은 이유 중 하나는 메인프레임식 개발 흐름을 강요하기 때문임
    계산을 예약하고, 사용량에 따라 요금을 내는 구조가 마음에 들지 않음
    로컬에서도 충분히 쓸 수 있는 AI가 가능할지 궁금함
    • 개발에는 사실 그런 AI가 필요하지 않음
      안 써도 돈을 아낄 수 있음
답변달기