- 실리콘밸리에서는 AGI(인공 일반 지능) 을 실현 가능한 목표로 믿는 문화가 확산되어 있음
- OpenAI 내부에서는 ‘순수 언어 가설’ 을 기반으로, 언어 모델의 확장이 AGI로 이어질 수 있다는 신념이 형성됨
- 이러한 믿음은 막대한 데이터센터 확장 과 환경·노동 착취 문제 를 정당화하는 근거로 작용함
- AGI의 기대값(Expected Value) 논리는 근거 없는 확률과 가치 추정에 의존하며, 현실의 환경 피해와 사회적 비용을 무시함
- AGI 환상을 버리고 작고 목적 지향적인 모델 로 문제를 해결하는 실질적 엔지니어링 접근 이 필요함
AGI 신념과 OpenAI의 문화
- OpenAI와 관련된 인물들은 실제로 AGI가 인류의 번영 또는 파멸을 초래할 수 있다고 믿음
- Elon Musk는 Demis Hassabis를 “세상을 지배하려는 악당”으로 묘사하며, OpenAI를 “선”으로, DeepMind를 “악”으로 규정
- Ilya Sutskever는 직원들에게 “AGI를 느껴라(Feel the AGI)”라고 말하며, AGI를 상징하는 나무 인형을 불태우는 의식 을 진행
- 이러한 행위는 공상과학적 상상 이 실리콘밸리의 주류 신념 으로 자리 잡았음을 보여줌
‘순수 언어 가설’과 LLM 확장
- Karen Hao의 저서 Empire of AI 에 따르면, GPT-2는 ‘순수 언어 가설(pure language hypothesis)’ 에 기반함
- 인간이 언어로 사고하고 소통하므로, 언어 데이터만으로 AGI가 가능하다는 전제
- 이에 반해 ‘그라운딩 가설(grounding hypothesis)’ 은 AGI가 세상을 인식해야 한다고 주장
- GPT에서 GPT-2로의 성공적 확장은 OpenAI 내부에서 더 많은 데이터·모델 파라미터·컴퓨팅 자원 이면 AGI에 도달할 수 있다는 믿음을 강화함
확장 경쟁과 환경·노동 문제
- AGI 신념과 LLM 성과는 대규모 데이터센터 건설 을 정당화함
- 일부 시설은 초당 수백 리터의 물 을 사용하고, 전력 부족으로 오염된 가스 발전기 를 가동
- 도시 전체 수준의 전력 소비 와 CO₂ 배출 증가 가 발생
- ChatGPT의 안전한 출력을 위해 데이터 검열·정제 작업을 수행하는 노동자 들이 착취와 정신적 트라우마 를 겪음
- 데이터 수요가 커지면서 인터넷 전체를 무차별적으로 수집 하고, RLHF(Reinforcement Learning from Human Feedback) 으로 결과를 제어
기대값 논리의 문제
- AGI 개발의 정당화 근거로 기대값(Expected Value) 이 자주 인용됨
- “0.001%의 확률로 엄청난 가치가 발생해도 EV는 매우 크다”는 논리
- 그러나 이러한 계산은 확률과 가치가 임의적이며 검증 불가능 함
- 반면, 환경 파괴와 사회적 비용 은 확실한 부정적 가치 와 현재적 피해 로 존재
실제 엔지니어링으로의 전환
- 기술자는 문제를 효과적·효율적·무해하게 해결해야 함
-
LLM을 AGI로 간주하는 접근 은 세 기준 모두에서 실패
- 과도한 연산 낭비, 노동 착취, 환경 피해 가 발생
-
AGI 환상에서 벗어나, LLM과 생성 모델을 특정 문제 해결용 도구 로 평가해야 함
- 작고 목적 지향적인 생성 모델 또는 비생성형(판별형) 모델 활용
- 비용-효익 분석 과 기술적 절충 을 통한 실질적 엔지니어링 수행 필요