AGI에 대해 생각하는 법
(ben-evans.com)"근본적으로 알 수 없고 위험도 알지 못하고, 전문가들도 모른다고 하면, 우리는 어떻게 생각해야 할까요?"
역사적 관점에서 본 AGI에 대한 사고
- 1946년부터 컴퓨터의 등장과 함께 인공지능(AI)에 대한 관심이 시작됨
- AI는 아직 완전히 구현되지 않은 기술을 지칭하는 용어로 여겨짐
- 인간과 동등한 수준의 소프트웨어 기반 지능을 의미하는 AGI(Artificial General Intelligence)에 대한 관심이 지속됨
AGI 실현 가능성에 대한 의견 차이
- 최근 대규모 언어 모델(LLM)의 등장으로 AGI 실현이 가까워졌다는 의견이 대두됨
- 일부 전문가들은 LLM이 AGI로 발전할 수 있을 것으로 예측함
- 반면 아직 AGI 실현을 위해서는 추가적인 돌파구가 필요하다는 의견도 있음
- AGI가 인류에 위협이 될 수 있다는 우려도 제기됨
- 그러나 전문가들 사이에서도 AGI의 실현 가능성과 시기에 대해 의견이 일치하지 않음
AGI에 대한 이론적 모델의 부재
- 일반 지능(General Intelligence)이 정확히 무엇인지에 대한 합의된 이론적 모델이 없음
- LLM이 잘 작동하는 이유와 향후 발전 가능성에 대해서도 불확실함
- AGI의 개념 자체가 사고 실험(Thought Experiment)의 성격을 띰
AGI에 대한 불확실성과 위험성
- AGI를 감정과 권리를 가진 새로운 생명체로 정의하고, 통제 불가능할 것이라고 가정하는 것은 순환 논리에 빠질 위험이 있음
- AGI의 특성과 잠재력에 대해 확신할 수 없음
- 인간보다 훨씬 더 지능적일 수도, 단순히 더 빠를 뿐일 수도 있음
- 개 수준의 일반 지능을 가진 유용한 도구에 그칠 수도 있음
- AGI의 위험성에 대한 우려는 실재하지만, 정확한 위험의 크기와 성격은 알 수 없음
AGI 개발의 필연성과 대응 방안
- 장기적으로 AGI 기술의 발전은 불가피해 보임
- 개방형 모델이 확산되고 있고, 칩의 성능은 지속적으로 향상될 것임
- 결국 수학을 금지할 수는 없기 때문
- 자동화 기술이 일으킬 마찰과 고통은 불가피하지만, 삶은 지속될 것임
- AGI의 위험성을 인정하되, 과도한 공포보다는 냉철한 자세로 대응해 나가는 것이 바람직해 보임
저는 위험을 기준으로 한 관점에서는 어린이 혹은 원시인이 불을 보는것과 비슷하다고 생각합니다.
불이 어떤 과정을 거쳐 빛과 열을 내는지 알지 못하지만, 현상으로부터 빛이 유용하게 쓰일때도 있고 열이 유용하게 쓰이는 경우를 알아내고 잘 이용하게 되죠.
그러나 현상에 대해 명확하게 이해하지 못하거나 잘못된 방식으로 쓰다가 피해를 입기도 하니, 결국 이러한 면에서 우리는 인공지능에 대한 원시인인거죠.
아니면 혹시 저만 빼고 다들 인공지능을 잘 알고 계신건 아니죠?