12P by xguru 22일전 | favorite | 댓글 3개

"근본적으로 알 수 없고 위험도 알지 못하고, 전문가들도 모른다고 하면, 우리는 어떻게 생각해야 할까요?"

역사적 관점에서 본 AGI에 대한 사고

  • 1946년부터 컴퓨터의 등장과 함께 인공지능(AI)에 대한 관심이 시작됨
  • AI는 아직 완전히 구현되지 않은 기술을 지칭하는 용어로 여겨짐
  • 인간과 동등한 수준의 소프트웨어 기반 지능을 의미하는 AGI(Artificial General Intelligence)에 대한 관심이 지속됨

AGI 실현 가능성에 대한 의견 차이

  • 최근 대규모 언어 모델(LLM)의 등장으로 AGI 실현이 가까워졌다는 의견이 대두됨
    • 일부 전문가들은 LLM이 AGI로 발전할 수 있을 것으로 예측함
    • 반면 아직 AGI 실현을 위해서는 추가적인 돌파구가 필요하다는 의견도 있음
  • AGI가 인류에 위협이 될 수 있다는 우려도 제기됨
  • 그러나 전문가들 사이에서도 AGI의 실현 가능성과 시기에 대해 의견이 일치하지 않음

AGI에 대한 이론적 모델의 부재

  • 일반 지능(General Intelligence)이 정확히 무엇인지에 대한 합의된 이론적 모델이 없음
  • LLM이 잘 작동하는 이유와 향후 발전 가능성에 대해서도 불확실함
  • AGI의 개념 자체가 사고 실험(Thought Experiment)의 성격을 띰

AGI에 대한 불확실성과 위험성

  • AGI를 감정과 권리를 가진 새로운 생명체로 정의하고, 통제 불가능할 것이라고 가정하는 것은 순환 논리에 빠질 위험이 있음
  • AGI의 특성과 잠재력에 대해 확신할 수 없음
    • 인간보다 훨씬 더 지능적일 수도, 단순히 더 빠를 뿐일 수도 있음
    • 개 수준의 일반 지능을 가진 유용한 도구에 그칠 수도 있음
  • AGI의 위험성에 대한 우려는 실재하지만, 정확한 위험의 크기와 성격은 알 수 없음

AGI 개발의 필연성과 대응 방안

  • 장기적으로 AGI 기술의 발전은 불가피해 보임
    • 개방형 모델이 확산되고 있고, 칩의 성능은 지속적으로 향상될 것임
    • 결국 수학을 금지할 수는 없기 때문
  • 자동화 기술이 일으킬 마찰과 고통은 불가피하지만, 삶은 지속될 것임
  • AGI의 위험성을 인정하되, 과도한 공포보다는 냉철한 자세로 대응해 나가는 것이 바람직해 보임

저는 위험을 기준으로 한 관점에서는 어린이 혹은 원시인이 불을 보는것과 비슷하다고 생각합니다.
불이 어떤 과정을 거쳐 빛과 열을 내는지 알지 못하지만, 현상으로부터 빛이 유용하게 쓰일때도 있고 열이 유용하게 쓰이는 경우를 알아내고 잘 이용하게 되죠.
그러나 현상에 대해 명확하게 이해하지 못하거나 잘못된 방식으로 쓰다가 피해를 입기도 하니, 결국 이러한 면에서 우리는 인공지능에 대한 원시인인거죠.
아니면 혹시 저만 빼고 다들 인공지능을 잘 알고 계신건 아니죠?

AGI의 위험성을 인정하되, 과도한 공포보다는 냉철한 자세로 대응해 나가는 것이 바람직해 보임

사람들의 참여가 절실한 기술과 사업인데 외면만 하면 결국 누구 위주로 돌아가는지, 이를 완화하는 가장 최선의 방법이지만, 사람들은 편한 길만 찾는 법이라 아마 당분간은 진통을 피할 수 없겠네요.

당연한 이야기이긴하지만..
많은 사람들이 AGI에 두려움이 있는데 이 글이 도움이 될 수 있을것 같네요.