- "우리의 임무는 일반적으로 인간보다 더 똑똑한 일반 인공 지능(AGI) - AI 시스템이 모든 인류에게 혜택을 줄 수 있도록 하는 것"
- "AGI가 성공적으로 개발되면 이 기술은 풍요를 증진하고 세계 경제를 활성화하며 가능성의 한계를 변화시키는 새로운 과학 지식의 발견을 지원함으로써 인류를 향상시키는 데 도움이 될 수 있습니다."
- "반면에 AGI는 오용, 심각한 사고, 사회적 혼란을 초래할 수 있는 심각한 위험도 수반할 수 있습니다. AGI의 긍정적인 측면이 워낙 크기 때문에 사회가 영원히 개발을 중단하는 것은 가능하지도 않고 바람직하지도 않다고 생각하며, 대신 사회와 AGI 개발자들이 올바른 방법을 찾아야 합니다"
- 중요 원칙
- 우리는 AGI가 인류가 우주에서 최대한 번영할 수 있도록 힘을 실어주기를 바랍니다. 우리는 미래가 완벽하지 않은 유토피아가 되기를 기대하지는 않지만, 좋은 점은 극대화하고 나쁜 점은 최소화하여 AGI가 인류의 증폭기가 되기를 원합니다.
- 우리는 AGI의 혜택, 접근성, 거버넌스가 광범위하고 공정하게 공유되기를 원합니다.
- 우리는 거대한 위험을 성공적으로 헤쳐나가고자 합니다. 이러한 위험에 직면할 때, 이론적으로는 옳아 보이는 일이 실제로는 예상보다 이상하게 전개되는 경우가 많다는 것을 인정합니다. 우리는 '한 번의 실패'를 최소화하기 위해 덜 강력한 버전의 기술을 배포하여 지속적으로 학습하고 적응해야 한다고 믿습니다.
목차
- 단기적 (계획)
- 시스템이 AGI에 가까워짐에 따라, 저희는 모델 생성 및 배포에 더욱 신중을 기하고 있습니다.
- 저희는 인센티브와 좋은 결과를 연계하는 방식으로 구조를 설정하려고 노력해왔습니다.
- 장기적 (계획)