# 사회적 가치 도입을 위한 제안 : 언어 모델로 일관성 있게 추론 가능한 의지를 구축하기 [번역]

> Clean Markdown view of GeekNews topic #8680. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=8680](https://news.hada.io/topic?id=8680)
- GeekNews Markdown: [https://news.hada.io/topic/8680.md](https://news.hada.io/topic/8680.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-03-13T10:56:01+09:00
- Updated: 2023-03-13T10:56:01+09:00
- Original source: [docs.google.com](https://docs.google.com/document/d/1gqJmLn4Yb8MxXo93Zzclfjq4NwULbGMqLlEeWL7hnwU/edit)
- Points: 7
- Comments: 1

## Topic Body

- OpenAI의 얼라인먼트 팀 리드인 Jan Leike가 블로그에 올린 글을 DeepL로 번역  
- Alignment는 "하나의 AI시스템을 하나의 인간에 정렬하는 것"  
- "개인의 선호(누구나 자신에게 정렬된 AI를 원함)" 와 "집단의 선호(AI를 어떤 용도로 사용할 수 있으며 기본 작동은 무엇이어야 할까)" 에 맞게 정렬하는 두가지 범주가 있음   
- 이 글은 두번째 범주에 관한 것   
### 제안: 시뮬레이트된 숙의(deliberative) 민주주의  
- 핵심 아이디어는 거대 언어 모델을 "숙의(熟議) 민주주의"를 모방하는 학습에 사용하는 것  
  - 숙의 민주주의는 무작위로 선정된 소수의 대중('미니 퍼블릭')이 명시적으로 숙의하는 의사 결정 또는 정책 결정 과정  
- 시뮬레이트된 숙의 민주주의 구축 방법   
  - 가치 질문 데이터 세트 수집  
  - 인간의 숙의 기록  
  - 배경 조건부 모방 학습  
  - 시뮬레이션. 새로운 가치에 대한 질문

## Comments



### Comment 15165

- Author: xguru
- Created: 2023-03-13T10:57:02+09:00
- Points: 3

최승준님의 "이 글의 맥락에 대한 부연 설명"을 같이 읽어보시기 바랍니다. (문서의 앞부분에도 링크가 있습니다)  
https://www.facebook.com/seungjoon.choi/posts/pfbid02iJkKLGueLbJCqFNPoeLr41W9ZFCVLq6nwE86VZNwHbWve9j1sxZwZ9HQPRPchwy1l