AI 정렬이란 - AI 정렬 연구는 AI 시스템을 인간이 의도한 목표, 선호도 또는 윤리적 원칙에 맞게 조정하는 것을 목표로 합니다. AI 시스템이 의도한 목표를 달성하면 정렬이 완료된 것으로 간주합니다. 잘못 정렬된 AI 시스템은 일부 목표를 달성하는 데는 유능하지만 의도한 목표를 달성하지는 못합니다.
OpenAI는 최근 '언어 모델이 언어 모델의 뉴런을 설명할 수 있다'(Language models can explain neurons in language models)는 연구 결과를 내놓았는데요, 이 연구는 어떻게 보면 'AI를 이해하기 위해서 AI가 필요했다'라는 의미로도 받아들여집니다.
더 나아가 OpenAI가 자주 언급하는 '정렬 문제'를 풀기 위해서도 AI가 필요할 것으로 보이는데요,
그렇다면 'AI가 AI와 인간의 정렬'을 판단할 수 있을까요? 그럴 수 있다면, 그렇게 하길 원하시나요?