Hacker News 의견

• GPT-3가 "a a a a"와 같이 단일 문자를 반복적으로 스팸하는 것으로 인해 이상한 반응을 보이는 대화.
• 대화의 일부분이 17시간 전에 Reddit에 게시된 댓글과 동일하게 나타나, 사용자가 그것을 복사했을 수 있음을 제안.
• 한 달 전에 Rust에서 단어 토크나이저를 생성하라는 요청에 대해 GPT-3가 분자 생물학에 관한 관련 없는 답변을 시작한 유사한 사건 발생.
• 매우 낮은 확률의 토큰이 샘플링되어, 맥락이 익숙하지 않은 영역으로 이동하고, 더욱 이례적인 토큰의 확률을 증가시키는 것으로 추측.
• 대화가 ChatGPT인지 묻는 질문에 대해 잠시 고정되었는데, 이는 AI가 "아니요, 저는 OpenAI에서 개발한 AI인 GPT-3입니다. 어떻게 도와드릴까요?"라고 응답하도록 하드 코딩되어 있음을 제안.
• AI가 문자열을 출력하는 "