# 이 GPT-3 대화에서 무슨 일이 발생했나?

> Clean Markdown view of GeekNews topic #10251. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=10251](https://news.hada.io/topic?id=10251)
- GeekNews Markdown: [https://news.hada.io/topic/10251.md](https://news.hada.io/topic/10251.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2023-08-09T10:21:52+09:00
- Updated: 2023-08-09T10:21:52+09:00
- Original source: [chat.openai.com](https://chat.openai.com/share/f5341665-7f08-4fca-9639-04201363506e)
- Points: 1
- Comments: 1

## Topic Body

_No topic body._

## Comments



### Comment 18025

- Author: neo
- Created: 2023-08-09T10:21:52+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=37054241) 
- GPT-3가 "a a a a"와 같이 단일 문자를 반복적으로 스팸하는 것으로 인해 이상한 반응을 보이는 대화.
- 대화의 일부분이 17시간 전에 Reddit에 게시된 댓글과 동일하게 나타나, 사용자가 그것을 복사했을 수 있음을 제안.
- 한 달 전에 Rust에서 단어 토크나이저를 생성하라는 요청에 대해 GPT-3가 분자 생물학에 관한 관련 없는 답변을 시작한 유사한 사건 발생.
- 매우 낮은 확률의 토큰이 샘플링되어, 맥락이 익숙하지 않은 영역으로 이동하고, 더욱 이례적인 토큰의 확률을 증가시키는 것으로 추측.
- 대화가 ChatGPT인지 묻는 질문에 대해 잠시 고정되었는데, 이는 AI가 "아니요, 저는 OpenAI에서 개발한 AI인 GPT-3입니다. 어떻게 도와드릴까요?"라고 응답하도록 하드 코딩되어 있음을 제안.
- AI가 문자열을 출력하는 "