Hacker News 의견

• ChatGPT 시스템 프롬프트에 대한 논의

  • 복잡한 규칙을 수용하는 데 ChatGPT의 최신 모델이 효과적임.
  • 시스템 프롬프트를 사용하는 것보다 더 엄격한 명령을 내리는 것이 경험상 더 나음.
  • 함수 호출 및 구조화된 데이터 지원은 프롬프트 엔지니어링의 한 형태로, 시스템 프롬프트만 사용하는 것보다 훨씬 강력함.
  • 시스템 프롬프트와 구조화된 데이터 결과를 비교하는 재미있는 데모 예시가 있음.

• 스페인어로 치즈버거 주문 경험담

  • ChatGPT와 Google 번역기가 제안한 스페인어 번역에 대해 서버가 이상하게 반응함.
  • 번역 개선에 관심이 있어, 멕시코계 미국인을 대상으로 한 스페인어 맞춤형 번역을 요청함.
  • 다음 날 "Cheeseburger sin pepinillos"라는 문구로 주문했을 때 서버는 그게 더 낫다고 함.

• LLM(Large Language Models)의 특징에 대한 논의

  • 입력과 지시 사이에 거의 구분이 없어, 사용자의 입력이 프롬프트의 일부로 간주됨.
  • 이로 인해 알려진 "프롬프트 주입" 취약점이 발생하지만, 이는 모델이 지시와 입력을 구분하지 않는 본질적인 특성 때문임.
  • 프롬프트와 입력이 결합된 것이 프로그램의 전체 입력이 되며, 이로 인해 프로그램의 동작을 확신하기 어려움.
  • LLM이 아직 복잡한 작업에 대해 신뢰할 수 있을 정도로 사용되지 않는 이유임.

• 프롬프트 작성에 대한 학습에 대한 주저함

  • 새로운 버전과 다른 LLM들이 다르게 반응하기 때문에 프롬프트 작성을 완벽하게 배우는 데 많은 시간을 할애하는 것에 대해 주저함.
  • 시스템이 더 똑똑해짐에 따라 복잡한 프롬프트가 필요 없어질 수도 있음.

• 프롬프트 엔지니어링과 구글 고급 검색 쿼리의 비교

  • 기본적인 질문에는 챗봇이 잘 작동하지만, 요청된 정보가 복잡해질수록 정확한 정보를 얻기 어려움.
  • 구글 검색에서도 기본적인 정보는 쉽게 얻을 수 있지만, 명확하지 않은 결과를 원할 때 고급 검색 연산자를 사용함.

• 구글 검색 프롬프트와 LLM 프롬프트의 비교

  • 사람들이 인터넷에서 필요한 것을 얻기 위해 구글에 간단한 키워드를 입력하는 방식에 익숙해짐.
  • 이제 복잡한 문장을 작성해야 하는 것은 시간이 걸릴 것이며, 이는 일시적인 단계일 수 있음.

• 인간 간의 의사소통 실패와 LLM의 한계

  • 인간 간의 의사소통이 자주 실패하며, 대부분의 사람들이 효과적인 커뮤니케이터가 아님.
  • 기계도 인간의 마음과 의도를 읽는 데 더 나을 것이라고 기대하기 어려움.
  • 프롬프트 엔지니어링은 인간 간의 의사소통 능력 향상을 위해 존재해야 함.

• "프롬프트 엔지니어링"이라는 용어에 대한 비판

  • "엔지니어링"이라는 단어가 남용되고 있다는 의견 제시.

• LLM이 인간에게 명확한 의사소통을 가르치는 역할

  • LLM을 통해 인간이 더 명확하게 의사소통하는 방법을 배우고 있음.

• LLM 기반 챗앱 구현의 용이성

  • 이론적 진보 없이도 LLM 기반 챗앱을 구현하는 데 많은 이점이 있음.
  • 현재보다 더 나은 결과를 얻기 위해 개발자의 노력이 필요함.