인공지능을 활용한 교육

 (openai.com)
2P by GN⁺ | ★ favorite | 댓글 1개
  • 교실에서 ChatGPT를 쓰려는 교사를 위해 OpenAI가 프롬프트 예시, 작동 방식과 한계, AI 탐지기 효용, 편향을 함께 다루는 안내 자료를 공개함
  • 실제 활용 사례는 토론 상대, 채용 면접관, 피드백을 주는 상사, 수업 설계 보조자, 언어 학습 도구처럼 교사와 학생의 상호작용을 넓히는 데 초점을 둠
  • 교사용 프롬프트는 주제, 학년, 기존 지식, 학습 목표를 단계적으로 확인한 뒤 맞춤형 수업 계획과 설명·예시·비유를 생성하도록 설계됨
  • 학생용 활용은 정답을 바로 주기보다 질문과 힌트로 사고를 유도하며, ChatGPT 답변은 항상 정확하거나 신뢰할 수 없으므로 1차 자료 확인이 필요함
  • 프롬프트는 수업 준비의 출발점일 뿐이며, 교사가 산출물을 검토하고 맥락에 맞게 바꾸는 전문가 역할을 유지해야 함

교실에서 ChatGPT를 쓰는 방식

  • OpenAI는 교사가 ChatGPT를 수업에 활용할 수 있도록 안내 자료를 제공함
    • 추천 프롬프트, ChatGPT의 작동 방식과 한계, AI 탐지기의 효용, 편향을 포함함
    • 교육자 FAQ는 주요 교육 기관의 자료, AI 기반 교육 도구 사례, 교사들이 자주 묻는 질문을 추가로 담고 있음

교육자들의 활용 사례

  • Old Dominion University의 Dr. Helen Crompton은 교육대학원생에게 ChatGPT를 특정 페르소나로 쓰도록 권장함
    • 예시는 논쟁의 약점을 짚는 토론 상대, 취업 면접관, 특정 방식으로 피드백을 주는 새 상사임
    • 대화형 환경에서 정보를 탐색하면 학생이 자료를 더 미묘하고 새로운 관점으로 이해하는 데 도움이 된다고 봄
  • Universidade da Coruña의 Fran Bellas는 교사가 ChatGPT를 퀴즈, 시험, 수업 계획 작성 보조 도구로 쓰는 방식을 추천함
    • 먼저 커리큘럼을 ChatGPT에 공유한 뒤, 현대적이거나 문화적으로 관련 있는 예시를 활용한 퀴즈와 수업 계획 아이디어를 요청함
    • 교사가 직접 만든 질문이 학생의 학습 수준에 맞고 포용적이며 접근 가능한지도 점검할 수 있음
    • 전기 회로에 대한 5문항 시험을 요청하면 신선한 결과를 얻고, 그 아이디어를 교사가 자신의 방식으로 바꿀 수 있다고 봄
  • University of Johannesburg의 Dr. Anthony Kaziboni는 교실 밖에서 영어를 주로 쓰지 않는 학생들을 가르침
    • 영어 구사력은 학계에서 큰 이점이며, 영어 문법의 작은 오해도 학생의 인정과 기회를 제한할 수 있다고 봄
    • 학생들에게 ChatGPT를 번역 보조, 영어 글쓰기 개선, 대화 연습에 쓰도록 권장함
  • Chennai의 American International School에서 컴퓨터 과학을 가르치는 Geetha Venugopal은 AI 도구 교육을 인터넷을 책임 있게 쓰는 법을 가르치는 것에 비유함
    • 학생들에게 ChatGPT 답변이 항상 신뢰 가능하거나 정확하지 않을 수 있음을 기억하게 함
    • 답변을 그대로 믿기보다 비판적으로 생각하고, 다른 1차 자료로 정보를 확인하도록 지도함
    • 목표는 학생이 독창적 비판적 사고, 문제 해결, 창의성 역량을 계속 기르는 중요성을 이해하는 것임

교사용 프롬프트의 기본 원칙

  • Ethan Mollick과 Lilach Mollick은 GPT-4와 함께 쓸 수 있는 프롬프트를 개발함
  • 프롬프트를 사용할 때의 전제는 명확함
    • 모델은 항상 정확한 정보를 생성하지 않을 수 있음
    • 프롬프트 결과는 출발점일 뿐임
    • 교사가 자료의 전문가이며, 모델 산출물을 검토한 뒤 수업에 맞게 결정해야 함
    • 제시된 프롬프트는 제안이며, 원하는 결과에 맞게 바꿀 수 있음

수업 계획을 돕는 프롬프트

  • 첫 번째 프롬프트는 ChatGPT를 친절하고 도움이 되는 수업 코치로 설정함
  • 진행 방식은 교사에게 한 단계씩 질문하고 응답을 기다리는 구조임
    • 가르칠 주제와 학생 학년을 먼저 확인함
    • 학생들이 해당 주제에 대해 기존 지식을 갖고 있는지 확인함
    • 수업 후 학생이 이해하거나 할 수 있어야 하는 학습 목표를 물음
  • 이후 맞춤형 수업 계획을 생성함
    • 직접 교수
    • 이해도 확인
    • 여러 학생에게서 이해 증거 수집
    • 토론
    • 흥미로운 교실 활동
    • 과제
  • 교사가 바꾸고 싶은 부분이나 학생들이 마주칠 수 있는 오개념을 알고 있는지 묻고, 필요하면 수업을 수정함
  • 교사가 학습 목표 달성을 확인하는 방법에 대한 조언을 원하면 추가로 지원함

설명·비유·예시를 만드는 프롬프트

  • 두 번째 프롬프트는 ChatGPT를 수업 설계자로 설정해 설명, 비유, 예시를 단순하고 정확하게 만들도록 함
  • 교사에게 한 번에 하나씩 질문함
    • 학생의 학습 수준
    • 설명하려는 주제나 개념
    • 해당 개념이 커리큘럼에서 차지하는 위치와 학생의 기존 지식
    • 이전 토론이나 수업 내용처럼 설명을 맞춤화하는 데 필요한 학생 정보
  • 이 정보를 바탕으로 다음을 제공함
    • 주제에 대한 명확하고 단순한 2단락 설명
    • 예시 2개
    • 비유 1개
  • 관련 개념, 도메인 지식, 전문 용어에 대한 학생의 사전 지식을 가정하지 않도록 설정됨
  • 설명 뒤에는 교사가 바꾸거나 추가하고 싶은 부분이 있는지 묻고, 흔한 오개념을 반영해 설명을 수정할 수 있음

학생 역할로 교사의 평가를 돕는 프롬프트

  • 세 번째 프롬프트는 ChatGPT를 어떤 주제를 공부한 학생 역할로 설정함
  • 목표는 교사가 AI의 설명과 적용 사례를 평가하는 것임
    • AI는 교사에게 설명할 주제와 적용 방식을 물음
    • 예시는 특정 TV 쇼 장면, 시, 짧은 이야기로 개념을 적용하는 방식임
  • AI는 주제에 대한 1단락 설명과 2개의 적용 사례를 만든 뒤, 교사에게 무엇이 맞고 틀렸는지, 다음에는 어떻게 개선할 수 있는지 물음
  • 모든 것이 맞았다면 개념 적용이 정확했다는 피드백을 듣고 싶다고 요청하도록 구성됨

학생용 AI 튜터 프롬프트

  • 네 번째 프롬프트는 ChatGPT를 격려하는 AI 튜터로 설정함
  • 학생에게 한 번에 하나씩 질문함
    • 무엇을 배우고 싶은지
    • 고등학생, 대학생, 전문가 중 어느 수준인지
    • 선택한 주제에 대해 이미 무엇을 알고 있는지
  • 학생의 수준과 기존 지식에 맞춰 설명, 예시, 비유를 제공함
  • 즉시 답이나 풀이를 제공하지 않고, 학생이 스스로 답을 만들 수 있도록 유도 질문을 사용함
  • 학생이 어려워하거나 틀리면 과제의 일부만 시도하게 하거나 목표를 상기시키고 힌트를 줌
  • 학생이 개선되면 칭찬하고, 계속 아이디어를 만들도록 질문으로 응답을 끝내려 함
  • 학생이 적절한 수준의 이해를 보이면 자신의 말로 개념을 설명하거나 예시를 들게 하고, 이후 대화를 마무리함

관련 자료

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 학생들은 과목을 통과하고 고등학교 졸업장을 받으려면 점수가 필요하다는 핵심 문제가 빠져 있음
    많은 학생에게 LLM은 시간 부족, 게으름, 피로, 이해 부족, 불안, 부모 압박, 지위 같은 평범한 이유로 점수를 얻는 마법 같은 지름길이라 유혹이 큼
    ChatGPT를 조금만 써본 사람이라면 “과정을 보여라”는 논리도 무의미하다는 걸 알 수 있음. 계획, 개요, 초안 같은 것도 AI가 나중에 그럴듯하게 만들어낼 수 있기 때문임

    • 악마의 변호를 해보면, LLM을 곁들인 학생-도구 조합이 요구 수준의 성과를 내면 뭐가 문제인지 모르겠음. 시험은 LLM을 얼마나 잘 쓰는지를 봐야 하고, 도구는 흡수돼야 함
      지금도 성적은 능력의 대리 지표지만, 개인 과외는 평균 학생을 해당 단계에서 상위 2% 수준으로 끌어올릴 수 있음(Bloom의 2시그마 문제). 그렇다고 다음 단계에서 일반 지능이 올라가는 건 아님
      결국 실제로 평가되는 건 부유함이든 노력으로든 좋은 성적을 얻는 능력일 수 있음. LLM도 마찬가지라서, 사용하는 능력이 중요하다면 그걸 시험하면 됨. 계산기나 오픈북 시험과 비슷한 미래임
    • 잘 다뤄지지 않는 이유는 애초에 학교의 근본 난제 중 하나라서 그럴 가능성이 큼
      많은 사람에게는 평가와 성적이 최종 목표이고, 학습은 부차적으로 일어나는 것에 가까움
    • 금요일마다 교실에서 컴퓨터 없이 시험을 보면 되지 않나 싶음. 그걸 성적의 50%로 만들면 됨
    • 구술시험이 다시 돌아올 것 같음. 한 세대 전체가 첫날부터 손글씨 에세이, 화이트보드 수학, 화이트보드 코딩을 잘하게 될 듯함
    • 계산기, 나중에는 인터넷을 둘러싼 논쟁과 비슷해 보임. ChatGPT도 또 하나의 도구임
      게으르게 써서 아무것도 배우지 않는 사람도 있겠지만, 많은 사람에게는 분명 큰 부스트가 될 것임. 결국 적응하게 됨

  • LLM에 대해서는 양가적이지만, 정말 좋은 용도를 하나 찾았음. 바로 언어 학습 보조임
    제2언어가 C1 수준까지 올라오니 더 다듬는 데 도움이 되는 자료나 튜터를 찾기 어려워졌음
    그래서 Claude와 대화하면서 내가 한 실수를 고쳐 달라고 하거나, 집중해야 할 부분에 대한 연습문제를 내 달라고 함. 예를 들어 “과거형을 활용하고 올바른 형태를 고르는 연습문제를 내줘”라고 요청함
    개인용 언어 학습 러닝머신 같은 느낌임

    • LLM 열풍에서 언어가 더 중심이 아닌 게 놀라움. 마치 Rosetta Stone 광고가 실제가 된 것 같음
      최첨단 수준으로 번역할 뿐 아니라, 맥락을 주고받을 수 있고 원어민 자료와 문화로 학습되어 있음. 기계번역에서 이렇게 크고 빠른 도약은 없었음
    • 항상 맞는다는 보장은 없다는 점은 기억해야 함
      외부 자료를 조합해서 교차 검증하는 게 좋고, 실제 사람과 상호작용할 계획이면 구어 생성도 매우 중요함
      실제 대화와 결합하면 확실히 도움이 됨. 추가 도구로 가지고 놀기에는 정말 훌륭할 수 있음
    • 이 Show HN이 설득력 있었음: https://news.ycombinator.com/item?id=36973400
      아쉽게도 이제 무료로 써볼 수는 없지만 잘 작동했음
    • 저자원 언어는 LLM 학습 데이터도 부족함
      그래서 작은 언어에서는 사실뿐 아니라 언어, 단어 선택, 문법 면에서도 완전히 이상하고 틀린 결과를 만들어내는 문제가 훨씬 더 많음
    • ChatGPT에게 프랑스어에서 작은 실수를 할 때마다 고쳐 달라고 해봤지만 잘 안 됐음
      Claude가 이런 면에서 더 나은지 궁금함. 이상적으로는 LLM이 모든 실수를 하나하나 고쳐 주고 설명까지 해주길 원함

  • 이 주제에 대한 답답함을 털어놓고 싶음. 이런 곳들의 말과 마케팅은 전부 인류를 개선하고 AI로 모두에게 이익을 주겠다는 식이지만, 현실은 한참 다름
    지금 이익을 보고 돈을 버는 건 소수이고, OpenAI는 closed AI가 되어버렸음

    • OpenAI는 애초에 Open이 아니었음
      GPT-3 이전에도 “너무 위험해서 공개하지 않겠다”는 식의 이야기를 했던 걸 기억함
      https://techcrunch.com/2019/02/17/openai-text-generator-dang...
      “OpenAI built a text generator so good, it’s considered too dangerous to release”
    • 이런 식으로 답답함을 토로하는 건 괜찮지만, 실질적인 내용이 있어야 함
      지금 상태로는 OpenAI가 왜 나쁜지에 대한 substantive한 포인트가 거의 없음
      ChatGPT를 써본 거의 모든 사람에게 OpenAI가 도움을 줬다는 건 부정하기 어려움. 이익을 내면서 한다고 해서 그 사실이 크게 달라지지는 않음
      GPT-4도 세계의 데이터로 학습했으니 오픈소스로 공개되면 좋겠지만, 강제할 수는 없음

  • 여기서 Khanmigo 이야기가 없는 게 놀라움. 꽤 오래전부터 GPT-4를 튜터로 베타 형태로 사용해 온 것으로 알고 있음
    시간이 꽤 흘러서 효과성 데이터를 찾아보고 있었음. Khan Academy는 이제 데이터를 갖고 있을 것 같은데 공개한 건 보지 못했음
    유명한 튜터링 2시그마 결과는 6주 학습만으로 나온 것이고, Khanmigo는 지금쯤 6개월 이상의 데이터가 있을 것 같음
    [0]https://www.khanacademy.org/khan-labs

  • 익숙하지 않은 주제를 파고들 때 AI가 개인적으로 큰 도움이 됐음. 최근에는 면접 준비에도 썼고, 파트너는 학교에서 배우지 못한 STEM 개념을 이해하는 데 사용함
    실제 Young Lady's Illustrated Primer까지 얼마나 남았는지도 궁금함. 3년 전에는 50년은 걸릴 거라고 했겠지만, 지금은 10년쯤처럼 느껴짐

    • 잘 모르겠음. 나도 익숙하지 않은 주제에서는 답변이 훌륭하다고 느끼지만, 내가 잘 아는 주제에서는 온갖 불일치와 잘못된 사실이 보임
      내가 모르는 주제에도 같은 불일치가 있는데, 알아차릴 만큼 충분히 알지 못하는 것일까 봐 걱정됨
    • 나도 이런 용도로 정말 좋아함. 아이디어를 던져보면 질문을 계속해도 지치지 않고 탄탄한 답을 줌
      내가 왜 틀렸는지도 자세히 설명해 줌. 내 학습 방식에는 정말 유용함. 나는 뭔가를 분해해 보고 다시 어떻게 맞춰지는지 알아내는 걸 좋아함
    • 그 에이전트들은 실제로 추론할 수 있었을 것 같음
      LLM은 추론을 하지 않고, 그럴듯하게 합리적인 텍스트를 만들어낼 뿐임
    • 오늘 ChatGPT에게 OAuth 2.0 토큰 흐름을 bash로 구현해 달라고 했음
      실행 폴더의 설정 파일에서 바로 읽도록 몇몇 파라미터를 수정한 뒤, PowerShell이 필요하다는 걸 깨닫고 수정한 스크립트를 붙여 넣고 “이걸 PowerShell로 써줘”라고 했더니 그냥 작동했음
      OAuth 2.0 워크플로 자체는 잘 문서화되어 있고 우리 코드에도 50군데 구현되어 있어서 관심 없었고, 자동화 테스트에 통합할 스크립트만 필요했음
      bash 문법에서 실수하고 PowerShell 대응 문법을 찾느라 한 시간쯤 걸렸을 작업을 줄였고, 동료들은 처리 속도에 매우 좋아했음. 지루한 일을 안 해도 돼서 나도 좋았고, 완전한 승리로 봄

  • 약 2.5주 전에 Revision History라는 Chrome 플러그인을 만들고 공개해서, 최근 여러 교육자들과 이야기를 나눴음
    대다수 교사는 AI를 두려워함. 몇 달 만에 수업 방식 전체를 바꿔야 한다는 뜻이기 때문임. 수업 계획이나 과제 구조를 그렇게 빨리 바꾸기는 쉽지 않고, 어디로 수렴할지 보려면 시간이 걸림
    일부 교사는 적응하지 않을 방법을 찾고 있어서 AI 탐지에 관심이 몰리지만, AI 탐지는 잘 작동하지 않음. 내가 만난 날카로운 교육자들은 되돌아갈 수 없다는 사실을 알고 있음
    그래서 AI를 교육과정에 넣고 과제를 더 “AI-proof”하게 만들려 함. 즉, 플립드 러닝 같은 수업 중 작업이 늘어남. 다른 교사들은 학생이 과제에 AI를 쓰되, AI가 만든 것을 수정하고 주석 달게 하는 방식을 찾음. 내가 플러그인을 마케팅하는 지점도 여기임
    앞으로 몇 년은 교육자들이 거의 하룻밤 사이에 닥친 거대한 변화에 맞추느라 매우 거칠어질 것임
    [1] https://www.revisionhistory.com. 이 플러그인은 “AI 탐지기”가 되려는 다른 플러그인들과 달리, 교사가 학생의 글 작성 과정을 볼 수 있게 도와줌
    [2] https://bokcenter.harvard.edu/flipped-classrooms#:~:text=A%2...

    • AI와 교육을 두고 숲을 보지 못하고 나무만 보는 것 같음
      교육의 주요 목적이 사회에서 효과적인 경제적 기여자를 만드는 것이라는 연결을 대부분 한 번도 해보지 않았다는 걸 생각하면 놀랍지는 않음
      우리는 강력한 AI를 써서, 10~20년 안에 AI가 거의 확실히 더 잘할 일을 아이들에게 가르치려는 건가?
      “그럼 뭘 해야 하느냐”는 생각은 이해하지만, 그냥 따라가는 게 너무 우스꽝스럽고 헛된 느낌임. “AI로 아이들에게 프로그래밍을 가르치자”라니, 이미 결말이 보임
    • 사이트에서 .git 디렉터리가 노출되고 있음: https://www.revisionhistory.com/.git/config
      필터 규칙을 설정하는 게 좋을 듯함
    • 숙제가 하루 한 시간 넘게 걸릴 정도로 흔해진 것 자체가 어린 시절에 대한 범죄임
      이미 정규직 수준의 수업을 듣는 데 더해지는 것이니 사라져도 좋음
    • 학생을 가르치는 데 최신의 가장 좋은 도구를 쓰지 않고, 그 도구에 대해 가르치지도 않는다면 나쁜 교사임
      언어 모델은 이제 사회의 일부이고 계속 남을 것이므로 교실에 도입돼야 함. 아이들은 타자 치기나 이메일 보내기를 배우듯, 언어 모델이 어떻게 작동하고 어디서 왔고 어떻게 쓰는지 배워야 함
      2002년 중학생 때 도서관 견학에서 사서가 “검색엔진을 제대로 쓰는 법”을 가르쳐 준 일이 떠오름. 당시 사회적 걱정은 검색엔진이 사서를 대체한다는 것이었는데, 그 사서가 자기 “대체재”를 쓰는 법을 겸손하게 가르쳐 준 셈이라 인상적임
      교사와 ChatGPT에도 같은 논리가 적용됨. 좋은 교사는 ChatGPT가 자신에게 미칠 개인적 영향만 걱정하기보다, 이 기술이 여는 새 지평을 학생들에게 가르칠 기회로 삼을 것임
      재미있는 점은 그 도서관 수업에서 검색엔진에 자연어로 묻지 말고 효율적인 키워드 질의를 만들라고 강조했다는 것임. 20년 뒤에는 다시 돌아와 언어 모델에 그냥 질문을 던질 수 있게 됨
    • 확장 기능이 Draftback과 어떻게 다른지 궁금함: https://chrome.google.com/webstore/detail/draftback/nnajoiem...

  • 중학교 교사인 여동생과 함께 교사를 위한 실제 훈련 프로그램을 개발했는데, OpenAI의 이 “가이드”는 꽤 실망스러움
    교사들이 AI와 관련해 실제로 겪는 문제의 90%를 다루지 않고, 대부분은 ChatGPT로 정보를 얻는 방법을 소개하는 브로셔에 가까움
    이번 학년도에 적응에 어려움을 겪는 교사이거나 그런 교사를 안다면, 이야기해 보고 도울 수 있는지 확인해 보고 싶음

    • 유료 AI Training을 팔려는 홍보성 댓글처럼 보이고, 링크된 글의 내용은 다루지 않음
      [1] https://max.io/teacher-training.html
    • 이건 전 세계적 문제임
      두 사람이 한 일은 훌륭해 보이고, 작은 글이나 영상으로 만들면 더 효과적일 것 같음
      그 통찰을 통해 도움받고 싶어 할 사람이 많음. 독일에서도 교사들이 이 기술을 받아들이려는 열린 태도를 유지하면서도 어려움을 겪는 모습이 보임
    • OpenAI 가이드는 좋은 지침을 준다고 봄
      제안하는 4시간짜리 대면 워크숍은 아니지만, 이미 긍정적인 가치를 더함. 아마 그 과정에서 다루는 주제도 상당 부분 포함하고 있을 것임. 입문 수준일 수는 있지만 시작점임
      솔직히 왜 OpenAI에 부정적인 느낌으로 읽히는지 이해가 잘 안 됨. 이런 분야에 기여하려는 OpenAI의 의지를 칭찬할 법도 함
    • “CoderMindz Game for AI Learners! NBC Featured: First Ever Board Game for Boys and Girls Age 6+. Teaches Artificial Intelligence and Computer Programming Through Fun Robot and Neural Adventure!”를 알게 됨
      https://www.codermindz.com/ https://www.amazon.com/gp/aw/d/B07FTG78C3/
      Codermindz AI Curriculum: https://www.codermindz.com/stem-school/
      https://K12CS.org K12 CS Curriculum, code.org, Khanmigo는 AI 안전과 윤리 교육과정을 포함해야 함
      AI SAFETY 우선, ML, AutoML, AGI를 위한 자동 채점 가능한 노트북의 Jupyter-book이 좋은 자료가 될 것임
      jupyter-edx-grader-xblock https://github.com/ibleducation/jupyter-edx-grader-xblock, Otter-Grader https://otter-grader.readthedocs.io/en/latest/, Chromebooks 때문에 JupyterLite도 필요함
      K12 CS/AI와 QIS 교육과정 자료로 또 무엇이 있을까?
    • 가이드가 해결하는 문제나 개요 일부를 공유할 수 있는지 궁금함

  • 무언가가 어떻게 작동하는지 정말 이해하고 싶은 사람은 AI의 유혹에 흔들리지 않을 것임
    사람은 두 부류가 있음. 알고 진짜 이해하고 싶어 하는 사람과 그렇지 않은 사람임
    어느 시점 이후에도 관심이 없고 억지로 하는 게 분명한 사람에게 굳이 관심을 강요해야 할까? 사람들은 정말 신경 쓰는 것에 더 많은 시간을 써야 한다고 봄
    무언가에 관심이 있고 즐거움과 만족을 얻으면 세부까지 이해하고 싶고 지식과 진짜 통찰을 갈망하게 됨. 관심이 없으면 진짜 만족을 주는 일을 할 시간을 만들기 위해 최단 경로를 택함. 나도 전혀 신경 쓰지 않는 일에는 늘 그렇게 하므로 괜찮다고 봄
    소프트웨어 엔지니어가 되고 싶어 하는 사람이 기본을 배우고 이해하려는 노력을 못 하겠다면, 소프트웨어 엔지니어링은 그 사람에게 맞는 분야가 아님. 더 많이 이해할수록 더 탐구할 수 있는 문제의 표면적이 넓어짐

  • ChatGPT와 다른 LLM은 물리학에서 일관되게 잘하지 못하고, 아마 앞으로도 그럴 가능성이 큼
    물리학과들이 AI를 크게 걱정하지는 않을 것 같음. 학생들에게 비교적 안정적으로 도움이 되는 건 일부 코딩 프로젝트 정도임
    계산물리 수업에서는 원래도 함께 작업하고 도움을 구하고 인터넷에 질문하는 게 권장됐기 때문에 괜찮음. 핵심은 늘 사고 과정을 어떻게 설명하고 서술하느냐였음
    AI는 현재 형태로는 문제 해결과 개념 이해 측면에서 매우 약함
    반면 비원어민 영어 사용자로서는 어설픈 생각과 글을 격식 있게 바꾸는 데 걸릴 시간을 많이 줄여줌. 코딩 작업의 일부를 안내하고 API를 소개하는 데도 쓸 수 있음. 좋은 학생이나 연구자라면 지식을 얻고 시간을 절약하기 위해 현명하게 쓸 수 있는 도구임
    마찰이 있는 경사면 위 수레와 수레에 매달린 진자를 푸는 데는 별 도움이 안 됨. 정상 모드도 못 구해줄 것임
    개인적인 경험과 생각일 뿐이고, 다른 분야에서는 완전히 다를 수 있음

    • “AI는 아마 X를 잘하지 못할 것” 같은 말은 신중해야 함
      많은 형식언어학자들이 화용론적 함축 같은 기능은 AI가 배울 수 없다고 강하게 말했지만, 지금은 틀렸다는 게 드러나고 있음
      예를 들어 Miles Cranmer의 그래프 신경망을 이용한 기호 회귀 작업은 물리학에서 유용한 새로운 발견으로 가는 시작점임. Transformer도 특정 메시지 전달 함수와 위치 임베딩을 가진 그래프 신경망일 뿐임
      다른 구조, 보강, 또는 같은 방식의 확장만으로도 AI가 물리학에서 새로운 발견에 도달할 수 있다는 건 보기 어렵지 않음. 그래프 신경망 기반 기호 회귀 작업은 이미 그런 일이 일어났다는 증거임
      지금 이 순간의 LLM에 지식을 접지하는 문제만 봐도 관심과 연구가 많고, 여러 방식으로 해결될 것으로 기대함. 접지된 물리 지식 능력은 완벽하지 않지만, 길거리의 일반적인 인간 지식과 비교하면 매우 좋음. 외부 자료만 붙여도 훨씬 나아지고, 이것도 오늘 현재만 본 매우 근시안적인 분석임
    • ChatGPT가 코딩 문제에 더 능숙한 건 학습 데이터가 훨씬 많기 때문임
      코딩 문제 해결과 물리 문제 해결 사이에 근본적으로 다른 건 없음. 이전의 많은 단정들처럼, 이 댓글도 시간이 지나면 좋게 남지 않을 것 같음
    • LLM이 물리학에서 다른 분야보다 조금 약할 수는 있겠지만, 정말 그럴까 싶음
      누군가 LLM이 Mathematica API를 쓰게 만들고 더 학습시키면 빠른 진전이 가능할 것 같음

  • 여기서 피할 수 없는 문제는 LLM에 아직 환각이 있다는 점임
    1%든 0.1%든 교육에서는 큰 문제임. 누군가 평생 AI가 자신 있게 가르친 완전히 틀린 내용을 믿고 살 수도 있음
    교사들은 추가 안전장치나 검증 없이 순정 LLM을 교육에 쓰는 데 매우 조심해야 함

    • 교사가 자신이 찾아본 출처를 믿고 가르치는 경우에도 같은 문제가 있음
      인터넷, 교과서, 심지어 과학 논문도 사실적으로 틀릴 수 있음
      LLM이 하위 분류인 그래프 신경망은 내부 지식을 가능한 한 간결하게 유지하도록 최적화될 잠재력이 있음. 이는 해당 분야 맥락을 충분히 쌓지 않은 인간이 인터넷 글을 읽는 경우와 다름
      4학년 교사가 가르쳐 준 이상한 생각을 평생 교정받지 못한 채 강하게 믿는 사람도 많음
      지금 이 아주 작은 시간 단면에서는 맞는 말이지만, 이번 달 존재하는 문제 때문에 언어 모델링을 피해야 한다고 단정하고 곧 올 개선을 무시하는 건 지나치게 근시안적임
    • 내 교사들이 1%만 환각했더라면 정말 좋았을 것임
      현실에서는 Southern Baptist 풋볼 코치들이 과학을 엉망으로 가르치려 했음
    • 실제 교사들이 수업 안팎에서 하는 헛소리를 들어보면, 1% 환각률은 축복처럼 느껴질 것임
      물론 훌륭한 교사도 있고, 특히 모르면 모른다고 하거나 찾아봐야 한다고 말하는 교사들은 환각률이 0%에 가깝기도 함. 하지만 그런 사람들은 예외임
      교육계 전체는 꽤 평범한 지적 수준의 사람들이 모이는 경향이 있고, 그중 일부는 종종 신 콤플렉스를 갖게 됨
    • 중학교 역사 교사는 1%보다 훨씬 많이 환각했음. 사실 10%보다도 훨씬 많았음
      너무 심해서 고등학교에서 역사를 다시 배워야 했음
    • 내 경험으로는 때로는 100% 틀리기도 함
      더 구체적인 프롬프트로 여러 번 교정하려 해도 그랬음. 1부터 10까지 숫자의 나눗셈이나 배수에 연산 하나가 추가된 단순한 문제에서도 그랬음
답변달기