▲

AI 부정행위, 교육을 빠르게 붕괴시키는 심각한 위협

 (nymag.com)
5P by GN⁺ 1일전 | ★ favorite | 댓글 4개
  • 생성형 AI의 등장으로 학생들 사이에 부정행위가 급증하고 있음
  • 많은 학생들이 ChatGPT 등 챗봇을 과제, 시험, 연구에 이용하여 학습 과정이 심각하게 훼손되고 있음
  • 대학과 교수진, AI 감지기 등도 부정행위 탐지가 어려워 근본적인 대응에 한계를 보임
  • AI 의존도가 높아지며 비판적 사고력과 자기주도적 학습 능력이 약화됨
  • 교육과 평가 시스템 전반의 존재 이유와 교육의 본질적 가치가 재정립되어야 할 필요성이 제기됨

도입 및 배경

  • 생성형 AI의 도입 이후, 학생들은 손쉽게 과제와 여러 평가를 AI에 의존하는 상황이 보편화됨
  • 대표적 사례로 소개된 Columbia University의 Lee는 ChatGPT를 사용해 80% 이상의 과제를 해결하였으며, 이로 인해 인간성이 반영된 부분은 최소화됨
  • Lee의 사례는 학업 성취보다는 인맥 형성이나 창업 등 네트워킹 목적이 대학 교육에서 더 중요한 동기가 되어가고 있음을 시사함
  • Lee와 동료는 AI를 활용한 부정행위 도구를 개발하였으며, 이로 인해 대학의 징계까지 받게 됨
  • 이처럼 학생들은 AI 활용을 도전이나 혁신, 생산성 증대로 인식하지만, 대학은 이를 부정행위로 간주하여 충돌이 발생함

AI 부정행위의 확산과 일반화

  • 2023년 설문에 따르면 대학생의 90% 가까이가 ChatGPT를 활용해 숙제를 해결한 경험이 있음
  • Generative-AI 챗봇은 노트 필기, 시험 대비, 요약, 에세이 작성 등 거의 모든 교육 과정에 깊이 침투하게 됨
  • 학생들 사이에서는 AI 이용이 상식으로 받아들여지고 있으며, 이에 대한 비판적 인식은 점차 약화됨
  • 일부 학생들은 AI에 과도하게 의존해 학습 의욕이나 자기주도 학습능력이 떨어지는 중독성 문제도 동반됨
  • 대학은 부정행위 방지책으로 구술 평가, Blue Book 시험 등 다양한 방법을 사용하지만 실질적으로 통제가 어려운 상황임

교수진과 학교의 한계 및 대응

  • 많은 교수들은 AI 탐지를 위해 다양한 기술적, 창의적 방법을 시도하지만, 2024년 연구에서는 97%의 AI 생성 과제가 탐지되지 않음
  • AI 생성 텍스트 탐지기는 신뢰도가 낮으며, 신경다양성 학생이나 비영어권 학생들에게 오탐률이 높게 나타남
  • 학생들은 AI 탐지기를 쉽게 속일 수 있는 우회 방법을 잘 파악하고 있음
  • 일선 교수들은 AI 사용을 명확히 금지하지 못하고, AI 감지기의 한계와 정책 불확실성으로 인해 실질적인 제재가 쉽지 않음
  • 대학 차원에서도 생성형 AI 시대에 맞는 정책적·철학적 재정립이 지연되고 있음

교육적, 사회적 우려

  • AI와 함께 표면적인 학습 결과만 중시되고, 실제로 비판적 사고력과 문제해결력, 창의성 등 핵심 역량이 약화됨
  • 일부 연구에서는 AI 의존이 학생들의 기억력, 문제해결 능력, 창의성 저하로 연결된다는 결과를 보고함
  • 일선 교수와 연구자들은 인문학, 글쓰기 교육의 가치가 점차 퇴색되는 것을 심각하게 우려함
  • 학생 개개인의 자기주도적 성장과 도전의 기회가 줄어들며, 사회 전체의 소프트 스킬 격차가 더 크게 벌어질 위험이 있음
  • 장기적으로는 교육의 본질과 직업 세계에서의 역할, 인간의 고유성에 대한 근본적 의문이 제기됨

사례와 개인적 경험

  • 대학생 Daniel은 ChatGPT 이용 경험을 통해 즉각적 지식 습득은 만족하지만, 직접 학습한 것과의 차이를 체감함
  • 또 다른 학생 Mark는 AI가 과제 작성에 중요한 도구가 되었지만, 이것이 온전히 자신의 성취라고 느끼기 어렵다고 토로함
  • 이러한 고민은 AI 작성 글을 받아들이는 기준, 과제의 의미, 타인과의 진정성 있는 소통 등에 혼란을 초래함

제도적·사회적 관점에서의 교육의 미래

  • 교육 현장은 AI 부정행위의 만연으로 인해 실존적 위기에 직면하고 있으며, 교수진 사이에서도 사기 저하와 퇴사 고민이 잦아짐
  • OpenAI 등 주요 기업의 입장은 AI가 ‘단어용 계산기’에 불과하다며, 전통적 평가 방식의 변화 필요성을 주장함
  • AI의 빠른 발전 속도와 오픈된 접근성, 대학의 대응 지연으로 인해 교육의 질적 저하와 신뢰도 하락이 가속화됨
  • 학생과 교원 모두 의미 있는 학습 경험의 상실, 노력 중심 성장 모델의 붕괴를 우려하고 있음
  • 앞으로 AI가 인간의 사고와 수행 능력에 미칠 장기적 영향, 그리고 교육 시스템이 가져야 하는 철학적 가치에 대한 사회적 논의 필요성이 부각됨

마무리 및 기술 발전

  • AI 피드백 도구 등장으로 학생의 과제를 AI가 평가하는 ‘AI 대 AI’ 평가 구조가 현실화되고 있음
  • Lee는 학교 내 AI 부정행위 도구 개발 경험을 살려 Cluely라는 새로운 AI 실시간 피드백 플랫폼을 출시함
  • Cluely는 컴퓨터 화면과 오디오를 감지해 실시간으로 AI 답변을 제시, 교육뿐 아니라 일상 상황(예: 데이트)까지 확대 적용을 시도함
  • 이에 따라 Lee와 창업팀은 상당한 투자 유치와 함께 교육, 채용, 일상 등 다양한 영역에서 AI의 파급력을 체험하고 있음
  • AI가 교육 실험 및 평가 전반을 재정의하는 과정에서 인간 고유 가치와 교육의 목적을 분명히 해야 할 필요성 증대됨
▲
ndrgrd 6시간전  [-]

AI가 교육을 붕괴시키는 것이 아니라 이때까지의 교육의 도구가 너무 편의주의적이었던거지요.

답변달기
▲
mango 1일전  [-]

줄세우기 도구로서의 교육은 이제 그만

답변달기
▲
fantajeon 1일전  [-]

이제 산업 전반적으로 시대가 바뀌는 것임. 인간은 적응의 동물임... 잘 적응해 봅시다.

답변달기
▲
GN⁺ 1일전  [-]
Hacker News 의견

  • ChatGPT와 같은 LLM이 이미 망가진 시스템에 한층 더 압박을 가중시켰음

    • 대부분의 사람들이 학위는 취업시 학위 검증을 통과하기 위해 취득함
    • 대학 등록금이 매우 비쌈
    • 다른 상품이나 서비스와 달리, 서비스가 나빠도 환불을 받을 수 없음
    • 교수들은 사실상 원하는 대로 할 수 있음
    • 연방 학자금 대출이 형사상 판결과 같은 수준으로 취급됨
    • 이런 상황들을 보면, 당연히 투자 대비 이득을 기대하게 되는데 그게 '지식'이 아니라 '졸업장'이라는 점임. 그래서 사람들은 '도구'를 써서 졸업장(반쯤만 약속된)을 따낼 확률을 높이려 함
    • 이런 상황이 결국 대학의 졸업장 공장 역할을 파괴하고 진정한 학문적 엄격함과 연구로 돌아가길 희망함. 하지만 희망만 남는 상황임

  • 교수들이 마음대로 할 수 있다는 것은 예전 얘기임. 지금은 오히려

    • 교수들은 거의 모두에게 합격점을 줘야 함

    • 무례한 행동(헤드폰 끼기, 수업 중 게임/비디오 시청 등)해도 학생을 내쫓을 수 없음

    • 연장/재시험 요청을 사실상 모두 받아줘야 함

    • 학생이 채팅GPT를 써서 숙제를 했다는 게 명백해도 0점을 줄 수 없음

    • 진짜 엄격함과 공부로 돌아가려면 교수에게 권위가 다시 필요함

    • 아내가 현재 교수인데 이런 말들은 사실이 아님

      • 부정행위, 결석 등 이유로 매년 불합격시키는 학생이 있음
      • 동료 중에 정말 못 가르치는 사람이 있는데, 그 교수는 소프트웨어 사업도 하면서 똑똑한 학생을 값싼 인력으로 뽑으려는 게 목적 같음
      • 해외 부유한 학생(부정입학, 뇌물 등)이 마스터 과정에 지원하면 압력이 생김
      • 이 학생들 중 일부는 숙제를 다른 학생 이름으로 제출, 5번 이상 적발되며 어떻게든 통과시켜 달라는 전화 요청도 함

    • 10년 전 대학 다녔지만 그런 현상 전혀 없었음. 지금은 변하지 않았다고 생각함

    • '요즘 애들' 프레임의 변형일 뿐임

      • 다른 서비스와 달리 교수 문제/평가 불공정/수업 불성실도 환불 불가임
      • 실패는 항상 학생 책임으로 간주되고 교수 책임은 아님
      • 학자금 상환은 50대까지 이어지는데, 직업을 구하려면 졸업장이 필요함
      • 이 모든 조건 조합이 이 상황을 만듦. 명확한 해결책은 없음. 대학의 자본 축소와 '학위 불요' 직업 시장 확대가 그나마 해법이지만 기대 안함

    • 지금 교수의 대부분이 비정규직이라는 점도 영향임

    • 테뉴어(정년 보장) 교수들도 수업은 최소한으로 하고 전혀 신경 안 씀. 연구에 더 관심있고, 교수 본연 역할이 연구 위주로 바뀜. 점점 강의의 질이 떨어짐

  • 대학이 이제는 $X00,000 넣고 높은 연봉 일자리에 입장할 수 있는 키(졸업장)를 뽑는 자판기가 되는 현상임

    • 교육은 덤에 불과하며, 핵심은 취업용 키임

    • 대학이 진짜 교육기관이 되려면 비용을 줄이고 기업이 졸업장을 필수 조건으로 삼지 않아야 함

    • 주립대+커뮤니티 칼리지 경로는 $x00,000보다 훨씬 저렴함

  • 프랑스에서는 매년 200유로로 Sorbonne 등 명문대 다닐 수 있음

    • 유명 공대는 저렴하고, 금융계열 명문 사립만 1년에 2만 5천 유로 수준(저소득층은 무상임)

  • 상위 물리학자, 노벨상(평화, 문학 제외) 수상자, 학위 없는 토목기사, 외과의사가 존재하냐는 비판

    • 소프트웨어 분야만 예외적으로 비학위 경력자도 잘 활약할 수 있음

    • 나 또한 대학교 안 다녔지만 이론적 기본기는 부족했고, 대부분의 일엔 필요 없으나 언젠가는 필요함

    • 엄격한 기술 기반 분야엔 학위 필수지만, 많은 사무직은 학위 지식과 무관함에도 불구하고 학위 없으면 필터링됨

    • 학위는 약한 잠재력 신호임. 강한 신호는 직접 일해보기 전엔 없음. 그저 현실을 반영한 현상임

    • 학위 취득에 큰 돈이나 학자금 대출이 필수적이지 않음. 적은 등록금만 내면 받는 나라 많음

  • 졸업장이 아니라 '지식'이 진정한 성과라고 생각함

    • 예를 들어, 의대 수료증만 받으면 진짜 의사가 될 수 있나? 지식이 전혀 필요 없을까?

    • 실제로 대학에서 정작 공부에 집중한 사람이 취업이 더 쉬웠음. 다양한 기회와 자원을 무시하는 것이 아쉬움

    • 대학교는 학습에 완벽한 환경이며, 본인의 노력 만큼 얻는 것임

    • 전공과 무관한 사무직엔 학위=입장권이고, 실제 지식은 큰 의미 없음. 역사 전공자도 영업직 채용에서 학위 없는 사람보다 뽑힘

  • 회사가 졸업장을 필수로 요구하는 한 대학은 졸업장 공장 역할을 할 수밖에 없음

    • 고졸로 지원 가능한 직종이 현저히 줄었음

  • LLM이 화이트칼라 주니어 일자리를 없앴다는 주장 나옴. 대학은 빨리 변화해야 함

    • 주니어의 본질은 성장의 대상으로, 허드렛일만 시키는 것은 아님

    • LLM은 현재 신입 수준이며, 아직 경험자 대체는 멀었음. 완전 대체가 아니라 업무 효율화가 주 역할임

    • 화이트칼라 주니어가 사라지면 시니어도 결국 사라질 것임

    • 법/세무상 문제로 신입이 짐이 된다는 말엔, 법적으로 차감(deduction) 효과도 있음을 언급함

    • 대학이 무엇으로 '피벗'할지에 대한 의문 제기

  • 교수 입장에서 AI 활용을 허락하고 외부 자료 사용을 문서화하라고 했지만, ChatGPT가 문제를 풀지 못하면 학생은 '이제 어떻게 하냐?'라는 반응임. 즉, 학생들에게는 인내력, 문제해결 근성이 부족함

    • 연령 불문하고 인내심, 끈기가 사라졌다는 의견도 나옴. 특히 주입식, 즉각적 답에 익숙한 세태를 지적함

      • Gen-Z도 동의한다며, 집중력 저하는 세대 문제가 아니고 정보량이 너무 많고, 사회 전체의 문제라고 봄

    • 학생의 이런 태도는 과거 교사들이 학습 의욕을 저하시킨 결과일 수 있음

  • LLM으로 치팅한 학생들이 과연 진짜 실무에서 경쟁력을 가질지 걱정하는 글도 있음

    • 앞으로는 AI에만 의존하지 않고 기초 실력을 갖춘 사람이 시장에서 살아남을 것임

      • 오히려 수십 년 뒤 은퇴가 다가와서 AI 변화에 비관적이지만, 'AI 없이' 문제를 해결할 수 있는 사람이 살아남을 것임

      • 모두가 '배관공' 얘기하지만 실제 배관공 일은 결코 쉽지 않음

    • ChatGPT로 숙제를 그대로 복붙하는 등, 게으름이 만연함

      • 하지만 치팅을 입증하려면 범죄 재판만큼 명확한 증거가 필요하므로 처벌이 어려움
      • 그러나 면접 등에서는 금방 걸러질 것임

    • BS(허울 좋은 일만 하는)와 진짜 실력 차이를 아는 회사에 취업해야 하며, 조만간 허울뿐인 기업은 파산할 것임

    • AI 나오기 전 실력을 쌓은 사람이 강점이 있음. 글쓰기, 컴퓨터 기초는 계속 가치가 있을 것임

  • 스페인 대학에서 영어 자료를 번역해서 과제에 활용했을 때 죄책감을 느꼈지만, LLM 시대에는 그런 감정이 줄었음

    • 이건 치팅이 아니라 특별한 이점임. 교재를 다른 언어로 읽는 것은 엄연히 권장되는 방법임
    • 살짝 불공정하긴 한데, 덕분에 시간을 훨씬 단축했음

  • LLM의 무료 튜터링도 긍정적으로 볼 수 있음

    • 과거 부유층만 과외를 누렸으나 이제 모두가 ChatGPT로 접근 가능해진 점이 상향평준화임

    • TA(조교)의 언어 장벽 등 오프라인 문제도 해결할 수 있음

    • 고액 수업료 없이도 모두 같은 수준의 지원을 받을 수 있어 교육 민주화임

    • 하지만 실제로 많은 학생은 LLM의 답을 그대로 복붙해 과제를 제출함

      • 사고 과정을 설명해달라 해도 대답 못하는 일이 많음

    • 실제로 LLM을 튜터로 써서 자기 스타일에 맞는 학습 방식을 찾은 사례도 존재함

    • 그러나 대학이 '경쟁'만이 전부라면 인간적 가치가 없어지고, 진정한 교육은 오히려 줄어듦. 치팅 수단이 평등화된 게 좋은 일인지도 의문임

      • 공부하는 학생은 LLM을 '스스로 배움'에 활용할 수 있으나, 치팅 수단도 함께 늘어난 셈임

  • 아이들이 진짜로 독서나 심층 사고가 어렵다는 내용이 우울하다는 반응도 있음

    • 네덜란드 대학에서는 과제 후 직접 질의응답, 코드 설명 등으로 치팅을 충분히 적발하고 있음

    • 왜 학생 치팅만 도덕적 분노를 일으키고 대학이 학생들을 '사기'치는 행태(교육의 질 대비 비용 등)는 용인하는지 의문임

      • 지금 문제의 본질은 도덕이 아니라 '우울함'에 있음. 학생들이 자기주도적 사고, 비판적 사고력, 어려움을 뚫고 나가는 힘을 점점 잃고 있다는 사실 자체가 우울함

      • 도덕적 분노가 아닌, 단순히 현상이 우울한 것임

  • ChatGPT가 "과제를 돕는 것"과 "치팅하는 것"을 혼동하는 언론을 비판함

    • 실제로 숙제 문제 자체를 넣는 건 정책상 치팅이지만, 기술적 개념이나 역량을 질문하는 건 허용 가능함

  • 대학 등록금이 취업시 받는 연봉과 맞먹으니, 진짜 비용은 두 배임

    • 일자리 진입장벽이면서 사실상 학생들의 '착취'임

      • '현장 학습'이 동일 성과를 낼 수 있는 직종에 더 해당함

    • 학생들도 결국 시스템에 기여하고 있음. LLM으로 숙제가 쉬워지면 대학원도 더 많이 가고 '모두가 이득'(하지만 현실은 냉정함)

  • 청년의 "허영심"이 결국 오퍼레이터(operator)가 아닌 엔지니어(engineer)로 성장하지 못하게 함

    • 진정한 엔지니어는 기초에 충실하고 호기심과 이해에 힘써야 함. 편하게만 가다 보면 AI 자동화 툴에 의해 오퍼레이터 일자리가 사라짐
    • 오퍼레이터의 수는 디자이너/엔지니어보다 항상 많음. 모두가 엔지니어가 되긴 현실적으로 불가능

      • 평균 이상의 지능, 환경과 노력이 있어야 엔지니어가 될 수 있음. 절대 절반은 불가함

        • 평균적인 사람이 엔지니어가 되어야 한다면 끔찍한 결과가 나옴. 무턱대고 평균적인 사람이 소프트웨어 개발, 건설, 항공을 맡으면 위험해짐
답변달기