질문만 입력하면 눈 깜짝할 새로운 모범답안을 제시하는 오픈에이아이(OpenAI)의 대화형 인공지능 챗지피티(ChatGPT). 각종 보고서와 논문까지 직접 작성을 하면서 챗GPT는 교육계에 비상벨을 울리고 있습니다. 저번 편에서는 챗GPT를 사용함으로써 교육계에 불어닥친 상황들과 이에 맞서 해결책을 내놓은 기업에 대해알아보았는데요, 오늘은 도리어 해결책의 한계에 대해 다뤄봅니다. 안녕하세요, AI히어로즈입니다 :)오픈AI가 개발한 챗GPT가 교육 현장에서 사용이 제한되면서 새삼 논란이 뜨겁습니다. 멀티 모달을 기본으로 한 초거대 AI가 자칫 많은 이용자에게 역효과를 부를 것이라는 얘기인데요.‘챗GPT’의 효용을 강조하는 목소리도 적지 않아 찬반 논란이 확산되고 있습니다.챗GPT가 내놓는 내용은 자동화 답변임에도 일부 표절 검사기에 걸리지 않아 폐해가 심각해질 것이라는 추측들이 나오고 있습니다.또 온라인상의 차별적이고 부정확한 정보까지 흡수하는 모델에 기반하고 있어이를 학생들이 자칫 사실로 받아들일 수 있다는 위험도 지적되고 있습니다.이러한 문제들을 해결하기 위해 오픈AI를 포함한 다양한 AI 업계는챗GPT 사용 여부를 분간할 수 있는 모델과, 작업물에 워터마크를 삽입하는 방식을 연구하고 있습니다.다소 복잡한 굴레처럼 여겨지지만, 챗GPT를 사용하고, 이를 방지할 모델을 만들더라도근본적으로 해결할 수 없는 태생적인 문제가 발생하는데요, 오늘은 챗GPT 적발 모델의 ‘기술적 탐지’의 한계와 우리 사회의 대응책에 대해 알아봅니다. 챗GPT, ‘기술적 탐지’의 한계 정확도 높은 챗GPT 사용 탐지도구가 개발되어도 한계가 많습니다. 대상 문장이 충분히 길지 않으면 적발과 판단이 어렵기도 하고요, 오픈AI는 자사 분류기가 1000자(200~300단어) 이상의 문장에서 작동한다고 밝혔고, 지피티제로(GPTZero)도 지나치게 짧은 문장에서는 어려움을 겪습니다. * 지피티제로(GPTZero)에 대한 내용은 전 편에서 확인하세요!https://blog.naver.com/alcherads/223021869452 “이거 네가 쓴 거 아니지?” 챗GPT 사용했는지 알 수 있는 방법 질문만 입력하면 눈 깜짝할 새로운 모범답안을 제시하는 오픈에이아이(OpenAI)의 대화형 인공지능 챗지… blog.naver.com 챗GPT를 사용해 짧은 문장을 여러 차례 이어붙이면 탐지기를 속일 수 있다고 합니다. 챗GPT 결과를 통째 활용하는 대신 부분 활용하거나작성자가 문장을 덧붙이거나 풀어서 쓸 경우, 탐지와 판단은 훨씬 어려워집니다. 오픈AI와 유사한 기능의 대화형 인공지능 출시가 예고되어 있고, 챗GPT 또한 계속 업그레이드될 상황에서 특정 플랫폼 맞춤형 탐지도구는 금세 효용성을 잃어버릴 수 있습니다.오픈AI도 워터 마킹 기술을 개발하고 있지만, GPT3 등 기존 제품에 적용하지 않고 있습니다. 또한 챗GPT와 같은 도구는 과제물과 시험 부정에만 쓰이는 게 아니라이메일 철자 검사와 자료수집, 보고서 얼개 작성 등 다양한 개인적 용도로 활용할 수 있습니다. 챗GPT의 모든 결과물에 원천적으로 워터마크를 적용할 경우, 예상외로 득보다 실이 많아질 수도 있다는 뜻입니다. ‘챗GPT 시대’의 대응책은? 배움과 가르침의 개념 자체가 흔들리게 된 지금, 교육 현장에서일선 교사들이 더 능동적인 역할을 해야 한다는 주장도 나오고 있습니다.인공지능 기술을 두려워만 하기보다는 능력을 강화해 주는 ‘아이언맨의 슈트’처럼 쓸 수 있는 방법을 찾아야 한다는 것입니다. 교육학계에서 전면 도입 필요성을 주장하던 ‘플립 러닝’이 그 방법 중 하나입니다.이는 교사가 먼저 설명하고 학생이 질문하는 기존의 방식을 ‘뒤집는다’는 데서 온 수업방식인데요, 교사는 학생들에게 동영상, 교재, 논문 등 자료를 사전에 주고 챗GPT 등을 활용해 스스로 학습을 하게 한 후 수업에서는 이를 기반으로 토론과 발표를 하는 것이 핵심입니다.나아가 인공지능 기술의 발달로 인해 더 벌어질 ‘교육 격차’를 해결하기 위해서도 기존의 교육이 더 능동적으로 변해야 한다는 지적도 나오고 있습니다. 박남기 교수는 “좋은 학교에서 좋은 교육을 받는 아이들은 인공지능에게 지적 역량을 의존하지 않는 방법을 배울 수 있다. 하지만 그런 유혹을 제대로 막아주지 못하는 환경에서 자란 아이들과는 계속 격차가 생길 것”이라며 “바로바로 답을 주는 ‘즉답 AI’에게 계속 의존하면 아이들의 지적 근육이 약해질 가능성이 있다”라고 말했습니다. 실제로 서울시 교육청 등에서 디지털 학습과 AI 교육을 강화하겠다는 방침을 낼 때마다, 강남·서초 등지의 학부모들은 맘 카페 등 커뮤니티에서 “이럴 때일수록 손으로 쓰는 학습을 계속 시켜야 한다”라고 서로 팁을 공유하기도 했다고 전해집니다. 최고의 공격 수단과 방어 수단을 개발하려는이 군비경쟁과 보안 기술에서 절대적 승자는 존재하지 않습니다. 특히 챗 GPT 등 최신 인공지능 기술은 ‘생성적 대립 신경망(GAN)’을 기반으로 하는데, 이는 적대관계인 상대의 전략을 파악하고 그에 맞춤해서 전략을 업그레이드하는 구조입니다.*생성적 대립 신경망(Generative Adversarial Network): 생성 모델과 판별 모델이 경쟁하면서 실제와 가까운 이미지, 동영상, 음성 등을 자동으로 만들어내는 기계학습 방식즉, 이는 신기술 개발과 탐지 기술이 끝없이 물고 물리는 관계이기 때문에 어느 한쪽의 안정적 승리가 보장되지 못한다는 뜻이기도 한데요,이는 달리 말하자면 챗GPT와 같은 강력한 답변 도구가스마트폰이나 검색엔진처럼 일상이 되는 환경이 되는 것을 의미합니다. 기술적 해결이 근본적으로 불가능한 만큼, 이용자가 최신 기술의 속성을 학습하고 대응책을 수시로 업데이트하는 비판 능력을 갖추는 게 무엇보다 중요해지게 될 것으로 보입니다. 챗GPT는 이러한 교육계의 혼란에 대해서도 답을 갖고 있을까요? 챗GPT에게 ‘네가 학교 교육에 끼칠 부정적인 영향을 알고 있는지, 해결책은 무엇인지’를 물어보았는데요,간추린 답변을 마무리로 오늘 포스팅을 마치겠습니다.다음 편에 더욱 유익한 소재로 돌아오겠습니다!이미지 인식, 음성인식, 학습 데이터 구축 및 다양한 인공지능 기술 도입을 하고 싶으시다면고민 없이 문의는 AI 히어로즈에게! 저 같은 언어 모델을 교실에서 사용하면 연습 자료를 효율적으로 만들 수 있는 동시에, 학생들의 비판적 사고와 창의력을 잠재적으로 감소시킬 수 있다는 것을 이해하고 있습니다. 잠재적인 해결책으로는 기계로 인간 교사를 대체하기보다는, 나와 같은 언어 모델을 보완재로 사용하는 것입니다. 예를 들어 나를 활용해 과제와 발표 자료를 만들고, 수업 시간에는 토론과 질문과 개인적 피드백을 제공하는 식입니다. 또한, 학생들이 정보 출처를 인지하고 자동화 텍스트에 대한 한계를 배울 수 있는 디지털 사용 능력에 대한 적절한 교육을 제공하는 것입니다.” 챗GPT 답변 ▼ 챗GPT와 관련한 다양한 포스팅이 궁금하다면 아래 콘텐츠를 확인하세요! ▼1) MS vs Google의 신경전?! 긴 서막을 한 장에 담았다!https://blog.naver.com/PostView.naver?blogId=alcherads&logNo=223009458367&categoryNo=1&parentCategoryNo=0 불꽃 튀는 챗GPT 테마주판 , 람다가 뭐길래 구글이 만능 챗봇인 챗GPT와 본격 경쟁할 ‘바드(Bard)’라는 인공지능을 전격 공개했습니다. 챗GPT… blog.naver.com 2) MS와 구글의 검색시장 패권전쟁(람다를 중심으로)https://blog.naver.com/PostView.naver?blogId=alcherads&logNo=223006833756&categoryNo=1&parentCategoryNo=0 AI 관련주 주목, ‘구글 종말론’ 나오나.. 챗GPT 한 장 정리 사람과 대화하듯 글로 대화하는 오픈 AI의 AI챗봇 ‘챗GPT’가 선풍적인 관심을 모으고 있… blog.naver.com 출처: 애플경제, 동아일보, 주간조선