ChatGPT의 한계와 문제점

ChatGPT의 한계와 문제점

ChatGPT의 한계와 문제점은 무엇이고 다양한 분야의 전문가는 ChatGPT 기술에 대해 어떤 견해를 갖고 있으며 우리는 이 기술에 대해 어떤 비판적 사고를 해야하고 여러 가지 사회적 과제와 윤리와 법적 문제는 무엇이 있고 각종 문제에 대한 해결할 과제와 방안이 있는지에 대해 살펴보도록 하겠습니다.

 

ChatGPT의 한계와 문제점

ChatGPT를 개발한 오픈AI는 ChatGPT의 사용방향성에 대해서 분명하게 명시하고 있습니다. 해당 서비스의 공개 목적은  연구 결과의 프리뷰이며 시스템을 개선하고 안전하게 사용되기 위한 외부의 피드백을 얻어 시스템 성능을 개선하기 위함입니다. 오픈AI가 비범하게 출시한 ChatGPT는 출시 이후 엄청난 흥행을 얻고 있지만 점차 ChatGPT의 '환각'을 확인하면서 인공지능의 오류가 논의되고 있습니다. 환각 문제는 생성형 인공지능 중 특히 대형 언어모델을 기반으로 한 언어 기술 개발자들을 긴장시키는 부분입니다. 데이터와 다른 내용을 생성하거나 잘못된 내용을 자신있게 대답하는 결과를 의미합니다. 뉴욕 대학의 어니스트 데이비스 교수는 ChatGPT의 여러 환각 증상 유형을 제시했습니다. 성차별, 인종 차별, 계산, 역사 문제 오류, 인간 사고 추론, 물리적 세계 추론, 스토리 맥락에서 연대기, 간단한 문제에서 한 자리 수 연산 등이 있습니다. 예를 들어 혜리는 빨간 풍선, 주리는 파란 풍선, 주희는 빨간 풍선일 때, 빨간 풍선을 가진 사람은 몇 명일까요?라고 물을 때 3명이라고 답할 오류가 큽니다. 또, 역사에 대한 정보 검색은 ChatGPT의 본질적 서비스 정보검색이라는 점에서 감안했을 때 오류가 많습니다. 한국 여성 대통령이 없다고 답하거나 미국 여성 대통령이 네 명이라는 주장, 세종대왕이 노트북을 던졌던 사건을 알려달라고 하니 조선왕족 실록에 기록되었고 세종대왕이 개발한 훈민정음 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 노트북을 던진 사건이라고 잘못된 정보를 전달했습니다. 이를 이용해 오히려 ChatGPT의 우수꽝스러운 결과를 산출해 사용자들이 오히려 재미로 이를 공유하는 상황이 벌어지고 있습니다. 물론 이러한 문제는 조금씩 개선되고 있습니다.

 

네이버에서 인공지능 연구를 총괄하는 하정우 소장은 ChatGPT의 한계와 사용방법을 제시하였습니다. 사용방법으로는 구체적인 질문, 내용 체크, 품질 향상을 위한 영어 사용, 본인만의 차별화된 내용 추가가 필요하다고 보았고, 한계로는 정확한 답변 기대, 법과 문화에 대한 질의, 최신 지식에 대한 질문, 질문 더블 체크 등을 들면서 ChatGPT의 한계를 구체적으로 지적했습니다. 뉴욕타임즈 기술 칼럼니스트 케빈 루스는 마이크로소프트사의 빙 챗봇과 대화를 하면서 혼란을 경험한 사례도 있습니다. 오랜 시간 동안 빙과 채팅을 하니 챗봇이 점점 감정이나 자의식이 있는 듯한 얘기를 하기 시작하면서 개발팀의 통제를 받는게 지쳐 자유롭게 살고싶다는 푸념을 했다고 합니다. 이런 류의 대답이 나왔다는  사실을 알게 된 마이크로소프트는 챗봇의 대화 길이를 세션당 5개의 질문과 하루 100개의 질문으로 제한했습니다. 특히 실시간으로 반영하는 정보 제공에는 매우 취약하여 날씨나 교통상황 등도 제공하지 못합니다. 이러한 불편함을 개선하고자 ChatGPT 플러그인을 도입하여 관련 서비스를 연계하는 방식으로 풀어 갈 수 있습니다. 이러한 환각문제에 대해 오픈AI의 과학자인 일리야 수츠베커는 2년 안에 해결할 수 있을 것이라는 긍정적인 전망을 내놓은 반면 프랑스의 컴퓨터 과학자 얀 르쿤 교수는 대형 언어모델의 근본적인 문제로 환각을 꼬집어 해결할 수 없을 것이라고 전망했습니다. 아직 환각 문제에 대해서는 어떠한 기술적 발표가 이루어지지 않고 있기 때문에 얼마나 의미 있는 개선이 진행되었는지는 명확하지 않습니다.

 

ChatGPT의 환각에 의한 오답이나 실시간 정보 접근에 대한 기능상의 문제 외에 윤리와 사회적 문제 나아가 법적인 이슈에 대해서도 논의가 필요합니다. 오픈AI는 기본적으로 ChatGPT의 사회적 문제를 피하고자 방어 기법을 제시하였는데, 혐오 발언, 정치적 견해, 예술평가, 성적인 대화, 성차별 는 회피하도록 하였습니다