챗GPT 문제점 과 오해에 대해서 당신이 몰랐던 7가지 에러

그렇다면 챗GPT 문제점 이나 편향성은 없을까요?  우선 기본적으로 우리가 인지할 수 있는 문제점과 조금 더 들어가서 나누어서 설명을 해보도록 하겠습니다.

 

우선 챗GPT의 전반적인 편견의 문제

 

우선 챗GPT 자체가 인지하고 있는 문제점을 한번 물어 보았습니다. 그 답변은 자신에 대해서 자세히 설명을 해주었는데요. 여기서 요약을 해보자면  챗GPT의 한가지 중요한 문제는 부정확하고 , 잘 알지 못하는 정보에 대해서도 그럴듯하게 거짓말을 하면서 정보를 생성해 내는 문제가 있습니다. 물론 이러한 이유는 아무래도 인터넷, 웹상의 수많은 정보를 수집하고 그 결과를 토대로 답안을 생성해 내는 특징이 있다보니 , 정보에 제한적이였고 수집되지 않은 정보에 대해서는 사실 잘 알수가 없는 것은 당연한 이야기일 것입니다.

 

편향성의 문제, 정보의 한쪽으로 치우치고 기울어진 답변을 하는 것은 아무래도 INPUT에 대한 OUTPUT 이 나오는 구조이기 때문 인데요. 이는 당연히 아무리 인공지능이라고 해도 하드웨어적인 기계이다 보니 한계가 분명히 있지 않을까 생각합니다. 따라서 연습되고 , 훈련되는 것에 따라서 편향되게 학습이 된다면 편향된 결과를 나타낼 것이고, 사람들은 이를 마치 절대적으로 맞는 것으로 인지하게 된다면 이야말로 정말 무서운 결과를 낳게 되는 미래SF영화 같은 결말이 나지 않을까요? 이런 편향성은 쟝르나 인종, 성별이나 문화에 따라 충분히 결과를 보여줄수 있습니다.

 

따라서 이러한 점을 우리는 잘 인지하고 균형잡힌 결과와 편향의 결과물을 낼수 없도록 연구와 개발을 통해서 AI모델을 잘 발전시키기 위한 연구개발자들의 역할이 분명 우선되어야 할 것입니다. 이러한 과학자의 과학적 윤리의식이 정말로 요구되는 때인것 같습니다.

 

Chat GPT 한계점

 

알고있는 최신정보 없는 GPT

 

우선은 우리가 사용하고 있는 버젼의 Chat GPT는 공부를 하기를 2021년까지 하였다는 사실이지요. 그러다 보니 2021년말 이후의 사실과 사건, 새로운 지식에 대해서는 알고 있지 못하는 것이 당연한 것일 겁니다. 물론 이는 데모사이트로 유료버젼의 경우 다를수 있겠습니다.

 

수학문제 풀기

 

사실 이미 시도해 보신분들도 있겠지만 , Chat GPT는 숫자 , 산수 , 수학에 약합니다. 이는 기본적으로 언어모델을 가지고 있기 때문에 텍스트를 기반으로 만들어지는 것이고 , 수치나 숫자에 관련된 풀이에는 답을 정확하게 내지 못하는 것을 이미 경험하셨으리라고 봅니다. 우리가 흔히 생각하는 인공지능을 갖춘 컴퓨터 라고 하기에는 너무 턱없는 답을 내놓으니 이런 부분에서 개선이 가능한지는 궁금하기는 합니다.

 

실시간 학습능력

 

이 부분은 참으로 애매하기도 하고 , 재밌기도 한 부분이 있습니다. 예를 들어 우리가 대화를 하면서 프롬프트를 채우면 , 이에 대한 학습이나 공부를 하고 반영하고 있는 것처럼 답에 근접하거나 원하는 것을 맞추어 가는 능력이 분명 있습니다. 하지만, 재미있는 것은 창을 닫고 이후에 다시 그것에 관하여 질문을 하거나 유사한 다른 문제를 낸다면 챗GPT는 이를 해결하지 못하는 문제가 발생 합니다. 따라서 정확히 이야기 하자면 챗GPT는 실시간 학습능력이 없고 , 현재 이루어지는 대화 속에서만 정보를 기억하고 경험하면서 그것을 반영하여 답하는 성질이 있는 것입니다. 우리가 상상하였던 인공지능 AI와는 다소 거리가 있는 것 같지요? 이러한 점을 인컨텍스트러닝 (In-context Learning) 이라고 부르기도 합니다.

 

추가학습이나 검색은 없는 챗지피티

 

챗지피티의 경우 앞서 설명드린 것처럼 최신정보는 없이 2021년까지의 데이터를 가지고 학습을 한 인공지능AI 입니다. 따라서 아무리 우리가 최근에 알고있는 상식적인 부분이나 기본적인 부분이라도 챗지피티는 이것을 이해하거나 알지 못하는 문제가 있습니다. 

 

이러한 학습이 아직까지는 제공되지 않기 때문에 , 여러모로 한계점이 있는 것은 분명하며 이러한 이유로 챗지피티 이외의 다른 OPEN AI의 유사한 모델들의 API를 연동하여서 활용을 검토해 보는 것도 더 나은 옵션이 될 수 있을 것입니다.

 

 

진실여부 검증 어려움 (Hallucination)

 

사실 이점은 이전에도 한번 언급한 부분인데 거짓말을 그럴듯하게 해내는 능력이 챗GPT는 뛰어나기도 합니다. 이는 단지 말로 , 언어적으로 텍스트기반으로 그럴듯하게는 잘 작성해 내는것은 분명하지만 이를 뒷받침할만한 증거 없이도 말을 지어내는 듯한 경우가 있으니 특히 인물이나 , 사람에 대한 정보 검색을 해보신다면 충분히 느끼실수 있을 것입니다. 이를 전문적 다른 용어로는 " 할루시네이션" 이라고 합니다. 이는 일반적인 언어모델의 문제점으로 분명 중요한 업무를 챗지피티를 이용해서 처리하거나 답을 구한다면 , 매우 주의하셔야 하는 부분임에는 분명 합니다.

 

 

이미지 생성 가능한가?

 

사실 요즘은 워낙 많은 대체재들이 나오는 것 같은데, 아직까지 특별한 크롤링이나 코딩으로 호출하는 것이 아니라면 이미지를 직접 인식하거나 생성해 내는 기능은 없습니다. 현재까지는 이미지 생성모델은 아니기 때문이라고 합니다. 물론 점차적으로 개발에 포함이 당연히 되는 영역 이기는 합니다. 

 

그림이나 이미지를 생성해 내는 인공지능 모델은 아직까지 국내에서 유명하지는 않지만 대표적인 프로그램들이 있습니다.

 

미드저니(Mid Journey)

 

미 항우주국인 나사 출신 엔지니어가 개발한 AI화가 프로그램 이라고 합니다. 디스코드에서 사용, 로그인만으로 쉽게 사용가능합니다.  프롬프트에 간단히 '/imagine' 명령어와 원하는 단어나 문장을 입력하면 이미지를 만들어 냅니다. 또한 참조할 이미지 사이트 url을 넣어 줄수도 있으니 원하는 방향으로 만들어 내기 좋습니다. 대략 25여개 무료, 이후 유료로 사용할수 있습니다.

이밖에도 대표적인 이미지 생성 인공지능 프로그램으로는 달리(DALL-E), 스테이블 디퓨전(Stable diffusion) , 딥드림 제너레이터 (Deep Dream Generator) 같은 이미지 생성 모델들이 있습니다. 이미지 생성 프로그램에 대해서는 몇가지 특징과 유,무료 여부 , 사용법에 대해 다음글에서 간략히 정리해 보도록 하였으니 , 이미지 AI를 간단한 명령어로 사용하시고 싶으시다면 참고해 보셔도 좋습니다.

 

AI 이미지생성 프로그램 비교 가기

 

 

챗GPT사용시 영어 VS 한글

 

사실 이렇게 질문하는 것 자체가 우문이라는 생각이 듭니다. 우선 개발자나 기본베이스 언어가 영어로 만들어진 모델이기 때문에 당연히 한글과 영어 사용에서 차이가 날수 밖에 없습니다. 따라서 성능의 차이를 보여 주게 되는데 이는 기본적으로 속도면에서는 바로 차이를 느끼시는데 전혀 무리가 없으며 , 세밀함이나 정확도에서도 분명 차이가 납니다. 또한 중간에 프롬프트에 대한 답변이 멈춘다거나 , 끈기는 경우가 영어로 하는 경우에는 현저히 적다고 볼 수 있습니다. 또한 우리가 보기에 한글이 더 짧은 문장으로 보이나 영어로 인식하기에는 한글이 훨씬 더 길게 받아들여져서 , 이러한 챗GPT 최대길이 '파라미터'에 있어서 차이가 있습니다. 이러한 이유로 우리는 확장프로그램인 '프롬프트지니' 사용을 통해서 더욱 더 양질의 답변을 얻고 , 풍부하게 챗지피티 능력을 십분 활용할수 있을 것입니다. 관련해서 자세한 내용은 아래에서 다루었는데 참고해 보셔도 좋습니다.

 

 

챗GPT 실전가이드 바로가기

 

이상으로 챗지피티에 관한 7가지 문제점 을 저는 '챗GPT 에러' 라고 표현하였습니다. 이러한 점들이 사실 에러가 될수도 있고 아닐수도 있겠지만, 현재까지는 분명 챗GPT가 가지고 있는 한계점 임에는 분명한 사실 입니다.