Check! GPT

GPT의 그림자 1: 할루시네이션과 양극화

신기술이 나오면 그 가능성과 함께 기술이 만드는 그림자가 논란이 되기도 합니다. 새로운 기술은 새로운 기회를 가져오지만, 이와 함께 기존 세계 질서에 불협화음을 초래하기도 하죠. Chat GPT와 같은 생성형 AI로 인해 발생하는 문제점들에 대해서 살펴봅시다.
글 _ 이시한



그럴듯함의 오류, 할루시네이션

가장 먼저 살펴볼 문제점은 ‘할루시네이션’입니다. ‘할루시네이션(Hallucination)’은 환각, 환영이라는 뜻의 단어인데요. AI 언어 모델에서는 주어진 데이터 또는 맥락에 근거하지 않은 잘못된 사실이나 허위 정보를 생성하는 것을 뜻합니다. 가장 유명한 사례로 ‘세종대왕 맥북 던짐 사건’이 있었죠. Chat GPT 초창기 시절, 사용자가 Chat GPT에게 “《조선왕조실록》에 기록된 세종대왕의 맥북 프로(MacBook Pro) 던짐 사건에 대해 알려줘.”라고 요청하자, ‘세종대왕이 한글을 만들다가 잘 풀리지 않아 화가 나서 맥북을 집어던졌다.’라는 식으로 설명을 해 준 것입니다. 이 설명대로라면 우리는 500여 년 전에 노트북을 개발한 외계 문명을 가진 나라가 되죠. Chat GPT가 사용자의 요구에 반응하기 위해 이야기를 만들어 낸 것입니다.

 


 

이처럼, AI는 자신이 하는 말의 참과 거짓을 판별할 자각 능력이 없습니다. 오로지 검색한 데이터를 기반으로 정보를 생성합니다. 학습한 데이터에 오류가 있거나 편향된 경우, AI는 확신에 찬 답변을 제공했지만, 그 내용은 사실과 다를 수 있다는 것입니다. 물론, 놀라울 만큼 빠른 속도로 기술이 발달하고 있어 할루시네이션도 점점 줄어들고 있지만, 인터넷에 떠도는 가짜 데이터를 바탕으로 결과물을 생성한다면 아무리 기술적으로 보완을 하더라도 한계가 있을 수밖에 없습니다. 따라서 사용자의 정확한 판단이 매우 중요합니다.
사용자 관점에서 이러한 오류에 대응하기 위해서는, 자신이 받은 정보에 대해 스스로 검증할 수 있는 지식을 갖춰야 합니다. AI가 제공한 정보가 의심스럽다면 사용자는 직접 검색을 통해 그 정보의 사실 여부를 확인해야 합니다. 또 다른 방법은, 질문을 더욱 구체적으로 해서 AI가 더 정확한 답변을 할 수 있도록 돕는 것입니다. 구체적인 질문을 통해 AI는 더 정확하고 관련성 높은 정보를 제공할 수 있습니다.

이제는 AI 디바이드* 시대
또 다른 문제점은 AI 디바이드, 즉 ‘양극화’입니다. AI를 사용하는 사람과 그렇지 않은 사람의 차이는 벌어질 수밖에 없죠. 이것은 단순히 Chat GPT 사용 경험 여부의 문제가 아닙니다. 여러 가지 AI 도구를 유료로 사용하는 사람과 무료로 사용하는 사람의 차이가 이미 빠르게 벌어지고 있거든요. 아무래도 비용을 들여서 성능 좋은 AI를 제한 없이 사용하다 보면 결과물의 양과 질도 다르게 쌓일 수밖에 없습니다. 그리고 그 차이는 시간이 지나면서 따라잡기 불가능할 정도로 벌어지게 됩니다. 마치 달리는 사람이 자동차를 탄 사람과 경주하는 것과 같은 상황입니다.
이러한 양극화는 개인뿐만 아니라 국가 차원에서도 충분히 일어날 수 있는 일이며, 이미 발생하고 있기도 합니다. 영어로 된 데이터가 많다 보니, 다른 언어로 개발된 것보다 영어권 국가들에서 개발한 AI의 출력 품질이 훨씬 좋고 정확합니다. AI 개발사를 보유한 나라와 그렇지 않은 나라의 기술 차이도 이미 심각할 정도로 벌어지기 시작했고요.
양극화는 국가적 노력이 필요한 구조적인 문제입니다. Chat GPT가 야기할 수 있는 문제점 중 가장 해결이 쉽지 않죠. 개인 차원에서는 뒤처지지 않도록 부지런히 사용법을 익히고, AI를 효과적으로 활용하기 위해 노력하는 것이 현실적인 대응 방법이 될 것입니다.
*AI 디바이드 : AI Divide, AI를 잘 활용하는 사람과 그렇지 못한 사람 사이의 격차

2024-07-01

이시한 : 성신여대 겸임교수이며 기술, 인문, 비즈니스 세 분야에서 책을 쓰고 있는 작가다. 《GPT 제너레이션》 《메타버스의 시대》 등 80여 권의 저서가 있다. 국회방송 ‘인생책방’ MC, KBS 라디오 ‘시사야’ ‘프리웨이’ 패널 등으로 활동하는 방송인이기도 하고, 대기업, 공공기관 등에서 한 해 200여 건의 강연을 하는 강연자이기도 하다. 유튜브 ‘시한책방’을 운영하고 있다.
이전글 목록 다음글
최상단으로 가기