촘스키가 '악의 평범성'이라 지적한 챗GPT4.0에게 물어보니…

[인공지능, 묻다] ①챗GPT의 등장과 사회 변화, 챗GPT에게 묻다

챗GPT는 오픈AI(openai.com)가 개발한 인공지능 챗봇으로, 챗은 채팅의 줄임말이고 GPT는 'Generated Pre-trained Transformer'의 앞 글자를 딴 것이다. 챗GPT는 사용자가 대화창에 텍스트를 입력하면 그에 맞춰 완성된 문장의 형식으로 답변을 제공한다. 지난해 12월 공개 단 5일 만에 하루 이용자가 100만 명을 돌파하면서 돌풍을 일으키기 시작했다. 질문에 대한 답변은 물론 논문 작성, 번역, 노래 작사·작곡, 코딩 작업 등 광범위한 분야의 업무 수행까지 가능하다는 점에서 기존 AI와는 확연히 다른 면모를 보이고 있다. 오픈AI는 지난 14일 업그레이드 된 GPT4.0을 공개하기도 했다.(GPT4.0은 월 20달러의 유료 서비스다.)  

<프레시안>은 챗GPT를 둘러싼 환호와 우려에 대해 최신 버전인 GPT4.0과 대화를 통해 짚어보려고 한다. 챗GPT와 대화는 지난 16일 이명선 기자가 진행했다. 편집자

ⓒ연합뉴스

인공지능(AI) 챗봇 '챗GPT' 등장에 환호와 우려가 동시에 터졌다. 특정 주제에 대한 검색에 그치는 것이 아닌, 챗GPT가 인간을 대신해 논리 정연한 문장을 써 내려가는 모습에 혀를 내두르는 이들이 많았다.

반면, 세계적인 언어학자 노엄 촘스키 메사추세츠공대(MIT) 명예교수는 챗GPT에 대해 지난 3월 8일(현지시간) <뉴욕타임스> 기고문을 통해 "기계가 인간의 뇌를 추월하는 날은 아직 동도 트지 않았다"며 "어떤 것에 대해서도 입장을 취하는 것을 거부한다. 진실과 거짓을 모두 생산하고, 윤리적이고 비윤리적인 결정을 똑같이 지지한다"고 비판했다.

실제 챗GPT에게 질문을 해본 결과, 문장을 써 내려가는 데 막힘이 없었다. 특히 언어 능력이 향상됐다는 버전 4.0의 경우, 한국어로 묻고 답하는 데 있어 장벽이 느껴지지 않았다. 다만, 촘스키의 지적대로 어떤 입장을 취하지 않은, 제3자적 태도로 사안을 다루는 경향성이 확연히 느껴졌다. 

챗GPT는 스스로를 "인공지능 언어 모델"로 "대량의 텍스트 데이터에 기반해 다양한 주제에 답변할 수 있다"면서도 "인공지능이기 때문에 데이터에 제한이 있고, 인간처럼 기록이나 의식을 가지고 있지 않다"고 소개했다.

"대량의 텍스트 데이터에 기반"한, "다양한 주제에 답변할 수 있"는 능력. 지식 기반의 전문가라고 할 수 있는 '기자'나 '교수'같은 직군에 가장 위협이 되는 존재라는 생각이 들었다. 그래서 "너랑 나랑의 유사성은 뭘까?"라고 질문했다.

챗GPT는 △정보 전달력, △언어 이해력, △다양한 주제 제시 능력 등을 닮은꼴로 꼽았다. 그러면서 인간처럼 기록이나 의식을 가지고 있지 않은 점과 자신의 데이터가 편향될 수 있다는 전제 아래 결과에 영향을 받을 수 있어 "인공지능 모델은 도구적으로 고유하게 활용되어 기자의 작업을 지원하는 역할을 수행할 수 있다"고 덧붙였다.

기자 역시 편향적일 수 있다는 내용으로, 다음 질문을 이어갔다.

관련해 "넌 기자의 책임을 대신할 수 있니?" 하고 물었다. 챗GPT는 "기자의 책임을 전적으로 복제하는 데는 한계가 있다"고 전제하면서 "(자신은) 인간처럼 원칙적인 의식과 판단력을 갖고 있지 않"으며 "현재 2021년 9월까지의 데이터를 학습"했기 때문에 "최신 정보와 경향에 대한 인식이 부족하다"고 밝혔다. 또 "인공지능 모델은 데이터에서 패턴을 찾아 적용하는 방식으로, 인간과 같은 직관(直觀)을 가지고 있지 않"기 때문에 "인간의 기록과 배경을 이해하는 데 부족함"이 있다고 했다.

챗GPT의 겸손한 답변에도 불구하고, 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 후텐로커 MIT교수는 챗GPT를 "계몽주의 이후 인간의 가장 큰 지적 혁명을 가져올 것"이라고 전망했다. 과연 '지적 혁명'에 그칠까? '노동 혁명' 또한 예견된 일 아닐까? 지적 영역보다 노동 영역에서의 우려가 더 큰 것이 사실 아닌가? 

챗GPT는 "인간의 노동을 복제할 수 있느냐?"는 질문에 "인간의 노동 일부를 복제"할 수 있다면서도 "인간의 전문성과 활력을 필요로 하는 분야에서는" 인간의 노동력이 계속 유지될 것이라고 답했다. 

이어 인간 대체 가능 일자리로 서비스업과 기계 조작 및 데이터 입력 처리를, 반면 대체 불가능 일자리로 발명가, 상담사, 데이터 분석을 통한 혁신 연구자, 인간 고유의 능력인 직관-감성 등의 일자리를 열거했다.

촘스키 교수는 챗GPT의 답변 태도를 '악의 평범성'에 빗대 지적했다. 어떤 질문에도 당연하고 평범한 범위 내에서 답하지만, 그 답은 도덕적 무관심에서 비롯된 만큼 '악'이 될 수 있다는 비판이다.(☞ 관련 기사 : 촘스키 "챗GPT가 보여주는 악의 평범성, 표절·무시·생략")

우크라이나 전쟁과 한일 과거사 관련 질문에서 챗GPT의 무관심, 혹은 제3자적 태도가 드러났다. 특히 한일 과거사 문제에 대한 질문에 "복잡하고 쉬웠던 문제"라며 자신의 조언대로라면 "평화, 치유, 연결, 협력을 실현할 수 있을 것"이라고 말해 감정과 판단이 배제된 답변의 한계를 보여줬다.  

이 기사의 구독료를 내고 싶습니다.
  • 3,000원
  • 5,000원
  • 10,000원
  • 30,000원
  • 50,000원
+1,000 원 추가
+10,000 원 추가
-1,000 원 추가
-10,000 원 추가
10,000
결제하기
일부 인터넷 환경에서는 결제가 원활히 진행되지 않을 수 있습니다.
국민은행 : 343601-04-082252 [예금주 프레시안협동조합(후원금)]으로 계좌이체도 가능합니다.
이명선

프레시안 이명선 기자입니다.

전체댓글 0

등록
  • 최신순