챗GPT를 서비스하는 오픈 AI 사에서 성인 이용자를 상대로 성적 대화와 딥페이크 수준의 영상 생성 등 성인용 콘텐츠를 허용하겠다고 한 것을 두고 IT 전문가인 김덕진 IT커뮤니케이션연구소장은 "돈 벌고 비즈니스 하겠다는 방향성에 대한 선포"라고 분석했다.
김덕진 소장은 28일 CBS라디오 <김현정의 뉴스쇼>에서 "원래 오픈 AI를 만든 샘 올트먼이 기본적으로 비즈니스맨이기에 어떻게 하면 돈을 버는지를 잘 알고 있는 사람"이라며 이 같이 설명했다.
김 소장은 "때문에 후발주자들이 계속 성인용 버전을 풀면서 치고 올라오고 있는 상황에서 전 세계에서 가장 많은 회원 수를 가지고 있는 오픈 AI가 '우리도 못 할 거 없어. 우린 대신에 성인용에 대한 인증만 강하게 할 거니까 그렇게 해서 자유로운 대화를 할 수 있게 해 줄게'라는 건 하나의 수순이었다"라고 분석했다.
김 소장은 성인인증 관련 "기술적으로 지금 오픈AI에서 얘기하는 것은 일단은 '우리가 번호 인증 비슷하게 완전한 개인 인증을 넣을 것이다. 카드 인증이나 이런 걸 넣을 것이다'가 하나 있었고 두 번째는 대화의 패턴을 기반으로 해서 지금 대화하는 사람이 미성년자인지 아닌지 구분하는 기술을 연구하고 있다고 했다"며 "만약에 이 사람이 미성년자라고 판단이 됐을 때는 대화의 수위를 낮춘다거나 아니면 뭔가 극단적인 얘기를 하면 그 부분에 있어서 통지하겠다는 이야기를 하고 있는 상황"이라고 전했다.
김 소장은 이러한 흐름을 두고 "두 가지로 볼 수 있을 것 같은데 비즈니스적으로 지금 모든 AI 회사들이 너무나도 많은 투자를 받았는데 계속 돈을 까먹고 있기에 돈을 벌어야 되는 상황"이라며 "그렇기 때문에 이런 성인용 모드에 대한 변화들은 계속적으로 생길 수밖에 없다"라고 설명했다.
김 소장은 "(두 번째로는) 이런 상황에서 우리가 실제로 이러한 서비스를 어떻게 받아들이고 정책과 규제가 빠르게 움직여야 되는 부분이 있다"며 "그리고 이것보다 더 중요한 건 이걸 받아들이는 우리들이 바뀔 것 같다는 것"이라고 말했다.
김 소장은 "성인용이냐 야하냐 위험하냐가 아니라 이렇게 욕설도 섞고 야한 대화도 하는 AI랑 우리가 너무 일상적으로 대화를 하기 시작하면 과연 우리는 사람하고 대화하는 게 편할까, 아니면 AI랑 대화하는 게 편할까라는 걸 잘 생각을 해 봐야 된다"라며 "이 성인용 모드가 성인용으로 끝나는 게 아니라 최근에 AI 회사들이 여기다 여러 가지 서비스를 붙이고 있다. 예를 들면 이미 오픈 AI가 쇼핑이나 아니면 인터넷 검색이나 내용들을 챗GPT 안에서 다 하게 하고 있다"고 설명했다.
김 소장은 "예전에는 AI한테 일상적인 대화로 쇼핑을 했는데 욕도 하고 야한 얘기도 하는 내 애인 같거나 내 친구 같은 애들이 물건 사라고 얘기하는 것"이라며 "그렇게 얘기하기 시작하면 과연 우리는 사람하고 대화하는 게 편할까 아니면 이들이 만들어 놓은 정말 사람 같은 AI랑 계속적으로 대화를 하면서 콘텐츠도 소비하고 돈도 쓰면서, 이 안에 '락인'이 될까라는 것을 더 큰 관점에서 생각을 해 봐야 된다"라고 주장했다.
김 소장은 "나를 더 오랫동안 기억하고 나의 맥락도 알고 대화도 나에게 맞춤형으로 해 주면서 쇼핑도 하고 뭐도 하는 애랑 계속 대화를 하면 과연 사람들은 나에게 싫은 소리 안 하고 내가 얘기하는 거 다 받아주면서 나에게 맞춤으로 대화하는 이 녀석에게 빠질까, 아니면은 내가 가서 싫은 소리 들으면서 사람하고 대화를 할까라는 게 매우 중요하게 될 것"이라며 "그리고 그 안에서의 비즈니스 모델들, 그러니까 돈 벌려고 이들의 모형을 잘 봐야 한다"라고 지적했다.
전체댓글 0