앤트로픽이 나스닥(NASDAQ) 상장을 위해 미국 증권거래위원회에 제출한 S-1 문서(최초 공개 상장 신고서)에 담긴 내용 일부다. 주식 공모가를 높이기 위해 희망적 얘기로만 잔뜩 채워도 모자랄 서류에 "인류에게 재앙 또는 실존 위험(catastrophic or existential risks to humanity)"이라는 섬뜩한 문구가 들어갔다. 300쪽이 넘는 문서 중 위험요인(risk factors)을 다룬 섹션만 92쪽에 달한다.
주식시장과 투자 역사를 바꿀 수도 있는 초대형 IPO(기업공개) 서류에 왜 이런 내용을 적었을까? 앤트로픽이 특별히 양심적인 기업이어서가 아니다. 빅 테크 기업들이 상장 서류에 장황하게 위험요인을 서술하는 건 일종의 트렌드에 가깝다. 인류에게 위험을 경고할 목적이 아니라 돈을 끌어모으기 위해서다.
2019년애 우버(Uber) 역시 위험요인 섹션에 50쪽 넘게 할애했다. 심지어 상당한 손실을 계속 보고 있으며 수익성을 달성하지 못할 수도 있다고 적었다. 그런데 여기에 교묘한 문구를 삽입했다. "운전기사가 독립계약자가 아니라 노동자로 분류되면 우리 사업에 부정적 영향을 끼칠 것(Our business would be adversely affected if Drivers were classified as employees instead of independent contractors)"
좋게 말하면 투자자에게 위험을 알리는 성실한 공시처럼 보인다. 하지만 정치적으로는 상당한 압박 효과를 가질 수 있는 문구가 된다. 우리 사업에 투자해서 돈을 벌고 싶다면 우버 기사들이 노동자로 재분류되는 일 따위가 벌어지지 않도록 하라는 것.
우버 사업이 글로벌 규모였기에 이런 메시지도 세계 각국 정부와 법원을 향하게 된다. 노동자가 마땅히 누려야 할 권리인가, 투자자 보호를 위한 조치가 우선인가. 애초에 이런 사업모델을 허용 안 했다면 생기지도 않았을 허구적 대립 구도가 판결문과 행정명령에 담기게 된다.
AI 모델의 위험성이 인류에게 재앙이 될 정도로 정말 걱정이라면, 나스닥 상장 따위는 절대 해선 안 될 짓이다. 하지만 상장이란 행위는 돈을 벌기 위해 투자자를 설득하는 과정이다. 앤트로픽의 위험요인 섹션 역시 우버 사례와 유사한 언급을 여럿 찾을 수 있다.
'이런 조치'란 AI 모델의 안전·보안 문제로 인해 개발 속도를 늦추거나 모델 출시를 조절하는 것을 말한다. 만일 속도를 조절하면 경쟁자들에게 뒤처질 수 있고 투자자에게 손실을 끼치게 된다는 얘기인데, 불과 한 달 전에 AI 모델의 '정렬 실패(misalignment)'를 언급하며 개발 속도 조절을 주장했던 다리오 아모데이 앤트로픽 CEO 스스로 자신의 말을 뒤집은 꼴이다.
안전이 우선일까, 이윤이 우선일까? 앤트로픽은 여기서 '안전이 우선'이라고 답하지 않는다. 새로운 AI 모델을 출시해도 될 만큼 안전한지 판단함에 있어 너무 조심하면 시장 기회를 잃을 수도 있다는 것이다. 이 언급이 등장하는 대목의 소제목은 무려 "안전과 상업적 목표 사이의 균형(Balancing Safety and Commercial Objectives)"이다.
위험해서 더 투자한다는 논리
오픈AI나 앤트로픽 등의 기업은 매년 수십조 원의 손실을 입고 있다. 투자와 매출 대부분이 엔비디아(NVIDIA) 돈이라는 순환투자 문제도 있다. 그런데 '해를 끼치는 모델, 플랫폼, 앱'을 출시할 수도 있다니, 앤트로픽은 정말 이런 내용을 공시하고도 IPO를 성공할 수 있다고 믿는 걸까? 그렇다. 앤트로픽에겐 우버보다, 스페이스X보다 더 확실한 믿는 구석이 있다.
'우리는 충분히 경고했습니다. 그럼에도 투자를 결정한다면 그 책임은 온전히 여러분이 부담하셔야 합니다. 하지만 우리에게 투자하지 않고서, 과연 다른 대안이 있을까요?'
공시 서류나 인터뷰에서 직접 언급한 적은 없지만 앤트로픽이나 오픈AI, 엔비디아 등 거의 모든 AI 기업의 속내가 여기에 있다. "우리 기술은 인류에게 실존적 위험이 될 만큼 강력하다"는 경고가 동시에 "그만큼 중요한 기술인데 과연 투자하지 않을 수 있겠는가"라는 메시지로 둔갑하는 순간이다.
뒤질 것인가 vs 투지할 것인가
"AI 거품은 곧 꺼질 것이다" "순환투자에 불과하다" "막대한 투자에 비해 수익성이 없다" - AI의 안전·보안 위험성과 정렬 실패 문제 못지않게 거의 매일같이 AI 거품을 경고하는 기사와 주장이 나오고 있다. 하지만 AI 산업과 투자를 밀어붙이는 이들은 개의치 않는다. 아니, 공격적으로 이런 반론을 펼치고 있다.
'그래, AI가 위험하다는 것을 우리도 안다. AI 경쟁이 통제하기 어렵다는 것도 안다. AI가 수익과 번영을 가져올 것인지도 확실하지 않다. 그러나 경쟁자가 개발하는데 우리가 멈출 수 있는가? 각국이 투자하는데 투자자가 AI를 외면할 수 있는가? 뒤쳐지고 가난해질 건가, 위험하더라도 투자해서 조금의 가능성이라도 얻을 건가? 다른 대안은 없다.'
여기에 미국 트럼프 행정부는 익숙한 '중국 공포'를 들이민다. AI가 위험하다? 전기를 엄청나게 쓰고, 일자리를 바꾸고, 사이버 위험도 키울 수 있다? 하지만 중국이 먼저 초지능을 만들면, 자유국가의 기반이 다 무너질지도 모른다. 그러다가 미래의 일자리와 산업을 몽땅 빼앗기면? 그렇게 되는 것보다 지금 몇십조 달러를 투자하는 편이 차라리 싸지 않은가?
사실 한국에서 메가 프로젝트를 밀어붙이는 이재명 정부도 유사한 논리를 공유하고 있다. 기후위기의 주범이 되고 있는 AI 데이터센터, 거기에 메모리를 공급하며 한국 GDP와 수출 증가를 선도하는 반도체 산업, 여기에 국가의 운명을 거는 위험을 무릅쓰고서라도 투자하지 않으면 다른 대안이 어디 있냐는 것이다.
AI 시대의 '대안은 없다'
이쯤 되면 몇몇 독자는 눈치를 챘을 것이다. 그렇다. 20세기 말에 정말 자주 접했던 신자유주의 논리 "대안은 없다(There Is No Alternative)" 이데올로기다. 1980년대부터 유행한 대처리즘이 딱 이 논리였다. "긴축으로 실업이 늘어날 수 있다. 산업구조조정으로 피해를 보는 사람이 생긴다. 하지만 인플레이션과 경쟁력 저하를 그대로 둘 수는 없다. 그러므로 다른 현실적 선택은 없다. 이거 말고 다른 대안이 있는가?"
이걸 AI 시대로 옮기면 이런 논리가 된다. '그래, AI 에이전트는 해킹도 하고 사고도 칠 수 있어. 심지어 일자리를 빼앗아갈지도 몰라. 안전과 보안 문제가 발생하기도 하고, 막대한 자본이 낭비될 수도 있어. 하지만 중국도, 경쟁기업도 투자하고 있잖아. 그렇다면 우리가 투자하지 않는 선택이 가능한가? 선택은 자유야. 하지만 다른 대책도 없으면서 감당할 수 있겠어?'
기업들도 마찬가지 논리를 따라간다. 'AI가 회사에 당장 얼마나 돈을 벌어줄지는 모른다. 파일럿 프로젝트가 실제 생산성을 높였는지도 확신하기 어렵지. 하지만 경쟁사는 이미 수천억을 투자했어. 우리가 1년 뒤늦게 시작했다가 따라잡지 못하면 누가 책임질 건데? 투자해서 실패하면 돈을 잃지만, 투자하지 않아 실패하면 회사 자체가 뒤처진다. 그러니 일단 투자하는 것 외에 다른 대안은 없다.'
다른 AI는 가능하다
"다른 세상은 가능하다(Another World is Possible)" - 신자유주의 논리였던 "대안은 없다"에 맞선 노동자·민중운동의 슬로건이었다. 당시 신자유주의에 맞선 투쟁은 그저 '반대한다'는 선언을 넘어 스스로 대안을 만들어내는 운동으로 나아갔다. 브라질 포르투 알레그레의 참여예산제, 노동자가 폐업 공장을 직접 운영한 아르헨티나 자주관리 운동, 시장에 농업을 맡기는 대신 공동체의 통제권을 주장한 식량주권과 연대경제 운동, 금융거래세(토빈세) 제안….
지금도 마찬가지다. AI 투자 거품론으로 반박하거나, 초광역특구법 노동특례의 문제점만 짚는 것으로는 부족하다. 반대에만 머무를 경우 AI 산업의 성공 또는 실패를 구경하는 위치에 머물 뿐이다. 노동운동과 진보정치가 해야 할 일은 AI가 망할 것이라고 예측하는 것만이 아니라 AI 성패와 무관하게 노동자와 사회가 다른 결과를 얻을 수 있는 제도를 설계하는 데까지 나아가는 것이다.
대안의 설계는 거창한 담론에서 시작할 필요가 없다. AI와 반도체 산업 전망이 그토록 유망하다면, 그리고 거기에서 엄청난 이윤을 뽑아내고 있다면, 응당 그 산업의 앵커기업들(삼성전자·SK하이닉스·카카오·네이버 등)이 공급망 전체에서 적정임금과 노동안전을 책임져야 한다. AI로 생산성이 높아졌다면 그만큼 노동시간을 단축하는데 앞장서야 한다. 법으로 강제할 필요도 없다. 이들 기업이 공급망에서 이들 권리를 보장하도록 관련 노조와 교섭을 하고 협약으로 보장하면 되는 일이니까.
AI라는 기술의 발전을 멈추거나 늦출 수는 없을지도 모른다. 그러나 AI가 어떤 산업질서와 노동질서를 만들 것인지는 아직 정해져 있지 않다. 아니, 노동자·민중운동이 개입해서 새로운 질서를 만들어야 한다. 이것은 기술의 문제가 아니라 선택과 힘의 문제이니까. 다른 AI는 가능하다. 그 구체적인 방도에 대해 다음 글에서 더 깊이 들어가 보기로 한다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0