바이엘(BAYER)이 아스피린(Aspirin)을 의약품으로 내놓은 건 지금으로부터 100년도 더 전인 19세기 말이었다. 그런데 이 약이 왜 해열·진통·소염 효과를 내는지가 밝혀진 건 1971년 존 베인(John Vane)의 연구를 통해서였다. 80년 가까이 사용한 뒤에야 약이 잘 듣는 이유를 알게 된 것이다.
문제는 이와 함께 밝혀지기 시작한 아스피린의 부작용이다. 독감이나 수두 등 바이러스 감염을 앓는 소아에게 아스피린을 먹이면 간과 뇌가 급격히 손상되는 '레이증후군'이 발생할 수 있다. 사망률이 20~40%에 달하는 심각한 부작용인데, 아스피린이 왜 이런 반응을 일으키는지 정확한 기전은 지금도 완전히 밝혀지지 않았다.
챗GPT, 클로드를 비롯한 생성형 AI 모델 탄생에 여러 계기점이 있는데, 그중 하나가 오픈AI 연구진들이 2020년에 내놓은 "신경망 언어모델의 스케일링 법칙(Scaling Laws for Neural Language Models)"이라는 논문이다. 저자 리스트에는 당시 오픈AI에 몸담고 있었던 앤트로픽 CEO 다리오 아모데이(Dario Amodei)의 이름도 보인다.
이 논문의 핵심 결론은 잘 알려져 있다. 언어모델의 성능은 '설계를 잘하느냐'가 아니라 '데이터 학습량, 계산량, 매개변수(parameter) 규모를 얼마나 키우느냐'에 따라 좌우된다는 것이다. 똑똑한 구조를 새로 발명하는 것보다, 기존 구조를 크게 만들고 데이터를 많이 먹이고 계산량(compute)을 많이 투입하면 성능이 규칙적으로 좋아진다는 스케일링 법칙(Scaling Law).
문제는 규모가 커짐에 따라 AI 성능이 얼마나 개선되는지는 거의 정확히 알아낼 수 있는데, 도대체 왜 성능이 좋아지는지에 대해서는 아는 게 거의 없다는 점이다. 이 논문 작성에 참여한 다리오 아모데이가 2023년에 한 인터뷰에서 실제로 이 사실을 인정하기도 했다. (☞인터뷰 영상 바로가기 https://www.youtube.com/watch?v=Nlkk3glap_U)
AI 규모 전쟁의 출발
사실 언어모델 설계도에 해당하는 트랜스포머(Transformer) 아키텍쳐는 2017년에 발표된 논문 <어텐션이 필요한 것의 전부다(Attention is All You Need)>로 사실상 완성된 것이나 다름없다. 10년 가까이 지난 지금도 대부분의 AI 모델 아키텍쳐는 큰 변화나 발전이 없다. GPT가 'Generative Pretrained Transformer(사전학습된 생성형 변환기)'의 약자 아닌가.
설계도면은 있지만 성능 개선이 문제였다. 그런데 데이터 학습량, 계산량을 늘려보고 매개변수도 늘렸더니 성능이 엄청나게 좋아지기 시작했다. 설계는 그대로 두고 규모만 늘렸을 뿐인데 말이다. 게다가 규모를 10배 키우면 성능이 얼마나 좋아지는지 거의 정확한 예측이 가능하다는 점(스케일링 법칙)까지 알게 된 것이다.
여기서부터 AI 업계는 무지막지한 규모 전쟁을 시작하게 된다. 그래서 '대규모 언어모델(LLM)'이 탄생한다. 데이터 학습량을 늘려야 하니 병렬학습에 최적화된 GPU가 대규모로 필요해지고, 이 성능을 높이기 위해 HBM, DRAM 등의 메모리도 동원되어야 했다. 이것들을 모두 결합한 대규모 데이터센터 열풍도 여기에서 출발한 것이다.
한번 시작된 전쟁은 브레이크가 듣지 않는다. AI 효능이 확인되고 스케일링 법칙이 발견되자, 규모를 늘리는 길 외의 다른 길은 아무도 찾지 않았다. 남들이 선점하기 전에 데이터센터를, 남들이 개발하기 전에 GPU와 메모리 칩 대량생산을 하는 것만이 살 길이 된다. 이재명 정부의 '3대 메가 프로젝트'도 규모 전쟁에 한국의 모든 자원을 때려부을 태세다.
효능만 믿고 남용한 대가
하지만 도대체 왜 성능이 좋아지는지에 대해서는 아직까지도 밝혀진 바가 없다. 성능만 좋아지면 되지 뭐가 문제냐고? 앞에서 언급한 아스피린 사례를 비롯해, 인류 역사에서 효능만 믿고 남용하다가 톡톡한 대가를 치른 적이 한두번인가.
1950~60년대 수면제·입덧 완화제로 사용된 탈리도마이드는 임신 중 복용할 경우 심각한 선천성 기형과 연결되면서 세계적 의약품 재난이 된 바 있다. 이 사건은 이후 전 세계 신약 승인 제도(임상시험 3상, 장기 추적조사 의무화)를 근본적으로 바꿔놓은 계기가 되었다.
20세기 초 식물성 기름 수소화(경화) 기술이 개발되면서 식감 좋은 마가린·쇼트닝이 널리 퍼졌지만, 심혈관 질환 위험을 높인다는 증거가 축적되며 미국 FDA가 트랜스지방을 식품 첨가물 목록에서 퇴출시킨 것도 최근(2015~2018년) 일이다. 맛도 있고 조리방법도 편리했지만 거의 1세기 가까이 대량 소비된 후에야 부작용이 규제로 이어진 거다.
트랜스포머 아키텍쳐는 분명 인간이 '발명'한 설계도다. 여기에 거대한 언어, 이미지, 코드 데이터의 혼합물을 학습시켜 놓고 나니, 그 안에서 생각지도 않았던 많은 기능이 튀어나온다는 사실을 알게 된 건 '발견'에 가깝다. 어떻게 이런 기능이 발현되는 것인지, 혹시 파멸적인 부작용은 없는 것인지, 아직 아무도 알지 못한다. 아스피린·탈리도마이드·트랜스지방과 AI가 다르다고 과연 장담할 수 있을까?
원유, 그리고 그 무거운 대가
인류 역사에서 유사한 사례가 또 하나 있다. 바로 원유(Crude Oil)다. 19세기 중반, 처음에 원유가 발견되었을 때 사람들이 원유를 정제한 목적은 단 하나, 등유였다. 이 과정에서 함께 나오는 휘발성 물질, 즉 지금의 휘발유는 오히려 다루기 위험한 골칫거리 취급을 받으며 강에 그대로 버려지기 일쑤였다.
그런데 반세기도 지나지 않아 그 물질이 내연기관과 만나며 20세기 문명 전체를 새로 쓴 핵심 연료로 떠올랐다. 어디 그뿐인가. 원유는 끓는점 차이에 따라 등유, 휘발유, 경유, 나프타, 아스팔트 등 인류에게 쓸모 있는 물질을 다양하게 뽑아낼 수 있었다. 거대한 정유공장이 세워지고 탈염과 전처리, 상압증류, 감압증류, 개질·정제·혼합과 전환 공정을 거쳐 수많은 석유화학물질을 제공하기 시작했다.
하지만 우리 모두 잘 알듯이 인류에게 편리함을 준다는 이유로 시작된 석유 사용이 기후위기의 핵심 원인이 되고 있다. 게다가 미국이 베네수엘라와 이란에서 벌이는 군사작전이 보여주듯, 석유 채굴 소유와 통제를 놓고 수많은 권력 다툼과 전쟁이 끊이지 않는다. 석유에 인류의 미래를 저당잡힐 것인지 말 것인지를 놓고 지금도 치열한 전투가 치러지고 있는 것이다.
발명인가 발견인가는 부차적 질문
석유가 땅속의 원유를 정제해 산업문명의 연료로 만든 기술이었다면, 생성형 AI는 인간 사회가 남긴 언어·이미지·코드·노동의 데이터를 정제해 새로운 생산력으로 바꾸는 기술이다. 문제는 석유가 그랬듯 AI 역시 기후위기 주범인 데이터센터 건설을 가속한다. 석유 시대의 권력이 유전을 장악한 자에게 갔다면, AI 시대의 권력은 데이터와 연산자원을 장악한 자에게 간다.
AI는 인간 지능이 발명한 것이라기보다 인간 사회가 축적한 데이터 속에서 채굴된 능력에 가깝다. 하지만 원유가 그랬듯 AI도 처음에는 몇몇 쓸모 있는 기능으로 주목받지만, 어느 순간 사회 전체의 생산방식을 바꾸는 범용 원료가 될 수 있다. 문제는 그 원료를 누가 캐내고 누가 정제하며, 누가 그 부산물과 오염을 떠안는가이다.
AI가 발명인지 발견인지는 어쩌면 부차적인 질문일지 모른다. 더 중요한 것은, 발견된 능력을 누가 소유하고 어떤 목적으로 배치하느냐이다. 석유가 인류에게 산업문명을 가져왔지만 동시에 전쟁과 기후위기를 낳았듯, AI도 생산성을 높인다는 이유만으로 사회 전체에 무제한 투약될 수는 없다. 효능이 확인된 기술일수록, 더 많은 검증과 통제가 필요하다.
그나마 석유의 효능은 그 이유가 무엇인지 잘 알려져 있는 편이다. 원유가 어떻게 생성되는지, 왜 이렇게 다양한 물질로 분해가 가능한지, 다룰 때 어떤 위험성을 갖고 있는지도 말이다. 그런데 AI의 효능은 그 이유가 무엇인지 인류는 아직도 잘 모른다. 부작용이 무엇인지는 더더욱 블랙박스다. 위험성을 확인하기도 전에 맛 좋으니 퍼마시자고만 할 수는 없는 노릇 아닌가.
전체댓글 0