우리나라 사람들이 인공지능(AI)을 먼 미래의 일이 아니라 당면한 문제라고 느끼기 시작한 시점은 2016년 3월 알파고가 이세돌 9단을 이긴 때다. 바둑판에서 나올 수 있는 경우의 수는 우주의 원자 수보다 많다고 한다. 기존 컴퓨터 프로그래밍은 알고리즘을 개발자가 작성하여 입력해야 한다. 그런데 바둑은 모든 경우를 미리 계산해 두는 방식으로는 풀 수 없으니, 기계가 영원히 정복할 수 없는 분야라고 믿고 있었다. 경기 직전까지도 다들 이세돌의 압승을 점쳤다. 근데 결과는 반대였다. 이세돌이 다섯 판 중 한 판을 겨우 건졌다. AI에 대한 두려움과 경각심이 그때 생겼다. 자본이 이 기술에 눈을 뜬 시기이기도 했다.
다만 알파고는 오늘 우리가 쓰는 챗봇과는 다른 계통의 기술이다. 오늘날 우리가 사용하는 주요 서비스는 LLM(Large Language Model)을 사용하고 있으며 근간은 2017년 구글이 발표한 트랜스포머(Transformer)라는 모델이다. 이것이 우리의 생활 속으로 들어온 계기는 2022년 말의 챗지피티(ChatGPT)의 등장이었다. 서비스 공개 5일 만에 100만 명이 가입했다. 그때까지 가장 빨리 사용자를 모았다는 인스타그램도 두 달 반이 걸렸던 것을 챗지피티(ChatGPT)는 5일 만에 달성했다. 심지어 두 달 뒤에는 이용자가 전 세계 1억 명이 되었다.
이러한 일이 일어나게 된 배경은 크게 세 가지다. 첫째는 앞서 말한 트랜스포머 모델의 성능이 매우 뛰어나서다. 이 모델은 문장을 앞에서부터 한 단어씩 읽는 대신 전체를 한 번에 펼쳐놓고 어떤 단어가 어떤 단어와 관계가 깊은지를 따진다. 차례를 기다릴 일이 없으니, 계산을 한꺼번에 처리할 수 있고, 덕분에 모델의 규모를 예전과 견줄 수 없을 만큼 크게 확장할 수 있었다. 둘째, 계산을 담당할 장비가 이미 갖춰져 있었다. 아무리 모델의 성능이 뛰어나도 이것을 처리할 수 있는 하드웨어가 뒷받침되지 않는다면 보급될 수 없다. 근데 이 모델을 가장 효율적으로 실행할 수 있는 그래픽처리장치(GPU)가 그동안 컴퓨터 게임산업이 발전하고 대중화되면서 이미 넓게 보급되어 있었다. 셋째, 학습할 데이터가 충분했다. 아무리 모델의 성능이 뛰어나도 입력으로 넣을 데이터가 부족하면 좋은 결과물이 나올 수 없다. 그런데 인류는 90년대에 인터넷을 개발하여 전 세계 네트워크를 구축해놓았다. 인류가 쌓아온 지식과 기록 대부분이 이미 디지털로 옮겨져 있었고, 인터넷에 매일 글과 그림, 영상이 쏟아져 나오고 있었다. 이 모든 것이 AI모델을 위한 좋은 학습 재료가 되었다. 이처럼 오늘의 AI는 어느 천재가 혼자 발명한 것이 아니라 우리 모두가 남긴 유산 위에 세워져 있다.
지금 AI는 더 이상 개인이 쓰기 싫다고 거부할 수 있는 상황이 아니다. 경제협력개발기구(OECD) 회원국의 97%가 국가 차원의 AI 전략을 세웠고, 우리 정부 또한 공격적으로 AI도입 전략을 내놓고 있다. 우리나라의 2026년 AI 예산은 9조 9천억 원으로 전년의 세 배다. 그리고 시민들 사이에서도 점점 AI를 일상 생활에 사용하는 사람들이 늘어나고 있다. 이 흐름은 쉽게 되돌리기 어렵다. 사람은 편리한 것을 한번 맛보면 그 반대로 가지 않는다. 생태·시민사회 안에는 AI를 아예 쓰지 말자는 주장도 있다. 나는 그 문제의식을 가볍게 여기지 않는다. 또한 개인이 운동 차원에서 그러한 행동을 하는 것도 의미가 있다고 생각한다. 다만 비슷한 장면을 우리는 이미 한 번 겪은 바 있다. 인터넷이 처음 들어올 때도 똑같은 논쟁이 있었지만, 지금 거의 모든 시민 단체가 홈페이지를 두고 온라인을 주요한 소통 창구로 쓴다. 거부는 오래 가지 않았다. 그보다 '어떻게 쓸 것인가'에 대한 규칙을 미리 꼼꼼하게 만들어두지 못한 대가를 더 비싸게 치렀다.
전기 문제도 정리해 두자. 국제에너지기구(IEA)에 따르면 2024년 전 세계 데이터센터의 전력 소비는 세계 전체 전력의 1.5% 수준이고 2030년에도 3% 안팎일 것으로 전망된다.이 수치가 AI로만 만들어낸 것도 아니다. 우리가 보는 유튜브와 넷플릭스도 같은 데이터 센터 건물 안에서 돌아간다. 총량만 놓고 보면 AI를 유독 전기를 많이 먹는 괴물로 지목하기는 어렵다. 진짜 문제는 총량이 아니라 속도와 쏠림이다. 전기요금이며 물이며 송전망 부담은 데이터센터가 들어선 지역 주민이 고스란히 진다. 전력 소비와 재생에너지 문제 역시 심각하지만, 그것이 해결된다 하더라도 자본에 의한 AI 통제와 불평등 문제는 남는다. 모든 데이터센터가 재생에너지로 돌아간다 해도 지금 우리가 마주한 문제는 그대로 남기 때문이다.
흔히 “도구는 그저 도구일 뿐”이라고 말한다. 그런데 AI에는 이 말이 잘 맞지 않는다. 망치는 못을 박을 뿐 어느 못을 박을지 고르지 않는다. AI는 고른다. 정확히 말하면 정보를 대신 읽고 판단하는 역할을 한다. 지금까지의 정보기술과 다른 점이 여기에 있다.
가장 알기 쉬운 사례는 채용이다. 고용노동부 조사에 따르면 매출액 상위 500대 기업 중 응답한 396곳의 21.7%가 이미 채용에 AI 도구를 사용하고 있다. 그런데 현행 채용절차법에는 채용 과정에 AI를 사용했다는 사실을 지원자에게 알려야 할 의무가 없다. 떨어진 사람은 사람이 평가했는지 기계가 걸러냈는지 알 수 없고, 어떤 기준으로 걸러졌는지도 알기 어렵다. 여기서 한 가지는 명확히 정리할 필요가 있다. AI가 결정했다고 해서 해당 AI서비스를 도입하고 운용한 사람의 책임이 사라지는 것은 아니다. AI모델은 앞서 말했듯이 입력값을 바탕으로 출력값을 내놓는 구조다. 즉, 채용에서는 기준을 사람이 정해서 AI에게 전달하면 AI는 그 기준에 따라 대신 판단한다.
그렇기에 어떠한 분야의 AI서비스가 도입될 때 중요한 건 세 가지다. 첫째 AI에게 전달할 기준을 누가 정하고 검증하는가, 둘째 AI가 판단한 결과의 오류가 있을 때 이를 어떻게 확인하는가, 셋째 AI서비스에서 불이익을 본 사람은 어디에 이의를 제기할 수 있는가. 지금 모든 분야에서 이에 대한 기준과 가이드를 만드는 게 제일 시급하다.
기준을 잘못 세우면 어떤 일이 일어나는지는 이미 여러 차례 드러났다. 아마존이 개발하던 AI 채용 시스템은 지난 10년 치 이력서를 학습한 탓에 ‘여성’이라는 단어가 들어간 이력서에 자동으로 낮은 점수를 매겨 결국 폐기되었다. 이런 편향은 개발자의 악의가 아니라, 학습 데이터에 오랫동안 쌓인 사회적 편견이 그대로 반영되고, ‘가장 확률이 높은 것’을 선택하는 모델의 작동 방식이 기존 관성을 강화하기 때문이다. AI는 기존의 불평등을 강화할 수 있다. 그리고 그것을 사람보다 빠르고 고르게 적용한다.
지금 우리나라에서 가장 심각한 상황은 이에 대한 논의가 매우 부족하다는 점이다. 현장에서 AI서비스를 만드는 엔지니어와 기획자들, 예를 들어 최근 부상하고 있는 FDE(Forward Deployed Engineer)들은 당장 고객의 요구사항을 구현하는 것만으로도 벅차 이런 문제까지 고민하기 어렵다. 그리고 AI를 도입하는 정부기관과 기업의 담당자들은 이에대한 인식조차 없는 경우가 대부분이다. 현재 거의 모든 분야에 이러한 논의 자체가 없거나 매우 부족한 상태로 각 AI서비스가 도입되고 운용되어지고 있다. 그러면 그 빈자리는 누가 채우고 있나? 이들에게 월급을 주는 기업의 경영자들, 그리고 그 기업을 소유하고 있는 자본가들이 기준을 정한다. 법이 없는 자리에 기업의 이용약관이 그 자리를 채우고 있는데, 이것이 가지는 심각성에 대해 아직까지는 여러 시민 단체들에서도 깊은 논의를 찾아보기 어렵다.
기업은 이익을 최대화하도록 설계된 조직이다. 이것이 시민사회에서 논의가 이루어져 입법으로 이어지지 않으면 자본가는 자신들의 이익을 극대화하는 방법으로 AI를 각 분야에 도입하고 운용할 것이다. 나는 이것이 AI와 관련해서 현재 인류 앞에 도래한 가장 큰 문제라고 본다.
유럽연합은 AI법(AI Act)을 단계적으로 시행하고 있다. 2026년 8월부터는 투명성 의무가 적용돼 챗봇은 자신이 AI임을 밝혀야 하고, AI가 만든 글과 이미지에는 기계가 읽을 수 있는 표시를 붙여야 한다. 위반 시 최대 1,500만 유로 또는 전 세계 매출의 3%를 부과한다. 그러나 최근 들어 핵심인 고위험 AI 규제는 2026년 7월 ‘디지털 옴니버스’ 개정으로 2027년 말 이후로 미뤄졌으며, 유럽 녹색당은 이 후퇴에 반대하고 있다. 미국의 경우, 연방 정부는 규제를 완화하는 입장이지만 각 주는 시민들의 불안에 따라 보수적으로 접근하고 있다. 이 때문에 2025년 12월 트럼프 대통령은 주 AI법을 법정에서 다툴 소송 전담팀을 두라는 행정명령에 서명했다. 그럼에도 주 차원의 입법은 계속 진행돼 2026년 상반기에만 AI 관련 법 109건이 통과되었다. 눈여겨볼 점은 이 충돌 자체다. 규칙은 시민과 가장 가까운 자리에서 만들어지고, 연방이 이를 막으려 들자 다툼이 바로 정치 쟁점이 되었다.
우리나라는 어떨까. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 2026년 1월 22일 시행되었다. 상징성은 있지만 내용은 유럽과 다르다. 먼저 금지되는 AI가 없다. 유럽연합은 사람의 잠재의식을 조종하거나 특정 집단의 취약점을 노리는 AI를 금지하지만, 우리 법에는 그런 조항이 없다. 고위험 AI에 대한 제재도 사실상 없다. ‘고영향 인공지능’을 정의했지만, 시정명령을 따르지 않을 때만 과태료가 부과되고 인권영향평가는 ‘노력 의무’에 그친다. 게다가 감독을 맡은 부처가 첨단산업 진흥을 담당하는 과학기술정보통신부다. 법에 ‘AI에 영향받는 자’라는 표현이 들어갔지만, 해당 사람의 권리나 구제 절차는 명시되지 않았으며, 국방·국가안보 목적의 AI는 적용 대상에서 제외된다. 그 공백을 메우겠다며 발의된 「국방인공지능법」에도 금지 규정이 없다.
이재명 정부 들어서 입법 방향은 산업진흥 쪽으로 더욱 기울었다. 2026년 5월 「인공지능 데이터센터 산업 진흥에 관한 특별법」이 통과돼 이제 인허가는 한 번에 처리되고, 정해진 기간 내에 결론이 나오지 않으면 허가한 것으로 본다. 또한 수도권 외에 설치할 때 전력 계통 영향 평가를 면제한다. 재생에너지나 전력효율에 관한 의무는 포함되지 않았다. 지난 8월에는 가명 처리하지 않은 원본 개인정보를 AI 학습에 활용하도록 허용하는 개인정보 보호법 개정안이 통과되면서 기존에 최대 4년만 허용하던 예외를 기한 없는 상시 특례로 바꾸었다. 산업 진흥과 특례가 늘어나고, 그만큼 확대되는 AI서비스를 통제하고 관리할 안전장치는 뒤로 미뤄진다. 국가가 시민들이 낸 세금으로 추진하면서 이익은 기업이 가져가고 관리 책임도 기업 자율에 맡기는 구조다. 물론 시민사회가 아주 손을 놓고 있는 것은 아니다. 전국 46개 단체가 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’을 조직해 국회에 의견서를 제출했다. 그러나 이러한 목소리는 보통 법안이 상임위를 통과한 후에 반대 성명 형태로 나오게 되며, 설계 단계에서 시민이 참여할 자리는 마련되지 않고 있다.
2023년 6월, 제5차 세계녹색당총회가 인천 송도에서 열렸다. 전세계 90개국에서 700여 명이 모인 그 자리에서 「민주주의·지속가능성·사회적 선을 위한 AI 기술의 실효적 규제」라는 긴급결의안이 채택되었다. 한국 녹색당과 인도네시아 녹색당이 발의했고 나는 한국 담당자로 그 과정에 참여했다. 정당들이 AI를 두고 국제적인 합의를 내놓은 것은 아마 이때가 처음일 것이다. 담긴 요구는 일곱 가지였다. AI 규제를 선언이 아니라 법적 이행 의무로 만들고, 제때 감시·평가할 장치와 위반 시 실효적 제재를 마련한다. 책임 있는 개발과 안전한 사용을 보장하며, 인간의 통제를 원칙으로 한다. AI를 인권 침해나 민주주의 억압에 사용하지 않는다. 안전성·투명성·설명가능성·정확성·객관성·신뢰성·회복탄력성·책임성을 갖춘 규제 틀을 만든다. 고위험 AI는 그 능력과 한계를 충분히 파악한 뒤 사람이 감독하고, 필요하면 안전하게 멈출 수 있게 한다. 개발 과정의 환경 영향을 최소화한다. AI 개발에 관여하는 노동자를 공정하게 대우하고, 몸과 마음의 건강을 지킬 수 있도록 지원하며, 법적·도덕적으로 정당하지 않은 작업은 거부할 수 있게 한다.
이 결의안 이후 각국 녹색당의 대응은 지난 1~2년 사이 훨씬 구체적으로 바뀌었다. 프랑스 녹색당 의원이 보고관을 맡은 국민의회 조사위원회는 향후 5년간 데이터센터가 요구할 전력이 프랑스 원전 발전량의 24%에 해당한다는 분석을 내놓고 모라토리엄을 요구했다. 핀란드 녹색당은 당국이 쓰는 알고리즘과 소스코드를 정보공개법 적용 대상에 포함했고, 캐나다 녹색당은 자동화 영향 부담금을 걷어 노동자 재훈련 재원으로 쓰자고 제안했다. 나라마다 강조하는 부분은 다르지만, 반복되는 원칙은 다섯 가지로 정리된다. 사람의 통제, 기본권 영향 평가 의무화, 생체 감시 금지, 환경 부담의 규율, 노동자의 거부권이다. 우리나라가 못 할 이유가 없다. 2023년 우리가 먼저 발의해놓고 오히려 후퇴하고 있는 최근의 우리나라 현실을 보면 가슴이 너무 아프다.
AI해일은 이미 밀려오고 있는데 우리는 여전히 “AI가 좋은가 나쁜가?”, “일자리를 뺏을 것인가?” 같은 원론적인 논의에 머물러 있다. 그 사이 실제 현장에 적용되는 규칙은 다른 곳에서 만들어지고 있다. 기업은 이 규칙에 따라 움직일 수밖에 없다. 시민이 주도하여 이러한 규칙을 만들어 나가야 한다. 유럽연합에서 AI법의 표시 의무가 발효되자 앤트로픽은 자사 AI가 쓴 글에 워터마크를 넣겠다고 발표했고, 오픈AI와 구글도 뒤따랐다. 이 조치는 전 세계 이용자에게 동일하게 적용된다. 말하자면 지금 한국 이용자가 누리는 몇 안 되는 보호 장치는 유럽 시민이 만든 것이다.
필요한 것은 명확하다. AI를 현장에 도입하는 단계부터 운용·사후 처리까지 시민이 주체가 되는 구조다. 네덜란드 암스테르담은 시가 사용하는 알고리즘이 무엇이며, 어떤 데이터를 모으는지를 등록부에 공개하고 시민이 이의를 제기할 창구를 마련했다. 우리 정부와 지방자치단체는 아직 어떤 AI를 어디에 쓰고 있는지 시민에게 알리지 않는다. 또한 고위험 영역에는 도입 전 인권 영향 평가를, 도입 후에는 정기 감사를 의무화해야 한다. 이러한 감독은 진흥 부처가 아니라 독립된 기구가 맡아야 한다. 그리고 AI가 판단한 결과에 영향받는 사람은 AI가 개입한 결정임을 알 수 있어야 하고, 설명을 요구하거나 사람에게 다시 판단을 요청할 수 있어야 하며, 피해를 보았을 때 의지할 절차가 필요하다. AI서비스를 개발하고 현장에 구축하는 노동자는 부당한 지시를 거부할 권리를 가져야 한다.
지금은 이러한 논의도 자리도 매우 부족하다. 더 많은 자리가 만들어져야 하고, 더 많은 논의가 필요하다. 그리고 각 분야별로 AI서비스가 도입되기 전에 정부와 기업은 의무적으로 그 자리를 만들도록 우리가 그들을 압박해야 한다. 지금 AI로 돈을 버는 자본가들은 절대로 자발적으로 이러한 자리를 만들려고 하지 않을 것이다.
나는 1990년대 말부터 소프트웨어를 만들어왔고 여러 회사에서 기술을 책임지는 자리를 맡아왔다. 보통 고객은 한 가지만 물어본다. “이거 법적으로 문제없습니까?”이다. 법이 있다면 기업은 그 법에 따라 만들고, 없다면 스스로 가장 유리한 기준을 만든다. AI가 민주주의에 해가 될지 도움이 될지는 아직 정해지지 않았다. 그러나 지금처럼 계속 시민이 그 자리에 소외된다면, AI는 자본가의 이익을 극대화하는데 기여하고 세상의 불평등이 지금보다 더 심해질 것이다. 시민 중심으로 AI가 도입되고 운용되는 세상이 되었으면 좋겠다. 그러자면 우리 모두가 AI에 대해 더 잘 알아야 한다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0