인공지능(AI )이란 단어는 더 이상 일부 과학자의 논문이나 SF소설에만 등장하지 않는다. 이미 많은 기업이 AI 모델에 기반한 서비스들을 출시했고 생활 곳곳에 이러한 서비스들이 제공되고 있다.
학술용어인 인공지능이 이렇게 사람들이 일상에서 자주 사용하게 된 것은 인공지능에 관한 여러 분야 중에 기계학습(Machine learning), 그중에서도 딥러닝(Deep structured learning) 기술이 축적되고 발전하면서 그 결과에 따른 여러 모델이 상용 서비스에 적용할 수 있는 수준으로 올라왔기 때문이다. 딥러닝은 거칠게 정리하면 인간의 신경망을 모사한 것이다. 이를 통해 인공신경망은 데이터를 학습하고 학습한 데이터에 기반해 추론한 결과를 내놓는다. 이는 문자 그대로 추론이기 때문에 100%의 정합성을 보장하지 않으며, 학습에 사용한 데이터에 따라서 추론의 결과가 달라질 수밖에 없다. 다양한 AI서비스가 제공하는 결과물을 100% 신뢰할 수 없고, 신뢰해서도 안 되는 이유가 여기에 있다.
그런데도 불구하고 이러한 서비스가 가지는 이점은 명확하기 때문에 인류는 다양한 분야에서 이를 도입해 나갈 것이다. 인류는 현대 사회로 넘어오면서 그동안 쌓아왔던 경험과 지식의 대부분을 디지털화하는데 성공했고 실시간으로 발생하는 정보도 디지털로 처리하는 데 성공했다. 그 결과 인간이 다루어야 할 데이터의 양은 이미 물리적 신체의 한계를 뛰어넘은 지 오래다. 다양한 분야의 업무가 AI로 대체될 수밖에 없는 이유가 여기에 있다. 인간 개인이 정보를 학습하고 처리하는 데는 한계가 분명하지만, 인공지능은 그 한계가 존재하지 않는다.
사람과 사람이 모여 사는 데에서도 서로 지켜야 할 것들이 존재하듯이 기업이 AI 서비스를 제공하고 시민 개개인이 AI 서비스를 사용하는 데에도 사고나 분쟁이 발생하지 않으려면 관련된 법과 제도가 필요하다. 전문가들이 이에 대한 필요성을 주장하는 이유다. 지금은 서부 개척 시대 마냥 무법지대이다. 이러한 상황은 돈을 받고 서비스를 제공해야 하는 위치에서도 좋을 리 없다. 우리나라를 포함한 여러 나라가 서둘러서 AI 법을 입법하는 배경도 여기에 있다. 법의 테두리 안에 들어옴으로써 기업들은 서비스를 만들 때 지켜야 할 기준을 명확히 알 수 있게 되고 국가는 각 서비스를 통제할 수 있게 된다.
문제는 해당 법이 자본의 입장에서 유리한 방향으로 작성될 수 있다. 때문에 시민사회는 우려의 목소리를 내고 있고 시민의 인권을 보호하는 의무가 있는 기관은 가이드라인을 내고 있다. 국내에서는 국가인권위가 2022년 5월 11일 '인공지능 개발과 활용에 관한 인권 가이드라인'을 발표한 바 있고 국제적으로는 UN 인권위가 윤리 권고(A/HRC/43/29, A/HRC/48/31)를 발표했다.
많은 사람들이 AI 서비스와 관련한 문제라고 생각하면 AI 서비스가 특정한 일자리를 대체해 발생하는 실직의 문제만 보통 떠올리는데, 당장 우리 앞에 놓인 문제들에 비하면 이는 먼 미래의 일이다. 이미 AI 서비스로 인해 발생하고 있는 주요 문제들은 아래와 같다.
AI로 인해 발생하고 있는 주요 문제들
유럽연합, '위험의 4 단계' 구분 규제 제안
유럽연합(EU)는 현재 준비 중인 EU 인공지능법안(EU AI Act)에서 AI 서비스를 4가지 단계(최소 위험, 제한적 위험, 높은 위험, 수용불가능한 위험)로 구분하고 차등하여 규제할 것을 제안하고 있다. (그림1)
EU는 AI 서비스를 각각의 위험도를 체크해 규제 내용을 다르게 가져가는 방식으로 접근하고 있다. AI 규제(AI Regulation)에 대해 학계에 여러 가지 논의가 있지만 현재로서는 이것이 가장 효과적인 접근 방법으로 인식되고 있다. EU 인공지능법안에서는 이를 4가지로 구분하였는데 간략히 살펴보면, 아래 4가지로 나누어서 설명할 수 있다.
- (용납될 수 없는 위험) EU의 가치를 위반하는 서비스들. 서비스를 금지함. (예: 잠재의식에 해를 끼치거나 조작함, 사람을 착취함, 실시간으로 동작하며 사람의 통제를 벗어난 상태에서 의사 결정)
- (고위험) 부속서에 명시된 인공지능시스템으로 시장에 출시되기 전에 엄격한 의무가 적용됨. 이 범주에 속하는 AI 서비스 목록은 매년 검토 후 업데이트하는 것으로 함.
- (제한된 위험) 일반적인 의사결정에 사용되는 인공지능 시스템. 알고리즘 및 의사결정 과정에 대한 기업의 투명성 의무를 적용함.
- (최소 위험) 비디오 게임, 스팸 필터 등 위험이 없거나 최소인 것은 인공지능 법안으로 규제하지 않음.
EU의 인공지능 법안에는 이 밖에도 AI가 창작한 창작물에 'AI로 생성함(Made with AI)' 표시를 필수로 하도록 하고 있으며, 각 기업은 투명서 의무를 바탕으로 해당 AI서비스가 어떠한 과정을 거쳐서 결과물을 도출하는 지와 서비스 개발 과정에서 윤리적 가이드라인을 준수했는지도 설명하도록 하고 있다.
EU의 인공지능 법안은 6월 14일 본회의 상정이 예정되어 있으며, 초안 확정 절차에 곧 들어갈 예정이다. 이 때문에 얼마 전 개최된 세계 녹색당 총회에서는 전 세계 각국에서 모인 전문가들이 AI 세션에서 협의를 거쳐 긴급 결의안을 공표했다. 법안이 확정되기 전에 녹색당의 입장을 정리하여 발표함으로써 녹색당이 추구하는 가치가 법안에 반영될 수 있게 하기 위함이었다.
이번 세계 녹색당 총회(Global Greens Congress Korea 2023)에서 AI 긴급 결의안은 한국 녹색당과 인도네시아 녹색당의 발의로 안건으로 올라왔으며 6월 11일 총회에서 세계 각국의 협의를 거쳐 승인을 받아 공표됐다. 이번 결의안에 한국녹색당의 ICT위원회는 처음부터 함께 하며 결의안 작성 및 공표 과정에 참여했다. 한국녹색당이 발의자로 참여하게 된 데에는 개최국으로서 책임감도 있었지만, 우리나라의 입법 상황도 긴급하게 돌아가고 있기 때문이었다.
한국, AI 서비스 '우선 허용'하고 '사후 규제' 하겠다?
인공지능 법안과 관련하여 우리나라에서는 지난 3년간 총 12개의 안건이 국회에서 발의되었다.
그동안 국내에서 인공지능 관련 법안이 꾸준히 의안되기는 했지만, 논의가 활발히 이루어지지 못했고 큰 진전도 없었다. 그런데 최근 기존의 7개 법률안을 통합한 '인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안'이 국회 과학기술정보통신위원회 법안소위에서 통과되면서 논의가 급물살을 타고 있다. 올해 2월 14일에 법안소위를 통과한 법안의 주요 내용은 아래와 같다.
[ 인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안 – 주요 내용 ]
1. 누구든지 인공지능기술과 알고리즘의 연구·개발 및 인공지능제품 또는 인공지능서비스의 출시 등과 관련한 행위를 할 수 있도록 보장하는 것을 원칙으로 함 (우선 허용).
2. 생명과 안전, 기본권에 중대한 영향을 미칠 우려가 있는 인공지능 서비스에 대해서는 사업자에게 이용자에 대한 인공지능 사용 사실의 고지의무, 신뢰성 확보조치, 인공지능 도출 최종 결과 등에 대한 설명의무를 부여함. (사후 규제).
3. 인공지능으로 인한 사회·경제·문화와 일상생활 등의 변화에 국민이 안정적으로 적응 할 수 있도록 국가와 지자체가 시책을 강구하도록 함.
4. 과기정통부가 3년마다 인공지능 기본계획을 수립해 인공지능 정책 기본방향과 투자방향, 인력양성 등 기반조성, 윤리원칙 확산과 신뢰기반 조성, 사회의 변화와 대응 등을 준비하도록 함.
가장 문제가 되는 부분은 '우선 허용'을 하고 사후에 규제하겠다는 접근이다. 해당 법안에 따르면 누구든지 인공지능 기술과 알고리즘의 연구 및 개발, 서비스를 출시하도록 보장하고 있다. EU의 인공지능 법안과 비교하면 최소한의 위험도 체크도 국가가 하지 않는 것이다. 모든 서비스를 우선 허용한 후에 추후 방안을 마련하기로 하고, 사고가 나거나 문제가 발생하면 그때 해당 서비스를 규제하겠다는 것인데 너무 위험한 발상이 아닐 수 없다. 해당 법안의 주요 내용은 UN 인권위의 가이드라인에 못 미치는 것은 물론 우리나라의 국가인권위 가이드라인에도 못 미치고 있다. 전체적으로 AI 서비스로 인해 발생하는 주요 문제들에 대해서 우리나라는 국회 내에서 아직 논의가 너무 미비하다.
법안소위를 통과한 법안은 통상적으로 상임위원회에서 곧바로 의결되므로 해당 법안은 입법이 곧 임박했다고 볼 수 있다. 만약 입법이 이루어지면 아직 EU의 인공지능 법안이 통과되지 않은 상황이므로 세계 최초의 인공지능 법이 우리나라에서 먼저 입법되는 것이 된다. 그러나 빨리 입법이 된다고 좋아할 만한 상황인지는 모르겠다.
상황이 이러하다 보니, 지난 3월 9일 참여연대를 포함하여 국내의 총 15개 단체가 이에 반대하는 의견을 냈다. 반대 의견서의 주요 내용은 아래와 같다.
[ 인공지능법안에 대한 시민단체 의견 – 주요 내용 ]
1. 인공지능법안은 입법 취지와 목적인 "국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상"에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 소관 부처도 적절하지 않음.
2. 이미 2020년 유엔사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고하였으나 해당 법안에 관련 내용이 미비함.
3. 유럽연합 <인공지능법안(AI Act)>은 인공지능의 위험도를 금지/고위험/저위험/허용 등 4개로 구분하고 각각에 대한 규제 사항을 구체적으로 규정하고 있으며 특히 개인정보 보호, 소비자 보호, 차별 금지 및 성평등에 관한 기존 정책 및 법체계와의 일관성을 가지고 이를 보완하며 침범하지 않는다는 원칙을 명시하고 있고 미국도 주요 의사결정에 사용되는 인공지능 시스템의 책무성을 강화하기 위한 <알고리즘 책무성법안> 입법을 추진하고 있음. 우리나라 또한 이와 같은 수준의 입법이 요구됨.
4. "우선허용·사휴규제 원칙"은 인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항임.
녹색당은 이러한 국내 상황뿐만 아니라, 세계 각국의 상황을 고려하여 아래와 같은 결의안을 지난 6월 11일 발표하였다.
녹색당의 결의안에서 기존에 찾아볼 수 없는 부분은 아래와 같다.
첫 번째로 AI가 민주주의를 탄압하거나 민주주의 사회에서 시민들의 논의를 왜곡시키거나 조작하는 것을 막고자 했다.
두 번째는 환경에 대한 영향 부분이다. AI 서비스는 기본적으로 엄청난 컴퓨팅 자원을 사용한다. AI서비스 중 굳이 AI로 대체하지 않아도 되는 영역은 훨씬 적은 자원을 사용하는 이미 존재하는 서비스를 사용하는 것이 지구 환경을 위해서는 나을 수 있다. 또 대규모 데이터 처리를 바탕으로 하는 각 모델 개발 과정에서도 환경에 미치는 영향을 최소화하도록 하는 것이 필요하다.
끝으로 노동권에 대한 부분이다. 우리는 첨단 기술에 대해 논하다 보면, 기술 그 자체에 관해서만 얘기하기 쉽다. 그러나 특정한 기술이 실생활에 적용되기까지에는 많은 부문의 노동자들이 작업을 해야 한다. 노동자들에게 건강한 근무 환경이 제공되고 회사의 잘못된 지시에 저항할 수 있을 때 비로소 각 서비스는 올바른 방향으로 개발되고 운용될 것이다. 이는 한국녹색당 ICT위원회와 함께하는 현업 AI종사자들의 의견을 직접 수렴해 넣은 부분이기도 하다.
AI 규제와 관련하여 비단 우리나라뿐만 아니라 모든 나라가 논의는 이제부터가 진짜 시작이라고 생각한다. AI 서비스가 미치는 영향은 이미 기술, 공학의 영역에 국한되어 있지 않다. 이미 우리 삶과 함께하고 있다. 많은 이들이 자기 삶에 미치는 영향을 살피고 함께 논의에 참여하기를 바란다.
전체댓글 0