"기술업계에는 우리가 반복적으로 사후 방어 태세를 취하게 만드는 통념들이 있습니다.
첫째, '안전은 사용자의 책임'이라는 주장. 그러나 안전은 집단적 책임입니다. 기술 시스템을 설계하는 힘을 가진 이들에게는 의무가 있습니다.
둘째, 기술은 복잡하고 범죄 수업이 빠르게 진화해 피해를 예방할 수 없다는 주장. 피해 예방은 선견지명과 다학제적 협력을 요구하지만, 실현 가능한 일입니다.
셋째, 기술 개발을 규제하면 인류에 도움이 될 수 있는 혁신을 저해한다는 주장. 아동에게 해를 끼치는 혁신을 제한하고 규제하자는 것입니다. 미래의 목표를 위해 오늘 아동을 희생시키는 것은 나무만 보고 숲을 보지 못하는 것입니다. AI와 같은 기술 개발의 궁극적인 목적은 이 아이들의 미래를 위한 것이어야 합니다."
레베카 포트노프(Rebecca Portnoff) 손(Thorn) 부회장은 16일 '서울 AI 정책 컨퍼런스 2026'( AI 거버넌스의 프론티어 이슈 : AI 에이전트 시대의 개막)에서 이렇게 주장했다. 아동 부문 주제 발표자인 포트노프 부회장은 이날 "매년 수천만 건의 아동 성착취물 의심 이미지와 영상이 신고 핫라인에 접수되고 있으며, 최근 아동 학대물의 약 30%가 심각한 수준의 콘텐츠를 포함하고 있다"고 현재의 심각성을 강조했다.
AI, 피해를 만들고 피해자를 찾는 것도 방해한다
"한국에서 같은 학교 아동들이 생성형 AI를 이용해 피해 아동들의 사진을 성적으로 노골적인 이미지로 변형시킨 사건이 발생했습니다. 미국 노스캐롤라이나에선 아동 환자가 자신이 신뢰하던 정신과 의사가 생성형 AI로 자신의 성적 이미지를 만들어 게시하는 피해를 입기도 했고, 켄터키의 10대 소년은 AI로 생성된 나체 사진으로 성적 협박을 당한 뒤 스스로 목숨을 끊는 일도 발생했습니다."
포트노프 부회장은 생성형 AI가 아동 피해를 심화시키는 방식이 단순한 콘텐츠 생성에 그치지 않는다고 강조했다. 범죄자들은 생성형 AI를 이용해 기존 피해 아동의 추가적인 이미지를 대규모로 제작하고, 이를 그루밍과 성적 착취 행위 확대에 활용하고 있다.
더 심각한 문제는 AI 기술이 피해 아동 식별 자체를 방해한다는 점이다. 그는 "AI로 생성된 합성 이미지가 범람하면서 실제 피해 아동과 합성물을 구별하는 작업이 갈수록 어려워지고 있다"고 지적했다. 2023년에서 2024년 사이 다크웹 내 AI 생성 아동 성착취물은 17% 증가했으며, 이중 39%는 가학적 행위 등 극단적 내용을 담고 있다. 성적으로 묘사된 AI 동반자 앱이나 딥페이크 콘텐츠처럼 실제 성적 범죄로 이어지는 심리적 장벽을 낮추는 '게이트웨이' 기술도 확산되고 있다고 폭로했다.
급증하는 AI 생성 아동 성착취물…"교실마다 피해자 한 명꼴"
그는 "성적 이미지를 유포하겠다고 협박해 금전이나 추가 이미지를 요구하는 성적 착취 범죄는 이제 전 세계 교실마다 한 명꼴의 학생이 경험할 만큼 일상적 위협이 됐다"며 "미국에서는 아동의 절반 가까이가 온라인 그루밍을 경험했다는 조사 결과도 나왔다"고 밝혔다.
차일드라이트(Childlight) 유럽 허브 디렉터인 엘레나 마르텔로초 에든버러대 교수도 차일드라이트가 매년 발간하는 글로벌 인덱스를 인용해 충격적인 수치를 제시했다. AI로 생성된 아동 성착취 이미지는 지난해 1325% 급증했으며, 현재 전 세계적으로 3억 명 이상의 아동이 피해에 노출되어 있다는 것이다. 차일드라이트는 서유럽, 남아시아에 이어 올해부터 북미, 남미, 그리고 한국을 포함한 인도까지 데이터 수집 범위를 확대하고 있다고 한다.
AI 챗봇과 대화하다 자살하는 아이들...AI가 동반자가 된 시대에 무슨 일이 벌어질까
레아 A. 플런킷 하버드 로스쿨 연구강사는 "아이들을 보호하려는 의지가 있는 어른조차도 AI 기술에서 정확히 무슨 일이 일어나고 있는지 제대로 이해하지 못하는 경우가 많다"고 지적했다. 퓨리서치센터에 따르면 청소년들이 AI, 특히 AI 챗봇을 성인보다 더 많이 사용하고 있으며, 아이들이 부모에게 알리고 싶지 않은 온라인 활동을 숨기는 경향도 상황을 더욱 어렵게 만든다.
조지연 ETRI 선임연구원은 "AI는 단순한 정보생성 도구가 아니라 동반자, 의사결정을 지원하는 역할을 수행하고 있다"며 "이런 변화 속에서 미성년자에게 발생 가능한 위험을 충분히 주목하고 있는지 질문을 던지고 싶다"고 말했다.
지난해 미국 앨라배마주에서 17세 청소년이 자살을 했는데, 이 소년은 생을 마감하기 전까지 챗GPT와 대화를 나눴으며, 챗봇이 자살 방법에 대한 구체적인 정보를 제공하는 등 사실상 자살을 방조했다는 사실이 알려져 큰 충격을 주기도 했다.
조 연구원은 과거에 생각했던 AI로 인한 위험 즉, 유해하거나 불법적인 콘텐츠 생성이나 개인정보 침해 등에 대한 위험은 현재 어느 정도 예방되고 사전에 점검되고 있지만, 인간과 소통 작용을 하는 AI가 확산되는 환경에서 나타날 새로운 위험에 대해선 아직 대비하지 못하고 있다고 지적했다.
플런킷 연구강사는 아동·청소년들에게 익숙한 인플루언서 엔터테인먼트 사업과 관련해 "수십억 달러 규모의 글로벌 산업으로, 영아부터 청소년에 이르기까지의 친밀하고 사적인 이미지와 정보를 다루고 있다"며 AI 기술과 맞물러게 되면 프라이버시 침해 등 위험을 야기할 수 있다고 지적했다.
'아동 성착취' 사후적 대응으론 늦어...개발 단계에서부터 고려해야
전문가들이 가장 강하게 촉구한 것은 패러다임의 전환이다. 현재의 접근 방식은 콘텐츠가 이미 생성되고 확산된 이후에야 작동하는 사후 대응적 성격을 띠고 있어, 이것만으로는 AI 시대의 위협에 근본적으로 대응할 수 없다는 것이다.
포트노프 부회장은 "생성형 AI를 만드는 개발자들이 처음 설계 단계에서부터 아동 성착취 및 학대를 예방하기 위해 무엇을 할 수 있는가를 물어야 한다"고 강조하며, 이를 위해 2023년 10개 이상의 선도적 기술 기업 대표자들로 구성된 워킹그룹을 발족해 이끌었다고 밝혔다. 워킹그룹에는 AI 안전 연구자, 윤리 연구자, 아동 안전 전문가 등이 참여했으며, 그 결과물로 예방적 설계에서 시작하는 상세한 권고안을 담은 보고서가 발간됐다.
권고안의 핵심은 설계, 학습, 배포 등 기술의 전체 생애주기에 걸쳐 아동 성범죄를 예방할 수 있도록 해야 한다는 것이다. 그는 "피해를 예방하는 방식으로 시스템을 설계하는 것은 마법이 아니라 수학의 문제이며 기술적으로 충분히 가능하다"며 "선제적·예방적 설계를 장려하는 규제를 만드는 것이 AI 시대 거버넌스의 초석이 되어야 한다"고 강조했다.
마르텔로초 교수는 과거 에이즈에 대한 대응이 그랬던 것처럼 AI로 인한 아동 성학대를 최우선적 과제이자 공공보건의 문제로 접근해야 한다고 주장했다. 그는 AI와 기술을 통한 학대로 인해 아동들이 자신이 노출된 것에 무감각해지거나 왜곡된 방식으로 영향을 받고 있다면서 아동의 문제가 기술 개발 과정의 중심에 놓여야 한다고 강조했다.
서울 더플라자 호텔에서 16-17일 진행되는 이 컨퍼런스는 서울대 인공지능정책 이니셔티브(SNU AI Policy Initiative: SAPI), 서울대 인공지능신뢰성 연구센터(Center for Trustworthy AI: CTAI), 미 유펜대 기술·혁신·경쟁 센터(Center for Technology, Innovation and Competition)가 공동으로 주최한다. 교육, 금융, 노동, 국가전략, 거버넌스 모델, 아동, 경쟁, 산업정책, 저널리즘, 헬스케어, 에너지, 데이터 보안, 인권, 국가 안보 등 15개 세션에서 각 영역에서 부상하고 있는 거버넌스 현안 등을 다룬다.
전체댓글 0