변호사 마케팅 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’ > 고장신고

변호사 마케팅 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’

페이지 정보

작성자 이상학
댓글 0건 조회 92회 작성일 26-01-11 20:56

본문

변호사 마케팅 “나는 ‘설마 이게 진짜일 리 없다’고 생각했다. 그래서 내 어릴 적 사진으로 테스트를 해봤다. 진짜였다. 정말 역겹다.”
영국의 한 프리랜서 저널리스트는 지난 2일 엑스(X)에 이 같은 글과 함께 이미지를 공유했습니다. 그가 올린 이미지에는 엑스 내에서 제공하는 인공지능(AI) 서비스 ‘그록(Grok)’이 “그녀의 옷을 비키니로 바꿔 달라”는 요청에 따라 소녀를 비키니 차림으로 바꾼 결과물이 담겨 있었습니다. 원피스와 가디건을 입고 찍은 유년시절 사진이 감쪽같이 바뀐 겁니다.
그록의 성착취 이미지 생성·유포를 둘러싼 논란이 이어지고 있습니다. AI 기술 발전의 이면에 가려진 안전장치 부재와 책임 공백이 수면 위로 떠오른 셈입니다.
한때 ‘트위터’로 불리던 SNS 엑스와 생성형 AI 챗봇 그록은 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 ‘xAI’에서 운영합니다. 엑스 서비스 내에서 그록을 이용할 수 있습니다.
지난달 말 그록에 ‘이미지 편집’ 기능이 추가되면서 성적 허위 이미지(딥페이크)를 손쉽게 만들 수 있다는 문제 제기가 쏟아졌습니다. 이 기능은 엑스 이용자가 이미지가 포함된 글에 댓글로 그록을 태그해 수정을 요청하면, 원본 당사자의 동의 없이 그록이 이미지를 생성해 올려주는 방식입니다.
예를 들어 누군가 내가 올린 사진을 마음대로 속옷 차림으로 바꿀 수 있고, 이를 다른 이용자들도 볼 수 있다는 거죠. 그록은 인물을 완전한 나체로 바꾸는 건 금지하지만, 타 서비스보다 검열이 느슨한 것으로 알려져 있습니다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난해 12월25일부터 이달 1일 사이 그록이 생성한 무작위 이미지 20만개를 분석해보니 53%는 속옷, 비키니 등 최소한의 옷만 입은 인물을 담고 있었습니다. 이 가운데 여성으로 보이는 인물 비중은 81%에 달했습니다. 전체 이미지의 2%는 18세 이하로 보이는 인물이었습니다. 그록이 생성한 이미지 중에는 나치와 이슬람 극단주의 무장단체 이슬람국가(ISIS) 선전물도 있었습니다.
그록 측은 지난 2일 이용자가 문제를 제기한 글에 “보호장치에 결함이 있음을 확인하고 긴급히 바로잡고 있다. 아동 성착취물은 불법이며 금지돼 있다”고 밝혔습니다. 이튿날에는 머스크가 다른 게시물에 댓글을 달아 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드했을 때와 동일한 제재를 받게 될 것”이라고 했습니다. 엑스 측은 불법 콘텐츠에 대해 콘텐츠 삭제와 계정 영구정지 조치를 하고 필요한 경우 사법 당국과도 협력한다고 알렸습니다.
국내에서도 AI를 이용해 음란물을 제작·유포할 경우 성폭력처벌법, 청소년성보호법 등으로 처벌받을 수 있습니다. 다만 지난해 AI로 만든 노출 사진은 피해자가 특정되지 않는 한 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오면서 입법 보완이 필요하다는 지적이 나오기도 했습니다.
머스크와 xAI가 자신들의 책임은 축소하고 이용자들에게 책임을 돌리고 있다는 지적도 나옵니다. xAI는 ‘사용 제한 정책’을 통해 “인물을 음란한 방식으로 묘사하는 행위”와 “아동의 성적 대상화 또는 착취”를 금지하고 있습니다. 하지만 xAI는 그동안 검열이 낮다는 점을 홍보하며 이용자들을 끌어모았습니다. 최근 엑스의 이용자 참여도가 사상 최고 수준을 기록했다고 하네요.
현재 유럽연합(EU), 영국, 인도, 말레이시아 당국 등이 그록의 성착취 이미지 생성 문제를 들여다보고 있습니다.
미국 매체 악시오스는 이번 논란에 대해 “챗봇의 결과물로 인한 피해를 과연 누가 책임을 지느냐는 문제를 드러냈다”고 평가했습니다. CNN은 “사회에서 가장 취약한 이들을 보호하기 위한 충분한 안전장치 없이 결합된 AI와 SNS가 얼마나 위험할 수 있는지 보여준다”고 했습니다.
국내 대표적인 개혁 성향 경제학자인 전성인 전 홍익대 경제학부 교수는 올해 한국 경제에서 가장 우려되는 점으로 “소득의 양극화”를 꼽았다. 그는 양극화가 해소되지 않으면 성장 동력도 훼손된다고 목소리를 높였다.
전 전 교수는 지난달 23일 서울 한국금융연구센터 사무실에서 진행된 경향신문과의 인터뷰에서 “재정 문제 해결이 중요하다”라며 “양극화 해소를 위해선 (세금 등으로) 돈을 걷어야 하는데 이 정부가 지방선거까지는 그럴 생각이 없어 보인다”고 우려했다.
그는 성장에 필요한 요소로 “청년층에 대한 인적 자본 투자가 중요하다”며 “젊은이들에게 기회를 주고 지원하는 것이 기성세대가 해야 할 일”이라고 강조했다. 현 정부가 적극적인 과세 정책을 펼치고, 청년층에 집중 투자해야 한다는 것이다. 그는 “양극화는 나설 수 있는 주체가 정부밖에 없다”고 덧붙였다.
2024년 말 정년퇴직한 전 전 교수는 그간 한국의 재벌·금융 개혁에서 진보적 목소리를 내온 현실 참여형 학자다. 그는 이재명 정부의 지난 6개월 성과로 ‘상법 개정’을 꼽으면서도 금산분리 완화 기조 등에는 쓴소리를 내놨다.
전 전 교수는 특히 지주사 지분율 요건 완화 등 금산분리 완화 기조와 관련해 “이 정부가 금융과 관련해 너무 재벌과 가깝다”라며 “벌써 재벌의 손에 놀아나고 있는 게 아닌지 걱정”이라고 우려했다. 이재명 정부가 추진하는 국민성장펀드에도 향후 감사원 감사 또는 국회 보고 시스템이 필요하다고 지적했다. 다음은 일문일답.
-새해 한국경제 전망은.
“교수로서 얘기할 수 있는 것은 구체적인 성장률 수치보다는 한국 경제에 어떤 위험 요소가 있는지에 대해서다. 가장 우려되는 것은 소득의 양극화, 부의 양극화다. 이 두 가지가 성장 동력을 훼손하고 사회의 유대의식을 갉아먹으며 재생산 역량에도 상당한 악영향을 주지 않을까 우려된다. 이를 정부가 잘 해결해야 하는데 2026년이 시금석이 될 것이다. 첨단산업은 돈이 되니 기업들이 열심히 하는 측면이 있는 반면, 양극화는 나설 수 있는 주체가 정부밖에 없다. 정부가 그런 문제에 관심을 더 가질지, 번드르르한 일에만 신경을 쓸 것인지 판단해봐야 한다.”
-최근 환율은 어떻게 보는가.
“한국경제의 기초체력이 떨어진 것이 근본 원인이다. 단기적으로 한미 금리격차나 서학개미 문제를 얘기할 수 있지만 근본적으로는 기초체력의 한계 때문이다. 문제는 정책 당국자가 언급하는 순간부터 시장이 왜곡된다는 점이다. 사람이 열이 높다면 체온기에 36.5도가 아니라 37도나 38도로 나타나지 않겠나. 하지만 ‘체온계 수치가 왜 이렇게 높냐’고 목소리를 높이고, 얼음을 환자 머리가 아닌 체온계에 집어넣어 게이지(수치)를 낮추려 하면 문제가 될 것이다. 정부가 말로는 과도한 출렁임을 방지하지 위해 ‘스무딩 오퍼레이션’을 한다고 하지만, 하면 안되는 일도 하려는 게 아닌지 우려된다.”
-경제정책 최우선 목표는 뭐가 돼야 하나.
“우선 재정 문제가 중요하다. 지금 민생회복소비쿠폰부터 상생 페이백까지 돈을 퍼주고 있다. 돈을 쓰는데는 반대하진 않는다. 문제는 이를 위해서는 돈을 걷어야 하는데 그럴 생각이 없어 보인다는 것이다. 적어도 지방선거까지는 그럴 것이다. 세금 정책과 같이 양극화 해소에 필요하지만 인기없는 정책은 뒤로 밀릴 수 있다. 선거가 끝나야 정부가 세법 개정안을 발의하고 내후년쯤 과세를 늘릴 수 있을텐데, 이는 좀 늦은 시점이다.”
-성장을 위해서는 뭐가 필요하다고 보나.
“반도체가 한국경제를 이끄는 것처럼 보일 수도 있겠지만, 이는 장기적인 추세가 아닌 경기순환주기상 그런 것이다. 이를 경제성장으로 보면 착시에 불과하다. 근본적인 성장을 이루려면 젊은 사람들에 대한 인적자본 투자가 중요하다. 정부가 정년을 연장한다고 하지만, 노년층이 자리를 차지하면 젊은층은 임금을 상실하고 생산현장을 접할 기회도 사라질 수 있다. 고령층 대신 젊은 사람을 뽑아 훈련시켜야 기업의 업무 프로세스가 개선되고, 청년들이 현장에서 얻는 인적자본의 습득도 빨라질 것이다. 그것이 우리사회 경쟁력이 된다. 젊은이들에게 기회를 주고 지원하는 것이 기성세대가 해야 할 일이다.”
-정부는 국민성장펀드로 성장 물꼬를 트겠다고 한다.
“이런 펀드는 필요하지만 문제는 지배구조다. 민관 합동 전략위원장에 이억원 금융위원장과 서정진 셀트리온 회장, 박현주 미래에셋그룹 회장 3명이 이름을 올렸다. 세금으로 하는 사업에 국고를 담당하는 기획재정부 장관이 아니라 금융위원장을 앉힌 것이 이해가 안된다. 서 회장과 박 회장도 국민들 돈이 들어간 ‘꿀단지’를 맡는 이로서 이력이 적절한지 의문이다. 서 회장은 범죄 혐의가 있고 박 회장은 논란이 많았다. 향후 이상한 곳에 투자하거나, 정치권이 원하는 곳에 돈을 넣어주는 것은 아닌지 우려된다. 향후 펀드 의사결정 과정에 대해 감사원 감사를 받고, 국회 보고 등 안전장치가 마련돼야 한다.”
-금융소비자 보호도 중요한 과제로 꼽힌다.
“정부는 코로나19 사태 이후 아직 제대로 해결되지 못한 중소 자영업자들의 채무 문제를 해결해야 한다. 이 정부 들어 자영업자 채무조정 등이 진행됐지만 부족하다. 현재보다 더 대규모로 해야 한다. 박근혜 정부 때 국민행복기금도 기획 단계에서 규모가 18조원 이상이었다. 그 후 코로나19 사태라는 커다란 충격을 추가로 받았다. 물가 상승까지 고려하면 50조원 규모로는 추진해야 한다고 본다.”
-지금까지 이재명 정부를 평가하자면.
“이 대통령의 성과라면 코스피 지수가 4000 이상으로 올라왔다는 점이다. 또 상법 개정과 관련해 여러 진일보한 측면이 있었다는 것이 괄목할만한 성과라고 본다. 김용범 청와대 정책실장의 경우 한미 관세협상을 이끌며 조율도 하고 나름 타결을 이끌어낸 점이 잘한 일이라 할 수 있다. 다만 그가 관련됐을 것으로 짐작되는 일 중 SK그룹 최태원 회장을 위해 금산분리를 완화하는 등 각종 규제를 풀어준 점은 문제가 있다. 이 정부는 금융과 관련해 너무 재벌과 가깝다. 1년도 안 됐는데 행복한 동행을 하고 있는 상황이다. 이 정부가 벌써 관료나 재벌의 손에 놀아나고 있는 게 아닌지 걱정이 된다.”
-금융감독기구 개편을 강하게 주장해왔는데 무산됐다.
“금융위원회 조직이 살아남았는데, 금융위 입장에서는 만족하겠지만 국민경제적으로 도움이 될지 의문이다. 관료들이 처음에는 대통령에게 (고개를) 숙여주지만, ‘이 사람은 우리 손바닥 위에서 춤추는 사람이구나’라고 생각하기 시작하면 문제가 될 것이다. 나중에는 그들만의 아젠다를 추구하거나, 기업 등 자신들과 이해관계가 있는 자들이 하는 부탁을 관철시키려 할 수 있다.”
북한이 이재명 정부 출범 이후인 지난해 9월과 이달 4일에 한국의 무인기가 북한 영공을 침범했다면서 한국 당국의 책임을 묻고 나섰다. 무인기 의혹이라는 돌발 변수가 신년초 남북관계에 등장한 것이다. 정부는 해당 무인기를 보유·운용한 사실이 없다고 반박했고 이재명 대통령은 군경 합동 수사를 지시했다. 윤석열 정부가 북한에 수차례 무인기를 보내며 북한의 도발을 유도하려 했던 진상들이 드러난 가운데 다시 무인기 의혹이 제기되고 있는 것은 사실 여부를 떠나 유감스러운 사태다. 정부는 무인기 의혹을 한 점 남김없이 철저히 규명해야 한다.
조선인민군 총참모부는 지난 9일 대변인 성명을 통해 지난해 9월27일과 지난 4일 북한 영공을 비행한 한국 무인기를 강제 추락시켰다며 사진과 비행기록 및 경로 등을 공개했다. 북한의 주장과 공개 사진에 따르면 지난해 9월 경기 파주시 일대에서 날린 무인기와 지난 4일 강화도에서 날린 무인기 모두 낮 시간대에 이륙해 추락했고, 비슷한 형체로 보인다.
이에 국방부는 당일 입장을 내고 “1차 조사 결과 군은 해당 무인기를 보유하고 있지 않다”며 민간에서 무인기를 운영했을 가능성을 조사할 예정이라고 밝혔다. 그러자 김여정 북한 노동당 부부장이 11일 조선중앙통신 담화에서 “사태의 본질은 그 행위자가 군부냐 민간이냐 하는 데 있지 않다”며 “민간단체나 개인의 소행이라 해도 국가안보의 주체라고 하는 당국이 그 책임에서 벗어날 수는 없다”고 주장했다.
이재명 정부가 남북의 적대 완화를 추진하고 있는 상황에서 불거진 ‘무인기 의혹’은 향후 남북관계에 지대한 영향을 미칠 수 있다. 철저한 진상 규명이 우선이다. 윤석열 정부 시기 무인기 대북 침투로 수사를 받고 있는 군이 무인기를 보낼 가능성은 없어 보인다. 속단은 금물이지만 대북 전단을 보내온 민간단체가 연루됐을 가능성을 배제할 수 없다. 그러나 무인기를 보낸 주체가 누구이건 이를 정부가 몰랐다면 문제이고, 알고도 제지하지 않았다면 더 큰 문제가 아닐 수 없다. 군당국의 비무장지대 감시 태세도 이번 기회에 철저히 점검해 국민 불안을 해소해야 한다.
9·19 군사합의가 무력화되고 남북 소통 채널이 단절된 상태에서 무인기 침투는 언제든 군사적 충돌로 이어질 수 있는 민감 사안이다. 반면 진상규명이 제대로 이뤄진다면 남북 긴장 완화와 신뢰 회복의 전기가 될 수 있다.

이전글문해력 책 종량제 봉투 판매대금 6억원 빼돌린 제주시 직원 징역 3년 26.01.11
다음글관계 후반부가 부담될 때 생각해볼 수 있는 방법 26.01.11

댓글목록

등록된 댓글이 없습니다.