2024-08-28 13:57:33
최근 텔레그램 창시자인 러시아 출신 CEO 파벨 두로프가 프랑스 당국에 의해 텔레그램 딥페이크 음란물 유포 방조 혐의 등으로 체포됐다. 이를 계기로 딥페이크를 악용한 사회관계망(SNS)에서의 범죄 문제가 관심사로 부상했다.
딥페이크는 적대관계생성신경망(GAN)이라는 기계학습(ML) 기술을 사용하여 기존의 사진이나 영상을 원본과 합성해서 전혀 다른 새로운 이미지의 사진이나 영상을 만들어낸다.
다음 두 가지의 경우에 딥페이크는 사회적으로 문제가 매우 심각하다.
첫째, 가짜뉴스가 빠르게 확산하는 통로로 악용될 수 있다. 가짜뉴스는 일상생활에서의 단순 거짓말부터 선거나 전쟁 등 국가의 명운을 결정할 수 있는 상황에서 유포되는 경우까지 발생 양태가 다양하다. 전자는 세계적으로 표현의 자유 영역으로 보아 형사처벌하지 않지만, 후자는 처벌 규정의 신설·강화가 논의되고 있다. 예를 들면, 영화감독 조던 필은 딥페이크 기술의 위험성을 알리고자 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 제작·공개했다. 만일 현실 정치에서 선거를 목전에 두고 이 같은 동영상이 유포된다면 유권자들의 선택에 큰 영향을 줄 수 있다.
가짜뉴스의 생성과 확산은 인공지능(AI) 기술의 발전으로 인해 유포자 색출이 불가능해진다는 점에서 심각한 현안이다. 단순 거짓말이라는 이유로 표현의 자유로 분류해 처벌 대상에서 제외하는 가짜뉴스와, 사회적으로 큰 혼란을 불러일으켜 처벌해야 할 악의적 가짜뉴스를 구별하는 기준이 필요하다.
둘째, 범죄와 관련되는 경우다. 예를 들면 텔레그램과 같이 익명성이 보장되는 SNS 프로그램을 활용해 단체 회원방을 개설한 다음 얼굴을 다른 사람으로 바꾼 성적 동영상을 유포하거나 마약을 판매하는 경우처럼 기존 법률이 금지하는 행위를 자행한 경우다.
이 문제는 위 가짜뉴스에 비해 이론상 형사처벌 근거를 갖추기가 어렵지 않다. 예를 들면, 성적 수치심을 일으키는 동영상에 특정인의 얼굴을 오버랩시켜 유포한 경우 성폭력처벌법 제14조의2에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처할 수 있다. 또, 그러한 영상이나 사진을 영리 목적으로 제작한 때는 7년 이하의 징역형에 처할 수 있다. 마약 등을 유통할 목적 또는 다른 범죄를 범할 목적으로 단체 대화방을 개설해 범죄를 저지른 때에도 형법이나 특별 법령에 따라 처벌할 수 있다.
문제는, 경찰력이나 행정력만으로 계속 생성·유포되는 사진·동영상을 걸러내기가 어렵다는 데 있다. 더욱이 텔레그램 등 해외 SNS 등에는 우리의 행정력이나 수사기관의 관할권도 미치지 못한다. 그렇다고 좌시할 수는 없는 만큼 음란 영상물을 제작·유포하는 행위뿐 아니라, 해외의 아동 포르노 사례처럼 소지만 해도 처벌하거나, 암행감찰·위장수사도 일정한 범위에서 허용하는 방향으로 법을 개정해야 할 것이다.
과학기술의 발전이 언제나 그랬듯이, AI와 딥페이크 기술은 인류에게 새로운 가능성을 열어주고 있다. 반면, 범죄에 악용되거나 국가를 뒤흔들 수도 있는 가짜뉴스가 일상화할 위험성도 크다. 범정부 차원에서 신속한 대책 마련과 인식 개선이 절실한 시점이다.
딥페이크는 적대관계생성신경망(GAN)이라는 기계학습(ML) 기술을 사용하여 기존의 사진이나 영상을 원본과 합성해서 전혀 다른 새로운 이미지의 사진이나 영상을 만들어낸다.
다음 두 가지의 경우에 딥페이크는 사회적으로 문제가 매우 심각하다.
첫째, 가짜뉴스가 빠르게 확산하는 통로로 악용될 수 있다. 가짜뉴스는 일상생활에서의 단순 거짓말부터 선거나 전쟁 등 국가의 명운을 결정할 수 있는 상황에서 유포되는 경우까지 발생 양태가 다양하다. 전자는 세계적으로 표현의 자유 영역으로 보아 형사처벌하지 않지만, 후자는 처벌 규정의 신설·강화가 논의되고 있다. 예를 들면, 영화감독 조던 필은 딥페이크 기술의 위험성을 알리고자 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 제작·공개했다. 만일 현실 정치에서 선거를 목전에 두고 이 같은 동영상이 유포된다면 유권자들의 선택에 큰 영향을 줄 수 있다.
가짜뉴스의 생성과 확산은 인공지능(AI) 기술의 발전으로 인해 유포자 색출이 불가능해진다는 점에서 심각한 현안이다. 단순 거짓말이라는 이유로 표현의 자유로 분류해 처벌 대상에서 제외하는 가짜뉴스와, 사회적으로 큰 혼란을 불러일으켜 처벌해야 할 악의적 가짜뉴스를 구별하는 기준이 필요하다.
둘째, 범죄와 관련되는 경우다. 예를 들면 텔레그램과 같이 익명성이 보장되는 SNS 프로그램을 활용해 단체 회원방을 개설한 다음 얼굴을 다른 사람으로 바꾼 성적 동영상을 유포하거나 마약을 판매하는 경우처럼 기존 법률이 금지하는 행위를 자행한 경우다.
이 문제는 위 가짜뉴스에 비해 이론상 형사처벌 근거를 갖추기가 어렵지 않다. 예를 들면, 성적 수치심을 일으키는 동영상에 특정인의 얼굴을 오버랩시켜 유포한 경우 성폭력처벌법 제14조의2에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처할 수 있다. 또, 그러한 영상이나 사진을 영리 목적으로 제작한 때는 7년 이하의 징역형에 처할 수 있다. 마약 등을 유통할 목적 또는 다른 범죄를 범할 목적으로 단체 대화방을 개설해 범죄를 저지른 때에도 형법이나 특별 법령에 따라 처벌할 수 있다.
문제는, 경찰력이나 행정력만으로 계속 생성·유포되는 사진·동영상을 걸러내기가 어렵다는 데 있다. 더욱이 텔레그램 등 해외 SNS 등에는 우리의 행정력이나 수사기관의 관할권도 미치지 못한다. 그렇다고 좌시할 수는 없는 만큼 음란 영상물을 제작·유포하는 행위뿐 아니라, 해외의 아동 포르노 사례처럼 소지만 해도 처벌하거나, 암행감찰·위장수사도 일정한 범위에서 허용하는 방향으로 법을 개정해야 할 것이다.
과학기술의 발전이 언제나 그랬듯이, AI와 딥페이크 기술은 인류에게 새로운 가능성을 열어주고 있다. 반면, 범죄에 악용되거나 국가를 뒤흔들 수도 있는 가짜뉴스가 일상화할 위험성도 크다. 범정부 차원에서 신속한 대책 마련과 인식 개선이 절실한 시점이다.
번호 |
제목 |
날짜 |
|---|---|---|
| 2565 | [중앙일보] 혼인 증가세를 올해도 높게 유지하려면 | 25-05-08 |
| 2564 | [매경이코노미스트] 세대상생을 위한 정책선거를 바란다 | 25-05-07 |
| 2563 | [중앙일보] 누가 대통령 되든 노동개혁은 멈추면 안 된다 | 25-04-30 |
| 2562 | [문화일보] 이재명 후보가 답해야 할 4가지 의문 | 25-04-29 |
| 2561 | [시사저널] ‘군 모병제’ ‘주 4.5일 근무’ ‘전 국민 25만원’… 넘치는 포퓰리즘 공약.. | 25-04-28 |
| 2560 | [한국경제] 미국의 중국 견제, 성공하기 어렵다 | 25-04-25 |
| 2559 | [서울경제] 민주당의 상법 개정 재추진 유감 | 25-04-24 |
| 2558 | [한국경제] 주주행동주의의 두 얼굴 | 25-04-24 |
| 2557 | [매일신문] '반(反)이재명 빅텐트'와 후보 단일화 | 25-04-22 |
| 2556 | [문화일보] 관세전쟁, 새 자유무역 신호탄… 한·미 산업적 시너지 창출 기회 삼아야(.. | 25-04-18 |
| 2555 | [파이낸셜투데이] 대선·개헌 동시 투표보다 더 중요한 것 | 25-04-18 |
| 2554 | [아시아투데이] 트럼프의 ‘원 스톱 쇼핑’ 대응전략 | 25-04-15 |
| 2553 | [스카이데일리] 대한민국의 정체성을 아시나요 | 25-04-08 |
| 2552 | [문화일보] 이젠 강력한 경제 리더십 절실한 시간 | 25-04-07 |
| 2551 | [문화일보] ‘3만 달러 늪’ 탈출로는 민간 활력뿐 | 25-04-01 |
| 2550 | [문화일보] 헌재, 정치에 휘둘리면 해산론 커진다 | 25-04-01 |
| 2549 | [중앙일보] 한화에어로 유상증자, 조금 더 냉정하게 지켜보자 | 25-04-01 |
| 2548 | [서울신문] 임금체계 바꿔 ‘정년연장’ vs 적정임금 보장해 ‘고용연장’ | 25-04-01 |
| 2547 | [문화일보] ‘천안함 15년’ 더 절실해진 서해 수호 | 25-03-26 |
| 2546 | [매경이코노미스트] AI와 노동개혁 | 25-03-25 |
