2024-08-28 13:57:33
최근 텔레그램 창시자인 러시아 출신 CEO 파벨 두로프가 프랑스 당국에 의해 텔레그램 딥페이크 음란물 유포 방조 혐의 등으로 체포됐다. 이를 계기로 딥페이크를 악용한 사회관계망(SNS)에서의 범죄 문제가 관심사로 부상했다.
딥페이크는 적대관계생성신경망(GAN)이라는 기계학습(ML) 기술을 사용하여 기존의 사진이나 영상을 원본과 합성해서 전혀 다른 새로운 이미지의 사진이나 영상을 만들어낸다.
다음 두 가지의 경우에 딥페이크는 사회적으로 문제가 매우 심각하다.
첫째, 가짜뉴스가 빠르게 확산하는 통로로 악용될 수 있다. 가짜뉴스는 일상생활에서의 단순 거짓말부터 선거나 전쟁 등 국가의 명운을 결정할 수 있는 상황에서 유포되는 경우까지 발생 양태가 다양하다. 전자는 세계적으로 표현의 자유 영역으로 보아 형사처벌하지 않지만, 후자는 처벌 규정의 신설·강화가 논의되고 있다. 예를 들면, 영화감독 조던 필은 딥페이크 기술의 위험성을 알리고자 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 제작·공개했다. 만일 현실 정치에서 선거를 목전에 두고 이 같은 동영상이 유포된다면 유권자들의 선택에 큰 영향을 줄 수 있다.
가짜뉴스의 생성과 확산은 인공지능(AI) 기술의 발전으로 인해 유포자 색출이 불가능해진다는 점에서 심각한 현안이다. 단순 거짓말이라는 이유로 표현의 자유로 분류해 처벌 대상에서 제외하는 가짜뉴스와, 사회적으로 큰 혼란을 불러일으켜 처벌해야 할 악의적 가짜뉴스를 구별하는 기준이 필요하다.
둘째, 범죄와 관련되는 경우다. 예를 들면 텔레그램과 같이 익명성이 보장되는 SNS 프로그램을 활용해 단체 회원방을 개설한 다음 얼굴을 다른 사람으로 바꾼 성적 동영상을 유포하거나 마약을 판매하는 경우처럼 기존 법률이 금지하는 행위를 자행한 경우다.
이 문제는 위 가짜뉴스에 비해 이론상 형사처벌 근거를 갖추기가 어렵지 않다. 예를 들면, 성적 수치심을 일으키는 동영상에 특정인의 얼굴을 오버랩시켜 유포한 경우 성폭력처벌법 제14조의2에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처할 수 있다. 또, 그러한 영상이나 사진을 영리 목적으로 제작한 때는 7년 이하의 징역형에 처할 수 있다. 마약 등을 유통할 목적 또는 다른 범죄를 범할 목적으로 단체 대화방을 개설해 범죄를 저지른 때에도 형법이나 특별 법령에 따라 처벌할 수 있다.
문제는, 경찰력이나 행정력만으로 계속 생성·유포되는 사진·동영상을 걸러내기가 어렵다는 데 있다. 더욱이 텔레그램 등 해외 SNS 등에는 우리의 행정력이나 수사기관의 관할권도 미치지 못한다. 그렇다고 좌시할 수는 없는 만큼 음란 영상물을 제작·유포하는 행위뿐 아니라, 해외의 아동 포르노 사례처럼 소지만 해도 처벌하거나, 암행감찰·위장수사도 일정한 범위에서 허용하는 방향으로 법을 개정해야 할 것이다.
과학기술의 발전이 언제나 그랬듯이, AI와 딥페이크 기술은 인류에게 새로운 가능성을 열어주고 있다. 반면, 범죄에 악용되거나 국가를 뒤흔들 수도 있는 가짜뉴스가 일상화할 위험성도 크다. 범정부 차원에서 신속한 대책 마련과 인식 개선이 절실한 시점이다.
딥페이크는 적대관계생성신경망(GAN)이라는 기계학습(ML) 기술을 사용하여 기존의 사진이나 영상을 원본과 합성해서 전혀 다른 새로운 이미지의 사진이나 영상을 만들어낸다.
다음 두 가지의 경우에 딥페이크는 사회적으로 문제가 매우 심각하다.
첫째, 가짜뉴스가 빠르게 확산하는 통로로 악용될 수 있다. 가짜뉴스는 일상생활에서의 단순 거짓말부터 선거나 전쟁 등 국가의 명운을 결정할 수 있는 상황에서 유포되는 경우까지 발생 양태가 다양하다. 전자는 세계적으로 표현의 자유 영역으로 보아 형사처벌하지 않지만, 후자는 처벌 규정의 신설·강화가 논의되고 있다. 예를 들면, 영화감독 조던 필은 딥페이크 기술의 위험성을 알리고자 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 제작·공개했다. 만일 현실 정치에서 선거를 목전에 두고 이 같은 동영상이 유포된다면 유권자들의 선택에 큰 영향을 줄 수 있다.
가짜뉴스의 생성과 확산은 인공지능(AI) 기술의 발전으로 인해 유포자 색출이 불가능해진다는 점에서 심각한 현안이다. 단순 거짓말이라는 이유로 표현의 자유로 분류해 처벌 대상에서 제외하는 가짜뉴스와, 사회적으로 큰 혼란을 불러일으켜 처벌해야 할 악의적 가짜뉴스를 구별하는 기준이 필요하다.
둘째, 범죄와 관련되는 경우다. 예를 들면 텔레그램과 같이 익명성이 보장되는 SNS 프로그램을 활용해 단체 회원방을 개설한 다음 얼굴을 다른 사람으로 바꾼 성적 동영상을 유포하거나 마약을 판매하는 경우처럼 기존 법률이 금지하는 행위를 자행한 경우다.
이 문제는 위 가짜뉴스에 비해 이론상 형사처벌 근거를 갖추기가 어렵지 않다. 예를 들면, 성적 수치심을 일으키는 동영상에 특정인의 얼굴을 오버랩시켜 유포한 경우 성폭력처벌법 제14조의2에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처할 수 있다. 또, 그러한 영상이나 사진을 영리 목적으로 제작한 때는 7년 이하의 징역형에 처할 수 있다. 마약 등을 유통할 목적 또는 다른 범죄를 범할 목적으로 단체 대화방을 개설해 범죄를 저지른 때에도 형법이나 특별 법령에 따라 처벌할 수 있다.
문제는, 경찰력이나 행정력만으로 계속 생성·유포되는 사진·동영상을 걸러내기가 어렵다는 데 있다. 더욱이 텔레그램 등 해외 SNS 등에는 우리의 행정력이나 수사기관의 관할권도 미치지 못한다. 그렇다고 좌시할 수는 없는 만큼 음란 영상물을 제작·유포하는 행위뿐 아니라, 해외의 아동 포르노 사례처럼 소지만 해도 처벌하거나, 암행감찰·위장수사도 일정한 범위에서 허용하는 방향으로 법을 개정해야 할 것이다.
과학기술의 발전이 언제나 그랬듯이, AI와 딥페이크 기술은 인류에게 새로운 가능성을 열어주고 있다. 반면, 범죄에 악용되거나 국가를 뒤흔들 수도 있는 가짜뉴스가 일상화할 위험성도 크다. 범정부 차원에서 신속한 대책 마련과 인식 개선이 절실한 시점이다.
번호 |
제목 |
날짜 |
|---|---|---|
| 2505 | [아시아투데이] 진실과 정론 - 임기 후반부 대통령에 바란다 | 24-11-29 |
| 2504 | [헤럴드비즈] 디지털 시대, 화이트 칼라 제도 서둘러 도입해야 | 24-11-29 |
| 2503 | [동아일보] 소액주주 이익 보호 위해선 상법 아닌 자본시장법 개정을 | 24-11-27 |
| 2502 | [문화일보] ‘위증 유죄, 교사 무죄’ 3가지 문제점 | 24-11-26 |
| 2501 | [문화일보] 기업 괴롭히며 민생 외치는 거짓 정치 | 24-11-26 |
| 2500 | [파이낸셜투데이] 재판 ‘나비효과’가 몰고 올 파장 | 24-11-25 |
| 2499 | [중앙일보] 중산층의 집이 사라진다…미국식 포용주택으로 해결하자 | 24-11-20 |
| 2498 | [한국일보] 한국, 무기 수출로 돈 쓸어담았는데…中 위협에 '초긴장' | 24-11-19 |
| 2497 | [아시아투데이] 진실과 정론 - 품격국회 어떻게 만들까? | 24-11-13 |
| 2496 | [파이낸셜투데이] 윤석열 대통령 기자회견이 몰고 올 정치적 파장 | 24-11-11 |
| 2495 | [서울신문] “지구당 부활에는 공천·보조금 쥔 당대표 권한 축소가 우선” | 24-11-11 |
| 2494 | [ifs POST] 21세기 국민연금 개혁의 쟁점과 과제 1) | 24-11-08 |
| 2493 | [서울신문] 한동훈 대표 ‘SWOT 분석’이 주는 정치적 함의 | 24-11-07 |
| 2492 | [문화일보] 여권 갈등 해법과 이명박-박근혜 모델 | 24-10-31 |
| 2491 | [스카이데일리] 청년 세대의 정치 진입을 제도화하자 | 24-10-30 |
| 2490 | [한국경제] 대규모 부양책 발표한 中…증시 훈풍 계속될까 | 24-10-30 |
| 2489 | [아시아투데이] -진실과 정론- 금융투자소득세 어떻게 할까? | 24-10-30 |
| 2488 | [아시아투데이] '아파트 공화국' 비아냥거리지 전에 왜 그런지 살펴봐야 | 24-10-28 |
| 2487 | [아시아투데이] 국가안보를 내팽개친 국회, 이래도 되나? | 24-10-28 |
| 2486 | [문화일보] 낮은 잠재성장률 해법은 포용적 개혁 | 24-10-23 |
