2024. 8. 29. 23:12ㆍ카테고리 없음
요약
1. 논란의 딥페이크
2. 딥페이크가 만들어지는 과정
3. 딥페이크 예방할 수 있을까?
4. SNS의 딜레마
5. SNS 사진을 캡처하여 고유했다면 불법?
6. 인스타그램 비공개 계정을 뚫을 수 있다?
7. 사회적 문제
논란의 딥페이크
최근 AI의 발전으로 인하여 한국 사회는 딥페이크에 의해서 곤욕을 치르고 있다. 개인의 사진을 합성하여 악의적인 결과물을 제작 및 배포하는 행위로 인하여 개인들이 피해를 본 사례가 발생하고 있다. 이러한 딥페이크 결과물들을 텔레그램과 같은 개인 SNS를 이용하여 배포하는 행위가 확인되어 이를 경찰이 조사하기 시작했다.
딥페이크가 만들어지는 과정
딥페이크 사진이나 영상은 내가 합성하고 싶은 A라는 데이터와 얼굴을 합성할 B라는 데이터를 인공지능 AI를 통하여 자연스럽게 합성하는 기술이다. 불과 몇 년 전만 하더라도 이러한 기술은 개인이 시현하기에는 연산 능력이나 학습시킬 수 있는 데이터의 한계 등 쉽게 보급화되지 않았던 기술이다. 하지만 최근 AI의 발전과 머신러닝의 효율성 증가로 인하여 개인이 쉽게 사용할 수 없었던 이러한 프로그램들의 경량화 및 효율성이 개선되었다.
개인의 얼굴 사진을 가지고 다른 사람의 몸과 합성하는 행위는 과거 포토샵과 같은 사진 편지툴로도 가능했다. 하루아침에 세상에 없었던 것이 생겨난 것은 아니지만 개인들이 이를 무분별하게 사용할 수 있게 되었다는 것이 화두로 떠올랐다. 만약 누군가가 당신의 사진을 딥페이크를 하기 위하여 사용하려고 했다면 이미 사진들을 저장했을 가능성이 높다.
딥페이크 예방할 수 있을까?
현재 SNS 상으로 개인의 얼굴 사진이나 전신사진을 내리자고 하는 게시글들이 공유되고 있다. 딥페이크를 막기 위한 여러 가지 방법 중 하나는 합성할 수 있는 사진 자체를 제공하지 않는 것이 맞다. 앞으로 혹은 개인의 계정을 비공개로 돌려 일면식 없는 개인들이 아무렇게나 개인의 사진을 가져가는 것을 방지할 수 있다.
하지만 이 또한 완벽한 예방법은 아니다. 웹사이트 및 SNS의 정보를 보관할 수 있게 해주는 해외의 “아카이빙” 서비스를 통해서 내 SNS 상에 올라간 사진들이 저장되었을 수도 있다.
아카이빙 설명: https://namu.wiki/w/archive.today
*위에서도 언급했듯 이미 누군가가 과거에 올린 내 사진을 저장했다면 이 또한 막을 수 있는 방법이 없다.
SNS의 딜레마
SNS를 사용하는 개인으로써 이러한 사태는 SNS을 사용하는 개인을 딜레마에 빠뜨린다. SNS는 개인이 사진을 올리는 공간이고 이러한 사진을 뽐내는 공간인데 개인 얼굴이 나온 사진을 올리지 못한다면 앞으로 SNS는 얼굴이 나오지 않는 혹은 사진 속에 내가 담겨 있지 않은 사진들만 올려야 할지 모른다.
SNS 사진을 캡처하여 고유했다면 불법?
만약 누군가 개인의 SNS에 있던 사진을 캡쳐하여 공유했다면 이는 불법이 아니라고 한다. 초상권이 침해되었다고 하여 형사처벌 할 수 없고, 얼굴 사진 공유 자체를 놓고 “성폭력 범죄의 처벌 등에 관한 특례법 제14조 제2항”으로도 처벌할 수 없다고 한다.
*위 내용은 개인적인 검색에 의하여 정리한 내용입니다. 법률적 해석이 틀릴 수 있으며, 그 어떠한 정확한 법률적 해석의 근거가 될 수 없음을 알립니다. 정확한 사항은 전문 변호사 및 법조인을 통하여 상담하시길 바랍니다.
인스타그램 비공개 계정을 뚫을 수 있다?
개인 사진을 내리라는 내용과 함께 계정 비공개 처리 또한 소용이 없다는 이야기도 종종 보인다. 인스타그램 비공개조차도 개인이 뚫을 수 있다고 주장하는 글들이 있는데 이는 사실이 아니다. 개인의 비공개 계정을 뚫을 수 있는 방법은 없다. 개인이 가진 SNS 계정이 해킹 당하여 공격하는 사람이 직접 계정을 열어보는 것이 아니라면 메타(전 페이스북)이 만들어 놓은 시스템의 보안이 10대 개인이 뚫을 수 있을만한 수준도 아니며 온라인상에서 인스타그램의 비공개 계정을 보는 프로그램 및 서비스는 대부분 거짓말이다. 간혹 비공개 계정임에도 불구하고 앞에서 말한 서비스를 통하여 비공개 계정에 올라온 게시글을 봤다는 사례가 있는데, 이는 과거 비공개가 되기 전에 미리 크롤링(캡쳐 및 복사)를 해둔 아카이빙 자료일 가능성이 높다.
사회적 문제
한동안 연예인의 딥페이크 문제로 소속사들이 고소하고 수사를 했던 적이 있었다. AI의 발전으로 인하여 이제는 공인에서 개인의 영역으로 이러한 기술들이 영향을 미치고 있다. 이러한 상황 속에서 사람들이 할 수 있는 건 두 가지라고 생각한다. 첫째, 계속 견제하면서 기술이 성숙하고 올바른 방향으로 갈 수 있도록 협력하고 계속 이야기하는 것. 둘째 기술의 장단점을 모두 수용하면서 최대한 단점을 의식하되 이러한 단점을 지양할 수 있는 방향으로 기술에 제한을 두는 것. 첫째와 둘째가 같은 이야기 같기도 하다, 부디 AI의 발전이 사회와 개인들에게 더 좋은 방향으로 쓰이길 기도해 본다.