|
|
|
|
## 아들이 어머니에게 '누군가 초인종을 계속 누른다'며 웬 남자에게 집 현관문을 열어준 사진을 카톡으로 전송한다. 이어 남자가 소파에 앉는 등 집안을 태연하게 활보하는 모습도 보낸다.
놀란 어머니가 전화를 걸어 "누구냐"·"집에 아빠 있냐"며 급박하게 묻자 아들은 "영어밖에 못한다. 후 아 유?(Who are you)"라며 남자에게 말을 거는 척한다.
지난달 11일 틱톡에 올라온 영상이다. 이른바 'AI 몰카(몰래카메라)'다. 조회수 100만회와 '좋아요' 4천200개를 기록했다.
최근 틱톡·인스타그램 등 소셜미디어(SNS)에서 이처럼 인공지능(AI)으로 생성된 이미지를 이용한 'AI 몰카'가 유행하면서 논란이 일고 있다.
과거 방송 예능 프로그램에서도 가족이나 지인을 속이며 반응을 살피는 '몰카'가 인기였지만 대체로 우스꽝스러운 장난이었다.
반면 최근의 'AI 몰카'는 정교하게 만들어진 이미지를 이용해 상대방의 공포와 두려움을 유발하려는 목적으로 만들어지고 있고, 속은 상대방이 범죄나 위급한 상황으로 오인해 경찰에 신고하는 등의 부작용을 낳고 있다.
최근 유행하는 'AI 몰카'는 가족이나 연인에게 '낯선 이가 불쑥 집안으로 들어왔다'는 내용의 AI 조작 사진·영상을 보내 상대방이 대경실색하는 반응을 포착한 콘텐츠들이다.
아내가 남편에게 "당신이 아는 사람"이라며 낯선 인물에게 현관문을 열어준 사진을 보내자 남편이 경찰에 신고하겠다며 당황하는 등의 내용이다.
이러한 콘텐츠들은 조회수 수만~수십만회, '좋아요' 수백~수천개씩을 받으며 관심을 얻는다.
그러나 "이걸 장난으로 생각하고 재밌다고 하는 거냐. 상대의 놀란 마음은 생각하지 않는 듯하다"(인스타그램 이용자 'tre***'), "저러다 양치기 소년 됨. 저런 거 따라 하다 나중엔 아무도 안 믿어서 피해 볼 수도 있음"(네이버 이용자 'ice***) 등 비판도 쏟아진다.
유튜브 이용자 "so2***"는 "국가가 나서서 AI 사용 시 워터마크가 무조건 들어가도록 해야 한다"며 "자유를 이야기하기엔 더 방관하다간 사기가 판치겠다"고 썼다.
네이버 이용자 'bbo***'는 "AI로 웃긴 장난을 할 수도 있지만, 상대방도 웃을 수 있는 장난이어야 한다"며 "AI 장난으로 놀랐을 부모들의 마음을 생각하면 괜히 짠해진다"고 적었다.
대학생 정모(24) 씨는 "AI를 가지고 장난을 하는 것도 일정 선이 있는데, 범죄와 관련될 수 있는 이 장난은 상식을 벗어났다"며 "특히 AI를 잘 알지 못하는 기성세대에게 이런 장난은 장난으로 받아들여지지 않는다"고 지적했다.
그러면서 "내가 이런 장난을 가족에게 당한다면 정이 뚝 떨어지는 기분이 들 것"이라고 덧붙였다.
이러한 몰카는 해외발 'AI 장난'(AI prank)에서 시작됐다. '노숙자가 집에 들어왔다'며 낯선 이가 집을 돌아다니는 AI 합성 사진을 메신저로 부모나 친구에게 보내 공포에 휩싸이게 하는 것이다.
관련 영상이 무분별하게 퍼지자 급기야 영국 경찰이 경고를 발표하기에 이르렀다.
지난달 8일(현지시간) 영국 BBC에 따르면 잉글랜드 도싯 경찰은 SNS에 올린 경고문에서 딸이 혼자 있는 집에 낯선 남자가 찾아왔다고 믿어 '극도로 우려한' 부모가 경찰에 신고를 했으나 'AI 노숙자 장난'이었다고 밝혔다. 이어 진짜 비상 상황에 활용할 수 있었을 귀중한 가용 인력을 해당 신고 대응에 투입했다고 지적했다.
도싯 경찰은 그러면서 "해당 장난과 유사한 사진이나 메시지를 친구나 가족으로부터 받으면 999(경찰 신고)로 전화하기 전에 장난인지 체크해보길 바란다"고 당부했다.
국내 'AI 몰카' 영상에도 유사한 댓글이 달렸다.
인스타그램 이용자 'haa***'는 "우리 남편에게 오늘 아침에 장난을 쳤더니 관리사무소에서 찾아왔다. 관리사무소 직원에게 죄송해 죽는 줄 알았다"고 썼다. 장난에 속은 남편이 급한 김에 관리사무소에 SOS를 쳤다는 내용이다.
'yoo***'도 한 'AI 몰카' 영상에 "이 장난을 치다가 어떤 남편분이 112에 신고해서 실제로 경찰이 출동했다더라. 다들 재미있겠다고 따라 하다 큰일 난다"고 적었다.
야생동물이 집 안으로 들어왔다고 속이기도 한다.
98만 조회수를 기록한 한 틱톡 영상에서는 어머니에게 전화를 걸어 "너구리가 집 앞에 있다"고 말하고는 메신저를 통해 AI 합성 사진을 전송하는 모습이 담겼다.
이용자는 너구리가 집 안을 돌아다니며 반려견과 함께 있는 사진까지 실시간으로 생성해 전송했다. 이에 어머니가 "병에 걸렸을 수 있다", "빨리 내보내라"며 화를 냈다.
이 영상에는 "물리면 광견병 걸릴 위험이 있다"('김***')·"병에 걸린 상태면 사람에게 옮기니 주의해야 한다"(뻐***) 등 걱정하는 댓글까지 달렸다.
하지만 2분 정도 지나 영상 끝부분에 가서야 'AI 몰카'였음이 드러나자 누리꾼들은 속았다는 사실에 불쾌함을 토로했다.
고삼석 동국대 AI융합대학 석좌교수는 "비약적으로 발달한 AI 기술이 일반인들에게도 널리 확산된 상태, 심지어 악용까지도 가능한 상태가 된 것"이라며 "이러한 악용이 실제 사고로 이어질 경우 법을 위반하는 것이고, 법을 어기지 않더라도 사회적으로도 악영향을 미치고 심리적 공포감을 유발한다"고 지적했다.
그러면서 "이용자들이 자신의 행위가 미칠 영향에 대한 윤리적 규범을 먼저 체화해야 한다"며 기술적으로 악용되고 있는지 여부에 대한 판단을 할 수 있는 이용 역량도 이제는 필요하다"고 강조했다.
youknow@yna.co.kr
<연합뉴스>
