"서울 시내서 용암 분출 중"…뉴스 속보 알고 보니

인공지능(AI)을 활용해 만든 영상이 실제와 구분할 수 없을 정도로 정교해지면서 이를 이용한 가짜 뉴스 피해를 우려하는 목소리가 커지고 있다.

최근 사회관계망서비스(SNS) 스레드 등 온라인상에서는 '서울 시내에 용암이 분출되고 있다'는 내용의 뉴스 속보를 전하는 영상이 화제가 되고 있다.

해당 영상을 보면 아나운서는 "현재 서울 시내에 용암이 분출하고 있다"라고 한 뒤 현장 기자를 연결한다. 이어 화면에 등장한 취재 기자 뒤로는 시내 한복판에 시뻘건 용암이 솟아오르고 있다. 취재 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 그리고 저도 AI입니다"라고 말했다.

화면에 나타난 또 다른 아나운서는 "엄마, 아빠 조심하세요. 우리는 AI입니다"라고 했고, 뒤이어 등장한 학생, 사업가, 연예인 등도 모두 "나는 AI입니다"라고 강조하며 시청자에게 "속지 말라"고 경고했다.

특히 이들은 "나는 핸드폰을 잃어버리지 않았다. 기프트 카드를 사주지 않아도 된다" "이 주식으로 월 천만원을 벌었다. 사실 그럴 리가 없다" 등 최근 성행하는 전자 금융 사기 범죄 수법을 언급해 주목받았다.

해당 영상을 접한 누리꾼들은 "글씨체만 아니었으면 정말로 착각할 정도" "젊은 세대는 비교적 알아차리기 쉽지만, 노인들은 판단 못 할 수도 있겠다. 관련 교육이 필요할 것 같다" 등의 반응을 보였다.

이 영상을 제작한 유튜브 채널 '딸깍 디자이너'는 스레드를 통해 "이 영상을 AI에 취약한 가족, 친구, 지인에게 공유해 달라"라며 "기술 발전의 부작용은 항상 취약한 계층부터 피해받는다. 이를 막기 위해 외국 영상에서 영감받아 한국판으로 제작했다"라고 밝혔다. 이어 "널리 공유해서 AI 사기 피해를 예방하자"라고 거듭 강조했다.

이처럼 AI를 통해 만든 영상이 실제와 구분이 어려운 수준에 이르자 콘텐츠에 AI 사용 여부를 밝혀야 한다는 목소리도 커지고 있다.

지난 1월 제정돼 내년 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 제31조에 따르면, AI 사업자는 AI 시스템을 이용해 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공할 때, 해당 결과물이 AI 시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다.