(씨넷코리아=이민아 기자) 페이스북이 딥페이크 기술을 이용하여 고위로 유포된 허위 정보를 단속하기 위해 이미지를 분석해 출처를 알아내기 위한 방법을 연구하고 있다.
딥페이크는 인공지능을 사용하여 세상에 존재하지 않는 사람이나 사물의 이미지를 생성한다. 더해서, 정치인이나 연예인을 포함한 특정인이 하지 않은 발언이나 행위를 묘사하는 영상을 만들어내기도 한다. 이런 딥페이크 기술이 발전함에 따라 더 많은 가짜뉴스와 허위정보들이 활개 칠 가능성 또한 높아지면서 거대 IT기업들이 이에 대비하고 있다.
페이스북은 미시간주립대와 팀을 이뤄 연구원들이 하나의 AI 이미지에서 어떻게 가짜 콘텐츠가 만들어지는지 자세히 알아보는 역설계 기법을 연구해 왔다. 이 기법을 이용하면 해당 콘텐츠가 서로 다른 온라인 플랫폼에서 공유됐더라도 그것들이 동일한 출처에서 만들어졌는지를 파악할 수 있다.
페이스북은 자사 블로그에서 “동일한 AI 모델에서 어떤 가짜 이미지들이 생성됐는지를 탐지하는 이 기능은 딥페이크를 이용한 허위 정보나 기타 악의적인 공격 사례를 적발하는 데 유용하다"며 "연구진이 딥페이크 영상 속 인물이 남긴 독특한 패턴이나 ‘장치 지문(device fingerprints)’을 조사해 어디서부터 시작된 이미지인지 그 출처를 알아낼 수 있었다"고 전했다. 그 후 연구원들은 AI 모델의 구성 요소를 더욱 자세히 살펴볼 수 있는데 페이스북은 "역설계 기법은 우리가 처음 보는 새로운 자동차라고 해도 그것이 내는 소리를 바탕으로 자동차의 구성 요소를 인식하는 것과 비슷하다"고 설명했다.
미시간 주립 대학의 연구원들은 역설계 기법을 테스트하기 위해 공개적으로 활용 가능한 100개의 모델로부터 만들어낸 10만 개의 가짜 이미지를 데이터 세트(data set)로 만들었다. 또한 딥 페이크의 감지와 출처를 증명하는 연구에 도움이 될 수 있도록 다른 연구자들에게도 해당 데이터 세트와 코드 및 소스 프로그램을 공개하여 자유롭게 수정하고 재배포할 수 있도록 허락했다.
