[김병필의 인공지능 개척시대] '가짜'를 만드는 인공지능 '가짜'를 막는 인공지능

[김병필의 인공지능 개척시대] '가짜'를 만드는 인공지능 '가짜'를 막는 인공지능 (daum.net)

[김병필의 인공지능 개척시대] '가짜'를 만드는 인공지능 '가짜'를 막는 인공지능

가짜 뉴스, 가짜 사진, 가짜 동영상 등등. 이른바 ‘가짜’들이 사회를 위협하고 있다. 이제 인공지능 기술을 이용하면 인간이 구별하기 힘들 정도로 정교한 가짜를 누구라도 만들어 낼 수 있는 수준에 이르렀다. 가짜의 폐해는 굳이 언급할 필요가 없을 정도로 막대하다. 위조지폐가 활개 친다면 경제 활동에 큰 장애가 생기는 것과 마찬가지로, 가짜 뉴스는 언론의 기능을 저해할 것이고 가짜 사진이나 동영상은 피해자의 삶에 돌이킬 수 없는 상처를 입힐 것이다. 우리는 이 문제에 어떻게 대처해야 할까?

무엇보다 악의적으로 가짜 정보를 배포하는 사람을 엄정히 처벌할 필요가 있다는 점은 두말할 나위가 없다. 반드시 형사처벌이 아니더라도 피해자에게 막대한 손해배상을 하도록 하는 것도 좋은 방법이다. 문제는 법 집행을 통한 예방에는 한계가 있게 마련이라는 점이다. 인력과 비용이 적지 않게 소요될 뿐만 아니라, 만약 해커들이 해외 서버를 이용하여 자신의 위치와 정체를 숨긴 채 가짜 정보를 유포한다면 국내에서의 수사나 증거 조사가 쉽지 않을 것이다.

그러면 가짜를 탐지하는 기술을 개발하면 어떨까? 올 여름 발표된 한 해외 연구 결과에 따르면, 인공지능 기술을 이용하면 가짜 이미지를 92% 이상의 정확도로 판별해 낼 수 있다고 한다. 미국 국방성도 유사한 연구를 지원하고 있다는 소식도 들린다. 악의적인 가짜 정보는 확산 경로가 다르다는 점에 착안한 연구도 진행 중이다. 빅데이터 기술을 이용하면 극소수의 사용자가 인위적으로 가짜 정보를 퍼뜨리려고 시도하는 미심쩍은 경우를 찾아낼 수 있다.

이렇듯 가짜를 만들어 내는 인공지능이 발전하는 만큼, 가짜를 잡는 인공지능도 발전하고 있다. 이러한 기술에 더 많은 투자가 이루어지고, 더욱 활발히 활용되면 좋겠다. 하지만 이것만으로 충분히 안심하기는 어렵다. 가짜를 잡는 인공지능조차 속이는 기술이 언제든지 개발될 수 있기 때문이다. 위조지폐 판독기의 성능이 제아무리 좋아지더라도, 판독기조차도 속이는 더 정교한 위조지폐가 나올 수 있는 것과 같은 이치다.

그래서 누구든지 출처를 손쉽게 확인할 수 있고, 콘텐츠의 신뢰도를 한눈에 알아볼 수 있게 하자는 아이디어도 제시된다. 출처가 확인된 기사나 사진·동영상은 눈에 띄게 표시해 주고, 그렇지 않은 경우는 경고 표시를 붙이자는 것이다. 인터넷 뱅킹 사이트에 접속하면 주소창이 초록색으로 변해서 안심할 수 있다고 알려주는 것과 비슷한 원리다. 가령 최초 출처의 자료가 삭제되면 이를 퍼 나른 후속 복사 글들에는 ‘출처 미확인 경고’가 표시되고, 누군가 동영상을 조작해서 원본 자료와 달라지면 ‘조작 위험 경고’ 표시가 붙으면 좋을 것이다. 물론 아직 기술적 어려움이 적지 않지만, 진지하게 고민해 볼 제안이다.

이미 ‘가짜’의 문제는 전 세계적 이슈가 되고 있다. 페이스북은 2020년 미국 대선을 앞두고 가짜 뉴스의 배포를 막는 데 심혈을 기울이고 있고, 구글은 가짜 동영상의 유포를 막기 위한 기술에 막대한 투자를 하고 있다. 인공지능을 통해 가짜를 손쉽게 만들어 낼 수 있는 것처럼, 인공지능을 활용하면 가짜를 잡아내는 일도 충분히 가능하다. 특히 가짜 정보는 한 번 널리 퍼지고 나면 엎질러진 물과 같이 돌이키기 어렵다. 그래서 인공지능 기술을 통해 가짜 정보를 사전에 판별해 내는 일이 중요하다. 이제 우리도 ‘가짜’를 막는 인공지능 개발을 서둘러야 할 때다.

김병필 KAIST 기술경영학부 교수ㅣ중앙일보 2019.10.09

/ 2022.06.27 옮겨 적음