[김정호의 AI시대의 전략] 블록체인이 인공지능의 '치매'를 막는다

[김정호의 AI시대의 전략] 블록체인이 인공지능의 '치매'를 막는다 (daum.net)

[김정호의 AI시대의 전략] 블록체인이 인공지능의 '치매'를 막는다

데이터 신뢰·안전성 보강한 블록체인 기술이 전자화폐뿐 아니라 AI에도 적용 활발
편향되지 않은 데이터 확보가 AI 핵심 과제..데이터 변조 막는 데 블록체인 유용
메모리 반도체, 프로세서, 컴퓨터, 네트워크 어디서나 블록체인으로 데이터 신뢰성 확보

사토시 나카모토(Satoshi Nakamoto)는 암호화폐 비트코인을 처음으로 만든 가상의 인물이다. 아직 그가 누구인지 어디서 뭘 하는지 실체가 밝혀지지 않았다. 다만 일본계 미국인으로 추측되며, 암호학과 전산학의 대가로 판단된다. 그가 2008년 10월 ‘비트코인: P2P 전자화폐(Bitcoin: A Peer-to-Peer Electronic Cash System)’란 제목으로 비트코인 관련 논문을 인터넷에 공개했다. 이 논문에서는 비트코인에 필수적인 ‘블록체인(Block Chain) 기술’이 함께 소개됐다.

성장하는 블록체인 세계 시장 규모

사토시 나카모토는 이 논문에서 다음과 같이 주장했다. “전자 화폐(Electronic Cash)가 순수하게 개인과 개인 간(Peer-to-Peer)의 지불 수단이 되려면, 그 거래 방법은 중앙 집권적 금융 기관을 거치지 않고, 바로 개인 간에 직접 지불할 수 있는 새로운 방법이 되어야 한다. 그러기 위해서 거래 내역을 서로 연결된 사슬(Chain)로 만들고, 분산 저장하고, 또한 그 거래 내역을 암호화해서 변경할 수 없도록 해야 한다. 결국 거래 내역 변조를 불가능하게 해야 한다.” 이렇게 문서나 데이터의 변조(變造)를 영원히 불가능하게 하는 기술이 바로 블록체인 기술이다. 그러나 블록체인 기술의 적용 범위는 암호화폐에만 머무르지 않는다. 이제는 ‘데이터의 신뢰성과 안전성’ 확보가 절실한 ‘인공지능 기술’에도 필연적으로 사용될 수밖에 없다.

블록체인은 데이터 변조(變造)를 불가능하게 한다

블록체인은 블록(Block)과 체인(Chain)의 합성어로, 일종의 안전이 보장된 전자 장부이다. 서로의 거래 내역들이 블록에 담기고 이 블록들이 체인처럼 연결되어 있다는 의미이다. 이러한 블록체인 기술에서는 각 거래 내역을 암호화하고, 암호화된 거래 내역을 묶어서 블록화한다. 이렇게 만들어진 거래 장부를 전 세계 컴퓨터들에 분산 저장한다. 이 과정에서 전 세계 컴퓨터가 자발적으로 참가하는 작업을 ‘채굴(mining)’이라고 한다. 채굴에 가담하는 컴퓨터들은 주기적으로 서로 데이터 암호(SHA256)를 비교해서 데이터 변조 여부를 서로 상호 검증한다. 256비트로 이루어진 이 암호는 문서가 조금만 변조되어도 완전히 바뀌기 때문에 변조 여부는 금방 알아챌 수 있다.

이러한 블록체인 기술은 데이터의 신뢰성이 필요한 다양한 응용 분야에 적용 가능하다. 금융거래, 증권정보, 무역거래, 전자투표, 부동산 거래, 성과관리, 의료정보, 개인이력 관리, 비대면 계약, 중고차 거래, 디지털 화물운송장, 식품안전 데이터 사업 등에 쓸 수 있다. 또한 데이터의 안전한 분산과 관리를 통해서 집중된 데이터 권한과 서비스 수수료를 줄이고, 업무 효율을 증가시킬 수 있다. 비트코인은 블록체인의 한 가지 응용 사례일 뿐이다.

인공지능용 데이터 보안에도 블록체인이 필요하다

인공지능 기계학습(Machine Learning)에서는 데이터를 통해서 학습을 수행한다. 따라서 학습에 사용되는 데이터가 편향되면 인공지능도 이념적, 종교적, 문화적 편향성을 가질 수 있다는 뜻이 된다. 그 결과 인공지능은 국적, 인종, 성별, 출신, 학교, 지역에 따라 편견과 차별의식을 가질 수도 있다. 인공지능이 강남에 사는 여부와 아파트 평수도 따질 수 있다. 이뿐만 아니라 학습 데이터에 따라 좌파 인공지능 또는 우파 인공지능이 생길 수 있다. 컴퓨터 메모리는 좌우 대칭 구조이지만, 인공지능의 이념은 좌우로 갈릴 수 있다. 그리고 민주적인 의식을 가진 인공지능과 전체주의적 인공지능도 발생할 수 있다. 데이터에 따라 인공지능의 역사의식도 달라진다. 따라서 인공지능 알고리즘 개발도 중요하지만 그에 못지않게 ‘편향되지 않은 데이터의 확보’와 ‘저장된 데이터의 변조 방지’가 절대적으로 중요해진다. 이때 블록체인이 필요하다.

여기에 더해서 기계학습의 결과물인 인공지능망(Deep Neural Network)의 변수(Weight)나 네트워크 변수(Hyper Parameters)들도 변조될 위험성이 있다. 이 변수들은 학습을 통해 얻게 되는데, 인공지능망 연결선의 크기 정도 또는 인공지능망의 크기와 깊이, 그리고 학습 횟수 등 전체 설계를 표현한다. 그런데 외부 조작에 의해서 이 변수들이 조금만 인위적으로 바뀌면 인공지능의 학습 효과는 완전히 사라지게 된다. 이렇게 되면 개발된 인공지능의 지능이 급격히 떨어지거나 학습한 인공지능이 ‘치매’에 걸릴 수도 있다. 인공지능 치매는 인공지능의 성능과 판단력, 그리고 기억 용량을 현저히 떨어뜨린다. 유아기 인간 수준의 인공지능이 되는 셈이다. 이뿐만 아니라 ‘불량(不良) 인공지능’도 탄생한다. 이들은 학습 의도와 전혀 다른 판단을 내리거나 미숙한 행동을 할 수 있다. 인간의 뜻을 거역할 수도 있다.

인공지능과 데이터 보안은 같이 간다

이런 인공지능 학습에 사용되는 데이터는 인간이 만든 데이터이거나, 컴퓨터가 만든 데이터이거나, 인간의 진화 과정에서 축적된 데이터이거나, 혹은 우주에서 날아오는 데이터들이다. 이렇게 모아진 데이터의 변조는 외부의 데이터 공격과 조작(造作)에 의해서 언제나 발생 가능하다. 데이터의 변조는 메모리 반도체, 프로세서, 컴퓨터, 네트워크 또는 데이터 센터 등 어디서나 생길 수 있다. 이와 같은 데이터의 변조를 막기 위해서는 블록체인과 같은 데이터 보안 기술이 계속 발전하고 적용되어야 한다. 그래서 인공지능과 데이터 보안은 함께 간다. 인공지능은 ‘디지털 데이터의 신뢰성과 안전성(Data Integrity and Security)’ 토대 위에서 그 가치가 빛을 발한다.

김정호 KAIST 전기·전자공학과 교수ㅣ조선일보 2020.10.07