[남산 딸깍발이] 선한 인공지능? 해답은 인간의 윤리 (2022.03.24)

[남산 딸깍발이]선한 인공지능? 해답은 인간의 윤리 (daum.net)

[남산 딸깍발이]선한 인공지능? 해답은 인간의 윤리

[남산 딸깍발이] 선한 인공지능? 해답은 인간의 윤리 

[아시아경제 김효진 기자] 세계 최대 이커머스(전자상거래) 기업 아마존은 데이터 기반 인공지능(AI) 채용시스템이 개발자와 기술직군 대부분에 남성만을 추천하는 오류를 일으키자 시스템을 아예 폐기해버렸다. AI 기반 범죄예측 프로그램 콤파스(COMPAS)의 재범률 예측 프로그램은 흑인 범죄자의 재범 가능성을 백인의 2배 넘게 예측하는 편향성으로 문제가 됐다.

부산교대 총장을 지낸 하윤수 한국교원단체총연합회 회장은 최근 부산시 주최로 열린 'AI KOREA 2021 인공지능 윤리 대전' 콘퍼런스에서 "고도화된 AI와 메타버스 등이 미래 사회와 교육혁명을 이끌 신기술로 각광받고 있지만 동시에 AI 편향성, 딥페이크 등 오용과 범죄가 빈발하고 있다"고 지적했다.

하 회장은 또 "얼마 전 마이크로소프트의 AI 챗봇 테이(Tay)가 인종차별, 성차별 등 혐오 발언을 쏟아내 서비스가 중단되고, 원격수업 과정에서 딥페이크 기술을 악용해 교사의 인권을 유린한 사례 등이 나타나고 있다"면서 인간과 AI의 가치 있는 공존을 위해 AI 이용과 관련한 윤리기준 마련을 서둘러야 한다고 촉구했다. AI가 가져올 유토피아적 기대 못지 않게 디스토피아적 우려가 커지고 있다는 게 그의 생각이다.

'그래도 아직은' 이라고 생각했던 AI시대의 '대문'이 코로나19라는 미증유의 국면과 맞물려 빠른 속도로 열리고 있다. AI 바둑천재 알파고가 인간 바둑천재를 물리치는 건 이미 옛말이다. AI 유치원 교사가 아이들에게 알파벳ㆍ숫자 교육을 하고 노래ㆍ그림ㆍ요가ㆍ체조를 가르치는가 하면 AI 의사, AI 반려동물 등이 인간의 건강과 정서를 본격적으로 챙기는 상황이다. 머잖아 AI 아이돌이 세계의 대중문화 지형을 뒤흔들 것이란 전망도 나온다. 그 형태가 어떠하든, 멀지 않은 미래에 모든 가정이 '1인 1로봇' 시대를 맞이할 수도 있다. 문제는 AI가 '지능'에 불과하다는 점이다.

앞서 언급한 데이터 편향의 문제, 범죄수단으로의 악용 문제를 포함해 학습 과정에서 이용자의 사생활을 침해하는 문제, 이른바 '킬러로봇' 개발로 인간에게 치명적 위협을 가할 수 있는 문제 등이 한도끝도없이 제기될 수 있다. AI와 '인간성' 사이의 괴리를 좁히는 걸 넘어 인간의 생명을 지키는 것까지, AI가 우리에게 던지는 과제가 그만큼 넓고 깊다는 의미다.

AI는 인간의 행복과 편익을 위한 수단일 뿐이며, 유일하고 궁극적인 '목적'은 인간이라는 당위가 과연 지켜질 수 있을까. 산업 및 자본시장의 고도화, 여기에서 비롯되는 경제우선의 논리로부터 '목적'으로서의 인간과 인간성이 보호받을 수 있을까. '인공지능 윤리 개론'은 이런 고민을 공유하고 해법을 찾아보자는 취지로 한국인공지능윤리협회 전문가 11명이 머리를 맞대 출간한 책이다.

"선한 인공지능을 만드는 일은 단순한 문제가 아니다. 인공지능에게 '인간을 행복하게 해 주어라'라는 명령어를 입력한다고 끝나는 문제가 아니다. 오히려 이러한 단순 명령어는 인공지능으로 하여금 '아, 지구상에 존재하는 온라인 데이터들을 모두 학습해보니, 인간을 가장 불행하게 하는 존재는 바로 인간이로군. 따라서 인간을 행복하게 하려면 인간을 멸종시켜야 해'라는 맹목적 판단을 내리게 할 수도 있다(본문中)"

'인공지능 윤리'는 인공지능 영역에서 사람이 지켜야할 윤리를 의미한다. AI가 너무 빨리 나아가면 그만큼의 부작용이 뒤따르겠고, AI의 발전속도를 지나치게 억제하면 인간에 이로운 기술의 진보가 억압될 수 있다. 그렇다면 중요한 것은 AI의 발전과 AI의 윤리가 조화롭게 발전하는 것. 지금 우리가 서 있는 지점은 이처럼 거대한 담론의 출발점이 아닐까. AI에 관한 묵직한 고민 외에 우리가 잘 모르는 흥미로운 AI 이야기 등이 '인공지능 윤리 개론'에 두루 녹아들어 있다.

인간이 휴머노이드 로봇에 가하는 폭력은 어떻게 봐야 할지, 인공지능 기술이 적용된 로봇 팔이 신체 일부에 속한다고 할 수 있을지, 로봇 팔에 해를 입히면 상해죄로 다스려야 하는지 절도죄로 다스려야 하는지, 인간의 몸이 사이보그가 된다면 그 몸을 치료하는 사람은 의사인지 공학자인지 같은 공상과학적 고민의 단초도 찾아볼 수 있다.

김효진 기자ㅣ아시아경제 2021.09.03

/ 2022.03.24 옮겨 적음