헤더 바로가기 메뉴 바로가기 푸터 바로가기
혁신 & 전략

인공지능 통제하기

가디너 모스(Gardiner Morse)
매거진
2020. 5-6월호
Synthesis

인공지능 통제하기

170
심각한 위협을 막으려면 새로운 룰이 필요하다.

나는 영화에 나오는 로봇들을 좋아했다. 심지어 악당 로봇들까지 말이다. 하지만 요즘의 로봇이나 기계들은 당혹스러울 만큼 똑똑해지고 있기 때문에, 영화 ‘터미네이터’나 ‘2001 스페이스 오딧세이’에 나오는 컴퓨터 할(HAL) 같은 나쁜 캐릭터의 인공지능도 결국은 현실이 될 수 있을 거라는 걱정이 든다.

물론 나만 이런 암울한 생각을 하는 것은 아니다. 스티븐 호킹 박사는 생전에 “완벽한 인공지능을 개발하는 일은 인류의 종말을 초래할 수 있다”고 경고했다. 옥스퍼드대의 철학자 토비 오드Toby Ord는 자신의 책 에서 소행성 충돌, 핵 전쟁 그리고 기후변화와 같은 여러 현존하는 위협요소들을 분석하며 인간의 의도와는 다른unaligned 인공지능이 출현할 가능성에 대해 경고했다.

171

인공지능이 인류 지능의 총합을 능가하게 되는 시점을 의미하는 특이점singularity이 아직 임박하지는 않았다는 전문가들의 주장을 들으면 다소 마음이 놓이기는 한다. 특이점의 시기에 대해서는 수십 년에서부터 몇 세기가 될 것이란 주장까지 의견이 다양하다. 하지만 아직 긴장을 늦출 수는 없다. 전문가들은 스마트 스피커에서 자율주행차까지 많은 사물을 움직이게 하는 좁은 의미의 인공지능도 초래할 수 있을 눈앞의 위험도 간과해서는 안 된다고 주장한다.

어떤 사람들은 이런 인공지능이 똑똑하긴 하지만 해를 끼치진 않을 거라고 말한다. 명령에 따라 A지점에서 B지점으로 충돌 없이 움직이라는 명령 같은 것을 아주 잘 수행하는 순진한 기계이니 말이다. 하지만 마이클 카난은 저서 에서, 인공지능은 나쁜 명령 역시 아주 냉정하게 효율적으로 수행할 수 있다고 말한다. 미 공군의 인공지능 공동위원장인 카난은 일부 국가에서는 반민주적 계획을 추진함에 있어 인공지능 기술을 매우 비윤리적인 방법으로 활용하고 있다고 말한다.

예를 들어, 중국 정부는 인공지능 기반의 ‘사회적 신용평가 제도social credit system’를 구축 중이다. 개인들의 ‘사회적 신용도social trustworthiness’를 계산해 그에 따라 보상 또는 처벌을 하기 위해 온라인과 오프라인을 가리지 않고 인민들을 추적, 감시하는 것이다. 만약 어떤 사람이 아무데나 쓰레기를 버리고 거짓 정보를 퍼뜨리다 걸리면 개인 신용도가 낮아져 항공권 구입, 대출이나 취업에 어려움을 겪을 수 있다. 좀 더 부정적인 면을 보자. 현재 중국은 무슬림 위구르 소수민족을 추적하고 재교육 수용소로 보내기 위해 그들을 체포하는 과정에서 안면인식 기술을 사용하기도 한다. 물론, 민주적 이상을 왜곡한다는 점에서는 소비자와 시민들을 감시하는 서양의 기업들과 정부들도 중국 못지않다. 따라서 카난은 통제가 안 되는 인공지능의 의미를 짚어보고, 어떻게 우리의 자유와 안전을 지킬 수 있을지에 대한 긴급한 논의가 필요하다고 주장한다.

윌리엄 다비도와 마이클 말론의 과 대니얼 서스킨드의 에서는 현재 존재하는 인공지능의 위협에 대해 설명한다. 저자들은 인공지능 기술의 발전이 산업혁명처럼 기존의 일자리를 위협할 것이며, 새로운 일자리를 대량으로 창출하는 기술적 전환은 아니라고 주장한다. 오히려 우리는 역사적 변곡점에 서 있다고 말한다. 점점 더 많은 직무에서 사람보다 뛰어나고 결국엔 인간의 역할을 대체할 독특한 지능형 기술과 맞닥뜨리고 있다는 것이다.

테크 업계 기업인이자 언론인 출신 사업가인 다비도와 말론은 인공지능이 과거의 기술적 진보들처럼 GDP 성장과 번영을 가져오는 대신, 생산성은 높이겠지만 GDP는 떨어뜨릴 수 있다고 말한다. 물건을 값싸게 생산할 수 있게 되지만 노동자의 임금이 줄고 경제적 불평등이 심화되며 전반적으로 일자리가 줄고 경제적으로 아무런 가치를 제공하지 못하는 사람들이 수백만 명씩 생겨날 수 있다. 이들은 그런 사람들을 ZEV(Zero Economic Value)라고 부른다. 이런 사람들은 심지어 돈을 받지 않고 일을 하겠다고 해도 일자리를 얻기 힘들 것이다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

(03187) 서울시 종로구 청계천로 1 동아일보사빌딩 9층 (주)동아일보사
대표자: 김재호 | 등록번호: 종로라00434 | 등록일자: 2014.01.16 | 사업자 등록번호: 102-81-03525
(03737) 서울시 서대문구 충정로 29 동아일보사빌딩 8층 (주)디유넷(온라인비즈니스)
대표이사: 김승환, 김평국 | 통신판매신고번호: 제 서대문 1,096호 | 사업자 등록번호: 110-81-47558