2019-12-13 10:01 (금)
“초인공지능 거버넌스 체제 구축 필요”
“초인공지능 거버넌스 체제 구축 필요”
  • 한계희기자
  • 승인 2019.11.27 11:40
  • 댓글 0
이 기사를 공유합니다

제롬 글렌 유엔 밀레니엄프로젝트 회장의 제언

 

“슈퍼 인공지능(AI)가 핵무기만큼 파급력이 있기 때문에 AI 관련 국제 기준을 마련하고 이를 적용할 수 있는 거버넌스 시스템을 만들어야 한다.” 제롬 글렌 유엔 밀레니엄프로젝트 회장은 지난 11월 19일 서울 중구 롯데호텔에서 세계경제연구원 주최로 열린 ‘인공지능이 만드는 경제·사회의 미래’ 강연자로 나서 다가올 슈퍼 AI 시대를 지금부터라도 대비하자고 조언했다. 국제원자력기구(IAEA)와 비슷한 형태의 국제적인 인공지능 기구를 만들어야 한다는 게 그의 주장이다.  리치 에서는 제롬 글렌 회장의 강연을 듣고 정리해 봤다.

 

미래연구 분야에서 잘 알려진 글렌 회장은 세계적으로 저명한 입지를 구축하고 있다. 미래에 다가올 기술과 현상에 대해 연구한다는 의미를 담고 있는 ‘퓨처링’(futuring)이라는 신조어를 만들 정도다.
그는 지난 1996년 미래연구 싱크탱크인 ‘밀레니엄프로젝트’를 세운 후 미국 대표를 맡고 있다. 밀레니엄 프로젝트는 전 지구 규모의 미래연구 두뇌집단으로 지속가능한 성장과 기후변화 등 인류가 풀어야 할 15가지 미래 과제를 연구하고 있다. 

“슈퍼 AI, 핵무기만큼 파급력 크다”

“언젠가 슈퍼 AI는 이뤄질 수 있다고 본다. AI가 이 수준까지 도달하게 되면 우리는 통제력을 잃을 수 있다. AI로 만들어진 아바타가 인간을 대신해 밤새 일하고 대신 인간이 부유해질 수 있다. 더 중요한 것은 하고 싶은 일을 함으로써 그 시간에 자아를 실현할 수 있다는 것이다.”
글렌 회장은 AI를 세 가지 종류로 분류했다. 단일 업무에만 집중할 수 있으면 ‘협의 AI’, 상황에 적응하며 새로운 일까지 찾아내면 ‘범용 AI’, 스스로 목표를 세우거나 학습할 수 있으면 ‘슈퍼 AI’로 부르는 식이다.
그에 따르면 협의 AI는 인간의 신경망으로 기계가 학습하는 수준이다. 글렌 회장은 이러한 협의 AI만으로도 인간이 많은 일자리를 잃을 수밖에 없다고 예측했다. 하지만 그나마 보편화까지 시간이 있어 적응이 가능하다고 진단했다.
범용 AI는 사람과 훨씬 비슷해지는 것을 말하는데 다양한 협의 AI를 하나로 합해 운영하는 게 가능하고 공공 플랫폼에서 공유도 가능하며 지능은 점점 더 성장한다. 예컨대 범용 AI는 차를 운전하고 암을 진단하며 약속을 잡을 수 있다.
“문제는 범용AI 시대가 도래하는 데 있다. 그간 역사에서 많은 나라가 새로운 단계로 전환하는데 적응하지 못해 어려움을 겪었다. 협의AI가 범용AI로 발전하면 실업은 10%에서 최대 50%가 증가할 수 있다. 이는 정부가 대응할 수 있는 정도를 훌쩍 뛰어넘는 수준이다.”
글렌 회장의 경고다. 그는 범용 AI는 AI가 인류를 멸망시킨다고 우려할 때 말하는 것으로 협의 AI가 범용AI에 이를 수 있는 것에 대해서는 당연히 가능하다고 말하기는 어렵다면서도 10~15년 후에 가능할 수도 있다고 견해를 밝혔다. 
현재 글렌 회장이 가장 주목하고 것은 슈퍼 AI다. 범용 AI가 수퍼 AI로 발전하는 데 얼마가 걸릴지 예상할 수는 없지만 수퍼 AI는 인간의 이해와 상관없이 독자적으로 자신의 목표를 세운다는 이유에서다.
“AI가 스며든 사회를 비관적으로만 바라보지는 않는다. 기술의 발전에 발맞춰 선제 대응할 경우 사회가 더 좋은 방향으로 나아갈 수 있어서다. 또한 협의 AI만으로도 인간이 많은 일자리를 잃을 수 있지만 보편화될 때까지 시간이 있는 만큼 적응할 수 있다.”

“AI시대를 미리 대비해야 한다”

그는 AI의 발달로 지금도 문제가 많다고 진단했다. 그러면서 문제는 앞으로 더 많아질 것이며 범죄조직에 테러·부패만이 아니라 여기에 정보전쟁까지 더하면서 민주주의와 자유 시장은 환상이 될 수 있다고 우려했다.
“정반대의 시나리오도 가능하다. 인류가 AI시대를 미리 대비하는 것으로 정부가 범용AI 전략을 도입해 기본소득을 어떻게 유지할지 충분히 연구하고 교육에도 AI를 추가한다. 놀다가 잠든 나를 위해 아바타가 밤새 일하고, 스티브 잡스·빌게이츠와 같은 증강 천재들이 끊임없이 나오는 시대를 적극적으로 맞이하는 것이다.”
글렌 회장이 이런 미래가 가능하려면 협의·범용 AI의 국제 기준을 만들고 기준을 적용하는 거버넌스 체계를 구축해야 하며 이 체계가 강제력을 가져야 한다고 주장했다. 그러면서 현재 유엔 산하의 국제원자력기구(IAEA)나 세계무역기구(WTO)를 실례로 꼽았다.
“미지의 세계로 넘어간다고 하면 기업가만이 아니더라도 많은 사람이 두려움을 느낀다. 두려움을 완화하고 적응을 촉진하는 활동이 없다면 ‘사이버 헤로인’이라는 극심한 우울이나 자기 불안·혐오에 빠질 수 있다.”
그는 AI로 지능도 증강할 수 있다면서 물론 먼저 부유한 사람들이 이를 이용하겠지만 가격이 내려가면서 많은 사람이 이용하게 될 것이라고 설명했다. 또 밀레니엄 프로젝트를 20년 이상 연구했는데 결과를 들여다보면 잃는 게 심각하기는 하지만 얻는 게 많다고 덧붙였다.
“과거 핵전쟁과 관련된 모든 시나리오들은 실제로 실현될 수 있는가 여부에 대한 정확성보다 비관적인 전망을 통해 인류에게 잘못된 일을 하지 못하도록 하는 경고의 의미가 컸다. 마찬가지로 인공지능에 대한 여러 가지 시나리오들도 낙관적인 전망을 하되 비관이라는 양념이 들어감으로써 그 유용성이 더 커질 것이다.”
글렌 회장은 인류가 현재 부의 집중에 따른 소득 양극화가 진행되고 있는 가운데 높은 자본과 기술의 수익률로 작업 현장에서 노동이 사라지면서 고용 없는 성장, 만성적이고 구조화된 실업이 ‘일상’(business as usual)이 되는 세상으로 가고 있다고 분석했다.
이에 따라 인공지능, 로봇공학, 빅데이터, 클라우드, 드론, 가상현실(VR)·증강현실(AR) 등 4차산업혁명 기술의 융·복합을 통해 이제까지와 다른 새로운 변화를 이끌어 낼 수 있다는 게 그의 판단이다.
그는 향후 기술의 발전 양상은 과거보다 더 빨라질 수 있을 것으로 내다봤다. 산업혁명에서 정보통신혁명으로 넘어가던 시기에는 동시다발적으로 같은 통찰력을 공유할 수 있는 기술이 없었지만 지금은 전 세계와 손쉽게 연결될 수 있다는 이유에서다.
“한국은 중국, 일본이라는 강대국에 둘러싸여 있기 때문에 생존을 위해서 항상 깨어 있고 과거 산업화를 통해 빠른 변화의 경험을 해봤기 때문에 인공지능에 대응한 빠른 변화의 필요성을 이해하고 있다. 이를테면 30∼40년 전 한국과 가나의 펀더멘털은 비슷했지만 지금 한국은 가나보다 훨씬 더 발전한 나라다.”
글렌 회장은 한국의 경우 모든 것을 배워야 하는 교육 시스템을 가지고 있지만 창의성을 강조하는 핀란드 교육에 비해 큰 차이가 없다고 지적했다. 획일적인 교육 시스템이 문제라는 것이다. 따라서 국제적인 학력인증평가에서 한국처럼 높은 성적을 거두고 있지만 창의성을 강조하는 핀란드의 교육을 눈여겨봐야 한다고 조언했다.
“잡동사니 가방 모형은 기술 발전과 함께 인간의 어리석음(stupidity)도 같이 가는 모형으로 바이오 기술 등 선진기술 산업부문은 고용이 늘어나지만 정부가 장기 전략을 내놓지 못한 부문에서는 고실업이 만연하게 된다. 이 모형에서는 거대 기업이 정부 통제를 벗어나게 될 것이다.”
그는 인류가 신기술의 융·복합으로 인해 직면할 미래상으로 세 가지 모형을 제시했다. 예컨대 잡동사니 가방(Mixed Bag) 모형과 정치·경제적 격변(Political·Economic Turmoil) 모형, 자아실현 경제(Self-Actualizing Economy) 모형 등이 그것이다. 
글렌 회장은 “자아실현 경제 모형에서는 정부가 범용인공지능에 따른 실업에 대응해 기본소득 체제를 구축하고 STEM(Science, Technology, Engineering and Math·과학, 기술, 공학, 수학) 교육을 강화함으로써 발달된 범용인공지능을 인류의 자아실현을 위해 활용할 수 있을 것”고 강조했다.

프로필

그는 누구.
제롬 글렌 유엔 밀레니엄프로젝트 회장은 미래연구 분야에서 잘 알려진 인물이다. 지난 1996년 싱크탱크 ‘밀레니엄프로젝트’를 세운 그는 미래에 다가올 기술과 현상에 대해 연구한다는 의미를 담고 있는 ‘퓨처링’(futuring)이라는 신조어를 만들 정도로 세계적으로 저명한 입지를 구축하고 있다. 각종 저서나 보고서를 통해 앞으로의 사회를 그려온 글렌 회장은 단일 업무에만 집중할 수 있으면   ‘협의 AI’, 상황에 적응하며 새로운 일까지 찾아내면 ‘범용 AI’, 스스로 목표를 세우거나 학습할 수 있으면 ‘슈퍼 AI’로 부르는 등 AI를 세 가지 종류로 분류하고 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.