[Book Briefing] 인공지능의 미래

주요 내용

p.6. 인공지능은 지난 50여 년의 연구 과정을 거치면서 우리가 살고, 일하고, 사람들과 관계를 맺는 방식을 바꾸고, 심지어 우주 속의 세상을 바라보는 견해까지 변화시킬 태세다.

p.10. 중요한 사실은 이 기계들이 가면 갈수록 우리 삶의 다양한 측면에서 중요하고 의미 깊은 역할을 맡을 가능성이 높다는 점이다.

p.19. 인공지능 연구의 기초를 확립한 존 맥카시(John McCarthy)는 1955년에 “사람이 그렇게 행동했다면 지능적이라고 말할 수 있는 행동을 하는 기계를 만드는 것”이라고 설명했다.

p.27. 내가 생각하는 인공지능의 본질, 더 정확히 말해 지능의 본질은, 제한된 데이터를 기초로 적당한 시기에 적절히 일반화해내는 능력이다.

p.30. 우리가 인간의 독창적인 영역이라고 생각해왔던 일들은 우리 생각보다 훨씬 쉽게 자동화할 가능성이 크다.

p.30. 인공지능 기술은 생계 수단에서 시작해서 인간의 자아의식에 이르기까지 우리가 소중히 여기는 대단히 많은 것들에 영향을 줄 것이다.

p.33. 내가 “우리가 왜 체스를 두는 컴퓨터를 만들어야 하는가”라는 질문에 답하는 과제를 내주었을 때 학생 하나는 풍자적으로 “체스를 두고 힘들고 단조로운 활동에서 우리 인간이 벗어나기 위해”라고 답하기도 했다.

p.39. ‘인공지능’이라는 용어가 맨 처음 사용된 것은 1956년 뉴햄프셔 하노버의 다트머스 대학교 수학과 조교수로 있던 존 맥카시에 의해서다.

p.54. 거의 모든 분야에서, 전문가와 아마추어의 차이는 훈련과 경험을 통해 얻은 지식에서 나온다.

p.88. 이 글을 쓰는 현재 시점을 기준으로 자율주행차를 수용하는 분위기가 대중적으로 조성되지 못한 점과 법적인 책임에 관한 문제 등으로 자동차 제조사들이 완전한 자율주행차를 양산하지는 못하고 있지만, 그런 구속은 앞으로 몇 년에 걸쳐 점진적으로 완화될 것으로 보인다.

p.91. 구글이 개발한 프로그램 알파고는 2016년 3월 한국에서 세계 최고의 바둑 선수 중 하나인 이세돌과 맞붙어서 다섯 판 가운데 네 판을 이기면서 승리를 거뒀다. 스탠퍼드 인공지능 연구소장 페이페이 리는 <뉴욕타임스> 기사에 소개되었던 다음과 같은 짧은 말로 그런 사실을 명쾌하게 짚어낸다. “제가 보기에는 전혀 놀랄 일이 아니에요. 생각해 보세요. 자동차가 인간보다 더 빨리 달리는 것을 놀랍게 여기는 사람이 어디 있나요?”

p.97. 로봇 공학은 사람이 하기에는 너무 위험하거나 비용이 많이 드는 모든 종류의 일에 대단한 가치를 발휘할 텐데, 몇 가지 예를 들면 해저 광산 채취나 해저 농경, 특정 곤충을 제거하는 포식자 로봇으로 농 해충 제거하기, 산업 재해 근절하기 등을 생각할 수 있다.

p.107. 바꾸어 말하면 컴퓨터는 우리가 보지 못하는 것들을 ‘볼 수’ 있다. 언뜻 보면 신비한 능력처럼 느껴지지만 알고 보면 그렇게까지 신비할 것도 없다. 여러 동물들에게도 마찬가지 능력이 있으니 말이다.

p.137. 사실상 모든 이들이 인간과 일부 동물들에게 자유 의지가 있다고 믿는다. 그런데 기계나 컴퓨터에게도 자유 의지가 있을까?

p.147. 샘 해리스는 다이어트를 할지 하지 않을지에 관한 의미 있는 선택의 여지가 우리에게 없을지도 모르지만, 분명한 건 시도하지 않으면 아무것도 달성하지 못한다는 사실이라는 흥미로운 의견을 제시했다.

p.157. 기계도 느낄 수 있을까? 그러든 아니든 무슨 상관이 있겠는가? 중요한 건 고도로 발전된, 자립해서 재생산할 수 있는 적응성 높은 기기가 이 땅을 차지할지 모른다는 사실이다. 인간보다 먼저 살다 간 많은 종의 생물들처럼, 인간 역시 우리가 이해하지 못하는 무언가의 징검다리에 불과할지도 모를 일이다.

p.192. 인공지능 시스템이 갈수록 인간과 긴밀히 상호작용하게 되면서 차례로 줄을 서서 버스에 타고 무료 신문을 한 부씩만 가져가는 등 인간이 잠재적으로 지키는 예의범절이라는 관습을 인공지능 시스템도 반드시 따르도록 만드느냐는, 앞으로 우리가 직면할 많은 문제 중 특별한 관심이 필요한 사안이다.

p.193. 우리가 살면서 지키는 행동 규칙은 외부와 단절된 상태에서 만들어진 것이 아니다. 그런 규칙은 더 긴요한 목적이 생길 경우 사람들이 알아서 규칙을 어기거나 바꾸어 적용하리라는 추정을 바탕으로 한다.

p.201. 인간의 역사를 돌아보면 기술이 발전하면서 생산성을 높이고 경제 생산을 증가시켜 왔는데, 산업혁명 때는 그런 변화가 특히 두드려졌다. 생산성이 높아진다는 것은 간단히 말해 동일한 일을 수행하는 데 필요한 사람의 수가 줄어든다는 뜻이다. 하지만 역사를 돌아보면 그렇게 부가 증대되면서 약간의 시간차는 있을지 모르지만 결국에는 새로운 일자리가 창출되는 결과로 이어지기도 했다. 그런데 새로 생긴 직업들은 대부분 사라진 직업들과는 완연히 다른데, 일자리를 잃은 사람들은 대게 새로운 직업에 필요한 기술을 갖추고 있지 못하다는 점이 문제가 된다.

p.206. 로봇이 우리 일자리를 차지하게 되겠느냐는 질문에는 ‘그렇다’고 답해야겠지만, 그렇게 생각하기보다는 기술이 쓸모없게 바뀌는 과정, 즉 경제학자들이 ‘탈숙련화’라고 부르는 과정으로 받아들이는 편이 더 유용하다. 그리고 이 과정에 새로울 것은 없다.

p.209. 2013년 옥스퍼드 대학교 연구원들은, 기계학습과 모바일 로보틱스의 최근 발전을 중심으로 한 컴퓨터화가 미국의 고용에 미칠 잠재적인 영향을 연구했다. ~ 오늘날 일자리의 무려 47퍼센트가 앞으로 몇 년 뒤나 수십 년 내에 자동화될 위험이 높으며 19퍼센트는 위험도가 중간 정도라고 결론지었다. 앞으로 10~20년 사이에 일자리에서 내몰릴 위험에서 비교적 안전한 사람들은 현재 활동 중인 근로자의 3분의 1에 불과하다고 판단한 것이다.

p.225. 인공지능이 노동의 자본 대체 현상을 가속화하기 때문에, 자본이 있는 사람들은 노동 능력이 주요 자산인 사람들의 희생으로 득을 보게 될 것이다. 소득불평등은 이미 절박한 사회적 문제로 떠올랐는데 앞으로는 더욱 악화될 가능성이 높다.

p.233. 포드자동차 창업자의 손자인 헨리 포드 2세가 루서(미국 자동차노조 위원장)에게 최신 자동화 기술이 도입된 생산 설비를 보여주면서 “위원장님, 앞으로 이 녀석들한테 어떻게 조합원비를 받아낼 작성이십니까?”라고 빈정댔다. 그러자 루서는 “그렇다면 사장님은 이 녀석들에게 어떻게 차를 팔아먹을 작성이신가요?”라고 답했다.

p.238. 부를 공평하게 나누는 문제는 부자에게 돈을 빼앗아서 가난한 사람들에게 주는 방법이 아니라, 새롭게 창출된 부를 분배하는 방식을 바꿈으로써 해결할 수 있다. 생산성과 효율성이 증대되면서 새로이 창출되는 자산이 부유한 상류층 호주머니에 들어가지 않고 더 많은 사람들에게 돌아가도록 ‘게임의 법칙’을 바꾸는 방법이, 사후에 부를 배분하는 것보다 훨씬 쉽다.

p.248. ‘특이점’으로 번역되는 ‘싱귤래리티(singularity)’는 앞으로 언젠가는 기계의 지능이 충분히 높아져서 자기 스스로를 재설계하고 개선할 수 있게 되어, 종국에는 인간이 제어할 수 없는 지성에 이를 것이라는 견해다.

p.256. 어찌 되었던 전문가들 사이의 이런 의견 차이를 냉정하게 바라볼 때 한 가지 확실한 건 싱귤래리티 같은 일이 혹시라도 정말 발생하더라도 가까운 미래에는 발생할 가능성이 아주 낮다는 사실이다.

p.261. 간단히 말해서 기계는 사람이 아니며, 적어도 지금으로서는 이 기계들이 자기 개선의 한계를 훌쩍 넘어서 독립적인 목표, 필요, 본능을 발달시키고 어떻게 해서든 인간의 감독과 통제를 벗어날 수 있다고 믿을 이유는 없다.