If funded properly, within a decade or two we could have an artificial human brain inside a computer that could talk and behave very much as a human does. If successful, that would mean that after 4 billion years of milling around inside the small world of organic compounds, life will suddenly break out into the vastness of the inorganic realm, ready to take up shapes beyond our wildest dreams. --Yuval Noah Harari, Sapiens, P 458

적절히 자금이 조성되면 10년에서 20년 사이에 인간처럼 말을 하고 행동하는 인공두뇌를 컴퓨터 안에 가질 수 있다. 만약 성공한다면 유기화합물이라는 작은 세상에서 40억 년간 배회한 이후에 갑자기 우리들이 도저히 꿈을 꿀 수 없는 모습을 갖춘 생명이 광범위한 무기물 영역으로 뛰어 들어오는 것을 의미한다. -유발 노아 하라리 <사피엔스> 중에서

* Yuval Noah Harari(유발 노아 하라리, 1976~ )는 이스라엘 예루살렘 히브리대학의 역사학 교수이다. 호모사피엔스(인간)의 역사를 탐구하였고, 최종적으로 사피엔스는 생명과학 혁명을 통해 사이보그와 AI(인공지능) 및 유전자 조작으로 지적 설계(길가메시 프로젝트)에 따라 새로운 생명을 만들어 불로장수와 신이 되고자 한다고 주장한다.

AI와 기술의 결합으로 다양한 로봇을 비롯하여 디지털 제품이 수없이 생산된다. 생활에 편리를 주는 생활로봇이나 의료수술 등과 공장자동화로봇이 널리 보급되고 있으며, 자동차도 자율주행이 가능하다. 드론으로 다양한 일도 한다. 재난구조, 전투수행, 건설, 농업로봇 등과 섹스로봇도 있고 죽음을 도와주는 기계도 있다. 인간이 기계와 결합하여 인간이 새로운 종(種)으로 구분이 되어 불멸불사(不滅不死)한다는 전망도 있다. Al와 우리의 미래에 대해 알아보자.

◆ <Architects of Intelligence(인공의 설계, 2018)>

미국의 미래학자이자 작가인 Martin Ford(마틴 포드)의 저서이다. 세계적인 인공지능 전문가, 과학자 및 교수 등 23명을 인터뷰하여 인공지능의 역할과 미래 등에 대해 이야기한다.

Whether or not it turns out to be a good thing depends entirely on the social system, and doesn't depend at all on the technology. People are looking at the technology as if the technological advances are a problem. The problem is in the social systems, and whether we're going to have a social system that shares fairly, or one that focuses all the improvement on the 1% and treats the rest of the people like dirt. That's nothing to do with technology. -Geoffrey Hinton --P 90

인공지능이 좋은 것인지 아닌지는 전적으로 사회체계에 달려 있다. 기술에 전혀 의존하지 않는다. 사람들은 기술의 발전이 문제인 것처럼 보고 있지만 문제는 바로 사회체계이다. 우리가 공정하게 공유하는 사회체계를 가지느냐, 아니면 1%에 증진을 위해 모든 초점을 맞추고 나머지 사람들을 거름 취급 하느냐는 것이다. 이것은 기술과는 아무런 상관이 없다. -제프리 힌튼(토론토대학 컴퓨터과학 교수)

My point is, as a scientist and as an educator, that the human quest for knowledge and truth has no borders. If there is a fundamental principle of science, it is that these are the universal truths and quests for these truths, which we all seek as a species together. And AI is a science in my opinion. -Fei-Fei Lee --P 159

요점은 과학자와 교육자로서 지식과 진리에 대한 인간의 탐구는 국경이 없다는 것이다. 과학의 근본원리가 있다면 이것은 우리가 함께 탐구해야 할 보편적인 진리이며, 우리가 모두 하나의 종으로 협력하여 추구해야 할 진리에 대한 탐구이다. 그리고 인공지능도 내 생각으로 그런 과학이다. -페이페이 리(스탠퍼드대학 컴퓨터학 교수)

There's no question that human intelligence is very much the product of evolution, but by that, we also have to include biological evolution and cultural evolution too. A huge part of what we know, and how we know what we know, comes from culture. It's the accumulation of knowledge across multiple generations of humans in groups. There's no question that a baby who just grew up on a desert island with no other humans around would be a lot less intelligent. -Josh Tenenbaum --P 480

인간 지능은 진화의 산물이라는 것은 의문의 여지가 없다. 하지만 그 진화에는 생물학적 진화와 문화적 진화가 포함된다. 우리가 알고 있는 것과 우리가 알고 있는 것을 아는 방법의 상당 부분은 문화에서 온다. 지식은 집단으로 여러 세대에 걸쳐 축적된다. 아무것도 없는 사막에서 자란 아이가 지능이 훨씬 떨어진다는 것은 의문의 여지가 없다. -죠슈아 테넨바움(MIT 컴퓨터 인지과학 교수)

◆ <Human Compatible; Artificial Intelligence and the Problem of Control(인간과 호환하기; 인공지능과 통제 문제, 2019)>

미국 캘리포니아 버클리대학 컴퓨터과학 Stuart Russell(스튜어트 러셀, 1962~ ) 교수는 인공지능의 표준교과서인 <Artificial Intelligence(인공지능, 2021)>을 저술했다. 인공지능과 통제 문제에 대해 서술하고 있다.

It would represent a huge heap—a discontinuity—in our civilization. The arrival of superintelligent AI is in many ways analogous to the arrival of a superior alien civilization but much more likely to occur. --P 3

AI 발명은 우리 문명이 엄청난 도약—불연속을 표상한다. 초지능 AI의 등장은 여러 방면에서 우월한 외계 문명인의 방문과 비슷하지만 일어날 가능성이 훨씬 더 크다.

Because machines, unlike human, have no objectives of their own, we give them objectives to achieve. In other words, we build optimizing machines, we feed objectives into them, and off they go. --P 10

인간과 달리 기계는 자기 자신의 목적을 지니고 있지 않기 때문에 달성할 목적을 우리가 부여한다. 다시 말해 우리는 최적화한 기계를 만들고, 그 기계에 목적을 부여하고 작동시킨다.

What we want is for the robot to discover for itself that standing up is a thing--a useful action, one that achieves the precondition(being up-right)for walking or running or shaking hands or seeing over a wall and so forms of many abstract plans for all kinds of goals. --P 90

우리가 원하는 것은 일어서기가 무엇이라는 것을 스스로 발견하는 로봇이다. 즉, 유익한 행동, 걷거나 달리거나 악수를 하거나 벽 너머를 보기 위한 전제조건(일어섬으로써)을 달성하는 것이고, 그리하여 온갖 목표를 위한 많은 추상적 계획을 형성하는 로봇이다.

Before there was any technology, human beings lived, like most animals, hand to mouth. We stood directly on the ground, so to speak. Technology gradually raised us up on a pyramid of machinery, increasing our footprint as individuals and as a species. There are different ways we can design the relationship between humans and machines. If we design it so that human retain sufficient understanding, authority, and autonomy, the technological parts of the system can greatly magnify human capabilities, allowing each of us to stand on a vast pyramid of capabilities – a demigod, if you like. --P 131

기술이 있기 전에 인류는 대다수 동물처럼 근근이 살아갔다. 땅에서 직립하고 말을 했다. 기술이 점진적으로 기계의 피라미드에 세우고, 개인으로서 그리고 종으로서 발자취를 증가시켰다. 우리가 인간과 기계 사이에 관계를 설계할 수 있는 다양한 방법이 있다. 인간이 충분한 이해, 권한, 자율성을 간직하도록 기계를 설계한다면, 그 체계의 기술 부분은 인간의 능력을 대폭 확대할 수 있다. 우리 각자를 거대한 능력의 피라미드 위에 서게 할 수 있다. 원한다면 반신반인(半神半人)이 될 수 있다.

◆ <Who's Afraid of Ai?(누가 인공지능을 두려워하는가?, 2019)>

독일의 경제전문지 <brand eins(브란트아인스)>의 기자인 Thomas Range(토마스 람케, 1971~ )는 과학기술 전문 기사를 쓴다. 저자는 스스로 판단하고 감성을 가진 인공지능이 인류를 지배할 수 있는지 여부 등 인공지능과 관련된 많은 문제에 대해 소개한다.

The term artificial intelligence has been controversial since the computer pioneers associated with Martin Minsky coined it in 1956 at their famous Dartmouth conference. --P18

‘인공지능’이라는 용어는 마빈 민스키와 관련된 컴퓨터 개척자들이 1956년에 유명한 다트머스회의에서 언급한 이래 논란이 되어 왔다.

But the better that machines are able to make decisions, the more intensively we human beings have to think about which decisions we want to delegate to artificial intelligence. Because even in the age of automating decision-making with AI, it's still true that human beings have to happy with their decisions, while computers don't. Machines will never fell what happiness. --P 28

기계가 의사결정을 더 잘할 수 있게 될수록 인간은 인공지능에게 어떤 의사결정을 위임할 것인가를 더 신중하게 생각해야 한다. 인공지능으로 자동화된 의사결정 시대에 컴퓨터는 그럴 필요가 없지만, 인간은 자신의 결정에 행복해야만 한다는 것은 진실이다. 기계는 결코 행복이라는 것을 느끼지 못할 것이다.

Instead, tech-savvy sales people, lawyers, and doctors will replace colleagues who don't know how to use AI to assist them in their decision-making. --P 79

대신에 기술에 정통한 영업사원, 변호사, 의사가 의사결정에 도움을 주는 인공지능을 사용할 줄 모르는 동료를 대체하게 될 것이다.

The digital revolution allows us to put this humanist idea into parctice for the first time in history — by employing artificial intelligence intelligently and for the good humanity. --P 117

디지털 혁명은 인공지능을 총명하고 선한 인류에게 적용하여 인류역사상 처음으로 이러한 인본주의 이상을 실현할 수 있도록 허용할 것이다.

◆ <Possible Minds(가능한 생각들, 2020)>

미국의 문화기획자인 John Brockman(존 브룩만, 1941~ )이 인공지능을 바라보는 세계적인 석학 25인의 글을 편찬했다. 탁월한 과학사상가, 철학자, 심리학자, 미술사학자 등 여러 방면의 전문가 25명의 다양한 관점으로 인공지능에 대해 쓴 글을 모은 책이다.

As Norbert Wiener put it, “The machine’s danger to society is not from the machine itself but from what man makes of it.” It is only by remembering the casual power of ideas that we can accurately assess the threats and opportunities presented by artificial intelligence today. -Steven Pinker --P 112

노버트 위너가 말했듯이 “사회를 향한 기계의 위협은 기계 자체가 아니라 기계를 만든 인간에게서 나온다.” 오늘날 인공지능이 보여주는 위협과 기회를 정확하게 평가할 수 있는 것은 이념의 인과적 힘을 기억하는 것이다. -스티븐 핑크(하드버대학 심리학 교수)

Suddenly that no longer appears to be true. Accountants, many legal and medical professionals, financial analysts, and stockbrokers, travel agents — in fact, a large fraction of a white-collar jobs— will disappear as a rsult of sophisticated machine-learning programs. -Venki Ramakrishnan —P 187

갑자기 이는 더 이상 진실이 아닌 것이다. 회계사, 많은 법률전문직과 의료전문직, 재무분석가, 증권중개인, 여행사 직원 등 화이트칼라 업무의 대부분이 정교한 기계학습 프로그램의 결과로 사라질 것이다. -벤키 라마크리슈난(인도 출신 화학자, 노벨화학상 수상)

Without data, AI is nothing. You don’t have to watch the AI; instead you should watch what it eats and what it does. -Alex “Sandy” Pentland —P 203

데이터가 없다면 인공지능은 아무것도 아니다. 인공지능을 지켜볼 필요가 없다. 대신 인공지능이 무슨 데이터를 먹는지, 무엇을 하는지 감시해야 한다. -알렉스 ‘샌디’ 펜틀랜드(MIT 컴퓨터과학자)

The line between human and machines blurs, both because machines become more humanlike and because humans become more machinelike —not only since we increasingly blindly follow GPS scripts, reflex twwets, and carefully crafted marketing.--George M. Church, P251

인간과 기계의 경계가 흐려지는 이유는 기계가 점점 인간과 비슷해지고, 인간은 점점 더 기계와 비슷해지기 때문이다. 인간은 GPS의 지시를 맹목적으로 따르고, 트위터에 반사적으로 반응하며, 세심하게 공들여 만든 마케팅을 점점 더 맹목적으로 따른다. -조치 처치(하버드의학전문대학원 교수)

◆ <Sex Robots & Vegan Meat(섹스로봇과 인공고기, 2020)>

미국의 기자이자 다큐멘터리 제작자인 Jenny Kleeman(제니 클리먼, 1978~ )의 저서이다. 저자는 기술의 발달로 발생되는 인공지능, 실리콘으로 만든 섹스로봇, 인공자궁 출산, 비건이 먹을 인공고기, 죽음의 기계에 대해 분석하고 있다.

Every year, up to 600 of them are sent out from the workshop in San Marcos to bedrooms in Flodia and Texas, Germany and the UK, China and Japan and beyond, costing anything from $5,999 for a basic model to tens of thousands if the customer has unusual specifications. Vanity fair magazine calls them ‘the Rolls Royce of sex dolls.’ --P P6

매년 최대 600개의 리얼돌이 샌마르코의 작업장을 나와 플로리다, 텍사스, 독일, 영국, 중국, 일본 등지의 침실로 향한다. 가격은 기본 모델이 5,999달러이고, 고객의 특이한 요구사항이 있으면 수만 달러까지 올라간다. 잡지 <베니티 페어>는 리얼돌을 ‘섹스인형계의 롤스로이스’라고 부른다.

Most provocative of all was his prediction that, given the pace of advancement in artificial intelligence, human-robot marriages would be both socially acceptable and legal by 2050. --P 36

그 중에서도 가장 도발적이었던 주장은 현재 인공지능의 발전속도로 볼 때 인간과 로봇의 결혼이 2050년이면 사회적으로 합법적인 일이 된다는 것이었다.

Once bags and tubes can replace a womb, pregnancy and birth will be fundamentally redefined. If gestation no longer has to take place inside a woman’s body, it will no longer be female. --P 216

주머니와 관이 자궁을 대체한다면 임신과 탄생의 정의는 근본적으로 바뀔 것이다. 임신이 여성의 몸 안에서 이루어지지 않는다면 더 이상 여성의 일이 되지 않을 것이다.

◆ <Tools and Weapons; The Promise and the Peril of the Digital Age(도구와 무기; 디지털시대의 약속과 위험, 2021)>

미국의 Microsoft 회장인 Brad Smith(브래드 스미스, 1959~ )의 저서이다. 기술발전이 초래한 여러 문제점과 인공지능과 관련된 윤리, 안면인식, 노동력을 다룬다.

From the moment you step into a shopping mall, it’s possible not only to be photographed but to be recognized by a computer wherever you go. The owner of a shopping mall can share this information with every store. With this data, shop owners can learn when you visited them last and what you looked at or purchased, and by sharing this data with other stores, they can predict what you’re looking to buy next. --P 260

쇼핑몰에 들어서는 순간부터 어디를 가든지 사진 촬영뿐만 아니라 컴퓨터로 인식이 가능하다. 쇼핑몰 주인은 이 정보를 모든 매장과 공유할 수 있다. 이 데이터로 상점 주인은 내가 마지막으로 방문한 곳과 보거나 구매한 것을 알 수 있으며, 이 데이터를 다른 상점과 공유하여 다음에 무엇을 구매하려는지 예측할 수 있다.

AI similarly is unlikely to excel in providing the empathy required of nurses, counselors, teachers, and therapists. Each of these individual will likely use AI for some tasks, but it seems unlikely that it could replace their work entirely. Like all new technologies, AI will not just eliminate and change jobs, it will also create new industries and careers. --P 272

비슷하게 AI는 간호사나 상담사, 교사, 심리치료사에게 요구되는 공감을 제공하는 데 뛰어날 수 없다. 이런 직업을 가진 사람들은 일부 직업에는 AI를 사용하겠지만 일 전체를 AI가 대신하기는 힘들 것이다. 모든 새로운 기술처럼 AI는 직업을 없애고 바꾸기만 하는 것이 아니라 새로운 산업과 캐리어를 창조하기도 한다.

◆ <The Age of AI and Our Human Future(인공지능시대와 인류의 미래, 2021)>

세계적인 석학인 Henry Kissinger(헨리 키신저, 1920~ )와 구글의 최고경영자인 Eric Schmidt(에릭 스밋, 1955~ ) 및 MIT 교수인 Daniel Huttenlocher(다니엘 후덴로처, 1959~ )의 공저이다. 인공지능의 역사와 미래에 대해 이야기한다.

In 2020, American AI start-ups raised almost $38 billion in funding. Their Asian counterparts raised $25 billion. And their European counterparts raised $8 billion. Three governments--the United States, China, and European Union--have all convened high-level commissions to study Ai and report their findings. --P 4

2020년에 미국 AI 신규업체는 거의 380억 달러의 자금을 조달했다. 아시아 상대국은 250억 달러를 모금했다. 그리고 유럽 국가들은 80억 달러를 모금했다. 미국, 중국, 유럽연합의 세 정부는 모두 고위급 위원회를 소집하여 Ai를 연구하고 결과를 보고했다.

The digital world has little patience for wisdom; its values are shaped by approbation, not introspection. It inherently challenges the Enlightenment proposition that reason is the most important element of consciousness. Nullifying restrictions that historically have been imposed on human conduct by distance, time, and language, the digital world proffers that connection, in and of itself, is meaningful. --P 52

디지털 세계는 지혜에 대한 인내심이 거의 없다. 그 가치는 내성이 아니라 승인에 의해 형성된다. 그것은 본질적으로 이성이 의식의 가장 중요한 요소라는 계몽주의 명제에 도전한다. 거리, 시간, 언어로 인해 역사적으로 인간 행동에 부과된 제한을 무효화하는 디지털 세계는 연결 자체에 의미가 있다고 말한다.

The AI revolution will occur more quickly than most humans expect. unless we develop new concepts to explain, interpret, and organize its consequent transformations, we will be unprepared to navigate it or its implications. --P 202

AI 혁명은 대부분의 인간이 예상하는 것보다 더 빨리 일어날 것이다. 결과적인 변형을 설명하고, 해석하며, 구성하기 위해 새로운 개념을 개발하지 않는 한 우리는 그것을 탐색하거나 그 의미를 탐색할 준비가 되어 있지 않다.

◆ 인공지능의 미래는 인간의 손에 달렸다

얼마 전에 우리나라 고등학생들이 가장 진학하고 싶은 대학의 학과가 ‘의한치약수’라고 하여 깜짝 놀랐다. 그들이 살아갈 21세기는 거의 대부분 질병의 진단과 수술은 인공로봇이 할 것이 때문에 전문직인 변호사, 의사, 회계사 등은 일자리가 극도로 적어진다. 예술가나 과학자같이 창의력이 요구되는 직업이나, 간호사처럼 고객과 긴밀한 감정을 교류해야 하는 직업은 자동화되기가 어렵다. 로봇이 할 수 없는 일을 찾아서 자신의 직업을 준비하는 것이 현명하다.

인공지능은 개발자가 어떻게 만드느냐에 따라 천국과 지옥이 될 수 있다. 지금도 최고권력자가 마음만 먹으면 안면인식을 통해서 모든 국민의 일거수일투족을 감시하고 통제할 수 있는 시대이다. 이처럼 인공지능은 위험하다. 그러나 AI를 개발한 인간이 더 위험하다. 인간의 통제를 벗어난 슈퍼 AI의 출현은 인류에 엄청난 재앙이 될 것이다. 인공지능과 어떻게 공존할 것인가의 문제는 결국에 우리 인간에게 달려 있다.