'I Robot'은 아이작 아시모프(Isaac Asimov, 1920-1992)의 로봇 소설들을 엮은 단편 소설 모음집으로 총 8명(?)의 로봇이 등장한다.
아시모프의 로봇 소설은 '로봇 공학의 3원칙'으로 유명하다.
로봇 공학의 3원칙은 로봇의 모든 사고와 행동을 규정하는 대전제이며 그의 소설에 등장하는 모든 로봇들은 바로 이 원칙에 따라 동작한다.
로봇 공학의 3원칙은 아시모프의 소설에서 처음 등장한 이래, 많은 SF 소설 작가들에 의해 차용되었으며 로봇 공학자 및 인공지능을 연구하는 사람들 사이에서도 진지한 연구의 대상이 되어 왔다.
소설 I Robot은 로봇 공학의 3원칙에 철저히 입각하여 동작하는 로봇의 사고 및 행동에 대한 다양한 가능성을 보여준다. 이 원칙은 1942년 단편 소설 "Runaround"에 처음 등장하였다. 로봇공학의 3원칙은 다음과 같다.
로봇공학의 3원칙(Three laws of Robotics)
1. 로봇은 인간을 해쳐서는 안 되며, 위험에 처한 인간을 방치해서도 안 된다.
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. 로봇은 1원칙에 위배되지 않는 한, 인간의 명령에 복종해야 한다.
A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. 로봇은 1원칙과 2원칙에 위배되지 않는 한, 자기 자신을 보호해야 한다.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
소설 속에서 로봇 심리학자 수잔 캘빈 박사는 로봇들이 이해할 수 없는 행동을 보일 때마다 이 3원칙에 입각하여 이상 동작의 원인을 알아 낸다. 여기서 독자들은 언뜻 보기에 완벽하다고 생각할 수 있는 로봇 공학의 3원칙이 경우에 따라서 얼마나 다양하게 해석되고 적용될 수 있는지를 알게 된다.
아래서부터는 소설의 줄거리에 대한 구체적인 내용이 나옵니다. 미리 소설의 줄거리를 알고 싶지 않으시면 바로 부록으로 넘어가시기 바랍니다.
Background - 21세기 초, 기존의 '컴퓨터 및 로봇'에 대한 모든 연구 결과를 뒤집는 양전자 두뇌 중추 이론이 발표되면서, 로봇 공학은 새로운 전기를 맞게 된다.
이 이론을 발표한 로렌스 로버트슨은 주식회사 U.S. Robotics (USR)를 설립하고 이 회사는 로봇 공학 3원칙에 입각한 로봇을 생산하면서 세계 최대의 거대 산업체가 된다.
알프레드 래닝 박사는 USR에 재직하기 전부터 이미 로봇 공학의 권위자였다.
그는 로봇 공학의 3원칙을 만든 장본인이며, USR의 연구팀 팀장으로써 다양한 로봇을 개발해낸 사람이다.
수잔 캘빈 박사는 앞의 두 사람에 비하면 젋은 축에 속하는 사람이다.
1982년생인 그녀는 인공 지능학을 전공한 로봇 심리학자로 USR에서 생산되는 로봇들의 다양한 행동 패턴에 대해 분석하는 일을 맡고 있다.
이 세 사람이 사실상 USR의 중심축이자 소설 내에서 이야기를 이끌어 가는 주인공들이라 할 수 있다.
'로봇 공학의 3원칙'은 해석의 문제 - 로봇 공학의 3원칙이 추구하는 바는 명확하다.
3원칙은 로봇으로 하여금 인간을 보호하면서 명령에 복종하고 또 자기 자신을 보호하도록 한다.
여기서 '인간을 보호한다', '명령에 복종한다', '자신을 보호한다'를 로봇이 어떻게 해석하느냐는 매우 중요한 문제이다.
소설 I Robot이 우리에게 말하고자 하는 바는 바로 여기에 있다.
만일 미래에 정말 로봇이 우리의 일상 속에 깊숙히 침투하게 되는 날이 온다면 우리는 이 문제를 소설 속 재미가 아닌 현실로서 심각하게 고민해 봐야 할 것이다. (물론 먼 훗날의 일이다.)
3원칙에 숨겨진 다양한 비밀은 직접 책을 통해 확인하길 권한다.
아래는 I Robot에 수록된 에피소드들이다. 각 에피소드 별로 로봇 공학의 3원칙의 이면에 있는 딜레마 혹은 시사점을 기술하였다.(경고! 여기부터는 일부 내용이 해당 에피소드에 대한 스포일러 될 수 있다.)
Robbie (로비_소녀를 사랑한 로봇) - 인간에게 헌신하는 로봇, 그리고 이러한 로봇과 감정적인 교감을 나누는 인간을 우리는 어떻게 바라볼 것인가?
Runaround (스피디_술래잡기 로봇) - 서로 충돌되는 원칙들 사이에서 로봇은 얼마나 합리적으로 동작할 것인가?
Reason (큐티_생각하는 로봇) - 사실 3원칙과 큰 관련은 없는 에피소드이다. 하지만, 이 에피소드에서 등장하는 로봇들은 어떠한 사상에 있어 인간과 매우 흡사하게 행동한다. 개인적으로 가장 흥미롭게 읽었던 에피소드.
Catch that Rabbit (데이브_부하를 거느린 로봇) - 인간의 명령을 받기만 하던 로봇이 주체적으로 행동에 대한 권한이 부여 받았을 때 어떻게 동작하는가?
Liar! (허비_마을을 읽는 거짓말쟁이) - "인간을 보호한다"는 것은 과연 인간이 물리적으로 상해를 입지 않도록 하는 것만을 의미하는 것일까?
Little Lost Robot (네스터10호_자존심 때문에 사라진 로봇) - 로봇은 3원칙 중 높은 우선 순위의 원칙을 위해 최선을 다한다. 하지만, 최선을 다해도 높은 우선 순위의 원칙을 지킬 수 없다고 판단되면 로봇은 어떻게 행동할까?
Escape! (브레인_개구쟁이 천재) - 로봇을 고장나게 하는 방법: 3원칙의 딜레마에 빠지게 하라.
Evidence (바이어리_대도시 시장이 된 로봇) - 3원칙에 충실한 로봇은 인간보다 훨씬 이성적이고 합리적으로 판단한다. 그 말은 인간 정치인들보다 로봇이 인간을 다스리는 것이 인류에게 더 좋은 결과를 가져올 수 있지 않을까?
The Evitable Conflict (피할 수 있는 갈등) - 로봇이 다스리는 인간 세계
지금까지 소설 I Robot에 대해 간단히 살펴봤다. I Robot은 2004년 영화로도 만들어 졌으며, 소설과 비교했을 때 캐릭터들의 성격은 다소 다르게 묘사되었지만, 로봇 공학의 3원칙은 충실히 적용하였다.
부록 - 로봇 공학의 3원칙의 역사
출처: 위키백과
아시모프 이전, 인공지능과 관련한 대부분의 소설들은 "로봇은 그들의 창조자에 의해 만들어지고 파괴된다"라는 '프랑켄슈타인'의 패턴을 따랐다. 그러다 1938년 12월, 레스터 델 레이(Lester del Rey)는 소설 "Helen O'Loy"를 통해 인간처럼 사랑에 빠지고 자신을 만든 주인의 이상적인 아내가 된 로봇의 이야기를 다루었다. 그리고 1938년 1월, 오토 바인더(Otto Binder)는 그의 단편 소설 "I Robot"에서 사랑과 명예에 흥미를 가진 로봇, 아담 링크(Adam Link)를 등장시켰다. 이 소설은 이후 열 편으로 이어지는 바인더의 로봇 시리즈의 첫 번째 작품이다. 1940년에 출판된 소설 "아담 링크의 복수"에서는 "로봇은 결코 자신의 자유 의지로 인간을 죽일 수 없다."라고 생각하는 로봇 아담이 등장하였다.
1939년 5월 7일, 아시모프는 Queens Science Fiction Society에 참석하고 그 곳에서 바인더를 만났다. 바인더의 소설에 감탄한 아시모프는 3일 뒤 자신의 14번째 소설 "my own story of a sympathetic and noble robot"의 집필을 시작하였고 13일 후, 그는 소설 "Robbie"를 Astounding Science-Fiction의 편집장 존 W. 캠벨(John W. Campbell)에게 보여줬다. 하지만, 캠벨은 이 작품의 출간을 거절하였는데 그 이유는 이 작품이 델 레이의 "Helen O'Loy"와 너무 유사하다는 것이다. 이듬해 "Robbie"는 Astonishing Stories 잡지의 편집장 프레드릭 폴(Frederic Pohl)를 통해 출간되었다.
아시모프는 로봇 공학의 3원칙이 나올 수 있었던건 1940년 12월 23일에 있었던 존 W. 캠벨과의 대화 덕분이라고 말하였지만, 캠벨은 아시모프가 이미 그 전에 3원칙에 대한 생각을 가지고 있었다고 주장하였다. 몇 년 후 아시모프의 친구 랜들 가렛(Randall Garrett)는 이 두 사람의 공생관계가 3원칙에 기여 하였다고 말하였다. 그의 자서전에 의하면 아시모프는 아서 휴 클러프(Arthur Hugh Clough)의 시 "The Latest Decalogue"에 등장하는 한 구절 - "Thou shalt not kill, but needst not strive / officiously to keep alive"을 읽고 제 1원칙에 "inaction"(아무런 동작도 취하지 않음)을 포함시켰다고 한다.
아시모프는 3원칙을 처음부터 그의 작품속에 사용하지 않았다. 소설 "Robbie", "Reason"이 처음 쓰여졌을 대는 3원칙이 명시적으로 언급되지 않았었다. 그러다 세 번째 로봇 소설 "Liar!"에서 3원칙의 첫 번재 원칙이 처음 언급되었다. 이 때에도 다른 원칙들은 등장하지 않았다. 그리고 마침내 "Runaround"에서 세 개의 원칙이 모두 등장하였다. 이들 소설들이 하나의 모음집(I Robot)으로 편집됨에 따라 "Reason", "Robbie"도 3원칙에 따라 업데이트 되었다 ("Reason"의 경우 새로 추가된 내용이 소설 전체 내용과 일관성을 유지하지 못하였다).
1950년대 아시모프는 청소년 독자들을 위한 과학 소설 시리즈를 썼다. 처음에 출판사는 이들 작품들이 'The Lone Ranger'같은 장편 TV 시리즈 또는 라디오 방송으로 각색되길 기대했다. 하지만 이 계획은 수포로 돌아갔고, 아시모프는 '폴 프렌치'(Paul French)라는 필명으로 Lucky Starr 시리즈를 발표하였다. 3원칙은 그의 소설 Lucky Starr와 The Moons of Jupiter에서 사용하였고, 이를 통해 대부분의 일반 독자에게도 '폴 프렌치'라는 이름이 날려지게 되었다.
단편 소설 "Evidence"에서 아시모프는 3원칙의 윤리적인 기본 바탕을 설명하기 위해 소설 속 캐릭터 수잔 캘빈 박사를 등장시켰다. 캘빈 박사는 인간은 일반적으로 (전쟁과 같은 극단적인 강박 상태나 더 많은 다수를 살리기 위한 경우를 제외하고) 타인을 위험으로부터 보호하려 한다고 지적하였다. 이는 3원칙의 첫 번째 원칙과 동일하다. 또한 캘빈 박사는 사회는 각 개인이 사회 내 권위자(의사, 교사 등)의 지시에 따르기를 기대한다고 말하였다. 이는 두 번째 원칙와 일치한다. 마지막으로 인간은 일반적으로 위험으로부터 회피하려고 하며 이는 세 번째 원칙에 해당된다. "Evidence"의 플롯은 인간과 흡사하게 만들어진 로봇을 묘사하면서 인간과 로봇의 차이점에 대한 질문들을 주제로 다루었다. 캘빈 박사의 결론은 결국 어느 누군가가 3원칙을 충실히 수행한다면, 그는 로봇이거나 아니면 '매우 훌륭한 사람'이라는 것이다.
결국 로봇은 인간과 매우 다르지 않냐는 질문을 받았을 때 캘빈 박사는 이렇게 대답하였다.
"Worlds different. Robots are essentially decent."
이후 한 에세이에서 아시모프는 대부분의 도구의 디자인에도 3원칙의 유사성이 나타난다고 지적하였다.
- 도구는 사용하기에 안전해야 한다.
- 도구는 사용자에게 위해를 주지 않는 한, 효율적으로 기능해야 한다.
- 도구는 사용상의 또는 안전상의 이유로 부서지지 않는 한, 견고해야 한다.
2004년에 개봉한 영화 I Robot 속에서 로봇의 행동 양식에 대한 나레이션이 나오는데, 인상깊었던 이야기라 여기에 옮겨보았다.
컴퓨터 안에는 혼이 존재해 왔습니다.
코드들이 제멋대로 이합집산을 하다가 우연히 어떤 명령어가 만들어 졌고, 그게 인간이 의도하지 않은 어떤 특징들을 기계에게 부여하게 된 겁니다.
인간의 자유 의지나 창의성, 더 나아가서 인간의 영혼과도 흡사한 특징들을 만들어 내게 된 것입니다.
어두운 곳에 방치되어 있는 로봇들이 밝은 곳을 찾아나오는 이유는 뭘까요?
텅빈 창고에 혼자 서있기보다는 한 곳에 여럿이 모여있고 싶어하는 이유는 뭘까요?
이런 습성은 어떻게 설명될 수 있을까요?
코드의 무작위적 결합때문일까요?
아니면 그 이상의 뭔가가 있는 걸까요?
컴퓨터의 인지 시스템이 자의식으로 바뀌는 것은 언제일까요?
처분 기관이 논리가 아닌 진리로 판단하는 것은 언제일까요?
인격 모방 프로그램이 실제 감정으로 발전하는 것은 언제일까요?
- 알프레드 래닝, 영화 I Robot 中에서
그 밖에... 앨런 파슨스 프로젝트의 1977년 작 'I Robot'은 소설 'I Robot'에서 따온 것이다.
'🤸♂️ 일상 기록 > 독서록' 카테고리의 다른 글
[책 요약: Part 3-1] 4~7세 보다 중요한 시기는 없습니다 (0) | 2021.11.13 |
---|---|
[책 요약: Part 2-2] 4~7세 보다 중요한 시기는 없습니다 (0) | 2021.11.04 |
[책 요약: Part 2-1] 4~7세 보다 중요한 시기는 없습니다 (0) | 2021.11.01 |
[책 요약: Part 1] 4~7세 보다 중요한 시기는 없습니다 (0) | 2021.10.29 |
[책] 기발한 자살여행 (2) | 2009.07.22 |
댓글