머리말
2008년 늦은 가을, 필자는 우연한 계기로 로봇윤리라는 문제에 관심을 가지게 되었습니다. 당시 정부(지식경제부)와 제어로봇시스템학회(ICROS)의 협력으로 2007년부터 진행되어 오던 로봇윤리헌장 제정 작업에 참여하도록 제안받았기 때문이었습니다. 추정컨대 이런 작업이 탄생하게 된 배경은 이탈리아의 베루지오(Gianmarco Veruggio)가 2005년 ICRA에서 발표한 “로봇윤리의 탄생(The Birth of Roboethics)”과 “EURON 로봇윤리 로드맵(The Roboethics Roadmap)”(2006)이었을 것입니다. 막 로봇윤리라는 새 영역에 대한 전문가들의 관심이 확대되기 시작하던 시기였습니다.
2007년 4월 로마에서 개최된 ICRA 2007에서는 베루지오와 미국의 아킨(Ron Arkin), 일본의 다카니시(Atsuo Takanishi)가 공동 좌장을 맡은 로봇윤리 워크숍이 열렸습니다. 그리고 이 대회가 열리기 직전인 2007년 3월, 한국에서 ―지식경제부의 전신인 산업자원부 주도로― 로봇윤리헌장을 만들어 세계에 제안할 예정이라는 소식이 영국의 BBC와 텔레그라프, 캐나다의 CBC 뉴스, 코리아헤럴드 등 언론을 통해 발표되었습니다.
이 예고는 원안대로 실현되지 않았습니다. 2008년까지의 작업을 통해 마련되어 있었던 로봇윤리헌장 초안을 놓고 2009년 상반기 동안 ‘로봇윤리헌장 제정을 위한 연구위원회’의 위원들이 열심히 토론하며 완성본을 도출하려고 애썼지만, 2009년 여름이 다가올 때쯤 대부분의 위원에게 분명해진 것은 이 작업이 생각보다 훨씬 더 많은 연구와 토론, 그리고 결정을 요구하는 복잡한 과제라는 사실이었습니다. 이런 인식을 안고 위원회는 2009년 여름, 업무를 마쳤습니다.
목표로 했던 로봇윤리헌장 공표에 도달하지 못했다는 점에서 그것은 실패한 과제의 사례지만, 필자는 그것을 실패로 여기지 않습니다. (오히려 당시의 초안을 적절한 수준의 손질만 거쳐 한국어와 영어로 발표하고 프로젝트를 완수하게 될 참이었다면, 필자는 그 문건 아래 서명하기를 몹시 주저했을 것입니다.) 그것은 몇 년 후 인공지능이 세계의 중심 화두가 되면서 그 중요성이 한층 더 분명하게 인식된 문제에 관한 공적 논의가 질적으로 상승하기 위한 발판이 된 소중한 경험이었다고 보기 때문입니다. 참여했던 위원들이 이후에 이와 관련하여 어떤 작업을 진행했는지 체계적으로 추적하지는 못했지만, 적어도 몇몇 분들이 각자의 전문분야에서 유관한 연구와 토론을 이어갔다는 사실을 알고 있습니다. 로봇공학, 미래학, 철학, 사회학, 과학기술행정 등 다양한 분야 전문가들의 발표와 토론의 과정을 거치면서 인간이 할 일을 부분적으로 대신하거나 인간과 상호작용할 수 있는 똑똑한 기계들을 설계하고, 만들고, 사용하는 일과 관련된 사회 규범이 고려해야 할 여러 관점들이 있다는 인식이 분명해졌고, 그것은 거기 참여했던 한 사람의 연구자에게도 신선하고 흥미로운 경험이었습니다. 이 책은 이러한 경험 덕분에 시작된 연구의 산물이고, 그 과정에서 생성된 물음들에 대한 고심의 흔적입니다.
로봇공학과 인공지능은 서로 밀접하게 연결된 두 영역이고, 해당 영역에 관한 윤리를 따지더라도 각각에 고유하게 남는 부분들보다 겹치는 부분이 훨씬 큽니다. 그러나 역사적으로 두 영역은 각각의 발전 과정을 걸어왔고, 70년의 역사를 가진 인공지능이 인류 공통의 관심사로, 모든 나라가 공들여 육성하는 핵심과제로 발돋움한 것은 2016년 봄 알파고 사건 이후의 일입니다. 그 이전엔 로보틱스의 사회적 영향을 다루는 토론에 인공지능이 화두로 거론되지 않았습니다. 로봇이 외부 환경을 지각하고 그렇게 지각된 정보를 처리하여 결정된 것을 토대로 모종의 운동의 형태로 출력하는 경우, 이 모든 과정은 기계에 그런 역량을 부여하는 인공지능 기술에 의하여 주도되고 제어됩니다. 이런 점을 고려하면, 현재 사회의 관심사인 똑똑한 기계들(intelligent machines)에 관한 한, 로봇윤리와 인공지능윤리는 실질적으로 서로 바꾸어 써도 될 개념들입니다. 그러나 로봇과 인공지능이 동의어는 아니라는 점, 또 두 영역과 결부된 전문가공동체(scientific community)의 외연이 다르다는 점, 그리고 사회적으로 활성화된 토론을 기준으로 할 때 인공지능에 관한 윤리가 역사적으로 로봇윤리와 약 10년의 간격을 두고 진행되고 있다는 점을 고려하여 이 책의 제목에 두 개념을 병렬하였습니다.
이 책에 수록된 글들은 서론을 빼고는 모두 다른 지면을 통해 발표되었던 것들입니다. 물론, 한 권의 책으로 묶으면서 형식과 표현, 일부 내용을 수정하였습니다. 이 책의 출간을 위하여 필자의 글을 재수록할 수 있도록 흔쾌히 허락해 주신 『과학철학』, 『범한철학』, 『철학』, 『철학논총』, 『철학연구』(철학연구회), 『철학·사상·문화』, 『황해문화』의 담당자들께, 그리고 해당 학회에 깊이 감사드립니다. 또 이 책의 출간을 제안하고 진행을 적절히 채근해 주신 인하대 법학연구소장 김원오 교수님, 연락을 맡아 수고하신 정윤경 박사님, 그리고 이 책의 출판 준비 과정을 독일 뮌헨의 푸르른 환경에서 마무리할 수 있도록 해준 인하대학교와 뮌헨대학교(LMU) 철학과 하르트만(Stephan Hartmann) 교수에게 감사드립니다.
이 책에서 거론된 논의는 여전히 진행 중이고, 또 한동안 더 그러할 것입니다. 여러모로 부족한 글들이지만, 우리 사회에 필요한 토론이 허공을 치는 일을 줄이고 실속 있게 그리고 효율적으로 진행되는 데 조금이나마 보탬이 되었으면 하는 마음입니다.

2022년 8월
고 인 석

‘인공지능과 로봇의 윤리’ 간행에 즈음하여
머리말


서론 인공지능으로 운영되는 시대의 문턱에서


Part I 인간과 인공지능의 관계

1장 인공지능의 시대에 살아남는 법
2장 인공지능의 존재 지위에 대한 두 물음
3장 인공물이 인간을 대행하도록 허용할 수 있을 조건
4장 기계가 사물을 볼 때: 인간을 대행하는 인공물의 지각
5장 인공물이 행위주체가 될 수 있을 조건
6장 인공지능이 자율성을 가진 존재일 수 있는가?


Part II 로봇윤리의 토대와 원칙

7장 아시모프의 로봇 3법칙 다시 보기: 윤리적인 로봇 만들기
8장 로봇이 책임과 권한의 주체일 수 있는가
9장 로봇윤리의 기본 원칙: 로봇 존재론으로부터
10장 체계적인 로봇윤리의 정립을 위한 로봇 존재론, 특히 로봇의 분류에 관하여
11장 자율주행자동차를 어떻게 규율할 것인가


Part III 인공지능 시대를 전망하며

12장 데이터 기반 의사결정에서 편향과 공정성
13장 초지능이 실현될 것인가: 보스트롬의 정의를 기준으로
14장 인공지능을 활용하는 인지능력 향상의 전망: 인공지능이 인간 인지체계의 일부로 작동할 조건


참고문헌
찾아보기

고 인 석
인하대학교 철학과 교수
서울대학교 물리학과와 연세대학교 대학원 철학과에서 배우고 1997년 독일 콘스탄츠대학교 철학과에서 과학철학 분야 연구로 박사학위를 받았다.
한국과학철학회 편집인과 학회장을 역임하고, 한국화이트헤드학회, 한국분석철학회, 한국생명윤리학회 등의 임원으로 활동하였다.
최근에는 한국지능정보사회지능원 법제도 포럼 등에 참여하면서 인공지능 기술과 사회의 인터페이스에서 생기는 현상과 문제들을 다루는 연구에 주력하고 있다.

‘인공지능과 로봇의 윤리’ 간행에 즈음하여(간행사)
인하대학교 법학연구소 AI·데이터법센터는 2020년 9월, “데이터경제, 데이터 주도 혁신시대의 법과 윤리의 재정립”이라는 연구과제로 인문사회연구소지원사업에 선정되었습니다. 본 과제는 데이터경제 시대의 본질에 관한 연구와 데이터 주도형 디지털 전환(Digital Transformation) 시대에 발생할 수 있는 다양한 사회·경제적 문제점과 과제를 도출해 내고, 그 해법을 법학적·경제학적·과학철학적·데이터 공학적·윤리적 측면의 융합연구와 다학제적 고찰을 통해 모색해 보고자 함입니다. 이로써 사회·문화적 역기능을 방지하면서 국가적 차원에서의 데이터 거버넌스의 확립과 기업 경쟁력을 제고할 수 있는 법제적·윤리적인 규범 수립의 학술적 토대 구축을 목표로 하고 있습니다.
데이터에 기반한 혁신 시대의 새로운 질서는 법적 강제력에만 의존할 수 없고 소프트로적 지향도 필요하고 동시에 데이터경제 참여자들의 양심에 기반한 자율적 행동이 더 요구되는 경우도 많습니다. 본 연구과제는 이러한 상황에서 기준으로 삼아야 할 일정한 윤리강령의 수립도 절실히 요구된다는 점에 착안하여, 디지털 전환시대의 신질서 수립을 위한 ‘법과 윤리의 동시적 재조명’을 지향하고 있습니다. 융합적인 시각으로 다각화한 연구를 통해 법으로 강제하여야 할 영역에 못지않게 수범자인 개인·기업과 인공지능 기반의 기계나 알고리즘이 자발적으로 윤리적 기준을 가지고 행동하거나 대응하게끔 하여 데이터경제가 원활하게 작동할 수 있기를 기대하고 있습니다.
‘법과 윤리의 재정립’ 연구에 있어서 윤리 부분의 첫 연구의 출발을 ‘인공지능과 로봇의 윤리’로 시작한 것은 이러한 맥락에서 가장 적절한 선택이었다고 여겨집니다. 본서의 출간을 위해 소중한 연구년의 기간을 대폭 할애하시고 중차대한 역할을 흔쾌히 수락해 주신 인하대학교 철학과 고인석 교수님께 이 자리를 빌려 감사의 말씀을 드립니다. 교수님께서는 그동안 과학·심리철학, 지능을 장착한 인공물 존재론, 그리고 로봇 윤리 분야에서 심도 있는 연구를 주도해 오셨는데 본서의 출간으로 그간 연구의 한 매듭을 지으시고 더 심도 있는 연구를 진척시켜 나갈 것이라 믿습니다.
이러한 연구의 결과물로서 집필된 본서는 총 3 Part로 구성되어 있으며, ‘Part I 인간과 인공지능의 관계’에서는 인공지능의 존재 지위, 인공물이 행위주체가 될 수 있을 조건, 인공지능이 자율성을 가진 존재일 수 있는지 여부 등을 다루고 있습니다. ‘Part II 로봇윤리의 토대와 원칙’은 로봇윤리의 기본 원칙과 체계적인 로봇윤리의 정립을 위한 로봇 존재론을 중심으로 다루었으며, 마지막 ‘Part III 인공지능 시대를 전망하며’에서는 인공지능과 로봇 윤리의 미래에 관한 저자의 고견을 담았습
니다.
이처럼 본서는 인공지능에 관한 법제적, 윤리적인 규범 수립의 학술적 토대 구축에 첫발을 내딛었다는 점에서 의의가 크다고 할 것입니다. 바쁘신 일정에도 집필을 수락해 주신 고인석 교수님께 다시 한 번 감사드리며, 또한 세창출판사 이방원 대표님, 임길남 상무님의 노고에 감사 말씀을 드립니다. 본서가 출간되기 위해 수고해 주신 모든 분께 깊이 감사드리며, 인하대학교 법학연구소 AI·데이터법센터가 진행하는 융·복합 연구에 많은 관심과 격려를 부탁드립니다.

2022년 8월
인하대학교 법학연구소장 겸 AI·데이터법센터장
김원오 교수 배상