2021년 초, 챗봇 ‘이루다’의 짧은 활동 과정에서 벌어진 상황은 우리사회에 적지 않은 파장을 일으켰다. ‘이루다’는 이용자들에게서 성 노리개 취급을 받는가 하면, 그 스스로 소수자에 대한 혐오 발언을 내뱉는 등 논란의 중심이 되었다. 마이크로소프트사의 챗봇 ‘테이(Tay)’가 이미 비슷한 문제로 퇴출된 지 거의 5년이나 지난 시점에서 사실상 같은 문제가 다시 일어난 것이다. 인공지능은 무엇 때문에 반복적으로 논란의 중심에 서게 되는가?
인공지능에 대한 윤리 가이드라인이 각국에서 쏟아져 나오고 있지만, 현장의 개발자들에게 실질적인 효력이 있으리라 장담할 수 없는 상황이다. 올바른 윤리적 규제의 기준 혹은 이정표가 되어야 할 윤리 가이드라인은 오히려 지금까지 ‘윤리적 세탁’의 도구로 악용되어 왔다. 인공지능 기술을 개발하는 과정에서 우리가 진정 고민해야 할 지점이 어디쯤인지 논점을 던지고자 한다.
이 모든 쟁점은 인공지능을 개발하는 과정에서 문제를 일으키는 원인은 무엇인지 혹은 개발자들에게 주어지는 한계는 무엇인지, 인공지능과 챗봇이 사회와 상호작용하는 방법은 무엇인지 등 다각적인 측면을 돌아봐야 한다는 핵심적인 문제의식 던져준다.
수상 도서
 |
|
|
들어가며
1부 인공지능의 편향
1장 인공지능의 공정성과 데이터의 편향성 –김정룡·정원섭
2장 인공지능으로 인한 불투명의 문제를 다루는 제도적 방안 -김건우
3장 인공지능의 편향과 계몽의 역설에 대한 반성적 접근 -정성훈
2부 챗봇의 일탈
1장 스캐터랩 ‘연애의 과학’과 ‘일상대화 인공지능’ 사이의 관계를 인공지능 연구개발 커뮤니티에 어떻게 설명해 왔는가? -오요한
2장 ‘연애의 과학’이라는 주술과 챗봇 ‘이루다’라는 전략 게임 -정성훈
3장 자연어이해와 대화형 챗봇 엔진의 구현 기술 –강승식
4장 인간다운 인공지능 챗봇의 지향에 대한 경계: 우리는 어떤 챗봇을 기대하는가? -장윤정
5장 챗봇 ‘이루다’가 남겨야 하는 것 –윤미선
6장 챗봇의 사회적 능력: 이루다·샤오빙·린나 -양일모
7장 ‘이루다’의 후속 이슈들: 새인정보보호위원회의 행정처분, 스캐터랩의 정중동 행보, 대화형 인공지능 연구성과, ‘연애의 과학’ 일본어 사용자들의 데이터, 쇠소한의 비식별화 조치, 그리고 자본의 문제 -오요한
1부 인공지능의 편향
1장 인공지능의 공정성과 데이터의 편향성 –김정룡·정원섭
2장 인공지능으로 인한 불투명의 문제를 다루는 제도적 방안 -김건우
3장 인공지능의 편향과 계몽의 역설에 대한 반성적 접근 -정성훈
2부 챗봇의 일탈
1장 스캐터랩 ‘연애의 과학’과 ‘일상대화 인공지능’ 사이의 관계를 인공지능 연구개발 커뮤니티에 어떻게 설명해 왔는가? -오요한
2장 ‘연애의 과학’이라는 주술과 챗봇 ‘이루다’라는 전략 게임 -정성훈
3장 자연어이해와 대화형 챗봇 엔진의 구현 기술 –강승식
4장 인간다운 인공지능 챗봇의 지향에 대한 경계: 우리는 어떤 챗봇을 기대하는가? -장윤정
5장 챗봇 ‘이루다’가 남겨야 하는 것 –윤미선
6장 챗봇의 사회적 능력: 이루다·샤오빙·린나 -양일모
7장 ‘이루다’의 후속 이슈들: 새인정보보호위원회의 행정처분, 스캐터랩의 정중동 행보, 대화형 인공지능 연구성과, ‘연애의 과학’ 일본어 사용자들의 데이터, 쇠소한의 비식별화 조치, 그리고 자본의 문제 -오요한
김정룡
한양대학교 기계공학과를 졸업하고, 오하이오 주립대학교에서 산업공학 석사학위를 취득하였으며, 동 대학에서 인간공학 박사학위를 취득하였다. 현재 한양대학교 ICT융합학부 교수로 재직 중이며, 한양대에리카 인공지능융합연구센터장을 맡고 있다. 대한인간공학회와 한국HCI학회 회장을 역임하였으며, 230여 편의 논문을 게재하였고, 최근에는 뇌파와 근전도 같은 생체신호와 인공지능을 융합한 연구를 진행하고 있다. 저서로는 Psychophysiological Measurement of Physical and Cognitive Work, 『작업관련성 근골격계질환 예방을 위한 인간공학』 등이 있다.
정원섭
서울대학교 철학과를 졸업하고 같은 대학 대학원에서 서양철학 전공으로 석사학위와 박사학위를 받았다. 현재 경남대학교 자유전공학부 교수로 재직하고 있다. 저서로는 『공적이성과 입헌민주주의』(대한민국학술원 우수도서), 『제4차 산업혁명시대 인문정책방향』, 『인공지능과 새로운 규범』(공저) 등이 있고, 역서로는 『정의와 다원적 평등』(공역),『 기업윤리』(공역) 등이 있다. 논문으로는 “Democratic Socialism or Property-Owning Democracy?”(미국철학회 Foreign Promising Philosopher 최우수상 1998), 「인권의 현대적 역설」, 「인공지능 시대 기본소득」, 「인공지능의 편향성과 공정성」 등이 있다.
김건우
서울대학교 물리학과를 졸업하고, 서울대학교 과학사·과학철학 협동과정 대학원에서과학철학으로 석사학위를, 서울대학교 법학대학원에서 법철학으로 박사학위를 받았다. 현재 광주과학기술원(GIST) 기초교육학부 교수로 재직하고 있다. 주된 연구 관심사는 일반 법철학의 다양한 측면에서 법의 토대를 검토하는 한편 인공지능 등 첨단 과학기술을 둘러싼 윤리적, 법적, 사회적 문제를 탐색하는 데에 있다. 역서로는 『법률가처럼 사고하는 법』이 있으며, 관련 분야에서 다수의 논문이 있다.
정성훈
서울대학교 철학과 학부와 대학원에서 사회철학을 공부했고, 니클라스 루만의 체계이론과 사회이론에 관한 연구로 철학박사학위를 받았다. 고려대학교 법학연구원 박사후 연수, 서울시립대학교 도시인문학연구소 HK연구교수 등을 거쳐 현재 인천대학교 인천학연구원 연구교수로 근무하고 있다. 루만의 사회이론에 관한 연구와 함께 인권, 사랑, 공동체 등을 주제로 한 논문들을 여러 편 써왔다. 2019년부터 한국포스트휴먼학회 연구이사를 맡으면서 인공소통, 전자인격, 인공지능의 편향 등을 주제로 연구를 진행하고 있다. 저서로는 『도시 인간 인권』, 『괴물과 함께 살기: 아리스토텔레스에서 루만까지 한 권으로 읽는 사회철학』 등이 있다.
오요한
서울대학교 전기·컴퓨터공학부(현 전기·정보공학부)에서 학사와 석사를 마치고, LG전자에서 소프트웨어 리서치 엔지니어로 근무했다. 서울대학교 과학사·과학철학 협동과정(현 과학학과)에서 석사를 마친 후, 현재 미국 렌슬리어 공과대학교(RPI, Rensselaer PolytechnicInstitute)에서 과학기술학 박사과정에 재학 중이다. 컴퓨터 과학·엔지니어링 분야의 연구개발 커뮤니티, 정보·매체기술 및 기술플랫폼의 하부구조, 그리고 글로벌 플랫폼 자본주의 담론 등에 관심을 두고 비판적·질적 사회과학 방법론을 통해 연구하고 있다.
강승식
서울대학교 컴퓨터공학과를 졸업하고 서울대학교 대학원에서 석사학위와 박사학위를 취득하였다. 현재는 국민대학교 소프트웨어학부 교수로 학생들을 지도하고 다양한국책과제를 수행 중이다. 2013년부터 2016년까지 한국정보과학회 부회장을 역임했으며 2021년부터 한국언어학회 부회장직을 맡고 있다. 일찍이 한국어 형태소분석기를 개발하여 한국어 자연어처리(NLP) 분야의 발전에 큰 기여를 하였다. HAM으로 명명된 한국어 형태소 분석기는 네이버의 초기 검색엔진에서 핵심 모듈의 기능을 수행했다. 형태소 분석, 기계학습 및 딥러닝을 주제로 유튜버 활동을 활발하게 하고 있다. 저서로는 『한국어 형태소 분석과 정보검색』, 『컴파일러와 오토마타』 등이 있다.
장윤정
이화여자대학교 의과대학을 졸업하고, 서울대학교 보건대학원에서 보건정책 전공으로 보건학 석사학위, 가톨릭대학교에서 의료정보 전공으로 보건학 박사학위를 받았으며, 서울대학교 의과대학에서 생명윤리로 인문의학박사를 수료하였다. 현재 국립암센터에서 암관리정책부장으로 재직하며, 보건의료정책에 대한 자문과 첨단과학기술에 대한 윤리적·사회적·법적 함의(Legal, Ethical & Social Implication)에 대한 연구를 하고 있다. 이와 관련한 다수의 저서와 논문이 있다.
윤미선
서울대학교에서 영어영문학과 미학을 공부하고, 런던대학교 킹스칼리지에서 석사학위를, 케임브리지대학교에서 박사학위를 취득하였다. 현재 순천향대학교 영미학과 교수로 재직하면서 한국포스트휴먼학회 연구위원 및 출판이사로 활동하고 있다. 19세기 영어권 소설과 출판 미디어, 디지털 인문학, 비판 AI 이론, VR/AR 등을 주요 연구 분야로 삼고 있으며 논문으로는 「《길 위 1번지》, AI 제임스의 소설: ‘소설의 기술’과 인공신경망 알고리즘의 글쓰기」, 「19세기 말의 정보 자본주의와 《드라큘라》: 정보조직의 기술화와 단행본 서사의 재탄생」 등이 있다.
양일모
서울대학교 철학과를 졸업하고 같은 대학 대학원에서 동양철학 전공으로 석사학위, 도쿄대학 대학원 인문사회계연구과에서 박사학위를 받았다. 현재 서울대학교 자유전공학부 교수로 재직하고 있다. 저서로는 『근현대한국총서』 1~7, 『옌푸: 중국의 근대성과서양사상』, 『민본과 민주의 개념적 통섭』(공저) 등이 있고, 번역서로는 『천연론』(공역), 『관념사란 무엇인가』(공역) 등이 있다. 논문으로는 「한학에서 철학으로-20세기 전환기일본의 유교 연구」, 「유교적 윤리 개념의 근대적 의미 전환―20세기 전후 한국의 언론잡지 기사를 중심으로」, 「중국철학사의 탄생―20세기 초 중국철학사 텍스트 성립을 중심으로」, “Translating Darwin’s Metaphors in East Asia” 등이 있다.
한양대학교 기계공학과를 졸업하고, 오하이오 주립대학교에서 산업공학 석사학위를 취득하였으며, 동 대학에서 인간공학 박사학위를 취득하였다. 현재 한양대학교 ICT융합학부 교수로 재직 중이며, 한양대에리카 인공지능융합연구센터장을 맡고 있다. 대한인간공학회와 한국HCI학회 회장을 역임하였으며, 230여 편의 논문을 게재하였고, 최근에는 뇌파와 근전도 같은 생체신호와 인공지능을 융합한 연구를 진행하고 있다. 저서로는 Psychophysiological Measurement of Physical and Cognitive Work, 『작업관련성 근골격계질환 예방을 위한 인간공학』 등이 있다.
정원섭
서울대학교 철학과를 졸업하고 같은 대학 대학원에서 서양철학 전공으로 석사학위와 박사학위를 받았다. 현재 경남대학교 자유전공학부 교수로 재직하고 있다. 저서로는 『공적이성과 입헌민주주의』(대한민국학술원 우수도서), 『제4차 산업혁명시대 인문정책방향』, 『인공지능과 새로운 규범』(공저) 등이 있고, 역서로는 『정의와 다원적 평등』(공역),『 기업윤리』(공역) 등이 있다. 논문으로는 “Democratic Socialism or Property-Owning Democracy?”(미국철학회 Foreign Promising Philosopher 최우수상 1998), 「인권의 현대적 역설」, 「인공지능 시대 기본소득」, 「인공지능의 편향성과 공정성」 등이 있다.
김건우
서울대학교 물리학과를 졸업하고, 서울대학교 과학사·과학철학 협동과정 대학원에서과학철학으로 석사학위를, 서울대학교 법학대학원에서 법철학으로 박사학위를 받았다. 현재 광주과학기술원(GIST) 기초교육학부 교수로 재직하고 있다. 주된 연구 관심사는 일반 법철학의 다양한 측면에서 법의 토대를 검토하는 한편 인공지능 등 첨단 과학기술을 둘러싼 윤리적, 법적, 사회적 문제를 탐색하는 데에 있다. 역서로는 『법률가처럼 사고하는 법』이 있으며, 관련 분야에서 다수의 논문이 있다.
정성훈
서울대학교 철학과 학부와 대학원에서 사회철학을 공부했고, 니클라스 루만의 체계이론과 사회이론에 관한 연구로 철학박사학위를 받았다. 고려대학교 법학연구원 박사후 연수, 서울시립대학교 도시인문학연구소 HK연구교수 등을 거쳐 현재 인천대학교 인천학연구원 연구교수로 근무하고 있다. 루만의 사회이론에 관한 연구와 함께 인권, 사랑, 공동체 등을 주제로 한 논문들을 여러 편 써왔다. 2019년부터 한국포스트휴먼학회 연구이사를 맡으면서 인공소통, 전자인격, 인공지능의 편향 등을 주제로 연구를 진행하고 있다. 저서로는 『도시 인간 인권』, 『괴물과 함께 살기: 아리스토텔레스에서 루만까지 한 권으로 읽는 사회철학』 등이 있다.
오요한
서울대학교 전기·컴퓨터공학부(현 전기·정보공학부)에서 학사와 석사를 마치고, LG전자에서 소프트웨어 리서치 엔지니어로 근무했다. 서울대학교 과학사·과학철학 협동과정(현 과학학과)에서 석사를 마친 후, 현재 미국 렌슬리어 공과대학교(RPI, Rensselaer PolytechnicInstitute)에서 과학기술학 박사과정에 재학 중이다. 컴퓨터 과학·엔지니어링 분야의 연구개발 커뮤니티, 정보·매체기술 및 기술플랫폼의 하부구조, 그리고 글로벌 플랫폼 자본주의 담론 등에 관심을 두고 비판적·질적 사회과학 방법론을 통해 연구하고 있다.
강승식
서울대학교 컴퓨터공학과를 졸업하고 서울대학교 대학원에서 석사학위와 박사학위를 취득하였다. 현재는 국민대학교 소프트웨어학부 교수로 학생들을 지도하고 다양한국책과제를 수행 중이다. 2013년부터 2016년까지 한국정보과학회 부회장을 역임했으며 2021년부터 한국언어학회 부회장직을 맡고 있다. 일찍이 한국어 형태소분석기를 개발하여 한국어 자연어처리(NLP) 분야의 발전에 큰 기여를 하였다. HAM으로 명명된 한국어 형태소 분석기는 네이버의 초기 검색엔진에서 핵심 모듈의 기능을 수행했다. 형태소 분석, 기계학습 및 딥러닝을 주제로 유튜버 활동을 활발하게 하고 있다. 저서로는 『한국어 형태소 분석과 정보검색』, 『컴파일러와 오토마타』 등이 있다.
장윤정
이화여자대학교 의과대학을 졸업하고, 서울대학교 보건대학원에서 보건정책 전공으로 보건학 석사학위, 가톨릭대학교에서 의료정보 전공으로 보건학 박사학위를 받았으며, 서울대학교 의과대학에서 생명윤리로 인문의학박사를 수료하였다. 현재 국립암센터에서 암관리정책부장으로 재직하며, 보건의료정책에 대한 자문과 첨단과학기술에 대한 윤리적·사회적·법적 함의(Legal, Ethical & Social Implication)에 대한 연구를 하고 있다. 이와 관련한 다수의 저서와 논문이 있다.
윤미선
서울대학교에서 영어영문학과 미학을 공부하고, 런던대학교 킹스칼리지에서 석사학위를, 케임브리지대학교에서 박사학위를 취득하였다. 현재 순천향대학교 영미학과 교수로 재직하면서 한국포스트휴먼학회 연구위원 및 출판이사로 활동하고 있다. 19세기 영어권 소설과 출판 미디어, 디지털 인문학, 비판 AI 이론, VR/AR 등을 주요 연구 분야로 삼고 있으며 논문으로는 「《길 위 1번지》, AI 제임스의 소설: ‘소설의 기술’과 인공신경망 알고리즘의 글쓰기」, 「19세기 말의 정보 자본주의와 《드라큘라》: 정보조직의 기술화와 단행본 서사의 재탄생」 등이 있다.
양일모
서울대학교 철학과를 졸업하고 같은 대학 대학원에서 동양철학 전공으로 석사학위, 도쿄대학 대학원 인문사회계연구과에서 박사학위를 받았다. 현재 서울대학교 자유전공학부 교수로 재직하고 있다. 저서로는 『근현대한국총서』 1~7, 『옌푸: 중국의 근대성과서양사상』, 『민본과 민주의 개념적 통섭』(공저) 등이 있고, 번역서로는 『천연론』(공역), 『관념사란 무엇인가』(공역) 등이 있다. 논문으로는 「한학에서 철학으로-20세기 전환기일본의 유교 연구」, 「유교적 윤리 개념의 근대적 의미 전환―20세기 전후 한국의 언론잡지 기사를 중심으로」, 「중국철학사의 탄생―20세기 초 중국철학사 텍스트 성립을 중심으로」, “Translating Darwin’s Metaphors in East Asia” 등이 있다.
인공지능의 발전이 늘 옳기만 할까
‘옮긴이의 말’에서부터 소개하는 대로, 챗봇은 그 출시와 함께 많은 관심을 받았고 동시에 많은 이로부터 비판의 목소리로 가득한 소요들을 일으키며 논란의 중심에 서 왔다. 챗봇의 운영 기반이 되는 인공지능이 특히나 우리나라에서 강한 파급력을 지녔던 것은 이세돌을 꺾었던 알파고의 파급력 때문이라고 해도 과언이 아니다. ‘인간을 이긴 인공지능’이라는 수식어로 인해 인공지능은 가장 올바르고 공정한 판단을 할 것이라는 기대감은 커져만 갔지만, 실상은 그것과 달리 다양한 문제들을 일으키는 ‘말썽쟁이’로서의 면모 또한 ‘착실히’(?) 쌓아 가고 있다.
문제는 인공지능이 빅데이터에 기반하고 있다는 사실이다. 인공지능의 능력을 바둑의 영역에 한정한다면 기보의 누적에 의해 이루어지는 딥러닝 방식으로 인하여 확실히 좋은 결과를 이룰 수 있다. 그러나 우리의 언어는 ‘지금 여기’라는 특정한 사회 문화적 맥락에서 진행된다. 테이 사건은 데이터의 축적만으로는 해결될 수 없는 문제가 엄연히 존재한다는 점을 상징적으로 보여 준다. 다시 말해, 인공지능이 늘 사회적으로도 좋은 결과를 가져오지만은 않는다는 것이다.
인공지능의 발전이 모든 방향에서 늘 옳다고만 할 수는 없다. 다가오는 인공지능에 대해 무작정 환영하기 보다는 어떠한 태도로 인공지능을 바라보고 감시하며 받아들여야 할지에 대해 경각심을 일깨운다. 사실 인공지능에게 조금의 공정성을 기대한다면, 이 기술을 바라보고 개발하는 인간이 먼저 공정해야 하지 않을까.
인공지능 챗봇의 오늘, 우리의 내일을 묻는다.
이 책은 고도로 발전한 인공지능의 친근한 사례로 챗봇 ‘이루다’를 소개한다. 이루다는 순식간에 많은 사람들의 이목을 끈 동시에 논란을 일으키며 자신의 무대에서 퇴출당했다. 이렇게 순식간에 성장했다고 급작스럽게 몰락한 원인은 이루다 자체가 윤리적인 기준을 가지지 못했다는 것이고 따라서 그 스스로 혐오에도, 성희롱에도 아무런 저항이나 반대를 할 능력을 갖지 못했기 때문이다. 무엇에도 저항하지 않은 이루다에게는 잘 받아주는 것이 자신만의 기준인 것처럼 행동한다. 책의 1부에서 지적하는 인공지능의 ‘편향성’ 문제로부터 기인한 것임을 어렵지 않게 파악할 수 있다.
인공지능 기술이 발전하는 만큼 챗봇과 개발사의 윤리적 기준과 능력이 발달하는 방법은 무엇일까. 지속적으로 터져나오는 문제들을 규제하거나 보완하는 방법은 없을까. 책의 1부 인공지능의 편향성 문제에 대한 직접적인 문제들을 다루는 챗봇의 문제는 보다 구체적으로 오늘 우리의 윤리적인 문제들을 묻게 한다. 성숙하지 못한 챗봇이 성숙하지 못한 사회의 윤리적 기준을 완곡하게 보여 준다고 할 수 있다.
이 책을 통해 우리가 반성할 수 있는 바는 명확해 보인다. 인공지능 자체의 문제를 지탄할 것인가 아니면 인공지능의 개발을 담당하고 그 기술을 활용하는, 더 나아가 우리의 삶의 중요한 일부로 자리를 잡아 갈 새로운 기술을 받아들이는 오늘의 우리 스스로의 책임과 윤리를 돌아볼 것인가. 독일의 철학자 마르틴 하이데거는 올바른 질문이 올바른 정답을 이끈다고 말했다. 새로운 시대에 앞서 인공지능의 오늘은 올바른 질문을 던지길 촉구한다. 그리고 이 책을 통해 많은 사람이 우리가 가져야 할 책임과 윤리에 관한 올바른 질문을 던져 보는 계기가 되길 기대한다.
‘옮긴이의 말’에서부터 소개하는 대로, 챗봇은 그 출시와 함께 많은 관심을 받았고 동시에 많은 이로부터 비판의 목소리로 가득한 소요들을 일으키며 논란의 중심에 서 왔다. 챗봇의 운영 기반이 되는 인공지능이 특히나 우리나라에서 강한 파급력을 지녔던 것은 이세돌을 꺾었던 알파고의 파급력 때문이라고 해도 과언이 아니다. ‘인간을 이긴 인공지능’이라는 수식어로 인해 인공지능은 가장 올바르고 공정한 판단을 할 것이라는 기대감은 커져만 갔지만, 실상은 그것과 달리 다양한 문제들을 일으키는 ‘말썽쟁이’로서의 면모 또한 ‘착실히’(?) 쌓아 가고 있다.
문제는 인공지능이 빅데이터에 기반하고 있다는 사실이다. 인공지능의 능력을 바둑의 영역에 한정한다면 기보의 누적에 의해 이루어지는 딥러닝 방식으로 인하여 확실히 좋은 결과를 이룰 수 있다. 그러나 우리의 언어는 ‘지금 여기’라는 특정한 사회 문화적 맥락에서 진행된다. 테이 사건은 데이터의 축적만으로는 해결될 수 없는 문제가 엄연히 존재한다는 점을 상징적으로 보여 준다. 다시 말해, 인공지능이 늘 사회적으로도 좋은 결과를 가져오지만은 않는다는 것이다.
인공지능의 발전이 모든 방향에서 늘 옳다고만 할 수는 없다. 다가오는 인공지능에 대해 무작정 환영하기 보다는 어떠한 태도로 인공지능을 바라보고 감시하며 받아들여야 할지에 대해 경각심을 일깨운다. 사실 인공지능에게 조금의 공정성을 기대한다면, 이 기술을 바라보고 개발하는 인간이 먼저 공정해야 하지 않을까.
인공지능 챗봇의 오늘, 우리의 내일을 묻는다.
이 책은 고도로 발전한 인공지능의 친근한 사례로 챗봇 ‘이루다’를 소개한다. 이루다는 순식간에 많은 사람들의 이목을 끈 동시에 논란을 일으키며 자신의 무대에서 퇴출당했다. 이렇게 순식간에 성장했다고 급작스럽게 몰락한 원인은 이루다 자체가 윤리적인 기준을 가지지 못했다는 것이고 따라서 그 스스로 혐오에도, 성희롱에도 아무런 저항이나 반대를 할 능력을 갖지 못했기 때문이다. 무엇에도 저항하지 않은 이루다에게는 잘 받아주는 것이 자신만의 기준인 것처럼 행동한다. 책의 1부에서 지적하는 인공지능의 ‘편향성’ 문제로부터 기인한 것임을 어렵지 않게 파악할 수 있다.
인공지능 기술이 발전하는 만큼 챗봇과 개발사의 윤리적 기준과 능력이 발달하는 방법은 무엇일까. 지속적으로 터져나오는 문제들을 규제하거나 보완하는 방법은 없을까. 책의 1부 인공지능의 편향성 문제에 대한 직접적인 문제들을 다루는 챗봇의 문제는 보다 구체적으로 오늘 우리의 윤리적인 문제들을 묻게 한다. 성숙하지 못한 챗봇이 성숙하지 못한 사회의 윤리적 기준을 완곡하게 보여 준다고 할 수 있다.
이 책을 통해 우리가 반성할 수 있는 바는 명확해 보인다. 인공지능 자체의 문제를 지탄할 것인가 아니면 인공지능의 개발을 담당하고 그 기술을 활용하는, 더 나아가 우리의 삶의 중요한 일부로 자리를 잡아 갈 새로운 기술을 받아들이는 오늘의 우리 스스로의 책임과 윤리를 돌아볼 것인가. 독일의 철학자 마르틴 하이데거는 올바른 질문이 올바른 정답을 이끈다고 말했다. 새로운 시대에 앞서 인공지능의 오늘은 올바른 질문을 던지길 촉구한다. 그리고 이 책을 통해 많은 사람이 우리가 가져야 할 책임과 윤리에 관한 올바른 질문을 던져 보는 계기가 되길 기대한다.
p. 20 인공지능 알고리즘에 대한 인위적 개입이라는 점에서 통상적인 불공정 행위와는 그 성격이 매우 달라 보인다. 왜냐하면 모 기업에서는 자신들의 행위가 시장의 공정 경쟁을 침해하는 불법행위가 아니라 알고리즘의 성능을 향상하기 위한 불가피한 개입이라고 주장하고 있기 때문이다. 더욱 좋은 결과를 얻기 위해서 기존의 알고리즘에 개입해야 한다면 우리는 인공지능이 제시한 결과를 어떻게 받아들여야 하는가?
p.26 인공지능의 기능을 향상하기 위한 학습 데이터는 자연·사회 현상을 기록한 기존 자료로부터 추출되거나 특별한 목적을 가지고 설계된 실험을 통해서 추출된다. 그런데 이 과정에서 연구의 객관성을 유지하는 데 필요한 시도를 충실히 수행하더라도 연구자의 의도와 달리 편향성을 가지고 데이터를 선택하는 경우가 적지 않다.
p.68 감사의 방법과 관련한 이러한 쟁점을 고려한다면, 알고리즘의 입·출력물을 공개하도록 제도화하는 것도 하나의 방안일 수 있다. 원칙적으로, 인공지능의 활용 주체에게는 인공지능의 공정성과 투명성을 기하기 위해 개인(서비스·정보의 주체)에게 필요한 정보를 제공해야할 의무가 있고, 개인은 그러한 정보를 제공받을 권리를 가진다. 입·출력물 공개제도는 바로 이러한 원칙의 결과라 할 것이다. 이 방안 역시 오닐이 제시하는 것의 하나인데, 그는 이를 통해 알고리즘의 투명성을 강화할 수 있다고 주장한다.
p.105 ‘편향’은 완화할 수 있을 뿐, 제거할 수 있는 것이 아니다. 편향되었다는 인상은 뚜렷할 수 있지만, 최적의 기준 혹은 표준이 무엇이라고 뚜렷이 말하기는 어렵기 때문이다.
p.137 ‘연애의 과학’은 이런 주술 혹은 모델 제시의 반복임에도 ‘과학’을 표방한다. 그들이 ‘과학’이라고 말하는 이유는 아마도 두 가지일 것이다. 알고리즘을 통해 카톡 대화를 분석한다는 것, 그리고 미국 유명 대학교수들이 썼다는 사회심리학 논문들을 참조해 조언을 제공
한다는 것이다. 이 두 가지가 과연 과거의 주술이나 소설보다 뛰어난 것일까?
p.195 사회가 기술 발전에 장애물이 되고 있다고 생각한다면, 아직 사회형 인공지능을 만들 수 있는 준비가 안 된 것이다. 어떤 인공지능을 필요로 하는지 사회는 논의하고 선택할 권리가 있다. 기술을 통해 열리는 공간이 사회의 확장이기 때문이며, 인공지능 기술 발전의기반인 데이터는 플랫폼의 틀을 통할지언정 바로 오늘도 끊임없이 우리 모두가 공동으로 쌓아 가고 있기 때문이다.
p.209 인간에게 공감의 토대로서 마음이 있듯이, 인공지능에게도 자신의 발화행위를 반성적으로 사유하면서 사용자와 공감할 수 있는 마음이 필요할 것이다. 인공지능에 이러한 마음을 장착하는 것은 결국 제작자의 기술이며, 윤리적 판단과 사회적 능력을 부여하는 것 또한 제작자의 윤리이다
p.26 인공지능의 기능을 향상하기 위한 학습 데이터는 자연·사회 현상을 기록한 기존 자료로부터 추출되거나 특별한 목적을 가지고 설계된 실험을 통해서 추출된다. 그런데 이 과정에서 연구의 객관성을 유지하는 데 필요한 시도를 충실히 수행하더라도 연구자의 의도와 달리 편향성을 가지고 데이터를 선택하는 경우가 적지 않다.
p.68 감사의 방법과 관련한 이러한 쟁점을 고려한다면, 알고리즘의 입·출력물을 공개하도록 제도화하는 것도 하나의 방안일 수 있다. 원칙적으로, 인공지능의 활용 주체에게는 인공지능의 공정성과 투명성을 기하기 위해 개인(서비스·정보의 주체)에게 필요한 정보를 제공해야할 의무가 있고, 개인은 그러한 정보를 제공받을 권리를 가진다. 입·출력물 공개제도는 바로 이러한 원칙의 결과라 할 것이다. 이 방안 역시 오닐이 제시하는 것의 하나인데, 그는 이를 통해 알고리즘의 투명성을 강화할 수 있다고 주장한다.
p.105 ‘편향’은 완화할 수 있을 뿐, 제거할 수 있는 것이 아니다. 편향되었다는 인상은 뚜렷할 수 있지만, 최적의 기준 혹은 표준이 무엇이라고 뚜렷이 말하기는 어렵기 때문이다.
p.137 ‘연애의 과학’은 이런 주술 혹은 모델 제시의 반복임에도 ‘과학’을 표방한다. 그들이 ‘과학’이라고 말하는 이유는 아마도 두 가지일 것이다. 알고리즘을 통해 카톡 대화를 분석한다는 것, 그리고 미국 유명 대학교수들이 썼다는 사회심리학 논문들을 참조해 조언을 제공
한다는 것이다. 이 두 가지가 과연 과거의 주술이나 소설보다 뛰어난 것일까?
p.195 사회가 기술 발전에 장애물이 되고 있다고 생각한다면, 아직 사회형 인공지능을 만들 수 있는 준비가 안 된 것이다. 어떤 인공지능을 필요로 하는지 사회는 논의하고 선택할 권리가 있다. 기술을 통해 열리는 공간이 사회의 확장이기 때문이며, 인공지능 기술 발전의기반인 데이터는 플랫폼의 틀을 통할지언정 바로 오늘도 끊임없이 우리 모두가 공동으로 쌓아 가고 있기 때문이다.
p.209 인간에게 공감의 토대로서 마음이 있듯이, 인공지능에게도 자신의 발화행위를 반성적으로 사유하면서 사용자와 공감할 수 있는 마음이 필요할 것이다. 인공지능에 이러한 마음을 장착하는 것은 결국 제작자의 기술이며, 윤리적 판단과 사회적 능력을 부여하는 것 또한 제작자의 윤리이다
