2017.09.25 (월)

  • -동두천 26.7℃
  • -강릉 22.9℃
  • 서울 26.1℃
  • 대전 24.3℃
  • 대구 25.4℃
  • 울산 26.2℃
  • 박무광주 29.2℃
  • 구름많음부산 29.5℃
  • -고창 26.8℃
  • 흐림제주 33.6℃
  • -강화 25.4℃
  • -보은 21.9℃
  • -금산 25.8℃
  • -강진군 30.1℃
  • -경주시 24.9℃
  • -거제 29.9℃

학술기획

자율주행자동차가 사용화되기 전에 해결해야 할 윤리적·법적 문제

미국 국제자동차기술자협회(Society of Automotive Engineers; SAE International)에서는 도로를 주행하는 자동차의 자동화를 5단계로 나누었고, 현재 우리는 3단계(Conditional Automation; Limited Self-Driving Automation)에서 4단계(High Automation; Self-Driving Under Specified Conditions)로 넘어가고 있는 자율 주행 자동차를 보고 있다. 
자율 자동차 업계를 선도하는 몇몇 외국 자동차 회사들은 대략 2018년에서 2020년 사이에는 완전 자동화된 5단계(Full Automation; Full Self-Driving Automation)의 ‘운전자 없는 차량’(driverless cars)을 상용화할 것이라고 선언했다. 
여러분은 완전 자율주행이 가능한 자동차가 시판된다면 이를 구입할 생각인가? 내 손으로 기계로 조작하며 도로를 달리는 드라이빙의 쾌감을 버릴 수 없다는 생각 때문이었는지는 모를 일이지만, (명성인지 오명인지 혼란스런 상태지만) 자동차의 나라 독일에서 실시한 관련 조사에 설문에 응답한 사람의 64~67%가 자율주행차량에 별 관심이 없다고 답했다. 우리나라 사람들은 어떻게 대답할까?
지금까지 인공지능이나 자율주행차량이라는 이름으로 등장한 차량이 관계된 크고 작은 사고는 적지 않았지만, 2016년 5월 미국 플로리다에서 발생한 테슬라 모델 S 차량과 트레일러의 충돌사고는 지금까지 그 정확한 원인에 대한 당사자들의 합의가 도출되지 못하고 있다. 이 충돌사고에서 운전자가 사망한 원인에 대해서 지난 12일 미연방교통안전위원회(NTSB)가 또 다시 새로운 검토보고서를 제출했다. 이에 따르면 테슬라의 자율 주행 시스템이 도로에서 운전자의 주의를 분산하게 만든 것이 사고의 원인이었다고 한다. 도로에서 수 만 명의 목숨을 구할 잠재력이 완전한 현실이 될 때까지는 운전자들에게 조심해서 운행해야한다는 조언도 덧붙였다. 
완전 자율화 차량의 그 잠재력이 현실이 되면 교통사고 0%의 시대가 도래 할 것이라고 전망하는 사람도 있지만, 그렇게 되기 위해서는 (도로나 신호 등 기반인프라가 완전하게 구축되어야 하는 등의 기술적 전제를 논외로 하더라도) 도로를 주행하는 모든 차량은 인공지능이 운전하는 자동차라야 하고, 피할 수 없는 사고 상황이 발생하지 않아야 하고, 설령 그런 충돌 상황이 닥친다면 물리법칙까지도 극복할 수 있는 능력을 가진 차량이 만들어져야만 한다며 장밋빛 전망의 비현실성을 지적하기도 한다. 물론 인간의 과실과 착오로 인해 발생하는 사고만을 줄일 수 있다면, 연간 전 세계적으로 수 십 혹은 수 백 만 이상의 엄청난 목숨을 구할 수 있을 것이라는 전망을 단순히 공상으로 치부해버릴 수는 없을 것이다. 
완전 자율화가 구현된 경우는 물론, 그 이전 단계들에서도 특정 모드에서 자율 주행을 담당하고 있던 자율 주행 시스템이 심각한 사고 상황에 직면하게 되고, 자신이 판단할 수 있는 내용이 아니므로 그 판단을 인간 탑승자에게 넘겨주어야 하는 대상이지만, 예를 들어 시간적인 문제로, 이에 대해 인간이 신속하게 상황을 파악해 적절히 대처할 수 있는 가능성이 배제된 상태라면, 그 판단은 자율 주행 시스템의 인공지능에게 넘겨줄 수밖에 없을 것이다. 이런 경우 자율 주행 시스템의 인공지능이 어떻게 반응하도록 만들어야 할 것인가!

 “자율주행차량의
교통사고 알고리즘(Accident-Algorithm)은
어떻게 만들어져야 할 것인가?”

썩 유쾌하지 않은 브레인스토밍이겠지만, 만약 2인이 탑승한 자율주행차량이 달리는 차선의 맞은편에서 대형트럭이 달려오고 있었고, 완전자율주행차량도 예상하지 못한 기술·환경적 문제로 인해 트럭이 갑자기 차선을 벗어나 자율주행차량을 향해 달려오고 있다고 하자. 인간에게는 불가능했겠지만, 자율 주행 시스템은 아주 짧은 시간에 자신을 향해 달려오는 트럭의 진행방향과 차량의 대략적인 무게를 인식한다. 주변 환경에 대한 정보를 분석하니 당장 오른쪽 보도 쪽으로 차량의 진행 방향을 틀지 않으면 트럭과의 충격을 피할 수 없을 것이고, 자신의 차량에 탑승한 2인의 승객은 사망할 것이라는 계산이 나왔다. 그런데 불행하게도 그 보도에는 한 명의 노인이 걸어가고 있었다. 귀한 생명이 희생될 수 있는 심각한 문제이기에 인간탑승자에게 판단을 넘기려고 해도, 컴퓨터의 계산상 인간이 사태를 인식하고 합리적으로 의사결정을 하고 반응할 수 있는 여유가 없다는 결과가 나왔다. 즉, 자율 주행차량 스스로 그 상황에 대처할 수밖에 없다면 어떻게 대응하도록 프로그램화 할 것인가?
이미 누구나 한 두 번은 생각해 볼 기회가 있었을 이러한 사례에서 윤리적 난제(ethical dilemmas)가 무엇인지는 쉽게 알 수 있다. 사고는 결코 발생하지 않을 것이라는 비현실적인 이유를 제외한다면, 자율주행차량에 미리 이러한 사고 상황에서 해야 할 일 처리 매뉴얼을 장착해야하는 것은 설계자, 제조자, 판매자, 구매자는 물론 제조, 판매 및 도로교통 등을 관할하는 국가기관도 피할 수 없는 일이다. 사람이 운전하는 차량을 세상의 모든 도로에서 몰아내고 인공지능이 작동하는 자율주행차량만이 자동차를 운행하는 도로와 세상을 상정하지 않는 한, 이러한 피할 수 없는 사고 상황을 대비하여 자율주행차량 시스템에 미리 설정되어야 할 우선순위(pre-set priorities)는 무엇이어야만 하는지가 문제인 것이다. 
어떤 경우라고 항상 자율주행차량에 타고 있는 승객을 우선시할 것인가? 아무런 잘못 없이 희생되어서는 안 될 보행자를 우선해야 하는 것은 아닌가? 공정이 우선인가? 공익을 우선해야하는 것은 아닌가? 어쩌면 누군가의 운명을 미리 결정하는 일일 수 있는 그런 내용의 매뉴얼을 미리 만들어서는 안 되는 것인가?
만약 2:1의 생명이 아니라 10명과 1명의 희생 중에 어느 것을 선택해야 한다면 조금 더 그 선택은 쉬워질 것인가? 90대의 노인과 9살의 초등학생 중 한 명을 희생해야만 하는 안타까운 상황에서는 어떤 선택을 해야 하는가? 어떤 경우라고 예정된 기존의 진행 방향을 결코 변경해서는 안 되고 각자의 운명을 받아들이게 해야 하는 것일까?
윤리학에서 가장 대표적인 사고실험(thought experiments)의 예로서 활용되고 있는 풋(Foot)의 Trolley dilemma(광차(鑛車)의 딜레마)는 자율주행차량의 사고알고리즘과 관련해서도 예외 없이 등장한다. 형사법 영역에서 전통적인 논쟁거리인 카르네아데스의 널빤지(Plank of Carneades)의 딜레마도 이와 유사한 구조를 가지고 있다. 
1차선의 좁은 도로에서 앞서 걸어가는 90대 노인과 9세의 초등학생 중 어느 한 명의 생명이 희생될 수밖에 없는 상황이라면 여러분은 어떤 선택을 할 것인가? 어느 한쪽을 신속하게 선택하지 않으면 두 사람 모두가 희생되는 상황이면 어떨까? 90대의 노인을 선택하는 사람들도, 9세의 어린아이를 선택하는 사람들도 그들 나름의 정당한(?) 이유들을 제시할 수 있을 것이다. 하지만 여기서 그 중 누군가를 선택하는 자체가 기술자들의 윤리강령(IEEE의 Code of Ethics)에 위반이라는 주장도 있다. 모든 사람들을 공정하게 다루고 인종, 종교, 성별, 장애, 연령, 국적, 성적 정향, 성 정체성 등을 이유로 차별하는 행위에 개입하지 말라는 윤리강령에 위반하는 것이라는 말이다. 그렇다면 가능한 선택지가 무엇인지에 대해 린(Lin)은 핸들을 돌리지 않고 두 사람을 모두 충돌해 버리는 방법이 있지만 이것은 둘 중 한 사람에게 나쁜 편견을 가지고 그를 충돌한 경우보다도 윤리적으로 더 악한 결과라고 말한다. 그렇다면 어떻게 해야 하는가? 린은 “만약 자동차가 계속 직진할 경우에는 10명 혹은 100명의 보행자가 사망하게 될 것이나, 핸들을 틀어 주행방향을 바꾼다면 단지 1명의 보행자의 목숨이 희생되는 경우라면 어떤 결정이 윤리적인 것인가?”라며 좀 더 쉬운 선택을 할 수 있도록 도와준다. 린은 이런 수적 차이가 있다면 10명 혹은 100명의 목숨을 구하는 선택을 하라는 요구 쪽으로 기운다. 자, 과연 그렇게 하는 것이 옳은 선택이며 윤리적인 것일까? 
히틀러의 나찌 독일은 인종청소와 종족학살을 생명의 질과 가치를 따져 처리했다. 그들이 보기에 가치 없는 생명이나 사회와 국가에 해가 되는 목숨은 제거하는 것은 정당하고도 칭찬받을 일이었다. 악몽에서 벗어난 지구에 사는 오늘날의 인류는 생명을 질과 양으로 비교 형량 하는 것은 허용되지 않는 일이라고 믿고 있고, 그런 말을 입에 담는 것조차 터부로 되어있다. 그럼에도 위와 같은 선택은 정당한 것일까? 그렇지 않다면 그럼 100명 혹은 10명이 아니라 10명 혹은 1명의 보다 적은 사람을 살리고 다수를 희생하는 것은 보다 윤리적이고 합법적인 것인가?   
만약 내가 탑승한 승용차량과 충돌을 피할 수 없는 대상들이 5톤 트럭과 자전거 탑승자라면 나의 자율주행차량의 시스템에 무엇과 충돌하라고 입력할 것인가? 약한 자전거를 보호하자고 운전자를 희생하는 프로그램이 된 차량을 누가 과연 용기 있게 구입할 것인가? 앞서 달려가는 2대의 원동기장치 자전거 운전자 중 1인은 머리 보호대를 착용하고 있고, 다른 1인은 착용하지 않았다고 하면, 누구와 충돌해야 하는가? 그나마 상처를 적게 입을 것으로 예상되는 도로교통규범을 준수한 사람과 충돌하는 것이 옳은가? 만약 그렇게 사고 알고리즘이 만들어진다면 자신에게 닥칠 지도 모르는 사고 상황에서 피해자가 되지 않으려면 오토바이를 탈 때는 헬멧을 착용하지 않아야 하는 것은 아닌가? 그럼에도 머리보호대 미착용의 법 위반으로 제재를 받아야 할까? 
이 모든 난제들은 어느 일방이 혹은 쌍방만의 합의로 해결할 문제가 아니라는 것이 특징이다. 내가 희생되는 공익, 내가 손해 보는 정의를 선뜻 받아들이지 못하는 것이 인지상정이라면, 설계자, 제조자, 판매자, 구입자, 사용자, 국가의 해당관청뿐만 아니라 국민 모두의 이해관계가 충돌하게 될 이 난제를 해결하기 전에 완전자율주행차량의 완성을 본다는 것은 인류 모두의 불행이 될 수도 있을 것이다. 


*김성룡, “자율주행자동차의 교통사고 알고리즘에 관한 윤리학적 접근 현황과 그 법적 시사”, 『IT와 법 연구』 제15집(2017), 193쪽 이하의 일부를 요약한 글입니다. 




김성룡 교수
(법학전문대학원)

관련태그

1602



포토/만평