자율주행차와 트롤리 문제 이야…

어떤 방향으로 나아가도 사람이 부상할 수밖에 없는 위급한 정세. 과연 무인 자율주행차(self-driving car)는 어떤 결정을 내려야 할까요? 다수가 다치는 것보다 소수가 다치는 쪽을 선택하는 것이 올바른 것일까요?​

>

이런 생각은 이미 있었어요. 영국의 철학자 필리파 푸트(Philippa R. Foot)는 트롤리 문제(Trolley problem)에 대한 연구를 통해 우리에게 윤리적인 문제를 던졌습니다. 트롤리 문제는 다음과 같은 정세를 나타냅니다. 브레이크가 망가진 트롤리가 빠르게 달리고 있어요. 이대로 계속 간다면 레일에서 일하는 작업자 5명과 부딪치는 것은 불가피한 정세입니다. 옆 선로에는 작업자 한명이 하나 있습니다. 이 때 선로를 변환할 권한이 여러분에 있다면 어떤 걸 택하시겠어요?​ 트롤리 문제에 답한 응답자 89%가 전기 선로를 바꾸겠다고 답했습니다 그러나 막상 그런 정세에 처했다면 어떤 자신의 생각에 잠기는 수밖에 없습니다. 어떤 선택을 하든 누군가는 큰 화를 당할겁니다. 작업자 수의 차이일 뿐이에요. 다수를 위해 소수를 희생하는...결정하기 어려운 문제입니다.​

>

자율주행차 도입이 가시화된 현 시점에서 트롤리 문제를 둘러싼 논란이 재부상한 것은 어쩌면 자연스럽습니다. 차가 도로를 달리고 있으면 한순간의 실수는 곧 오그라들어 버립니다. 자율주행차가 문재 내지 스토리라는 법도 없습니다. 테스트 도중에 발생했지만, 작년, 미국 어린이 리조본인주에서 우버의 자율주행차와 보행자가 충돌하는 문재가 있었습니다. 보행자는 병원으로 옮겨졌지만 안타깝게도 사망했습니다.​

>

사람들의 견해는 제각각이었다. 센서가 제대로 작동했다면 사고가 자신 없었을 것이라는 견해와 사람이 직접 운전하는 상황에서도 피하기는 불가능에 가까웠다는 견해가 맞섰습니다. 공개된 영상을 보면, 사고 차량에는 우 바 직원이 운전석에 타고 있었는데, 순식간에 일어난 1개이므로 즉각 대처하지 않는 장면이 그대로 비치고 있습니다. 경찰은 사고 관련 자료를 분석한 결과 사람이 운전해도 피하기 어려웠다는 결론을 내렸습니다. 그러나 우버는 자율주행차 운행을 전면 중단한다.​

>

우버 차량에 기술적인 결함은 없었던 것으로 판명된 본인의 이 사건을 계기로 사람들은 자율주행차의 안전성에 대해 의심을 하게 됩니다. 남들과 달리 자율주행 시스템의 소견은 절대적으로 알 수 없어 우려는 더욱 커졌습니다.자율주행차 시스템은 카메라 본인의 각종 센서가 수집한 환경 정보를 주행에 반영합니다. 일방적 자율주행도, 수많은 선택의 연속인 본인이라면 반드시 중요한 결정을 내려야 하는 순간도 올 것입니다. 차 앞으로 갑자기 보행자가 달려들면 운전자에게 위험한 귀취가 덮쳐도 급하게 핸들을 꺾어야 하는지, 아니면 진행 방향대로 달려야 하는지를 이 스토리입니다. 어떤 식으로든 프로그래머가 코딩한 소프트웨어가 판단을 내려야 합니다. 다른 문제가 발발할지도 모릅니다. 보행자 대신 강아지가 뛰어들거나 노인과 아기가 함께 타고 올 경우 어디를 지켜야 하는지도 문제입니다. 물론 인명 피해가 없는 최선의 방법이 있으면 좋겠지만, 장래에 일어날 수 있는 모든 조건을 예측할 수는 없습니다.​

>

지난해에는 괘씸한 논문이 발표됐다. 학술지 네이처에 게재된 논문입니다. 미국 매사추세츠공대(MIT)와 하버드대 연구진으로 구성된 공동연구팀은 모럴 머신(Moral Machine)으로 불리는 웹사이트에서 트롤리 문제에 대한 대규모 설문조사를 했습니다. 설문에는 다소 다음과 같은 정세가 주어졌습니다. 자동 운전이 횡단 보도를 시작하기 전에 브레이크 도시가 발생할 것이다. 만약 계속 앞으로 나아가면 길을 건넌 당신은 보행자와 충돌하고, 핸들을 돌리면 벽에 부딪혀 탑승자가 위험에 처합니다. 보행자는 성별과 자신과 구분하고 동물도 포함해서 일의 3개의 시자 싱리 상승하여 만들었습니다. ​

>

​ 해당 설문은 소셜 뉴스 웹 사이트'레디쯔(Reddit)'1페이지를 장식하며 스타 유테유보'퓨디파이(PewDiePie)'도 홍보에 힘을 갖고 233의 정부에 있는 응답자들로부터 설문 데이터를 축적합니다. 조사 결과를 보면 동물보다는 인간의 생명을 구하려고 하고 소수보다는 다수를 살리려는 경향이 본인이었어요. 노인보다 아이의 우선순위를 더 높게 생각했어요. 남자보다는 여자, 승객보다는 보행자, 상황을 가만히 지켜보기보다는 행동하는 것을 선택했어요. 특이한 것은, 서 있는 위치에는 범죄자도 포함되어 있는데, 대부분의 사람들은 범죄자보다 개를 살리는 것이 우선이라고 선택했습니다. 가장 높은 우선순위를 차지하는 대상은 유모차(Stroller)였습니다.​

>

덕하나은 자율주행차 윤리 규정을 제안한 유하나한 정부입니다. 규정에는 '자기로 인한 차별은 금지되어야 한다'라는 항목이 포함되어 있습니다. 설문조사에 참여한 일반인들이 의견하는 윤리적 선호와는 상반된 것으로 보입니다. 덕하나은 자율주행차 산업기술 장벽도 입법을 추진하고 있습니다.MIT 컴퓨터 과학자이자 논문 저자 중 한 명인 이어드 라흐완(Iyad Rahwan) 교수는 "모럴 머신에서 제기한 구체적인 시사오는 사실상 거의 하나가 아니다"며 "여론조사가 인공지능(AI) 윤리를 바꾸는 기초가 돼서는 안 된다"고 강조했습니다. 게다가 인공지능은 자율성과 적응력을 가지고 있기 때문에 기존 관념으로 규제해서는 안 된다 라고 썼습니다.​

>

자율주행차를 개발하고 있는 구글은 인공지능으로 인한 윤리적인 문제가 없을 것이라고 입장을 밝혔습니다. 구글 AI의 제프 딘 총괄은 "자동 주행 차는 문재를 막는 것을 목표로 할 뿐 절대 인명 피해가 적은 방향으로 알고리즘이 입력되고 본인은 1개도 없다"이라며"오히려 자동 주행 차가 인간 드라이버보다 좋은 결과를 가져올 것"이라고 말했습니다.자율주행차는 분명 우리의 삶에 편안함을 주는 놀라운 기술이다. 개도 인간도 무엇이 최고의 선택인지 말할 수 없는 문제를 자율주행차에만 떠넘긴 것이 아니냐는 의문도 있습니다. 그러나 기술의 편리함에 취해, 무고한 희생자가 본인 오는 것을 간과해서는 안됩니다. 지금 당장 자율주행차 도입이 늦더라도 기술적인 준비가 완성되었을 때 비로소 의미 있는 기술이라고 할 수 있습니다. 사람의 생명에 관계되는 문제니까요.​텍 플러스 에디터 자신의 유권 tech-plus@naver.com​

>