728x90
반응형

트롤리딜레마 2

'무지의 베일'을 쓰자

① 우리는 쌍쌍바를 쪼개지 않은 사람이 먼저 두 조각 중 하나를 선택하게 하는 규칙을 만들었다. 쪼개는 사람은 자신이 어떤 반쪽을 차지하게 될지 모르기 때문에 최선을 다해 공평하게 나누려고 애쓰기 마련이었다. ② ‘무지의 베일(veil of ignorance)’은 미국 정치철학자 존 롤스가 1971년 출간한 ‘정의론’에서 제시한 사고 실험이다. 어떤 사회에서 정의로운 원칙을 도출할 때, 구성원들이 자신이 실제로 어떤 상황에 있는지 모르는 상태에서 규칙을 설계할 경우 공정성을 담보할 수 있다고 본다. 즉, 자신의 인종, 성별, 교육 수준, 재산, 건강 상태 등을 모르는 ‘무지한’ 상태에서는 이해관계에 영향을 받지 않고 공정하게 게임의 법칙을 구상할 수 있고, 그 결과 합의되는 원칙들은 특정 개인이나 집단에..

테크놀로지와 도덕

① 지난주 서울시청역 부근에서 역주행 대형 교통사고로 9명이 사망한 참사가 있었다. 운전자가 주장하는 급발진 여부가 논쟁의 대상이 되고 있다. ② 더구나 급한 상황 판단을 해야 할 경우에 대비해 자율주행을 관할하는 소프트웨어를 어떻게 만들어야 할지에 대한 윤리적인 문제도 논란이 되고 있다. ③ 그 유명한 ‘트롤리 딜레마(Trolley Dilemma)’가 더 이상 단순한 윤리 사고 실험 문제가 아닌 것이다. ④ 게다가 이러한 딜레마의 해결책은 나라마다, 문화 배경에 따라 다를 수 있다. ⑤ AI는 궁극적으로 자기가 무엇을 모르는지를 모른다. 질문에 답할 뿐이다. 기술적 해결은 완벽한 답이 될 수 없다. 인간의 고귀한 노력을 제거해 보다 안전한 사회를 만들겠다는 발상 자체가 문제가 있는 것이 아닐까.

728x90
반응형