AI와 트롤리 딜레마: 테슬라 FSD의 법적 책임 공방 사례와 관련하여
자율주행 자동차의 상용화가 눈앞으로 다가오면서, 인공지능(AI)이 마주할 '윤리적 선택'에 대한 논쟁이 뜨겁다. 특히 사고가 불가피한 상황에서 "누구를 보호하고 누구를 희생시킬 것인가?"라는 문제는 단순한 기술적 과제를 넘어 철학적, 사회적 합의가 필요한 영역이다.
이 글에서는 자율주행 자동차의 윤리적 딜레마를 '공리주의(Utilitarianism)'와 '의무론(Deontology)'의 관점에서 분석하고, 최근 한국에 도입된 테슬라의 FSD(Full Self-Driving, 감독형) 정책과 국토교통부의 가이드라인을 통해 현실적인 해법을 모색해 보도록 한다.
1. 자율주행 자동차와 '트롤리 딜레마'
자율주행차의 윤리를 논할 때 빠지지 않는 것이 바로 "트롤리 딜레마(Trolley Dilemma)"다. 브레이크가 고장 난 열차가 다섯 명의 인부를 향해 달리고 있을 때, 선로를 바꿔 한 명의 인부만 희생시키는 것이 정당한가에 관한 질문이다.
자율주행차 버전의 트롤리 문제는 더욱 복잡하다. 예를 들어, 갑자기 뛰어든 보행자 무리를 피하기 위해 핸들을 꺾으면 탑승자가 벽에 충돌해 사망하게 되는 상황에서 AI는 어떤 판단을 내려야 할까?
2. 공리주의적 관점: '최대 다수의 최대 행복'
공리주의는 행위의 결과가 가져오는 '효용(Utility)'을 중시한다. 즉, 인명 피해를 최소화하는 방향으로 알고리즘을 설계해야 한다는 입장이다.
인명 피해의 수치화
공리주의적 자율주행차는 사고 시 예상되는 피해 규모를 계산한다. 5명의 보행자를 살리기 위해 1명의 탑승자를 희생시키는 것이 전체 사회의 피해(비용)를 줄이는 길이라고 판단한다.
사회적 수용성의 모순
흥미로운 점은 설문조사 결과다. 대다수의 사람들은 "자율주행차는 다수를 살리는 공리주의적 방식이어야 한다"고 답하면서도, 정작 본인이 구매할 차는 "어떤 상황에서도 탑승자를 최우선으로 보호하는 차"이길 원한다. 이러한 '도덕적 불일치'는 공리주의 모델이 시장에서 선택받기 어렵게 만드는 주요 원인이다.
3. 의무론적 관점: '절대적 원칙과 도덕적 의무'
이마누엘 칸트로 대표되는 의무론은 결과와 상관없이 지켜야 할 '보편적 도덕 법칙'이 있다고 주장한다.
살인 금지의 원칙
의무론적 입장에서는 AI가 특정인을 '의도적으로' 희생시키는 프로그래밍 자체를 거부한다. 다수를 살리기 위해 무고한 탑승자를 벽으로 몰아넣는 행위는 인간을 수단으로 사용하는 것이기 때문이다.
법규 준수와 책임의 소재
의무론은 자율주행차가 도로 교통법규를 철저히 준수해야 함을 강조한다. 사고 시 누구를 죽일지 선택하는 '신의 영역'에 도전하기보다, 시스템이 규정을 지켰음에도 발생한 불가항력적 사고에 대해서는 제조사나 운전자가 책무를 지는 구조를 선호한다.
4. 한국의 정책과 FSD 도입 현황
한국 정부와 글로벌 기업들은 이러한 철학적 논쟁 사이에서 현실적인 절충안을 찾고 있다.
국토교통부의 '자율주행 자동차 윤리 가이드라인'
우리나라는 2020년 말, 자율주행차 윤리 가이드라인을 발표했다. 주요 원칙은 다음과 같다.
- 인명 보호 최우선: 재산보다 인간의 생명을 우선시한다.
- 차별 금지: 나이, 성별, 장애 여부 등으로 생명의 가치를 차별하지 않는다.
- 사고 회피 불가 시 피해 최소화: 부득이한 상황에서는 인명 피해가 가장 적은 방향을 택한다(공리주의적 요소 반영).
테슬라 FSD(Supervised)의 한국 상륙
2026년 현재, 테슬라의 FSD(Full Self-Driving, 감독형)가 국내 오너들을 대상으로 순차적으로 도입되고 있다. 테슬라의 접근 방식은 철학적 선택보다는 '데이터 기반의 안전'에 집중한다.
- 감독형(Supervised) 모델: 현재의 FSD는 완전 자율주행이 아닌 '운전자 감독' 하에 작동한다. 즉, 윤리적 선택의 최종 책임은 여전히 '인간 운전자'에게 있다. (미국 샌프란시스코, LA, 피닉스 등의 도시에서 운영되고 있는 완전 무인 택시인 구글의 웨이모는 '인간 운전자'라는 개념이 완전히 소멸하고 모든 책임이 제조사 및 운영사로 옮겨간다.)
- 사고율 감소: 테슬라는 인간보다 10배 이상 안전한 주행 데이터를 근거로, 윤리적 딜레마 상황 자체를 만들지 않는 '예방 안전'이 우선이라고 주장한다.
5. 결론: 누구를 보호해야 하는가?
자율주행 자동차가 누구를 보호해야 하는지에 대한 정답은 아직 없다. 하지만 흐름은 명확하다.
- 기술적으로는 공리주의적: 전체 사고율과 인명 피해를 낮추는 방향으로 알고리즘이 고도화될 것이다.
- 법적으로는 의무론적: 제조사와 운전자의 책임을 명확히 하고, 인간의 존엄성을 해치지 않는 규제 프레임워크가 작동할 것이다.
결국 자율주행 시대의 윤리는 AI의 계산이 아니라, 우리 사회가 어느 정도의 위험을 용인하고 책임을 분담할 것인지에 대한 '사회적 합의'에 달려 있다. 우리는 기계에게 도덕을 가르치기 전에, 인간인 우리가 어떤 가치를 소중히 여기는지 먼저 정의해야 할 것이다.
[참고: 테슬라의 FSD 관련 법적 공방 사례 핵심 정리]
테슬라의 자율주행 기술(오토파일럿 및 FSD)과 관련한 법적 책임 공방은 최근 매우 중요한 전환점을 맞이하고 있다. 과거에는 주로 "운전자의 전방 주시 태만"으로 결론지어지는 경우가 많았으나, 2025년과 2026년에 들어서면서 제조사의 설계 결함과 마케팅 책임을 묻는 판결들이 잇따르고 있다.
1. 기념비적인 '3,500억 원 배상' 판결 (2025년 8월)
미국 플로리다주 연방 법원 배심원단은 2019년 발생한 오토파일럿 관련 사망 사고에 대해 테슬라의 책임을 인정하며 총 2억 4,300만 달러(약 3,500억 원) 규모의 배상 판결을 확정했다.
- 사고 내용: 운전자가 오토파일럿을 켠 채 바닥에 떨어진 휴대전화를 줍느라 전방을 주시하지 않았고, 차량은 정지 표지판을 무시하고 달려 주차된 차를 들이받아 보행자를 사망케 했다.
- 핵심 쟁점: 테슬라는 "운전자의 부주의가 100% 원인"이라고 주장했으나, 배심원단은 테슬라에 33%의 책임이 있다고 판단했다. 시스템이 장애물을 인지하고도 경고를 주지 않았으며, 기술적 한계를 충분히 설명하지 않았다는 점이 이유였다.
- 징벌적 손해배상: 전체 배상액 중 2억 달러가 징벌적 손해배상금으로 책정되었다. 이는 테슬라가 시스템의 위험성을 알고도 방치했다는 점을 법원이 무겁게 받아들인 결과다.
2. 'FSD 허위 광고' 판단과 면허 정지 처분 (2025년 말 ~ 2026년 초)
캘리포니아주 차량국(DMV)과의 공방에서 테슬라는 고전하고 있다.
- 과장 마케팅 판결: 2025년 12월, 캘리포니아 행정법 판사는 테슬라의 '오토파일럿'과 'FSD'라는 명칭이 "불법적인 방식으로 모호성을 활용해 소비자를 오도했다"고 판단했다.
- 행정 처분: 이에 따라 캘리포니아 DMV는 테슬라의 차량 판매 및 제조 면허를 30일간 정지하는 강력한 처분을 예고하기도 했다.
3. 한국 내 집단소송 및 정책 현황 (2026년 현재)
한국에서도 FSD 도입과 함께 소비자들의 권리 주장이 거세지고 있다.
- FSD 옵션 반환 소송: 2024년 12월, 국내 테슬라 구매자들은 약 1,000만 원에 달하는 FSD 옵션을 구매했음에도 기능을 제대로 사용할 수 없다는 이유로 부당이득 반환 청구 집단소송을 제기했다. 2026년 초부터 본격적인 법정 공방이 진행 중이다.
- 사이버트럭 FSD 사고 소송: 최근 미국 텍사스에서는 사이버트럭이 FSD 모드로 주행 중 도로 장벽에 충돌한 사건으로 100만 달러(약 14억 원) 규모의 소송이 제기되었다. 이 사례는 한국에 도입될 향후 하이엔드 모델의 책임 소재에도 영향을 줄 것으로 보인다.
4. 법적 책임 공방의 핵심 요약
| 구분 | 주요 쟁점 | 법원의 시각 변화 |
| 운전자 책임 | 전방 주시 태만, 핸들 조작 미숙 | 여전히 중요하지만, '유일한' 원인으로 보지 않음 |
| 제조사 책임 | 소프트웨어 알고리즘 결함, 센서 한계 미비 | 위험을 인지하고도 방치(징벌적 배상 사유) |
| 마케팅 책임 | '완전 자율주행'이라는 용어 사용 | 실제 성능보다 과장된 표현으로 소비자 기만 |
의무론적 관점에서 보면, 테슬라는 운전자에게 "모든 책임은 너에게 있다"는 의무를 지우려 하지만, 공리주의적 관점과 결합된 법적 해석은 "사회적 안전망 확보를 위해 제조사가 기술적 결함을 더 책임져야 한다"는 방향으로 선회하고 있다.