도심항공교통(UAM) 사고 위험시 AI의 윤리적 판단

1. 사고 위험에 직면한 AI의 의사결정 한계

도심항공교통(UAM, Urban Air Mobility)이 본격적으로 도입되면서, 이제는 기체를 조종하는 인간 대신 AI(인공지능) 시스템이 비행과 안전 관리를 담당하는 시대가 열리고 있다. eVTOL(전기 수직이착륙기)과 같은 기체들은 복잡한 도심 상공에서 수많은 장애물과 변수들을 스스로 인식하고, 비상 상황 발생 시에도 AI 알고리즘에 따라 사고를 회피하거나 완화하는 결정을 내려야 한다.

그러나 이 과정에서 중요한 문제가 발생한다. AI가 비상 상황에서 어떠한 행동을 선택해야 하는가에 대한 기준, 즉, 윤리적 판단(Ethical Decision-Making)의 문제가 명확히 정의되어 있지 않다는 것이다. 예를 들어, 엔진 고장으로 착륙이 불가피한 상황에서 AI는 인근 공터 대신 인명 피해를 감수하고라도 가까운 도로에 비상 착륙할 것인가? 또는, 충돌이 불가피할 때 어린이들이 모여 있는 공원 대신 차량이 적은 도로로 방향을 바꿀 것인가?
이처럼 어떤 생명, 어떤 재산을 우선 보호할 것인가를 기계가 판단해야 하는 상황이 실제로 발생할 수 있다. 현재 대부분의 UAM 자율비행 시스템은 충돌 방지, 장애물 회피, 비상 착륙 등을 기술적 기준에 따라 프로그래밍하고 있지만, 사고 발생 시 인간이 직관적으로 수행하는 윤리적 가치 판단을 기계가 대신할 수 있는지에 대해서는 명확한 해결책이 없는 상태이다. 이러한 윤리적 딜레마는 UAM의 대중 수용성 확보와 보험, 법률, 신뢰성 측면에서 결정적인 걸림돌로 작용할 수 있다.

 

2. AI의 윤리적 판단: 트롤리 문제의 현대적 변형

AI 윤리 문제는 단순히 기술적인 문제가 아니라, 철학, 사회학, 법학이 복합적으로 얽힌 복합적 과제다. 특히, 사고 위험 상황에서 AI가 '최선'의 결정을 내려야 할 때 전통적인 '트롤리 문제(Trolley Problem)'가 현대적으로 변형된 형태로 등장한다. 트롤리 문제는 "선로를 바꿔 다수를 살릴 것인가, 소수를 희생할 것인가"를 묻는 고전적 윤리 딜레마다. 이를 UAM 상황에 적용하면, "기체가 고장 났을 때, 조종 불가 상태에서 인명이 더 많은 지역을 피해야 하는가, 아니면 기체 탑승자의 생명을 최우선시해야 하는가"라는
극단적인 선택을 기계가 내려야 하는 문제가 된다. 문제는 여기에 있다.
현재의 AI 시스템은 확률, 비용, 거리 등 수치 기반 최적화 알고리즘에는 강하지만, 가치 판단, 윤리적 우선순위 결정에는 무력하다. 예를 들어, AI가 '최소한의 재산 피해'를 목표로 프로그램되어 있다면 도심 공터가 아닌 주차장에 착륙하려고 시도할 수 있지만, 이 과정에서 사람을 다치게 할 위험이 높아질 수도 있다. 또한, 윤리적 우선순위 설정이 지역, 문화, 사회적 합의에 따라 달라질 수 있다는 점도 문제다. 일부 사회는 "최대 다수의 생명 보호"를 중시할 수 있고, 다른 사회는 "탑승자의 절대 안전"을 우선시할 수 있다.
따라서 UAM에 탑재될 AI 윤리 모델이 일관된 글로벌 표준을 가질 수 있을지조차 확실하지 않다. 이로 인해 기업들은 현재 자율비행 알고리즘 개발 시 '윤리적 의사결정 로직'을 명시적으로 탑재하기를 꺼리고 있으며, 결국 사고 발생 시 법적 책임 소재를 명확히 구분하기 어려운 상황에 놓이게 된다.

 

3. 해결 방안: AI 윤리 체계 구축과 인간-기계 협업 구조 강화

UAM 시대의 AI 윤리 문제를 해결하기 위해서는 단순한 기술 개선을 넘어서는 전방위적 대응 전략이 필요하다. 가장 우선해야 할 것은, AI 윤리 의사결정 모델(Explainable Ethical AI, XEA)의 개발과 표준화다. 이는 사고 위험 발생 시 AI가 어떤 판단 로직에 따라 결정을 내리는지를 명확히 설명할 수 있도록 설계하는 기술을 의미한다. AI가 왜 특정 회피 경로를 선택했는지, 어떤 위험 요소를 고려했는지를 실시간으로 기록하고 설명할 수 있어야 사고 발생 후 책임 규명과 사회적 수용성을 동시에 충족시킬 수 있다. 또한, 국제 항공기구(ICAO)나 주요 국가 정부는 자율비행 기체용 윤리 가이드라인을 마련해 탑승자 보호, 제3자 보호, 재산 피해 최소화 등 다양한 윤리적 가치 요소에 대해 우선순위 매트릭스 기반의 의사결정 기준을 제시해야 한다.
이를 통해 각 제조사와 운영사는 자체 윤리 기준에 맞춰 AI를 개발하고 이를 공개하는 투명한 프로세스를 수립할 수 있다. 마지막으로, 완전 자율 시스템 대신 인간-기계 협업 체계(Advanced Human-in-the-Loop Control)를 강화해야 한다. 즉, UAM 기체가 완전한 독립 판단을 내리기보다는 비상 상황 발생 시 지상 관제센터 또는 원격 운항 통제사와 협력하여 윤리적 판단을 내릴 수 있도록 설계하는 방식이다. 이 방식은 AI가 기술적 최적해를 제시하고, 최종 윤리적 결정을 인간이 내리는 구조로, 초기 단계에서는 안전성과 신뢰성 확보에 크게 기여할 수 있다.

 

<내용 요약>

• 도심항공교통(UAM) 시대, AI는 사고 위험 시 인간 대신 윤리적 판단을 내려야 하는 과제에 직면하고 있다.
• 트롤리 문제처럼, AI의 가치판단 능력 부재는 사고 발생 시 책임 문제와 사회적 수용성 저하를 초래할 수 있다.
• 해결을 위해서는 윤리적 설명가능 AI(XEA) 개발, 국제 윤리 가이드라인 마련, 인간-기계 협업 체계 강화가 필수적이다.