“AI에게 맡겨도 안전은 따로”… 토요타식 자율주행 나온다

조채완 기자 / 기사작성 : 2026-08-31 16:13:32
  • -
  • +
  • 인쇄

▲ <출처=토요타>

 

토요타가 2028년부터 보급 차종에 차세대 운전 지원 기술을 적용한다. 핵심은 인공지능(AI)이 주변 상황을 판단해 차량을 움직이는 ‘E2E(End-to-End)’ 방식에 별도의 안전장치인 ‘가드레일’을 결합하는 것이다.

 

쉽게 말해 운전 판단은 AI가 맡되, AI가 위험한 행동을 하려 하면 별도의 안전 시스템이 개입하는 방식이다. AI의 뛰어난 판단 능력은 활용하면서도 자동차에 필요한 안전성과 신뢰성을 확보하겠다는 전략이다.

 

E2E는 카메라 등 차량 센서가 수집한 정보를 AI가 종합해 주행 방향이나 차량의 움직임을 직접 결정하는 기술이다. 기존 자율주행 시스템은 주변 상황을 인식하고 위험을 예측한 뒤 주행 경로를 정하고 차량을 제어하는 과정을 각각 나눠 처리했다.

 

반면 E2E는 이런 과정을 AI가 한꺼번에 학습한다. 많은 주행 데이터를 학습하면 사람이 일일이 규칙을 만들어 놓지 않아도 복잡한 교통 상황에 유연하게 대응할 수 있다는 것이 장점이다.

 

▲ <출처=토요타>

 

하지만 AI가 “왜 그렇게 운전했는지”를 사람이 명확하게 설명하기 어렵다는 문제가 있다. 자동차 사고가 발생했을 때 어떤 판단을 거쳐 차량이 움직였는지를 추적하고 검증하기 어렵다는 점에서 안전성에 대한 우려가 나온다.

 

토요타가 E2E에 가드레일을 함께 적용하는 이유도 여기에 있다. 가드레일은 교통 규칙이나 안전 기준을 바탕으로 AI의 판단을 감시한다. AI가 위험한 방향으로 차량을 움직이려고 하면 가드레일이 개입해 해당 행동을 제한하거나 수정한다.

 

또 가드레일이 언제, 어떤 이유로 개입했는지를 기록하면 사고가 발생했을 때 원인을 분석하는 데도 도움이 된다. AI의 내부 판단을 모두 설명하는 대신 AI가 넘지 말아야 할 안전선을 별도로 만들어 관리하는 것이다.

 

이번 기술은 토요타가 그동안 강조해온 안전 철학과도 연결된다. 토요타는 2019년 ‘가디언’이라는 개념을 통해 차량이 운전자를 보조하면서 위험한 상황에서는 개입하는 기술을 선보였다. 2021년 발표한 ‘어드밴스드 드라이브’에서도 운전자와 차량이 서로 협력하는 방식을 강조했다. 이를 발전시켜 복잡한 상황을 판단하는 역할은 AI가 맡고, 안전을 지키는 역할은 별도의 시스템이 담당하는 구조로 만든 것이다.

 

▲ <출처=토요타>

 

토요타는 차량용 AI 기술을 자체적으로 개발하는 동시에 외부 기업과의 협력도 확대하고 있다. NVIDIA의 차량용 컴퓨팅 플랫폼인 ‘DRIVE AGX Orin’과 ‘DriveOS’를 차세대 차량에 적용하고 있으며, NTT와는 교통사고를 줄이기 위한 ‘모빌리티 AI 기반’도 공동 개발하고 있다. 다만 기술이 앞으로 어떤 차종과 기능에 구체적으로 적용될지는 아직 공개되지 않았다.

 

E2E와 가드레일을 결합한다고 해서 안전 문제가 모두 해결되는 것은 아니다. 가장 중요한 것은 가드레일이 어떤 상황을 위험하다고 판단하고, 언제 AI의 운전을 제한할 것인지다.

 

기준이 너무 엄격하면 AI가 가진 유연한 판단 능력을 제대로 활용하기 어렵고, 반대로 너무 느슨하면 안전장치 역할을 하지 못한다. 결국 적절한 안전 기준을 만들고 이를 충분히 검증하는 것이 핵심이다. AI 기반 운전 지원 기술은 모든 상황을 사람이 미리 규칙으로 정해놓기 어렵다는 점에서 기존 자동차와는 다른 품질 검증 방식도 필요하다.

 

토요타가 2028년부터 보급 차종에 E2E 기반 운전 지원 기술을 적용하겠다고 밝힌 만큼, 앞으로 가드레일의 작동 기준과 실제 성능이 어떻게 구체화될지 주목된다.


더드라이브 / 조채완 기자 auto@thedrive.co.kr

[저작권자ⓒ 더드라이브(TheDrive). 무단전재-재배포 금지]

  • 글자크기
  • +
  • -
  • 인쇄

많이 본 기사