2. 예정된 작동부전 - 정보의 완전성
예상외의 사태가 사고로 연결된 경우와는 달리 자율주행시스템의 사양으로서 일정한 상황에서는 사고를 회피할 수 없는 경우도 있을 수 있다. 날씨나 도로면의 상태 등 외적인 상황으로 인해 센서가 사고발생의 위험을 감지할 수 없는 경우이다. 이는 정보처리능력의 한계의 문제일 수도 있어 이러한 경우 자동차의 안전성을 확보하기 위해서는 그 한계를 보완할 충분한 가외성이 확보돼 있어야만 한다. 이때 가외성이 발동할 수 있는 시그널(정보처리능력의 한계 밖이라는 정보)이 정확하게 발신될 필요가 있으며 그러한 의미에서 정보의 완전성이 문제가 될 수도 있다.
가외성을 확보하기 위한 구조로서 생각해 볼 수 있는 것은 자율운전을 종료하고 운전자에 의한 제어로 복귀하던지 혹은 별도의 정보처리방식을 채용하는 제2의 시스템으로 전환하는 방식을 채택할 수 있다. 명백하게 불합리한 설계가 아닌 한 특정의 설계를 채용하지 않았다고 해서 소프트웨어의 결함이라고 할 수는 없겠지만 어떠한 설계에 의해 가외성을 확보할 것인가는 제조자의 전문적인 판단에 위임해야 할 문제이기 때문이다.
현실에 있어서는 지적한대로 자율운전을 종료하고 운전자에 의한 운전으로 북귀하는 설계가 상정돼 있는 것으로 보인다. 이 경우 운전제어를 인계받은 운전자가 적절한 시간에 정확한 행동을 취하도록 환경을 준비할 필요가 있다. 이러한 환경에 대해서는 먼저, 운전자에 대해 자율운전에서 수동으로 전환한다는 경고를 보내야 한다. 이 경고도 자동차의 운전자는 항공기의 조종사 등과는 달리 직업적인 훈련을 받은 전문가가 아닌 운전면허를 취득한 일반적인 이용자라는 전제하에서 운전자가 적시에 반응할 수 있어야 하는데 그렇지 않을 경우 시스템으로서‘통상 갖추어야 할 안전성’을 결여한 것으로 평가될 수 있다. 기술적인 실험에서는 시각적인 경고(화면상의 표시)만이 아니라 복수의 감각적 자극 (시트의 진동을 병행)을 보내는 것이 운전자의 반응을 신속하게 유도하는 효과가 있다는 보고도 있다 (이 실험에서는 운전자에게 컴퓨터 단말을 소지시키지 않고 게임 등을 하고 있는 상태에서 경고에 반응하는 속도도 테스트 했다. 자율주행시스템이 보급될수록 운전자가 휴대용 전자기기 등을 조작할 가능성이 있어 이를 상정한 테스트가 필요하다).
자율운전시스템에 의한 정보처리가 한계에 도달한 경우에 운전자의 수동운전으로 인계하는 시스템은 얼핏 시스템의 한계와 책임의 분기점을 일치시키는 것으로 보여 이해하기 쉬울 수도 있지만 위에서 언급한 바와 같이 이는 시스템 제공자(제조업자)가 면책되기 위한 조건으로는 상당히 엄격하다 할 수 있다.
가외성을 확보하는 설계로서 오히려 제2의 독립적인 시스템을 병용해서 주로 시스템의 한계를 제2의 시스템으로 보완하는 것도 하나의 방법이다. 이 경우 시스템 제공자는 복수의 독립된 하위시스템을 조합해 전체적인 시스템의 건전성을 담보하는 책임을 부담한다고 해석될 수 있다. 예를 들면, 증권거래소의 매매 시스템의 오류로 잘못된 주문을 취소할 수 없어 발생한 피해에 대한 사안에서 법원은 취소주문이 작동하지 않은 매매 시스템을 제공한 상황에서 현저한 주의결여로 인해 현저한 매매정지조치를 취하는 것을 게을리 한 증권거래소에 대해‘전체적인 시장 시스템의 제공에 대해 주의의무위반을 인정’한 판례를 들 수 있다. (동경지방법원 2009년 12월4일)