태그 보관물: risk analysis

안전 무결성 수준의 사용, 잘못된 사용을 이해하기(1)


오래된 논문이기는 한데, functional safety의 기본을 이해하는데는 도움이 될 만한 내용이라고 생각됨.

Abstract

안전 시스템의 현대 표준들은 안전 무결성 수준(SIL)의 개념을 채용한다. 시스템의 증가는 구매자들이 공급자에게 그들이 SIL 개념(concept)을 사용하여 시스템이 개념을 적용하려 하였다는 것을 입증할 것을 기대한다. 그러나 표준들은 SIL에도 차이가 있으며 개념을 만족스럽게 설명하지도 않는다. 그 결과 종종 오해를 불러일으켜서 일관성 없고 부정확하면서 부적절하게 사용되는 결과를 초래하게 된다.

이 논문은 SIL개념 및 그 적용에 대해서 설명하며 어떻게 SIL이 3개의 안전 표준들로부터 파생된 것인지에 대한 사례를 제공한다. 그런 다음 어떻게 SIL 개념이 오해를 불러일으켜서 오해시킬 만큼 사용되는지를 보일 것이다. 그리고 SIL과 리스크 감내정도(risk-tolerability) 판단(decision) 사이의 관계에 대해 논의할 것이다.

1 Introduction

안전 무결성 수준의 개념은 안전 중요 시스템 분야에서 일반적이며 많은 표준들이 안전 중요 시스템의 설계와 개발에서 그 사용을 옹호한다. 하지만 다양한 표준들이 SIL을 다르게 사용할 뿐만 아니라 어떻게 그 개념이 파생되었고 적용되는지에 대해서는 알려주지 않는다. 그 결과 SIL은 잘못 이해되게 되었다. 반면 그 개념이 안전의 달성(achievement) 및 입증(demonstration)을 가능하도록(facilitate) 의도한 반면, 많은 경우에 오해와 실망을 유발하게 되었다.

더욱이, 비록 SIL의 파생과 적용이 복잡하기는 하고 오해될 수 있다고는 하지만 그것은 개념적으로 간단하며 쉽게 설명될 수 있다. 그 결과 SIL개념은 불완전하게 사용되고 종종 부정확하고 부적절하게 사용된다.

이 논문의 목적은 SIL개념을 설명하기 위한 것이다. 그것을 하기 위해, 이 논문은 일반적인 설명뿐만 아니라 SIL이 파생되고 3개의 최신 표준들에 따라 어떻게 적용되는지에 대해서 설명할 것이다.

이 논문의 further 목적은 SIL개념이 오해를 불러일으키는 방법에 대한 관심을 이끌어내고 어떻게 그것이 잘못 이해되고 잘못 사용되는가에 대한 것이다. SIL 개념은 tool이며 다른 tool과 같이 현명하게 사용하면 유용하지만 잘못 적용된다면 문제를 유발할 수 있다.

2 What are Safety Integrity Levels?

SIL개념은 지난 20년동안 시스템의 안전에 대한 상당한 노력이 투여된 곳에서부터 출현하게 되었다. 2가지 요인이 주요 영향으로 두드러졌다.

첫번째는 시스템은 안전하거나 안전하지 않을 수 있다는 식의 2진 속성을 가진 믿음으로부터 절대적인 안전과 어떤 재앙 사이의 연속체가 있고 연속체는 위험의 척도라는 이해로 이동한 것이다. 이것은 위험 분석을 안전 관련 시스템의 개발에서 중요 요소가 되도록 이끌었다.

두번째 중요 인자는 안전 분야에 있어서 소프트웨어(그리고 마이크로 프로세서와 같은 복잡한 하드웨어) 사용의 커다란 증가이다. 이것은 random및 systematic fault사이의 균형을 변화를 유발시켰다. 이전에는 안전은 reliability를 통해서 달성될 수 있을 것이라고 (종종 암묵적으로)가정하는 것이 일반적이었고 aggregation, 종종 fault tree, component의 random failure rate를 통해 시스템의 reliability에 대한 값을 낮춤으로써 safety가 달성되었다. 어떤 경우 failure rate는 component의 역사적인 사용으로부터 도출되고 그게 아닌 경우 estimate되어 결과의 정확성이 의심의 여지가 없었던 것이 아니다. 사실, 달성 가능한 가장 높은 정확도는 오로지 random failure를 고려하는 것에서부터 파생가능한데, 그 이유가 확률적 방법은 systematic fault의 분석(예를 들어서 명세 및 설계 오류에서의 systematic fault의 도입)에 대해서는 valid하지 않기 때문이다. 소프트웨어는 wear out이 일어나지 않고 모든 fault가 systematic하며 random failure의 고려에서 제약되는 방법에 의해 system의 reliability를 유도하는 가능성은 없다.

소프트웨어의 또 다른 특징은 그것의 고유한 복잡성이다. Fault가 존재하지 않음을 증명하는 것은 불가능하며 testing으로부터 reliability의 높은 confidence를 이끌어내는 것은 실용적이지 않은 긴 시간을 필요로 한다.

그래서 safety를 달성할 뿐만 아니라 입증하는 것이 필요한 개발자에게 많은 문제들이 닥치게 된다. 이런 문제들의 일부분은 다음의 질문과 간단한 토의를 통해 요약을 할 수 있다.

  • 어떻게 우리는 시스템의 안전 요구사항을 정의할 수 있을까? 요구사항들은 정량적이거나 정성적일 수 있는 위험 분석으로부터 도출될 것이다(may). 하지만 소프트웨어 failure는 random fault가 아니라 systematic에서 초래하기 때문에 failure의 확률이나 위험한 failure의 확률을 직접적으로 측정하는 것은 타당하지 않아서 정량적 위험 분석이 채택되어야 한다. 주어진 risk의 감소가 소프트웨어 안전 기능의 명세로 정의될 수는 있겠으나 그 기능의 감내할 수 있는 failure rate는 SIL로 정의될 수 있을 것이다(may). 사용상의 표준에 의존적으로 SIL은 failure rate의 수치 범위에 같거나 같지 않을지 모른다.
  • 소프트웨어의 개발에서의 엄격도가 커지면 비용의 증가를 수반하게 되는데 어떤 특별한 경우에 대한 적절한 엄격도의 수준을 어떻게 정의할 수 있을까? Risk 분석이 SIL을 이끌었다면 이것은 개발 프로세스의 엄격도를 정의하는데 사용된다. SIL이 높아질수록 엄격도는 높아지게 되고 다양한 SIL에 적합한 방법, 기술, 관리 프로세스를 식별하기 위해 표준에서 사용되는 표(방법)들이 많아지게 된다.
  • 만약 우리가 safety가 아니고 reliability를 직접적으로 계측할 수 있다면, 우리는 reliability 측량의 용어로 safety target을 정의할 수 있는가? 아래에서 논의되는 표준들의 2개에서 SIL은 failure rate로 정의되고 나머지 하나에서는 위험한(안전하지 않은) failure의 rate로 표현되고 모두가 reliability type의 measurement로 표현되어 있다.
  • 달성된 안전의 주장을 하기 위해 어떻게 기준을 정의할 것인가? SIL이 달성되어야 하는 안전의 수준을 정의하기 위해 사용된다면, SIL은 만들어지고 판단되어야 하는 달성된 안전에 대한 주장에 대한 기준이 되어야 한다. 그러나 소프트웨어의 예상되는 failure rate에 대한 수치값이 confidence로부터 도출될 수 없다면, 그와 같은 주장의 증명에 대한 증거 제시는 불가능할 것이다.