安全ソフトウェアの設計

組込みZine に　安全ソフトウェアの設計～第三回 安全アーキテクチャの可視化～　を書きましたのでご参照ください。

【安全ソフトウェアの設計の記事の裏話】

この記事の中で紹介しているエレベータの安全ソフトウェアの話は、 『第６回クリティカルソフトウェアワークショップ』で始めて紹介した話で、このときソフトウェアの安全研究のオーソリティであるMITのナンシー・レブソン教授から、「ソフトウェアシステムに独立した安全装置を付けるという方法は誰でも考えつくやり方であり稚拙な方策だ。」とばっさり切られた。

そのとき、昔々の蛇腹とびらのエレベータではとびらをきちんと閉めないと電源が流れないシンプルなインターロック構造で安全を確保しているという例が紹介された。

ナンシー・レブソン教授が言いたかったのは、安全アーキテクチャを明確化すること、ソフトウェアにこだわるのではなく、システム全体でどう安全を確保するのか、いかにシンプルなアーキテクチャで安全を実現するのかを技術者は知恵を結集して考える必要があるということだ。

エレベータの安全機能をモデリングで可視化する話は、それに通じているので決して背反しないと思うが、口が悪いことで知られているナンシー・レブソン教授は、「ソフトウェアシステムの複雑性が生み出す危険性に目を背けて、安易な方法で安全を確保しようとすると痛い目にあうよ」と言いたかったのだと思う。

数々のソフトウェアが絡んだ事故を根気強く調査した人だからこそ言える教訓だと感じる。そう思ったので、この記事ではナンシー・レブソン教授のサジェスチョンをできるだけ反映させたつもりである。