* 社会の安心を希求する技術安全システム構成の道 [#tbb2c2bc]
～Safety-critical system の学習する組織による安全文化醸成～
#contents
** 1.はじめに [#n8d50f04]
20世紀には物理学，化学，生物学などの科学技術の急速な進歩と知識の拡大普及により，あらゆる産業分野が爆発的に発展して，私たちの生活は豊かになりました．とくに電気電子情報技術の急速な進歩により，便利でクリーンな電気エネルギーをふんだんに消費し，世界中のニュースを一瞬にして知り，そして誰でも快適で高速に移動できるなど，私たち一人一人が昔の王侯貴族以上の贅沢な生活を享受しています．
このように科学技術の進歩は高度人類文明発展の源泉ですが，益々高度化する科学技術の産物を利用する人々に様々な問題を生じさせるようになってきました．そこでは，折角買ったのに機能が多すぎて使いこなせないだけで別に実害はないものから，どんどん便利になるパソコン，インタネットのお陰でかえって忙しくなる，目が疲れる，新幹線や航空路線のダイア改正で益々日帰り出張が増えて疲労困憊する，という労働・健康上の問題もあります．さらに高度な機械を運転する人たち，いわば一般の人たちが信頼して任せているはずの運転の専門家が自分の運転する機械が複雑化しすぎてその仕組みが判らなくなってきている．そのため運転中の機械が故障すると運転員がうろたえてあれこれ試行錯誤しているうちに益々トラブルが大きくなってパニック状態になり，あげくの果てに人身事故や爆発火災に発展させてしまう，という大災害の発生まで危惧されるようになってきました．
これからの私たちにとって益々高度化する｢科学技術｣との関わりは，個人レベルの生活から社会の安全と安心に至るまで大事な問題となってきました．とくに電力，石油，ガスのようなエネルギープラントや化学プラント，鉄道，航空機のような交通運輸，医療や情報通信システムなど公共性が高く，事故や災害発生時の社会的影響の大きい科学技術システムを英語でSafety-critical system といいます．
ここではこのようなSafety-critical systemを対象に，｢社会の安心を希求する技術安全システム｣が如何にあるべきかを，｢学習する組織による安全文化醸成｣の方向から紹介します．
** 2.技術安全システムの体系 [#fec33d55]
最近、社会のあらゆる面で安全と安心の確保が謳われるようになってきました。安全と安心はどのように違うのでしょうか。さしずめ｢安全は人々が求めるもの，安心は人々が願うもの｣と考えて話を進めます。そこで｢安全｣とは｢様々な局面での危険を回避またはできるだけ小さくする営み｣と定義して，事故や災害発生時の社会的影響の大きい科学技術システムの｢システム安全管理｣の全体を時間軸と空間軸とで考察し，図1のようにまとめました．
#ref("fig1.png")
図１ システム安全管理の時空表現
図1の左右には，いわゆる事故の大きさを区別する｢事故尺度｣を示しています．図の下から上方に事故のレベルが大きくなって、事故の影響の及ぶ範囲が空間的に広がっていきます．図1の右側に示したカテゴリⅠからⅣまでの４分類は，一般にミルスタンダードと呼ばれている米国軍事規格での事故分類法です．カテゴリⅠは運転が継続できる段階です．カテゴリⅡは局所的な被害が生じ，運転を中断しなければならない段階，カテゴリⅢはその段階を越えたクリテイカルな状況，最後のカテゴリⅣがプラントが停止してカタストロフィックになる段階です．一方，図1の左側には，INESといわれる原子力施設でのトラブルのレベルを示す国際原子力事故評価尺度を示しました．INESでは，正常ではないが安全上とくに重要ではない事象を0，逸脱を1，そして異常事象では程度に応じて2,3とし，そして4から事故になって非常に深刻な事故の7に区別しています．わが国原子力施設ではINES尺度の0，すなわち安全上重要でない事象であってもそれが検知されたときはプラントを直ちに停止し，原因を解明し，再発防止対策を打ってから再起動されています．
図1の中央部には，システム安全管理行動の時空表現を，"状態"対"対応行動"のマトリクスとして表現しました．縦方向は上述のように事故尺度の発展を示し，一方，横方向は，プロセスの異常拡大→対応処置→対応の結果，のように3段階でイベントの時間経過を示しています．全体として，最下部が正常な運転状態です。本来なにもなければこの部分だけで済みますが，ヒューマンエラー，機械部品の故障，地震等の外部要因，バックアップ機器のトラブル等の要因が起因となって初期異常が勃発します．初期異常が発生してもそれを検知し，適切な対応をとればプラントは程なく正常運転に復帰できます．しかし，検知ないし対応処置に失敗すれば異常が拡大していきます．つまり各段階で検知と対応の2段構えで防護されているがその防護が効かなければ，上方の縦方向に事故の大きさが発展していく．図1では，事故の拡大波及はプラント内を越えて周辺環境にまで影響が及ぶことがありうることを考えて，緊急対応，さらには大災害の危機管理に至るまで発展する可能性をロジックツリーとして示しています．
システム安全管理とは，図1のマトリクス中で，とくに対応処置のカラムのところで最下断の部分（設計，運転，検査，保修の段階で異常発生防止）から最上段の危機管理に至るまで，検知・判断・対応・処理の防御システムを重層的に組み込んで常に実効あらしめるように整備するものと理解できます．
** 3.安全とリスク，リスク概念に基づく技術安全システムの実践 [#d90a617e]
システム安全管理は，図1の縦方向の各局面で，危険を回避またはできるだけ小さくするためのものですが，できるだけ危険を回避する，小さくするといっても，どれだけ小さくすれば良いのでしょうか？つまり安全性あるいはその反語の危険性の度合いを示す尺度が必要になります。そこで最近、欧米流のリスクという用語が学会で登場するようになりました．それだけでなく確率論的安全評価と呼ばれる方法で、リスクを確率値として算出したり、それを特定の施設の設計や運転許可のための設計目標値の目安に使おうという動きがでてきました。しかし学会では専門家たちの間で安全，危険，リスクという用語自体に百論続出の有様です．ここでは，①安全とリスクは別の概念である，②安全には実体がなく，安全を測るという考え方がないし測れない，③リスクのみが測れる，という前提で，｢システム安全管理＝リスクの評価に基づいてリスクを管理する｣として説明します．
そこでのリスクとリスク評価の意味と定義を述べます．リスクは定量的な未来予測の概念で，リスク評価には，①何が悪い方向になっていくのか，②どの程度厳しいのか，③その可能性はどの程度なのか，という３つの要素があります．そして，リスクの定量化では，①悪くなっていくもののもたらす影響度，②それが起こりうる確率，の２つの要素があります．
#ref("fig2.png")
図２ ４要素のリスク制御を志向するシステム安全管理の概念
システムの安全管理の実践活動をリスク概念に基づいて構築するには，最終的にリスクは減らす方向に制御しなければなりません．そのためには，①リスク評価，②リスク管理，③リスクコミュニケーションの３つの活動要素が必要であり，リスクを適切に制御するには，④リスクの制御方針を明確にする必要があります．
以上の４要素のリスク制御を志向するシステム安全管理の概念を図2に示し，その要点を以下にまとめます．
+① リスク方針―リスクを制御するに当たって，制御すべきリスクが何かを決めなければならない．
+② リスク評価―そのリスクがどの程度であるかを知るためにリスク評価が必要である．
+③ リスク管理―リスクの大きさが判ったらそのリスクを（低減する等）適正化する管理が必要である．
+④ リスクコミュニケーションーリスクを受ける可能性のある第三者にリスクを受容してもらう必要があるので，対象となる利害関係者とのリスクコミュニケーションが必要である．
+⑤ 以上の４要素を総合的に運用することがリスク制御である．
** 4.｢学習する組織｣によるリスクマネージメント [#mea3c020]
そこで誰がどのような方針で，どのようにリスク制御するかを考えてみましょう．その答えへのヒントが｢学習する組織によるリスクマネージメント｣です。ここでは制御ではなくマネージメントという用語を用いました．
最近の企業経営論では，1991年ピーター・センゲによる｢組織学習｣[1]の提唱以来，｢学習する組織への変容｣が流行のキーワードになっています[2]．そして企業活動のリスクマネージメントでも既に｢学習する組織への変容｣が推奨されています[3]．これら企業経営論の示唆するところの，｢学習する組織による変化する経営環境へのリスクマネージメント｣の要点は図3のようにまとめられます．以下，そのポイントを紹介します．
#ref("fig3.png")
図３ 学習する組織による変化する経営環境へのリスクマネージメント
*** 4.1 企業活動を取り巻くリスクとリスクマネージメント [#i7d419cc]
高度に複雑化した現代社会では，激変する経営環境に対処する企業活動のリスク・マネージメントが求められています．その対象には，投資の失敗，人材流出などの予見できる経営上のリスク（利益も損失ももたらしうるビジネスリスク）と，自然災害，事故，労災のような予見不可能なリスク（一方的に損失のみをもたらす純粋リスク）があり，これらすべてのリスク（損失や危険の発生する可能性）を避けるために，雇用・人材活用，生産・販売・競争戦略，財務・税務戦略，情報・システム管理等，業務全体のあり方を向上しなければならない、とされています．
*** 4.2 変化する経営環境に即応する経営改革 [#z0b6b347]
企業は，①豊かな社会への貢献，②ステークホールダ（利害関係者）との共生，③環境保全，④情報公開，という４つのグローバル化した行動規範に則し，不断に顧客価値の創造（顧客を満足させる製品・サービスの提供）を行うため，総合的品質管理（TQM）を中心とした経営品質の全体的向上を図るための迅速な経営改革が求められています．そこでは，従来の経営の３要素であるヒト・モノ・カネに加え，情報・トキ・企業文化を加えた６つの経営資源の適正配分が求められます．トキとは経営資源投入のタイミング，経営戦略実行の速さ，市場の状況や成熟度，経営環境への適応度，企業体制の良し悪しなどを含み，トキに対するリスクの大きさは経営環境の変化が大きいほど大きいのです．
*** 4.3 組織のヒューマンファクター：経営改革への障害 [#zd644079]
ここでトキのリスクに対する経営改革の障害は，組織のヒューマンファクターです．それには①個人の障壁，②組織の障壁，③企業文化の障壁，④外部環境の障壁，の４つの障壁があります．
個人の障壁とは，変革に対する不安感，経験や慣れによる現状への安住，現状の権限・地位への執着，変革に対応できる技能の不足，技能習得に対する不安感，参加していないことに対する不満感，です．
組織の障害とは，経営ビジョン・方針の欠如，新たな経営環境に合うリーダーシップの不在，縦割り組織の壁，旧い経営環境での規則の残存，不的確なシステム・仕組み，官僚化，です．
企業文化の障壁とは，横並び思考，イノベーション志向の欠如，永い伝統や過去の成功・失敗体験の呪縛，自己過信，情報の個人的囲い込み，学習環境の欠如，減点主義，です．
外部環境の障壁とは，各種の規制，予想以上に早い環境変化，資金調達の難しさ，ステークホルダーの要求，です．
*** 4.4 学習する組織への変革 [#l57a8661]
ここで考えるべきは、人は｢変化｣を拒むのでなく，｢変化させられる｣のを拒むという、人間の性（さが）です．人々が自ら進んで変革する意識を共有するには，①システム思考，②チーム学習，③メンタルモデルの変容，④ビジョンの共有，⑤自己実現，の5つを要素とする｢学習する組織｣への変容が求められます．
ここでは，公共性が高く，事故や災害発生時の社会的影響の大きいSafety-critical systemを対象にします。ですから，企業のリスクマネージメントの対象は，火災・爆発事故，放射能放出や環境汚染物質流出，脱線・衝突事故，墜落事故等々，一方的に損失のみをもたらす純粋リスクになります．
またSafety-critical systemは公共性が高い反面，地域住民，報道，規制当局等，企業と社会との関係が大変難しい分野を多く含んでいます．そこで、図3の周辺には社会との関係でとくに代表的な4つのキーワード（製造物責任法，CSR, 予防原則，内部告発保護法）を示しました．
最近，製造物責任法およびCSR（法令順守）により，企業活動の社会的責任の対象，範囲などがグローバルスタンダード化し急速に拡大しています．その中で｢安全，安心の確保｣の範囲が，最近の欧米流の｢製品の品質保証｣を基礎づける｢顧客満足｣という明示的でない基準で語られています．[4]これは簡単にいえば、｢安全かどうかは売り手でなく買い手が決める｣ことになり，買い手に有利な基準です．さらにＥＵでとくにドイツを中心にして環境倫理のイデオロギとして提唱されている｢予防原則｣は，｢安全，安心の確保｣のためにはたとえ軽微でも将来起こりうる被害を考慮に入れて負の要因を除去すべきである，負の要因が現実となる恐れのある技術の行使はすべて差し控えなければならない、という考え方になります．[5]この原則を厳格に適用すれば技術の負の要因をすべて除去することは原理的に不可能であり，科学技術の行使は一切不可能になります．ドイツでは原子力発電を廃絶する方向に国の政策が進んでいますが、政権与党に｢予防原則｣をもとに原子力発電を否定する環境保護運動を進める｢緑の党｣の影響が考えられます。
一方，企業の内部に目を向けると，企業内部で行われている不正を外部に報じる内部告発者の，公共的役割を認める内部告発保護法も施行されました．企業の事業のあり方について，企業の社会的責任についての倫理意識から企業内部の従業員からの告発行動も社会的に容認されるようになってきているのです．
こういった社会的動向の中で，Safety-critical systemのリスク概念に基づいた｢社会の安心を希求する技術安全システム｣には，その従事者組織が高い使命感をもった｢学習する組織｣へ変容することが重要な要件と考えられるようになってきました．欧米では原子力など高危険性産業への｢学習する組織｣を目指す研究プロジェクトが取り組まれました[6],[7]．
** 5.｢社会の安心を希求する技術安全システム｣の具体的イメージ [#ra431a7e]
吉川は，｢社会の安心を希求する技術安全システム｣の具体的イメージとして，次の２つの提言を行っています[8],[9]．これは，Safety-critical systemに関わる企業での組織内部と外部との双方のインタラクションについて，｢リスクコミュニケーション｣を中核にして｢学習する組織｣のフレームワークを構想したものです．
-① ｢組織内部の技術的リスクコミュニケーション｣と｢組織外部への公衆リスクコミュニケーション｣の２つのリスクコミュニケーションを有機的に統合し，組織内部と外部間に双方向の共考型リスクコミュニケーションを構築すること．
-② 組織の集合知を活かし，常に学習する安全文化を創造する，｢学習する組織による安全文化の醸成｣を推進すること．すなわち，ボトムアップ的に安全情報を不断に収集分析し教訓を組織内に広く流布するＩＴ活用システムを導入すること．
２つのリスクコミュニケーションの図式を図4に示します．
#ref("fig4.png")
図４ ２つのリスクコミュニケーションの図式
技術的リスクコミュニケーションは，管理従事者，設計，製作，保守，運転等の技術者に対してリスク情報を流布，共有させてリスク発生の防止またはリスク低減に活かす．一方，公衆リスクコミュニケーションは，技術システムの潜在的リスク情報を，産業システムに直接関わりのある公衆や行政規制当局，さらには社会一般に説明して納得を得て受容される，あるいは組織外部との間で許容リスクを定めてそれを遵守するように組織内部のリスク管理に反映する．
この２つのリスクコミュニケーションでは、とりわけ外部との公衆リスクコミュニケーションは難しい課題です。そこには変動する社会風潮、社会世論、国の政策、そしてその底流をなす社会風土や文化のあり方が影響しているように思われます。この問題は深く考察すべき課題ですが、ここではこれ以上の深入りは避けて、事業者組織に限定して２つのリスクコミュニケーションで注意すべき事項を３つ述べます．
まず注意すべき第１点は｢リスク｣概念です。リスクについての今までの話では、実は危険性のある施設の建設や運用を受け入れた地域の人たちの、施設へのリスクの認識や施設受け入れの基準といった主観性のある問題には触れていませんでした。この問題は重要ですが、ここでは施設周辺の人々が、施設を運用する人々への｢信頼｣を高めること、そのためには、人々が心配する事故のような純粋リスクの発生をできるだけ抑制する、といった点から、いろいろの側面から指標として定量化できる｢技術リスク｣を対象とすべきと考えています。
ここで第２点として重要なことは組織の内部と外部の接点となるリスクコミュニケータの存在です。リスクコミュニケータは、その時々の社会的状況から世の中には何が求められているのか、また世の中の風潮にもおかしなことがあることを、敏感に察知して組織内部に警告を発したり、外部とのコミュニケーションで無用の摩擦軋轢を避けるなど、高いコミュニケーション能力が要請されるでしょう。
第３点は、組織の安全文化の形態そのものです。ハドソンは、外部とのかかわりで、表１のように5段階で捉えました。組織の安全文化の最高の形態は，いうまでもなく"創造的(generative)"です[10]．
#ref("table1.png")
表１ 安全文化の5段階
創造的な組織では、システムの安全を脅かす問題の発生のすべてを予見することはできないと認識して，常にうまずたゆまず問題点の発見とその対応策を学習して，決して自己満足に陥らない．そのような組織では、図５に示すような二重ループの学習を進めることが求められています．技術システムに直接係わる現場では、常に技術的な改善を志向したシングルループの改善学習、そして経営管理層は、既存の枠組みそのものをつねに見直す改革を行うダブルループの探索学習が求められています。杉万らの現場研究は、学習する組織が、活動理論（activity theory）に基づき、安全文化醸成に向けて「学習する組織」を構築する方途を明らかにしようとするもので、日常の活動で自律的に、表１に示す安全文化のレベルを最高のレベルまで上げていくための脱構築的学習理論を提唱しています[11]。
#ref("fig5.png")
図５ 二重ループの組織学習
英国の労働安全の権威リーズンは、図６のような構図で、組織の集合知を活かし，常に学習する安全文化を創造する，｢安全文化の工学化｣推進を推奨しています[12]．本稿では，リーズンのいう｢安全文化の工学化｣とは，組織の集合知を活かし，常に学習する組織の活動を支えるインフラとして、IT活用によって技術システム化することと捉えています．それはきめの細かいデータ収集と高度な統計・分析・シミュレーション実施，知識の流布共通を担う情報システム技術，すなわち｢安全文化を醸成する情報システム｣構築と捉えられます．図中のニアミスの自己申告システムや、現場人員による恒常的モニターシステムはその例示です。このような｢安全文化を醸成する情報システム｣は学習する組織が、現場メンバーの安全文化醸成のための仕組み、外的な制度として導入されれば、｢外発的なデータベース｣ですが、現場のメンバーが日々の活動を支えるため、向上させるため、自ら改善し、周りに広めていくならば、｢内発性を備えたデータベース｣といえるでしょう。
#ref("fig6.png")
図６ 組織内の安全文化醸成活動（リーズン）
** 6.おわりに [#vaae39dd]
以上，｢社会の安心を希求する技術安全システム｣の具体的イメージを，リスク概念に基づく技術安全システム，学習する組織による安全文化醸成に着目して導出しました．そのキーワードは，学習する組織，リスク概念，安全文化を醸成する情報システムです．
以上のような枠組み議論は抽象化した概念フレームですが、それぞれの現場で、人々がたゆみなく工夫し、現場の実情に即した具体的な学習活動をされていることを見出してそれを概念フレームの洗練化にフィードバックすること、またそのような傾向がなければこのような学習活動創生の触媒になることを期待して本稿を纏めました。
** 参考文献 [#y5792f56]
-[1] Senge. P., Sterman, J.D.: Systems thinking and organizational learning: Acting locally and thinking globally in the organization of the future. In: Kochan, T., Useem, M. (Eds.) Transforming organizations, Oxford, Oxford University Press, pp.353-370 (1991).
-[2] 高間邦男：学習する組織―現場に変化のタネをまく－，光文社新書(2005).
-[3] 高梨智弘：リスク・マネジメント入門，日本経済新聞社(1997).
-[4] 松本俊次：ISOリスクアセスメント，日本プラントメンテナンス協会(2001).
-[5] 熊谷浩二，高橋康造編：技術者の倫理―循環型社会に向けた技術者の責務と責任，p.111,技報堂出版(2006).
-[6] Carroll, S., Hatanaka, S.: Problem investigation teams in high-hazard industries: Creating and negotiating knowledge for organizational improvement, Management Science, (2001).
-[7] LearnSafe: Learning organizations for nuclear safety http://www.vtt.fi/virtual/learnsafe (as of June 2007)
-[8] 吉川榮和：科学技術の発展と安全・安心の探求－社会の安心を希求する技術安全システムの探求，電気評論2004.4,pp.11-16(2004).
-[9] 吉川榮和：総論 安全と安心の醸成に向けた仕組みの充実―リスクコミュニケーション設計再考論，電気評論 2007.5,pp.10-13(2007).
-[10] Hudson, P.: Aviation safety culture, (Leiden: Centre for Safety Science, Leiden University, 2002).
-[11] 杉万俊夫編著：コミュニテイのグループ・ダイナミックス，京都大学学術出版会(2006).
-[12] Reason, J.: Managing the Risk of Organizational Accidents, (Aldershot: Ashgate, 1997).
** コメント [#n600ec5d]
#comment(below)
- これはよいですね -- [[伊藤京子]] &new{2009-04-30 (木) 16:59:42};