失敗学会

Forum 217　対面＋zoomハイブリッド　報告

大阪分科会主催

田中 健一郎

三田 薫

フォーラム217会場の様子

概要

(zoom の AI コンパニオンを元に)
　この会議では、田中健一郎さんがAIを活用したインシデント分析システムの開発について発表を行った。田中さんは、インシデント分析における4つの主要課題(情報取得の問題、解釈の問題、統合の問題、公開の問題)を特定し、AIツールに失敗学の観点を組み込むことで効率的な分析と報告書作成を実現することを説明した。開発したシステムはChatGPTなどのLLMを使用し、因果連鎖抽出、バリア分析、パターン分類などの分析手法を実装している。
　会議では、三宮「あじびる」エレベーターの事故と美濃工業へのサイバー攻撃事例を使用して、AI分析の実践的な応用方法が示された。さらに、LLMの利用における課題(虚偽情報生成、記号設置問題、概念理解の限界)についても議論が行われた。

要約
AIを用いたインシデント分析の課題整理
　田中健一郎さんより、インシデント分析における課題として、①情報取得(証言や記録の断片化・欠落)、②解釈(後知恵バイアスやチェリー・ピッキング等の認知バイアス)、③統合(文書化スキルの属人性による品質ばらつき)、④公開（確認・調整に時間を要し、知見の共有が遅れる）の4点が提示された。これらの課題に対し、AIを「観点提示」「文章整理」「構造化補助」として活用することで、分析の再現性と効率を高める方針が示された。

失敗学の観点をAIに組み込む方法とシステムプロンプト
　続いて、失敗学の観点をAIツールに埋め込む方法として、システムプロンプトの設計について説明があった。システムプロンプトとは、AIに担わせる役割や方針、禁止事項を定める上位設定であり、出力の客観性や形式の安定化を目的とするものである。事故報告書や「失敗年鑑」等を参照しつつ、断片情報を統合して報告書を生成するプロンプト原型を作成し、実例や架空事例で検証・修正を繰り返してきた経緯が紹介された。この取り組みを汎用化し、ローカルLLMにも対応させる目的で、デスクトップAIツール「HAIA（Hybrid AI Assistant）」の開発に至った。

分析手法の整理
　HAIAに実装した主な分析手法として、以下が説明された。
　因果連鎖抽出では、入力テキストから「原因―行動―結果」を抽出し、失敗学のキーフレーズに対応付ける。人的・組織的要因が一次資料に明示されない場合は、根拠のない断定を避けつつ、「論理的に排除できない範囲」を補足原因(推定)として提示する。
　バリア分析では、スイスチーズモデルに基づき、事故防止・被害抑止のための防護層とその機能状態を整理する。
　このほか、4M+Eによる変化点分析、WAI/WADによるギャップ分析、7つの失敗類型を用いたパターン分類と横展開の方法が示され、新類型の提案はAIが行うが、採否判断は人間が行う方針とされた。

HAIAの概要
　HAIAは、複数の大規模言語モデルを切り替えて利用でき、分析目的に応じてプロンプトを選択・調整できるデスクトップツールである。Pythonで実装され、GUIにはTkinterを使用している。GitHubでオープンソースとして公開しており、音声生成機能を用いた解説生成も可能である。開発にあたっては、人間が設計・評価を担い、AIが実装を担う役割分担で反復的に改良を行ってきたことが説明された。

分析事例(1)三宮「あじびる」エレベーター事故
　事例1として、2025年2月27日に神戸市中央区の店舗ビル「あじびる」で発生したエレベーター事故が取り上げられた。2025年12月公表の事故調査報告書を基に、因果連鎖抽出、バリア分析、パターン分類を実施した。短絡処置による安全機能の一時無効化と復旧忘れ、定期点検での見落とし等の連鎖が整理され、複数のバリアが十分機能しなかった構造が示された。パターン分類では「緊急対応の逸脱型」を中心としつつ、「慣れと形骸化型」の要素も関与している可能性が指摘された。

分析事例(2)美濃工業株式会社へのサイバー攻撃
　事例2として、2025年10月1日に岐阜県中津川市の美濃工業株式会社で発生したランサムウェア攻撃が報告された。公表資料を用い、侵害フェーズ別に整理した結果、「認証・ID起点」「信頼境界破綻（フラットなネットワーク構成）」「侵入後横展開」「復旧基盤侵害」の4つの侵害パターンが連鎖した事例として分析された。教訓として、ネットワークのセグメント化、管理者アカウントの強化、バックアップと復旧基盤の分離、EDRとSOCによる監視体制の重要性が示された。あわせて、VPN自体ではなく、侵入後の横展開を許す設計が問題の本質であるとの補足説明が行われた。

HAIAによる実演
　会場では、HAIAを用いた実演が行われた。架空の重大事故シナリオ(化学プラント事故)をAIで生成し、その内容を基に報告書を作成した後、因果連鎖抽出やバリア分析等の各種分析を順に実行する一連の流れが示され、ツールの具体的な利用イメージが共有された。

LLM利用の課題と安全な運用
　最後に、LLM利用に伴う課題として、ハルシネーション、記号接地問題、表面的理解(ポチョムキン理解)が挙げられた。また、著作権、秘密情報、名誉毀損、バイアス等の法的・社会的リスクや、国内外の法整備状況について説明があった。安全な運用方法として、LLMの役割を補助に限定し、意思決定と責任は人間が担うこと、事実・推定・解釈の区別、根拠の明示と一次資料確認、入力情報管理、利用履歴と設定の記録の重要性が提案された。

システムセキュリティと運用改善会議
　会議では、システムのセキュリティと運用に関する議論が行われた。中村隆文さんは、システムの脆弱性や環境要因が安全性に影響している可能性について言及し、全体的なコストバランスとセキュリティ対策の必要性を強調しました。
　田中さんは、古いシステムの残存やセキュリティの見直しの必要性について同意し、システムの更新や新しいEDRの導入が検討されていることを説明した。
　会議の最後には、プレゼンテーションツールの使用方法や技術的な問題についての議論が行われた。

サウナ火災事故消防法規制
　三田薫さんは、最近発生したサウナ施設での火災事故について、消防法の観点から説明を行った。 事故の原因は、サウナストーンにタオルを燃やしたことによる火災で、非常ベルが鳴らなかったことが指摘した。サウナ施設の消防法規制について詳しく説明し、特定用途建物としての規制要件や、自動火災報知設備の設置義務について議論した。

サウナ火災防止設備検討会議
　サウナの火災防止設備について詳しく説明し、四種類の感知器(定温式、差動式、煙式、炎式)とその違いについて説明した。会場はサウナ室の感知器の温度設定(130-150℃)と定温式防水型感知器の特性について議論し、東京都の火災予防条例での義務的な規制について言及した。サウナのドアハンドルの問題点を指摘し、緊急時にはドアが開けられないという安全上の懸念を共有した。過去の個人的な体験談を通じて、ドアの固定ハンドルが外れやすい構造のリスクについて説明した。

サウナ室出入り口安全議論
　会議では、サウナ室の出入り口の構造と安全に関する議論が行われた。参加者は、外開きドアの規制、火災予防条例、そしてサウナの設計と改造に関する問題点について話し合った。特に、ドアのハンドルが木製に変更された際の安全性への懸念が挙げられ、機械の領域と人間の領域の分担について畑村先生の以前の講演に言及された。
　また、サウナの設計者や工務店また施主の危険予知能力の不足が、現在の問題の原因である可能性が指摘された。会議の最後には、サウナのドアが開かないという事故の事例が共有され、安全管理の必要性について議論された。

非常ベルシステム
　会議では、非常ベルシステムの設置と操作方法について議論され、サウナ室内の非常ベルに押しボタンがあることが確認された。

大阪分科会20年間のあゆみの紹介
　三田さんは大阪分科会の20年間の歴史と過去の春合宿について詳しく説明した。各年度の行先を紹介し2008年から2025年までの春合宿の内容と経験を共有した。特に2019年の桜島観測所訪問、2024年の小豆島のシュレッダーダストの処理問題などを重点的に説明した。

工場見学と災害対応体験共有
　三田さんは工場見学の体験を共有し、鋳物工場での大型機械の視察、トヨタ博物館での自動車技術の展示、電力技術の資料館への訪問について説明した。災害対応事業の活動についても言及し、東日本大震災、熊本地震、水害への対応例を紹介した。現地見学の重要性を強調し、事前研究と現地での直接体験の組み合わせが効果的であると述べた。

見学スケジュール調整会議
　会議では、佐伯さんが3月の見学について報告し、山岡金属工業の見学は平日(月曜日から金曜日)に調整する必要があることを説明した。琵琶湖蘇水の見学は現在停止中で、2月中旬に復活予定で、その時点で再度申し込みが可能になることが共有された。会場では中国の環境問題についての議論も行われ、産業廃棄物の処理とリサイクルシステムの課題が話し合われた。

5月春合宿日程計画会議
　会場は15名程度で行けることを確認し、福井での1泊2日の合宿プログラムとして、原子力発電所の見学、福井県の自然博物館訪問、福井の食文化体験などを含む内容が説明された。交通費と宿泊費の見積もりとして、参加者1名あたり30,000-40,000円の予算が設定された。

Copyright©2002-2026 Association for the Study of Failure