失敗学会は事故不祥事など過去の失敗や事例に学び、解決を考える失敗学を実践する

2025 年次大会に参加して

新潟　山本　直弘

　2025年度の年次大会に参加して得たことや感想をまとめて報告させていただくつもりでしたが、すっかり時間が経ってしまいました。
　いまさら提出するのもいかがなものかと思いますが、折角ですので要点のみ報告させていただきたいと思います。

羽田空港の事故、及び山岳事故のご講演について
　失敗や事故がなぜ起こるのか、改めて典型的な事例の調査・分析であったと思います。
　失敗が起こる要因、条件は「想定外を想定していない」ことに尽きると思いますが、裏返せば前提として
- 人間は失敗（ミス、誤った選択）をするものである　
- 機械・装置には不具合、故障がつきものである
とおいておくことが重要であると思います。
　私は日常生活において「だろう」ではなく「かもしれない」と考えるクセをつけることが大いに役に立つと考えています。
　テレビなどのメディアではホルムズ海峡の封鎖によるエネルギー危機への政府の対応が「正常性バイアス」の上で構築されているという点を異口同音に指摘しています。危機管理において「大丈夫だろう」は禁物です。「大丈夫だろう」の積み重ねでは万事が後手になってしまいます。「想定を上回る事態に発展するかもしれない」と考え備えることが肝要だと思います。緊急事態の場合一つの手法で最悪の事態までの対応をしようと考えるのは現実的ではありません。２つ、３つの現実的な手法の組み合わせで構成するほうが確実かつリーズナブルです。危機管理、リスクマネージメントというのはこの設計を行うことに他ならないのではないでしょうか。
　山岳登山で初心者の事故が多いのは、経験不足からくる根拠のない安易な「大丈夫だろう」、高齢者の事故は今までの人生でなんとなく無事に来てしまったことからくる「大丈夫だろう」、そうした正常性バイアスが強く働いているからではないでしょうか。
　羽田空港の事故の調査報告の中で、海保機の灯と滑走路の誘導灯の色が似ていることから日航機のパイロットは海保機の存在を認識できなかった可能性が述べられていました。ここで参考になると思われたのが、行動経済学のナッジです。ナッジは人間に自然な行動す促す仕組み、仕掛けに関する理論です。例えばスーパーのレジ待ちの足元に足跡マークがあると思わずそこに立つ、男子小用便器に的やハエの絵が書いてあればそこをターゲットに用を足す、そういった仕掛けです。人間のミスを誘わない仕掛けというのは、一見して認識しやすく、無理なく意識・行動を促すものであることが条件になります。システム構築を行う上で設計者（エンジニアやプログラマー）が「自分の常識」の下で設計したものは、他人が見たとき案外わかりにくく、操作を間違いやすいということを常に頭に置き、詳しくない人、初めて接する人の視点で見てどうなのか、そこに留意すべきであると思います。
不動産市場の現状
　資本主義の下では何を対象に投資を行うのも自由であることが原則であると思います。今何らかの問題があるとすれば不動産に限らず投資の利ざやで莫大な富を築く者と、日々の生活もままならない生活困窮者が大量に生まれている格差拡大、富の偏在ということではないでしょうか。
　渋沢栄一的に言えば、資本主義は事業を応援・支援し、結果として誰もが豊かになる経済の仕組みということだと思いますが、いまあるのは自己の利益の最大化だけを目的とする投資家の姿です。
　企業の好調な業績はステークホルダーに重点的に配分され、また企業の内部留保が拡大し、社員、従業員、下請けには雀の涙しか還元されない。株価の高騰はまさにバブルでマネーゲームの空疎な意味しかないという現実が嘆かわしいと感じます。
　私が学生の頃に持っていたイメージは「民主主義と資本主義」「社会主義（権威主義）と共産主義」がそれぞれセットであるということでしたが、今や権威主義と資本主義が強い結びつきを持ち、民主主義より遥かに早い判断で経済活動を行うことで成長目覚ましく、グローバル経済の覇者になっています。
　失敗を恐れる日本文化・社会的意識のままでは、犠牲を厭わない権威主義の下での活発な活動には太刀打ちできないでしょう。
　今、人・モノ・金が逼迫しつつある日本が再び成長起動に乗るためには、ズブズブの借金まみれでも痛みを感じず改善努力を要しない環境を作ることではなく、第２次世界大戦、２度のオイルショックを乗り越えてきたような知恵と工夫を育て、重ねることが必要なのではないかと感じます。重点17分野を体力がある大企業に占領され、イノベーターが育つ余地がなければどれほどの成長が期待できるか疑問です。
　相場の異常な高騰を続ける都心の不動産市場は日本の体力を損なうだけでなく、感覚的な麻痺を誘い、結果として思うような成長につながらない象徴となってしまうのではないでしょうか。バブリーな投資行動が資本主義経済の正常なありかたであるというならば、世界一社会主義的と言われる日本の社会保障制度とどのように折り合いをつけていくのか(敗者を置き去りにしていく？)、ぜひ教えていただきたいと思います。首都直下地震が起こったとき、そこに何が残るのか、杞憂に終わることを願うばかりです。
AIについて
　ＡＩは非常に有用なツールであり、私自身も時折利用しています。ただ指示の仕方によって全く見当違いな回答が示されることもあり、誤った内容を答えてくることがあるため注意しながら使っています。
　ところで「的確な指示をしなければ期待する結果を得られない」ということ自体は対ヒトにおいても言えることであり、そうした意味でも気づきがあり勉強になっています。
　以前に聴講した某新聞社のセミナーで台湾の元デジタル大臣オードリー・タン氏は、AIについてアーティフィシャル・インテリジェンスである前にアシスタント・インテリジェンスであるべきと論じていました。これは「AIは人間を超えるのか」という命題に対する一つの答えであると思います。カール・ワイツ氏は2035年にはシンギュラリティが起こると予測していましたが、生成AIとフィジカルAIの登場によって格段に早くなり、クロード・ミュトス５、クロード・フェイブル５の登場によってすでに訪れているとする声もあります。
　アシモフのロボット三原則を始め、ロボット関連の規律が必要であるとする考えは古くからありますが、制度や倫理が追いつく間もなく進展する開発や利用がどこまで自制的に行われるのか大いに懸念されるところです。
　さて人間の機能がAIにとって代られる時代に残るものはなにか？
　「人間はミス・誤判断・ありえない選択をするものだ」
という人間の曖昧さ、不完全さこそが「価値」になるのではないかと私は考えます。過去の常識に反して（とらわれず）、そのときの心理状態、周辺環境の影響を受けながら「なんでそんな馬鹿なこと」を繰り返し、「失敗の経験を糧に」することで進歩、発展してきた歴史がそれを証明しています。
　生成AIはネット上の最も確からしい次のワードを拾って構文して行く、だから出来上がった文章は辻褄が合っているように見える、がしかし自らの考察で導き出したわけではなく、正しいかも検証できないとされています(AI自身は正しいかどうかでなく最もふさわしい回答しか出さないはずです)。
　むしろ人間のように自らの判断で「リスクは大きいかもしれない」ことをあえて選ぶほどの考察力を生成AIが備えたとき、本当の驚異になるのかもしれません。ミュトスやフェイブル、そして更に高度なAIの登場で「曖昧さ」という非論理的な要素についてブレークスルーしたときに本当のシンギュラリティとなり、人間の存在が脅かされるのではないかと思います。
　今巷ではホワイトカラーの業種・業界からブルーカラーに転職する人が増えていると報じられています。AIにない現場力、スキルを身につけることで自己実現を目指す動きです。
　デスクワークはもはや人間の特権ではないということですが、将来的に現場を担うのが人間のままであるとは限りません。「常識を超える挑戦」が「人間の価値」であるうちにAIとの棲み分けをきちんと整理しておく必要があるのだと思います。

　さてここまで書き上げて提出という段階(2026/08/20)で米下院における超党派の「キルスイッチ法案」のニュースが目に留まりました。キルスイッチはAIの暴走を止める役割の機能で、開発企業にその機能付加を義務付けるという内容です（これはブレーキがあるからこそ車は安全に走ることができるのと同じという考え方のようです）。この法案に対する賛否は完全に二分され、開発企業の中でも必要性を認める声がある一方で、米大統領をはじめ激しく批判する立場もあり成立の見通しは立っていないようです。
　実はこの話の中ではっきりしているのは、AI開発のテクニカルな話以上にポリティカルな問題として「自由」という概念が非常に不確かなものであるのではないかということだと思います
　人間の「社会」において「自由」は公共性・公平性そして法という約束の中で初めて認められるものであり、そこが担保されなければ「自由」の名の下の暴走が止められなくなります。しかし「公共・公平・法が『自由』を制約するのは民主主義に反する」と考える人たちが民主主義国家の中に一定程度居る、特に米国内ではその傾向が顕著に表れているように思います。インターネット上、SNS上での誹謗中傷を規制しようとすれば、「言論・表現の自由を制限するものだ」といって反対行動に出る。こうした民主主義の下では「自由が保障されている」と主張して何をやってもよいと考える思想の広がりは、人類社会の安定を損なう危険性をはらんでいると思います。
　ことAIに関しては開発に制度が全く追いついていないという点で、野放図なAI開発が人類の存在そのものを脅かす可能性まで論じられており、大変懸念される状況になっていると思います。AIがAIを育て始めている今、核よりも恐ろしい脅威と言えるかもしれません。