---
title: FIT2026_CN-006_発表スライド
tags: 
author: [Hiroshi Koide](https://docswell.com/user/hirosk)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/KJ4WKMQZ71.jpg?width=480
description: FIT2026_CN-006_発表スライド by Hiroshi Koide
published: September 02, 26
canonical: https://docswell.com/s/hirosk/5E1JWG-2026-09-02-144313
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/KJ4WKMQZ71.jpg)

FIT2026 第26回情報科学技術フォーラム
選奨セッション「教育・⼈⽂科学とコンピュータ」 CN-006
フロンティアAI時代における
不確実性対応型AIシステム⼈材の予備的検討
A Preliminary Study on Human Resource Development for Uncertainty-Responsive AI Systems in the Frontier AI Era
⼩出 洋（九州⼤学）
情報基盤研究開発センター ／ ⼤学院システム情報科学研究院（兼務） ／ サイバーセキュリティセンター（兼務）
2026年9⽉2⽇（⽔）13:10–15:10 2s会場
システム理解
AI統合設計
証拠評価
事業継続判断
越境協働


# Page. 2

![Page Image](https://bcdn.docswell.com/page/LE1YX8PD7G.jpg)

フロンティアAIは、もう現場に⼊っている
Cloudflare の報告 [6]
Anthropic Project Glasswing [3][4][5]
•
Claude Mythos Preview により、重要ソフトウェア・
OSSの脆弱性発⾒・修正を⽀援
•
フロンティアモデルは疑わしい脆弱性を指摘するだけで
はない
•
多数の⾼重⼤度候補が⾒出される⼀⽅、実際のボトルネッ
クは⼈間側のトリアージ・報告・パッチ設計・展開にある
•
複数の仮説を⾃ら試⾏し、「実⾏可能な証明」へ⾄る傾
向
発⾒はAIが速くなった。 では、詰まるのはどこか︖
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
2 / 16


# Page. 3

![Page Image](https://bcdn.docswell.com/page/GEWGNZ28J2.jpg)

律速点（ボトルネック）は⼈間側へ移る
フロンティアAI
脆弱性候補を⼤量に提⽰
（⾼速）
⼈間の判断・説明
＝ ここが律速点
⼤量の不確実な候補
真偽・影響は未確定
組織がこなすべき⼀連の処理（個々のAIツールの性能だけでは解決しない）
重複排除
真偽の検証
パッチ設計
到達可能性評価
公開範囲の判断
緩和策の選定
利⽤者への説明
AIの性能向上は防御を「楽」にするのではなく、『発⾒後の判断と説明』を重くする [5][6]
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
3 / 16


# Page. 4

![Page Image](https://bcdn.docswell.com/page/47ZL31D9J3.jpg)

組織にとっての本質︓技術的な真偽だけでは終わらない
•
サイバー攻撃・⼤規模システム障害は、事業継続
上の「引⾦事象」として現れる
•
原因究明・恒久対策と並⾏して、業務の継続判断
そのものが迫られる
•
この判断は技術部⾨だけでは閉じない（業務部⾨
・経営層・広報・法務）
組織が迫られる判断
•
どの業務を継続するか
•
どの業務を⼀時停⽌するか
•
どの代替⼿段で最低限のサービスを維持す
るか
⾼度AI時代の律速点は、「制限下での事業継続・応急復旧・対外説明」を統合する組織的判断へ移る
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
4 / 16


# Page. 5

![Page Image](https://bcdn.docswell.com/page/YJ6WXL1DJV.jpg)

⾼等教育への2つの課題
①
時間的余裕の喪失
AIが発⾒・提案を⾼速化するほど、検証 → 優先順位付け →
停⽌/継続の判断 → 関係者への説明までの猶予が縮む [5][6]
②
「知識を覚える」教育の限界
不確実なAI出⼒への対応は、後付けのリテラシー科⽬やプロ
ンプト講習だけでは育ちにくい
育ちにくい能⼒︓対象システム理解 ／ 証拠評価 ／ 残余リスク判断 ／ 説明責任
̶ CS2023 もコンピテンシーを重視 [7]
AI教育を「独⽴要素」として追加するのではなく、ターゲットシステムの教育にAIを埋め込む設計へ
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
5 / 16


# Page. 6

![Page Image](https://bcdn.docswell.com/page/GJ5MX148J4.jpg)

本稿の位置づけと限界
本稿がやっていること
やっていないこと（限界）
•
公開情報（OSINT）に基づく整理・分析と提案
•
モデル能⼒の独⽴検証
•
⼈材像とカリキュラム⽅向性を「設計仮説」として提⽰
•
授業実践・学習効果測定・組織導⼊評価
•
今後の実践と検証の論点を明確化
•
公開事例（Glasswing等）は公開主体による選択バイア
スを含み得る
貢献＝実証済みモデルではなく、「検証すべき論点の明確化」。本発表は、皆さんに検証していただきたい設計仮説の提⽰です
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
6 / 16


# Page. 7

![Page Image](https://bcdn.docswell.com/page/9E29X1VV7R.jpg)

基本アイデア（図1）︓状況付与から抗堪性へ
⾼度AI ・ サイバー攻撃
不確実な状況付与
脆弱性候補 ／ 障害 ／ 侵害疑い ／ 復旧要求
CSIRT ・ 技術部⾨
（専⾨知⾒を提供）
事業継続体験型演習
対策本部 ・ 業務影響 ・ 縮退運⽤ ・ 応急復旧
業務部⾨ ・ 経営層
（継続・停⽌を判断）
不確実性対応型AIシステム⼈材
AI出⼒を事業継続判断へ変換する
組織の抗堪性
やられても重要業務を継続する⼒
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
7 / 16


# Page. 8

![Page Image](https://bcdn.docswell.com/page/D7Y48Z3QEM.jpg)

⼈材像︓AI出⼒＝「答え」ではなく「検証すべき仮説」
AIが提⽰した候補を、対象システムの構造へ戻して問い直す
どの仮定が成⽴しているか︖
誤った場合の被害は何か︖
どの証拠が⾜りないか︖
組織の誰が判断すべきか︖
誰に必要か ̶ AI研究者だけではない
•
AIを含む業務システムを設計・運⽤する技術者
•
AI出⼒を根拠にリスク判断を⾏うセキュリティ担当
者
•
AIによる教育・業務改善を設計する教員・職員
•
利害関係者に説明する管理者
中⼼となる能⼒︓AIを「使いこなす」ことよりも、AIからの出⼒をシステムと組
織の⽂脈へ変換すること
共通する姿勢︓確実な情報が少ない中で判断を遅らせすぎず、かつAIを過信しない
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
8 / 16


# Page. 9

![Page Image](https://bcdn.docswell.com/page/VENYQ3V2J8.jpg)

不確実性対応型AIシステム⼈材の五要素（表1）
システム理解
対象システムの構造・データ・境界・依存関係・業務フローを把握する
AI統合設計
AIを後付けでなく、監視・分析・判断⽀援の要素技術として設計に組み込む
証拠評価
AI出⼒を仮説として扱い、再現性・到達可能性・業務影響を評価する
事業継続判断
不完全情報下で、停⽌・継続・縮退運⽤・応急復旧・対外説明を判断する
越境協働
CSIRT・業務部⾨・経営層・法務・広報・利⽤者の間を「翻訳」し、合意形成する
※ 五要素は相互に独⽴ではなく、対象システムを⽤いた演習の中で連続的に育成される想定
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
9 / 16


# Page. 10

![Page Image](https://bcdn.docswell.com/page/Y79PD96DE3.jpg)

到達レベル︓全員が同じ深さである必要はない
Lv.4
Lv.3
Lv.2
Lv.1
システム実装
専⾨運⽤
AI出⼒を利⽤した業務判断に責任
を持つ
研究開発
モデル評価・エージェント安全性
・AI監査・教育評価を研究課題と
して扱う
AIをAPI・ライブラリ・エージェン
ト等として接続し、⼊出⼒・ログ
・権限・評価指標を設計
基礎
AIは誤り得る／出⼒には根拠と仮
定がある／機密・バイアス・安全
性の問題を理解
⾮情報系でも︓専⾨領域の業務にAIが組み込まれる場⾯を扱う 情報系でも︓利⽤者・制度・運⽤・説明責任まで扱う
どのレベルでも共通︓AIを「孤⽴した対象」「後付けの対象」にしない
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
10 / 16


# Page. 11

![Page Image](https://bcdn.docswell.com/page/G78D39Z57D.jpg)

体験型カリキュラム︓設計の4原則
原則1 ターゲットシステムを先に置く
AI⼀般の操作より先に、「何を安全に動かしたいか」「どのデータ・
利⽤者・故障・攻撃が問題か」を理解する。AIはその⼀部として導⼊
原則3 不確実性を意図的に設計する
誤検知を混ぜる、AI出⼒に過剰な⾃信を持たせる、顧客対応期限を設
ける̶̶判断を必要とする条件を組み込む
原則2 AI出⼒を仮説として扱う
採点対象はAIの回答ではなく、学⽣の検証プロセス̶̶どの証拠を集
め、どの仮定を検証し、どのリスクを残して判断したか
原則4 証跡を学習成果物に含める
プロンプト・参照データ・検証⼿順・失敗した仮説・判断理由・説明
⽂を提出させる̶̶透明性と監査可能性を教育段階から
原則2・4は「評価⽅法の転換」でもある︓回答ではなく、検証プロセスと証跡を評価する
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
11 / 16


# Page. 12

![Page Image](https://bcdn.docswell.com/page/L7LMVWD3JR.jpg)

中⼼提案︓事業継続体験型演習モデル
学習⽬標の転換
侵害を⾒つける
対策本部としての役割分担
やられても重要業務を継続する
状況付与の例（架空組織︓⼤学・⾃治体・医療機関・製造業 など）
基幹システム停⽌
AIによる重⼤脆弱性報告
ランサムウェア感染疑い
外部委託先の障害
CSIRT
情報システム
業務部⾨
広報
法務
経営層
AIの位置づけ︓
原因仮説・影響範囲・復旧案・説明⽂案を出す「要素技術
」。ただし正答ではなく、対策本部が検証すべき仮説
成果物︓業務の優先順位 ／ 縮退運⽤案 ／ 応急復旧計画 ／ 判断ログ ／ 関係者向け説明 （BCP体験型机上演習 [12] とも整合）
「作る⇒観察⇒疑う⇒判断⇒説明する」に加え、「制限下で続ける⇒応急復旧する⇒学習して備える」を体験する
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
12 / 16


# Page. 13

![Page Image](https://bcdn.docswell.com/page/4EMYG9PMEW.jpg)

スタジオ型科⽬としての実装
構築
提⽰
批評
改善
（反復）→ 構築へ戻る ※ Schön の省察的実践／studio-based learning [9–11] を⾼度AI時代のターゲットシステム教育へ接続
•
1つのターゲットシステムを継続的に育てる︓Web基盤 → 認証・ログ・API連携・監視 → AI部品（検索・要約・異常検知・コード
レビュー）＋監査ログ
•
AIを接続するたびに「新しい責任」が発⽣することを体験する̶̶AIは便利な外部ツールではなく、信頼性を左右する構成要素
•
成果物はコードに限らない︓業務影響分析・縮退運⽤案・応急復旧計画・判断ログ・関係者向け説明⽂
•
批評の対象︓技術的正しさ ＋ 制限下の判断の妥当性 ＋ 説明が関係者に通じるか ＋ 次回への改善可能性
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
13 / 16


# Page. 14

![Page Image](https://bcdn.docswell.com/page/PER9ZG1LJ9.jpg)

段階的実証計画（表2）と評価観点
0〜1年
1〜2年
演習シナリオ・ルーブリック・教材の設計
既存授業への試⾏導⼊と予備評価
2〜3年
産学連携演習への拡張と組織運⽤評価
3年〜
複数学部・社会⼈教育への展開と追跡評価
評価観点（知識テストだけにしない）
•
AI出⼒の検証計画の質・反証可能性の明⽰
•
対象システム理解の正確さ・判断レイテンシ
•
説明⽂の読み⼿適合性・振り返りの深さ
•
AIへの「過信」と「過剰な拒否」の両⽅を観察
•
証跡︓判断ログ・プロンプト履歴・振り返り記述（プラ
イバシー・⼼理的安全性に配慮）
この全国⼤会（FIT）での議論を、「段階0」の起点にしたい
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
14 / 16


# Page. 15

![Page Image](https://bcdn.docswell.com/page/P7XQ9XG6EX.jpg)

考察︓AIを「要素技術」として置く3つの意義
1
限界を具体で学べる
AIの誤りを抽象論でなく、具体的なシステム
の不具合として理解する。誤った設計案がど
のAPI・権限・利⽤者⾏動・ログに影響するか
を確認し、誤りが社会的影響へ変換される過
程を学ぶ
2
⼆分法からの解放
AI利⽤を禁⽌／許可の⼆択にしない。組織に
必要なのは「使うか使わないか」ではなく、
どの部分に・どの権限で・どの監査のもとに
置くか
3
教育と組織運⽤の距離短縮
発⾒が⾼速化すると律速点は⼈間のトリアー
ジ・修正・説明へ [5]。この律速点を担う⼈材
は、講義でAIの概念を学ぶだけでは育ちにく
い
教育を暗いリスク管理の場にするのではない̶̶安全に失敗し、振り返り、改善する機会を増やす「明るい学習基盤」に
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
15 / 16


# Page. 16

![Page Image](https://bcdn.docswell.com/page/37K9PW4G7D.jpg)

まとめ
1
フロンティアAIが発⾒を⾼速化するほど、律速点は「発⾒」から「判断と説明」、さらに制限下の事業継続判断へ移る
2
育てるべきは、AI出⼒を「検証すべき仮説」として扱い、事業継続判断へ変換できる⼈材（五要素︓システム理解・AI統合設
計・証拠評価・事業継続判断・越境協働）
3
AIを後付けにせず、ターゲットシステムに埋め込む体験型⾼等教育へ̶̶事業継続体験型演習 × スタジオ型科⽬、段階的に実
証
明るい未来はフロンティアAIが⾃動的にもたらすのではない。
AIが存在するシステムを⼈間が責任を持って動かし、失敗から学び続ける教育の設計によって実現される。
謝辞︓科研費基盤（C）26159106 ／ ⽇⽴システムズ ／ 福岡未踏的⼈材発掘・育成プロジェクトPMメンバー ／ サイバーセキュリティ「協働研究会」
FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学）
16 / 16