FIT2026_CN-006_発表スライド

FIT2026 第26回情報科学技術フォーラム 選奨セッション「教育・⼈⽂科学とコンピュータ」 CN-006 フロンティアAI時代における 不確実性対応型AIシステム⼈材の予備的検討 A Preliminary Study on Human Resource Development for Uncertainty-Responsive AI Systems in the Frontier AI Era ⼩出 洋（九州⼤学） 情報基盤研究開発センター ／ ⼤学院システム情報科学研究院（兼務） ／ サイバーセキュリティセンター（兼務） 2026年9⽉2⽇（⽔）13:10–15:10 2s会場 システム理解 AI統合設計 証拠評価 事業継続判断 越境協働

フロンティアAIは、もう現場に⼊っている Cloudflare の報告 [6] Anthropic Project Glasswing [3][4][5] • Claude Mythos Preview により、重要ソフトウェア・ OSSの脆弱性発⾒・修正を⽀援 • フロンティアモデルは疑わしい脆弱性を指摘するだけで はない • 多数の⾼重⼤度候補が⾒出される⼀⽅、実際のボトルネッ クは⼈間側のトリアージ・報告・パッチ設計・展開にある • 複数の仮説を⾃ら試⾏し、「実⾏可能な証明」へ⾄る傾 向 発⾒はAIが速くなった。 では、詰まるのはどこか︖ FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 2 / 16

律速点（ボトルネック）は⼈間側へ移る フロンティアAI 脆弱性候補を⼤量に提⽰ （⾼速） ⼈間の判断・説明 ＝ ここが律速点 ⼤量の不確実な候補 真偽・影響は未確定 組織がこなすべき⼀連の処理（個々のAIツールの性能だけでは解決しない） 重複排除 真偽の検証 パッチ設計 到達可能性評価 公開範囲の判断 緩和策の選定 利⽤者への説明 AIの性能向上は防御を「楽」にするのではなく、『発⾒後の判断と説明』を重くする [5][6] FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 3 / 16

組織にとっての本質︓技術的な真偽だけでは終わらない • サイバー攻撃・⼤規模システム障害は、事業継続 上の「引⾦事象」として現れる • 原因究明・恒久対策と並⾏して、業務の継続判断 そのものが迫られる • この判断は技術部⾨だけでは閉じない（業務部⾨ ・経営層・広報・法務） 組織が迫られる判断 • どの業務を継続するか • どの業務を⼀時停⽌するか • どの代替⼿段で最低限のサービスを維持す るか ⾼度AI時代の律速点は、「制限下での事業継続・応急復旧・対外説明」を統合する組織的判断へ移る FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 4 / 16

⾼等教育への2つの課題 ① 時間的余裕の喪失 AIが発⾒・提案を⾼速化するほど、検証 → 優先順位付け → 停⽌/継続の判断 → 関係者への説明までの猶予が縮む [5][6] ② 「知識を覚える」教育の限界 不確実なAI出⼒への対応は、後付けのリテラシー科⽬やプロ ンプト講習だけでは育ちにくい 育ちにくい能⼒︓対象システム理解 ／ 証拠評価 ／ 残余リスク判断 ／ 説明責任 ̶ CS2023 もコンピテンシーを重視 [7] AI教育を「独⽴要素」として追加するのではなく、ターゲットシステムの教育にAIを埋め込む設計へ FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 5 / 16

本稿の位置づけと限界 本稿がやっていること やっていないこと（限界） • 公開情報（OSINT）に基づく整理・分析と提案 • モデル能⼒の独⽴検証 • ⼈材像とカリキュラム⽅向性を「設計仮説」として提⽰ • 授業実践・学習効果測定・組織導⼊評価 • 今後の実践と検証の論点を明確化 • 公開事例（Glasswing等）は公開主体による選択バイア スを含み得る 貢献＝実証済みモデルではなく、「検証すべき論点の明確化」。本発表は、皆さんに検証していただきたい設計仮説の提⽰です FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 6 / 16

基本アイデア（図1）︓状況付与から抗堪性へ ⾼度AI ・ サイバー攻撃 不確実な状況付与 脆弱性候補 ／ 障害 ／ 侵害疑い ／ 復旧要求 CSIRT ・ 技術部⾨ （専⾨知⾒を提供） 事業継続体験型演習 対策本部 ・ 業務影響 ・ 縮退運⽤ ・ 応急復旧 業務部⾨ ・ 経営層 （継続・停⽌を判断） 不確実性対応型AIシステム⼈材 AI出⼒を事業継続判断へ変換する 組織の抗堪性 やられても重要業務を継続する⼒ FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 7 / 16

⼈材像︓AI出⼒＝「答え」ではなく「検証すべき仮説」 AIが提⽰した候補を、対象システムの構造へ戻して問い直す どの仮定が成⽴しているか︖ 誤った場合の被害は何か︖ どの証拠が⾜りないか︖ 組織の誰が判断すべきか︖ 誰に必要か ̶ AI研究者だけではない • AIを含む業務システムを設計・運⽤する技術者 • AI出⼒を根拠にリスク判断を⾏うセキュリティ担当 者 • AIによる教育・業務改善を設計する教員・職員 • 利害関係者に説明する管理者 中⼼となる能⼒︓AIを「使いこなす」ことよりも、AIからの出⼒をシステムと組 織の⽂脈へ変換すること 共通する姿勢︓確実な情報が少ない中で判断を遅らせすぎず、かつAIを過信しない FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 8 / 16

不確実性対応型AIシステム⼈材の五要素（表1） システム理解 対象システムの構造・データ・境界・依存関係・業務フローを把握する AI統合設計 AIを後付けでなく、監視・分析・判断⽀援の要素技術として設計に組み込む 証拠評価 AI出⼒を仮説として扱い、再現性・到達可能性・業務影響を評価する 事業継続判断 不完全情報下で、停⽌・継続・縮退運⽤・応急復旧・対外説明を判断する 越境協働 CSIRT・業務部⾨・経営層・法務・広報・利⽤者の間を「翻訳」し、合意形成する ※ 五要素は相互に独⽴ではなく、対象システムを⽤いた演習の中で連続的に育成される想定 FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 9 / 16

到達レベル︓全員が同じ深さである必要はない Lv.4 Lv.3 Lv.2 Lv.1 システム実装 専⾨運⽤ AI出⼒を利⽤した業務判断に責任 を持つ 研究開発 モデル評価・エージェント安全性 ・AI監査・教育評価を研究課題と して扱う AIをAPI・ライブラリ・エージェン ト等として接続し、⼊出⼒・ログ ・権限・評価指標を設計 基礎 AIは誤り得る／出⼒には根拠と仮 定がある／機密・バイアス・安全 性の問題を理解 ⾮情報系でも︓専⾨領域の業務にAIが組み込まれる場⾯を扱う 情報系でも︓利⽤者・制度・運⽤・説明責任まで扱う どのレベルでも共通︓AIを「孤⽴した対象」「後付けの対象」にしない FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 10 / 16

体験型カリキュラム︓設計の4原則 原則1 ターゲットシステムを先に置く AI⼀般の操作より先に、「何を安全に動かしたいか」「どのデータ・ 利⽤者・故障・攻撃が問題か」を理解する。AIはその⼀部として導⼊ 原則3 不確実性を意図的に設計する 誤検知を混ぜる、AI出⼒に過剰な⾃信を持たせる、顧客対応期限を設 ける̶̶判断を必要とする条件を組み込む 原則2 AI出⼒を仮説として扱う 採点対象はAIの回答ではなく、学⽣の検証プロセス̶̶どの証拠を集 め、どの仮定を検証し、どのリスクを残して判断したか 原則4 証跡を学習成果物に含める プロンプト・参照データ・検証⼿順・失敗した仮説・判断理由・説明 ⽂を提出させる̶̶透明性と監査可能性を教育段階から 原則2・4は「評価⽅法の転換」でもある︓回答ではなく、検証プロセスと証跡を評価する FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 11 / 16

中⼼提案︓事業継続体験型演習モデル 学習⽬標の転換 侵害を⾒つける 対策本部としての役割分担 やられても重要業務を継続する 状況付与の例（架空組織︓⼤学・⾃治体・医療機関・製造業 など） 基幹システム停⽌ AIによる重⼤脆弱性報告 ランサムウェア感染疑い 外部委託先の障害 CSIRT 情報システム 業務部⾨ 広報 法務 経営層 AIの位置づけ︓ 原因仮説・影響範囲・復旧案・説明⽂案を出す「要素技術 」。ただし正答ではなく、対策本部が検証すべき仮説 成果物︓業務の優先順位 ／ 縮退運⽤案 ／ 応急復旧計画 ／ 判断ログ ／ 関係者向け説明 （BCP体験型机上演習 [12] とも整合） 「作る⇒観察⇒疑う⇒判断⇒説明する」に加え、「制限下で続ける⇒応急復旧する⇒学習して備える」を体験する FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 12 / 16

スタジオ型科⽬としての実装 構築 提⽰ 批評 改善 （反復）→ 構築へ戻る ※ Schön の省察的実践／studio-based learning [9–11] を⾼度AI時代のターゲットシステム教育へ接続 • 1つのターゲットシステムを継続的に育てる︓Web基盤 → 認証・ログ・API連携・監視 → AI部品（検索・要約・異常検知・コード レビュー）＋監査ログ • AIを接続するたびに「新しい責任」が発⽣することを体験する̶̶AIは便利な外部ツールではなく、信頼性を左右する構成要素 • 成果物はコードに限らない︓業務影響分析・縮退運⽤案・応急復旧計画・判断ログ・関係者向け説明⽂ • 批評の対象︓技術的正しさ ＋ 制限下の判断の妥当性 ＋ 説明が関係者に通じるか ＋ 次回への改善可能性 FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 13 / 16

段階的実証計画（表2）と評価観点 0〜1年 1〜2年 演習シナリオ・ルーブリック・教材の設計 既存授業への試⾏導⼊と予備評価 2〜3年 産学連携演習への拡張と組織運⽤評価 3年〜 複数学部・社会⼈教育への展開と追跡評価 評価観点（知識テストだけにしない） • AI出⼒の検証計画の質・反証可能性の明⽰ • 対象システム理解の正確さ・判断レイテンシ • 説明⽂の読み⼿適合性・振り返りの深さ • AIへの「過信」と「過剰な拒否」の両⽅を観察 • 証跡︓判断ログ・プロンプト履歴・振り返り記述（プラ イバシー・⼼理的安全性に配慮） この全国⼤会（FIT）での議論を、「段階0」の起点にしたい FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 14 / 16

考察︓AIを「要素技術」として置く3つの意義 1 限界を具体で学べる AIの誤りを抽象論でなく、具体的なシステム の不具合として理解する。誤った設計案がど のAPI・権限・利⽤者⾏動・ログに影響するか を確認し、誤りが社会的影響へ変換される過 程を学ぶ 2 ⼆分法からの解放 AI利⽤を禁⽌／許可の⼆択にしない。組織に 必要なのは「使うか使わないか」ではなく、 どの部分に・どの権限で・どの監査のもとに 置くか 3 教育と組織運⽤の距離短縮 発⾒が⾼速化すると律速点は⼈間のトリアー ジ・修正・説明へ [5]。この律速点を担う⼈材 は、講義でAIの概念を学ぶだけでは育ちにく い 教育を暗いリスク管理の場にするのではない̶̶安全に失敗し、振り返り、改善する機会を増やす「明るい学習基盤」に FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 15 / 16

まとめ 1 フロンティアAIが発⾒を⾼速化するほど、律速点は「発⾒」から「判断と説明」、さらに制限下の事業継続判断へ移る 2 育てるべきは、AI出⼒を「検証すべき仮説」として扱い、事業継続判断へ変換できる⼈材（五要素︓システム理解・AI統合設 計・証拠評価・事業継続判断・越境協働） 3 AIを後付けにせず、ターゲットシステムに埋め込む体験型⾼等教育へ̶̶事業継続体験型演習 × スタジオ型科⽬、段階的に実 証 明るい未来はフロンティアAIが⾃動的にもたらすのではない。 AIが存在するシステムを⼈間が責任を持って動かし、失敗から学び続ける教育の設計によって実現される。 謝辞︓科研費基盤（C）26159106 ／ ⽇⽴システムズ ／ 福岡未踏的⼈材発掘・育成プロジェクトPMメンバー ／ サイバーセキュリティ「協働研究会」 FIT2026 選奨セッション CN-006 ⼩出 洋（九州⼤学） 16 / 16