FIT2026_イベント企画講演4_10分スライド

FIT2026 イベント企画 福岡未踏的人材発掘・育成の現在地 ― 経済産業省「AKATSUKIプロジェクト」 ― 講演（4） エージェントAI時代の セキュリティと未踏人材 小出 洋（九州大学情報基盤研究開発センター 教授） IPA未踏スーパークリエータ（2006） ／ 福岡未踏PM（2023–） ／ 福岡県警・佐賀県警サイバー犯罪対策テクニカルアドバイザ ／ JNSA SECCON実行委員 2026年9月4日（金）10:15–10:30 課題発見力 第1イベント会場 実装力 越境的な発想

エージェントAI時代：セキュリティの構図が変わった 攻撃側もAI AIを悪用した攻撃——自動化・大規模化、ソ ーシャルエンジニアリングの高度化。攻撃の 「量」と「速さ」が変わる 防御側もAI 監視・分析・判断支援の要素技術としてAIを 活用。ただし、その出力は誤り得る「不確実 な入力」でもある 発見の高速化 Anthropic Project Glasswing：フロンティ アAIがOSS脆弱性を大量発見。Cloudflare： 仮説を試行し「実行可能な証明」へ 従来の「防御中心」の発想だけでは不十分——倫理・リスク管理まで含む新たな対策と、それを担う人材が要る FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 2 / 10

律速点は「発見」から「判断と説明」へ移る フロンティアAI 候補を大量に提示（高速） 真偽の検証 人間の判断・説明 ＝ ここが律速点 大量の不確実な候補 真偽・影響は未確定 到達可能性評価 緩和策・パッチ設計 公開範囲の判断 利用者への説明 さらに組織では：攻撃や障害は「事業継続上の引金事象」。どの業務を継続・停止し、どの代替手段で最低限を維持するか——制限下での事業継 続・応急復旧・対外説明を統合する判断が迫られる AIの性能向上は防御を「楽」にするのではなく、『発見後の判断と説明』を重くする FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 3 / 10

必要な人材像：不確実性対応型AIシステム人材 AI出力を「答え」ではなく「検証すべき仮説」として扱い、システムと組織の文脈へ変換する システム理解 AI統合設計 証拠評価 事業継続判断 越境協働 構造・データ・依存関係・業 務フロー 後付けでなく要素技術として 組み込む 再現性・到達可能性・業務影 響を検証 不完全情報下で停止・継続・ 縮退を判断 部門・経営・法務・利用者の 間を翻訳 ※ 詳細は 9/2（水）選奨セッション CN-006「フロンティアAI時代における不確実性対応型AIシステム人材の予備的検討」で発表（予稿参照） では、この人材はどこで育つのか？ —— 実は、未踏がずっと育ててきた FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 4 / 10

未踏人材の3つの力は、この課題への「原型」を備えている AIが出す大量の候補から「本当の問題」を切り出し、仮説を立てる 課題発見力 誰も定義していない問題を、自分の問いとして立てる 力 → 証拠評価 ・ システム理解 AI出力を対象システム上で再現・検証する——鵜呑みにしない文化 実装力 動くものを作り、手を動かして確かめる力 → AI統合設計 ・ 証拠評価 技術・業務・経営・法務の間を「翻訳」し、説明と合意形成を担う 越境的な発想 分野・組織・立場を跨いで考える力 → 越境協働 ・ 事業継続判断 未踏人材は、AI時代のセキュリティを含むさまざまな課題に対応する可能性を最初から備えている FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 5 / 10

福岡未踏の現場から——PM・修了生としての実感 「作って確かめる」文化 AI出力を鵜呑みにせず、動かして確かめる。未踏的開発の日常が、証 拠評価の訓練そのもの さまざまな実践の場と接続できる SECCON等のコンテスト、ハードウェア自作ワークショップ——攻撃 者視点を安全な環境で体験する機会が地元にある 専門コースの外からも育つ 自由課題の開発過程で、認証・ログ・権限・AI部品の責任に必ず突き 当たる——そこで拾い上げて伴走する 修了生（2006）としての実感 未踏的育成は、正解のない問いに向き合い、作り、説明する訓練だっ た——不確実性対応の原体験・さまざまな経験を得た場 個別事業の数字と事例は、本企画の他講演・パネルで——ここでは「育ち方の型」を持ち帰ってほしい FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 6 / 10

高等教育への示唆：AIを後付けにしない体験型へ（スタジオ型教育） 原則1 ターゲットシステムを先に置く 原則2 AI出力を仮説として扱う 原則3 不確実性を意図的に設計する 原則4 証跡を学習成果物に含める 中心に置く演習：事業継続体験型演習 侵害を見つける やられても重要業務を継続する AIは原因仮説・影響範囲・復旧案・説明文案を出す演習相手—— ただし検証すべき仮説として 未踏で見えた育て方（体験 ⇒ 批評 ⇒ 妥当な評価）を、少数精鋭から多数の学生へ届くカリキュラム設計原則に還元する FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 7 / 10

まとめ 1 エージェントAI時代、セキュリティの律速点は「発見」から「人間の判断と説明」、さらに制限下の事業継続判断へ——防御 中心の発想だけでは不十分 2 必要なのは、AI出力を「検証すべき仮説」として扱い、事業継続判断へ変換できる人材。未踏人材の課題発見力・実装力・越 境的な発想は、その原型 3 未踏的育成モデル（体験 ⇒ 批評 ⇒ 妥当な評価）を、体験型高等教育の設計原則へ還元する——地域から継続的に人材を生み 出す循環へ AI時代の明るい未来は、AIが自動的にもたらすのではない。 不確実な問いに向き合う人を発掘し、育て続ける仕組みによって実現される。 FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 8 / 10

パネル討論（10:50–）への論点提供 「地方における未踏人材の発掘育成について」に向けて、3つの問いを置いて講演を終えます セキュリティ人材は「セキュリティ教育」からしか育たないか？ 論点1 自由課題の開発過程で認証・権限・AIの責任に突き当たったとき、そこで拾い上げて育てる道——専門コースの外にある入口 AIが実装を高速化する時代、未踏で評価すべき力はどこへ移るか？ 論点2 「作れること」の希少性が下がるなら、課題発見・検証・説明の比重をどう上げるか——採択・伴走・評価の設計 「地方だからこそ」できるセキュリティ人材育成は何か？ 論点3 県警・地元企業・大学の距離の近さ、SECCON等の実践の場——地域資源を体験型育成へどう組み込むか ご清聴ありがとうございました——続きはパネルで FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 9 / 10

（補足）基本アイデア：状況付与から抗堪性へ 高度AI ・ サイバー攻撃 不確実な状況付与 脆弱性候補 ／ 障害 ／ 侵害疑い ／ 復旧要求 事業継続体験型演習 対策本部 ・ 業務影響 ・ 縮退運用 ・ 応急復旧 不確実性対応型AIシステム人材 AI出力を事業継続判断へ変換する 組織の抗堪性 やられても重要業務を継続する力 FIT2026 イベント企画「福岡未踏的人材発掘・育成の現在地」講演（4） 小出 洋（九州大学） 10 / 10