KPSEC講演45min

⽣成AIの先へ︓AIエージェント時代の サイバーセキュリティ戦略 ⼩出 洋 九州⼤学情報基盤研究開発センター・教授 令和8年5⽉25⽇（⽉） BLOOM ⿅児島市呉服町6-5マルヤガーデンズ8階

⼩出 洋（こいで ひろし，Hiroshi Koide） 経歴 電気通信⼤学⼤学院博⼠後期課程修了 ↓ ⽇本原⼦⼒研究所計算科学技術推進センター ↓ ← 2001 九州⼯業⼤学⼯学部（⼾畑） ← 2003 ↓ 九州⼯業⼤学情報⼯学部（飯塚） ↓ ← 2017 九州⼤学 情報基盤研究開発センター サイバーセキュリティセンター（2017.4〜） システム情報科学府（2017.6〜） 社会貢献 (Social Contribution) ☆ SECCON実⾏委員, SECCON executive committee ☆ IPA セキュリティ・キャンプ in 本体(2024）＆福岡 ☆ 福岡未踏 - 雷 理事 得意分野 (My Interests) JavaOne2009 SunSPOT BOFにて Twitter @hirosk Facebook Hiroshi Koide YouTube @koide55 ☆ プログラミング, Programming ☆ サイバーセキュリティ, Cyber Security （Moving Target Defense, 脅威トレース(Simulation System of Malware and Information Systems)…) Awards ☆ IPA スーパークリエータ, IPA MITOH Super Creator ☆ JavaOne 2005 Dukeʼs Choice Award ☆ Sun Microsystems Center of Excellence 2

Overview of Hiroshi Koide 研究内容 Moving Target Defense • サイバーセキュリティ • 情報システム • IoT • サイバー攻撃 年別の 研究成果 査読付き 論⽂数 サイバーセキュリティに関 福岡県警サイバー犯罪対策 する総務⼤⾂奨励賞受賞 テクニカルアドバイザ 2026.3.26 2014.10.28 〜 Twitter @hirosk Dukeʼs Choice Award Facebook Hiroshi Koide 2005.6.28 YouTube @koide55 被引⽤数 SECCON実⾏委員 2012.3 〜 IPA未踏ソフトウェア創造事業 スーパークリエータ認定 2006.10.24 3

Twitter https://twitter.com/hirosk Facebook https://www.facebook.com/hiroshi.koide.3 YouTube https://www.youtube.com/@koide55 E-Mail [email protected] Sora https://sora.chatgpt.com/profile/koide55 YouTube スライドは こちら 4

• https://www.youtube.com/@koide55

今⽇の問い • AIは便利だ • 守る側が判断に使える時間は増える のか︖減るのか︖ 分析︓ • 開発は速くなる • 調べごとも速くなる • 攻撃も速くなる • 判断のために使える時間は短くなる

今⽇の結論 • AI時代のセキュリティは「作業」ではなく 「判断設計」の問題になる • AIは作業を⾼速化・⾃動化する • 脆弱性発⾒も⾼速化する • ⼈間には判断と責任が残る

いま企業で起きていること ようやく⽣成AIを使い始めた段階︖ • コード⽣成 • 仕様書・⽂書作成 • 調査・要約 • 社内業務の効率化・⾃動化 多くの企業では、まだ「使わないとまずい」 という段階︖

攻撃側・研究側・GAFAMは先に進んでいる AIは「便利ツール」から「探索・解析エンジン」へ • コードを書く • コードを読む • バグを探す • 攻撃経路を探索する • 修正候補をみつける

事例︓Copy Failとは︖ CVE-2026-31431/Linuxカーネルのロ ーカル権限昇格 • Linuxカーネルの脆弱性 • ⼀般ユーザからroot権限取得の可能性 • ネットワーク越しの直接攻撃ではない • PoC公開済み • コンテナ・共有環境では特に注意 732 bytes PoC

Copy Failの重要性 ポイントは「AIがコードを書いた」ことではない • 既存の巨⼤ソフトウェアに潜む脆弱性 • Linuxカーネルは約4000万⾏ • ⼈間が⻑く⾒落としてきた可能性 • AI⽀援解析により発⾒が⾼速化 • 脆弱性発⾒の時間軸が変わる The Verge等では、TheoriのAI⽀援ツールがLinux crypto subsystemを解析し、 約1時間で関連する弱点を⾒つけたと報じられています。

Copy Failが⽰す未来 AIが脆弱性発⾒を⺠主化・⾼速化する • 熟練者だけの領域ではなくなる • 解析対象が広がる • 未発⾒脆弱性が⼀気に表⾯化する • 攻撃側も防御側も同じ技術を使う

Copy Failから事業継続へ ⾒つかる前提なら、備え⽅を変える必要がある AIが短くする３つの時間 • 脆弱性がみつかるまでの時間 • PoCが公開されてから悪⽤されるまでの時間 • 組織が判断に使える時間 従来︓ 発⾒→公表→調査→判断→対応 AI時代︓ 発⾒・解析・PoC化が⾼速化 ↓ 判断猶予が短くなる ↓ 事前の判断設計が必要 避難訓練のイメージ

重要な発想の転換 「やられない前提」から「やられても事業を 崩さない」へ • 完全防御だけを前提にしない • 攻撃される前提で考える • やられても被害を最⼩化することが重要 • 事業継続そのものが本質

事業継続体験型机上演習とは︖ サイバー攻撃対応は「技術」ではなく「判断」 • シナリオ・ロールプレイベースで体験 • 情報は不完全 • ⽌める/続けるの判断の訓練 • 必要に応じて、関係機関・警察・顧客・個⼈ 情報保護委員会・報道機関への対応 • 優先順位決定の判断 技術ではなく「意思決定」の訓練 事業継続体験型机上演習の例

ミニ演習（会場参加） この場にいる皆さんがシステム開発と運⽤の責任者だとします。前提はつぎの通り • ⾃社システムは複数の顧客企業で利⽤されている • ⾃社システムはインターネット経由で利⽤されるWebシステム • ⾦曜17時に利⽤フレームワークに重⼤な脆弱性が公表された • PoCは公開済 • ⾃社システムでそのフレームワークを使っていることは確認済 • ただし、実際に脆弱な機能を使っているかは未確認 • 現時点で攻撃の痕跡は確認できていない • 週明け⽉曜⽇午前中に⼤⼝顧客向けの機能リリース予定 判断してください A:リリース延期を即決し、週末に緊急対応する B:監視を強化し、⽉曜リリースは予定どおり実施する C:リリース判断を保留し、影響調査と顧客への暫定情報共有を先に⾏う

なぜ判断が難しいのか︖ 情報が不完全だから • 影響範囲が不明、攻撃の有無⾃体が不明、 • 顧客・サプライチェーンの影響が不明、事業継続への影響が不明 事前準備や訓練ができていない 不完全な情報でも、確認する順番を決めておく 判断材料︓ 1. 露出︓インターネットから到達可能か 2. 利⽤︓脆弱な機能・ライブラリを実際に使っているのか 3. 影響︓顧客・業務・データに影響するか 4. 代替策︓停⽌以外の緩和策があるか 5. 責任者︓誰が最終判断するのか 情報は完全には揃わない。 だから、確認する順番を事前に決めておく。

ここまでのまとめ AIで変わったのは「時間」と「不確実性」 •発⾒が速い •攻撃も速い •判断に使える時間は短い •情報は不完全

AIの種類・全体像 いろいろなAIがあるみたい。何が違うのか • ANI（従来のAI; Artificial Narrow Intelligence） • 特定⽤途（例︓画像認識︔⾃動運転︔囲碁など） • できることが限定 • ⽣成AI（Generative AI） • ⽂章・コード・画像を⽣成 • ChatGPT/Copilot「答えを⽣成」 • マルチモーダルAI • テキスト＋画像＋⾳声など統合 • 理解の幅が広がっている。⼊⼒・出⼒が複数 • Gemini/GPT-4以降 • AGI（Artificial General Intelligence） • ⼈間のように幅広い知的タスクに対応することを⽬指す概念 • 現時点では⼀般に未実現と考えられている ここまでは道具としての意味合いが強い

AIエージェントとは何か AIが「動く存在」になる • ⽬的を与えると⾃律的に動く • 情報収集→判断候補の提⽰→⼈の承認→実⾏ • 複数ツールを連携 • 継続的にタスクを処理 例︓ • 脆弱性情報を収集 • 影響範囲を分析 • 修正案を⽣成 • チケットを起票 違い • ⽣成AI→答えを⽣成 • エージェント→⽬的に向けて仕事を進める

本質的変化 作業はAI、判断は⼈ •開発 → AI •解析 → AI •監視 → AI •判断 → ⼈ •責任 → ⼈

さらに重要なこととして 判断も設計する時代に • 招集条件︓誰が、いつ、対策本部を⽴ち上げるか • 停⽌条件︓どの条件でサービス・リリースを⽌めるか • 公表条件︓誰に、いつ、どこまで説明するか • 優先順位︓顧客・事業・法令・復旧の何を優先するか • 判断責任︓最終判断者を事前に決めておく 判断をその場で作る組織は、AI時代の速度に追いつけない

AIエージェント時代 AIが業務を担い始めている •調査 例︓ • 問い合わせの⼀次分類 •分析 • 脆弱性情報の収集 •判断⽀援 • チケット起票 •⾃動応答 • 監視アラートの要約 • 影響範囲の初期分析 • 修正案の作成

⼈の役割 作業者から判断設計者に •AI結果の評価 •意思決定 •組織調整 •責任

企業・組織がやるべき3点セット 1. ⾒える化 何を持ち、何に依存し、どこが外部に露出しているかを把握する 2. 境界設計 AIに何を⾒せ、何を任せ、どこで⼈が承認するかを決める 3. 判断訓練 不完全な情報の中で、⽌める・続ける・説明する判断を訓 練する AI時代のセキュリティ対策は、技術導⼊ではなく 「運⽤と判断の設計」

企業・組織がやるべき3点セット（1/3） 資産・情報・依存関係の⾒える化 判断できる材料を持つ 資産︓サーバ、クラウド、コンテナ、SaaS 依存関係︓OSS、フレームワーク、API、委託先 露出︓外部公開、認証要否、顧客影響 設計︓データフロー、権限、重要アセット ⼿段︓資産台帳、SBOM、脅威モデリング 守れるもの、判断できるものは、⾒えているものだけ

企業・組織がやるべき3点セット（2/3） AIを安全に使うための線引き ⼊⼒制限︓AIに⾒せてよい情報を分ける 権限制限︓AIが読める/書ける/実⾏できる範囲を決める 承認点︓本番変更、外部送信、顧客連絡は⼈が承認 検証︓コードレビュー、セキュリティチェック 記録︓利⽤ログ、判断ログ AIエージェントのリスクは「賢さ」より「権限」にある

企業・組織がやるべき3点セット（3/3） 判断訓練︓脆弱性に対応できる⼒をつける 影響評価︓⾃社でつかっているか、到達可能か パッチ判断︓すぐ適⽤するか、延期するか、代替策を使う か 事業判断︓⽌めるか、続けるか、リリースを延期するか 説明責任︓顧客、⾏政、警察、関係機関への説明 訓練︓机上演習で⼿順と責任者の役割を確認しておく 本番ではじめて「判断」するのではなく、事前に体験して おく

地域全体で3点セットを⽀える ⼀社・⼀組織では限界 ⾒える化を⽀える︓ 脆弱性情報・インシデント情報・相談先の共有 境界設計を⽀える︓ AI利⽤ルールの雛形、事例共有、専⾨家相談 判断訓練を⽀える︓ 共同演習、⼈材育成、産学官連携 顔の⾒える関係をつくる︓ 有事に連絡できる地域コミュニティを育成しておく 地域のセキュリティは、平時の関係性で決まる

持ち帰りポイントと最後のメッセージ 前提︓AIは時間を短くする • 脆弱性発⾒は加速する • 攻撃準備も加速する • 判断に使える時間は短くなる だから、企業・組織は3点セットで備える 1. ⾒える化 2. 境界設計 3. 判断訓練 AI時代は楽になる時代ではない ⾒えないリスクを⾼速に扱う時代になる だからこそ、⼀社で抱え込まず、地域で情報共有し、演習し、⼈材を育てることが重要になる