ゼロトラスト時代のセキュア開発環境について
6.7K Views
August 30, 24
スライド概要
ゼロトラスト時代において、最近台頭しつつある生成AIを活用したセキュアな開発環境の構築が求められています。本講演では、生成AIを用いたセキュリティ対策の最新動向と、実際の開発環境での適用例を紹介します。
関連スライド
各ページのテキスト
ゼロトラスト時代の セキュア開発環境について 株式会社エネコム 情報システム事業本部 ITインテグレーション部 濱本 常義
自己紹介 株式会社エネコム 情報システム事業本部 ITインテグレーション部 マネージャー 濱本常義 同社２９年勤務、５年間は研究開発部門に所属、社内LAN構築、社内ネットワークポリシー策定、CATVインターネット実験参加、 社内セキュリティ監査業務に携わる。２０００年より、セキュリティ監査（ペネトレーションテスト含む）およびセキュリティコンサル ティングなどの業務に従事、現在は上記に加えて標的型メール訓練、ログ監視、CSIRT運用業務に携わる 情報セキュリティポリシー策定、ポリシー教育実績 大手公共企業、大手メーカ、情報システムサービス会社、自治体 LASDEC 高度情報セキュリティ研修講師（2004年広島県、山口県、2005年愛媛県、2006年広島県、2007年広島、高松、鳥取） 経済産業省 学生22歳以下向けイベント、セキュリティキャンプ関係講師（2003～2024） 情報処理安全確保支援士向け講習会 講師（2017年～ 広島、博多、高松を主に担当） マイクロソフトから多数の人に影響をあたえられる個人に与える賞 MVP(Most Valuable Professional)をWindows-Securityの分野 で12回受賞(2003～2014) Proprietary and Confidentiaｌ 2
広島開催の勉強会「セキュリティもみじ」主催 セキュリティもみじ 広島のオフラインを中心にした勉強会を開催 ・脅威モデリングワークショップ ・インシデントレポート読み合わせ会 ・セキュリティ診断ハンズオン ・ Pythonで情報セキュリティの自動化をしてみよう等 セキュリティもみじhttps://secmomiji.connpass.com/ Proprietary and Confidentiaｌ 3
私たちの業務の俯瞰図 CSIRT インシデント対応支援 インターネット上の脅威 ログ監視 ログ分析 外部組織 やられとるで 経営層への 報告 情報提供 感 染 侵 入 社内調整 情報システム部門 社内ネットワーク セキュリティ製品＆ マネージドサービス SOC/CSIRT 運用支援 アラート監視 現状分析 影響調査 対策立案 対応支援 復旧支援 支援 通知 （メール） 監視 インシデント 対応 CSIRT(エネコム) ・CSIRTのセキュリティ部隊がセキュリティ製品の アラート通知を受け、初動対応から対策実施まで リアルタイムに支援 ・被害を受けた顧客の担当者は、経営層への報告 など重要事項に注力 Proprietary and Confidentiaｌ 4
自チームの特徴 残業なしで 平日９時-17時で帰れるCSIRT 楽しいメンバー Proprietary and Confidentiaｌ 5
生成AIを取り巻く最新動向 Proprietary and Confidentiaｌ 6
世は生成AI、大戦国時代！ https://ai-market.jp/whitepaper/ai_caosmap2023/ Proprietary and Confidentiaｌ 7
世界の生成AI市場規模 2032年に1兆3000億ドル突破…情報通信白書 総務省が7月5日公表した「令和6年版情報通信白書」によると、世界の生成AI市場は 2023年が670億ドル規模で、2032年には1兆3000億ドルを突破すると予測 https://www.tsuhannews.jp/shopblogs/detail/73495 Proprietary and Confidentiaｌ 8
生成AIの利用は大企業と中堅・中小企業で差、生成AIの教育状況は4倍もの開き • • • • 大企業では、課長職以上の41.1%が「日常的（週数回以上）」に生成AIを利用しており、中 堅・中小企業の課長職から経営者の19.8%と比較すると約2倍の差がある 生成AIの利用による成果を実感している割合も大企業では22.8%であり、中堅・中小企業 の10.9%と比較すると約2倍の差がある 「使用方法のノウハウが不足している」との回答が大企業の43.1%、中堅・中小企業の 38.6%と、両者において上位の課題 大企業では28.7%が「すでに生成AIに係る教育を実施している」と回答しましたが、中堅・中 小企業ではわずか6.6%にとどまり、約4倍の差がある https://dxmagazine.jp/news/ssai53cslt/ Proprietary and Confidentiaｌ 9
AIの能力や研究状況などをまとめたスタンフォード大学のAI Index Report 「AIは人間より高性能だが一部のテストでは人間の方が優秀」「高性能AIの学習コストは数百億円」などをまとめたスタンフォード 大学のレポート「AI Index Report 2024」が公開される 01：AIは複数の課題で人間に勝るが、すべての課題で勝るわけではない 02：最先端AIの開発では学術機関よりも企業がリードしている 03：AIの学習コストが非常に大きくなっている 04：特筆すべきAIモデルの多くはアメリカ発で、中国が続く 05：AIの安全性に関する標準化された評価基準が欠如している 06：生成AIへの投資が急増している 07：AIは労働者の生産性を高める 08：AIによって科学の進歩が促進されている 09：アメリカにおいてAIの規制が急増している 10：世界中の人々がAIの影響を意識している https://gigazine.net/news/20240416-ai-index-report-2024/ Proprietary and Confidentiaｌ 10
- https://gigazine.net/news/20240416-ai-index-report-2024/#01
- https://gigazine.net/news/20240416-ai-index-report-2024/#02
- https://gigazine.net/news/20240416-ai-index-report-2024/#03
- https://gigazine.net/news/20240416-ai-index-report-2024/#04
- https://gigazine.net/news/20240416-ai-index-report-2024/#05
- https://gigazine.net/news/20240416-ai-index-report-2024/#06
- https://gigazine.net/news/20240416-ai-index-report-2024/#07
- https://gigazine.net/news/20240416-ai-index-report-2024/#08
- https://gigazine.net/news/20240416-ai-index-report-2024/#09
- https://gigazine.net/news/20240416-ai-index-report-2024/#10
- https://gigazine.net/news/20240416-ai-index-report-2024/
代表的な生成AIをオーバービュー OpenAI ChatGPT Anthropic Claude Google Gemini Perplexity PerplexityAI 有償プラン Plus 20$/月 Team 25$/月 Pro 20$/月 Gemini Advanced 2900円/月 Pro 20$/月 言語モデル GPT-4, GPT-4o, GPT-4o mini, GPT3.5 Turbo Claude 3.5 Sonnet, Claude 3 Opus, Claude 3 Haiku Gemini Ultra, Gemini Pro, Gemini Nano GPT-4o、Claude 3 Opus、Claude 3.5 Sonnet、独自モデル 無料プラン 画像生成不可 GPTs作成不可 （利用は可） GPT-4o利用制限 言語モデル制限 言語モデル制限 メッセージ数制限 スピードやや遅い 言語モデル制限 Pro機能回数制限 画像生成とファイル アップロード制限 コンテキストウィンド ウ 32,768トークン（32K モデル）、12.8万トー クン（GPT-4 Turbo） 20万トークン 12.8万〜100万 トークン 未公表 マルチモーダル テキスト、画像、音 声（音声はモバイル アプリのみ） テキスト、画像 テキスト、画像、 音声（音声はモバ イルアプリのみ） テキスト、画像 Proprietary and Confidentiaｌ 11
OpenAI ChatGPTの特徴 GPT-4 All Tools 他 GPT-4o 従来の16倍、64000トークンの出力が可能 メモリー機能（チャットをまたいで覚えておいて欲しい情報を、「メモリーして」と 言えば記憶してくれる）が実装 マルチモーダル機能の実装 テキスト生成 (ChatGPT): • • 質問への回答、文章の作成、アドバイスの提供など、多様なテキストベースのタスクを処理する。 会話形式での対話が可能であり、ユーザーの要求に応じた内容のカスタマイズが行える。 画像生成 (DALL·E): • • ユーザーからのテキスト記述に基づいて画像を生成する機能を持つ。 クリエイティブなビジュアル表現を可能にし、様々なスタイルやテーマの画像の作成ができる。 ブラウザ機能: • • インターネットを閲覧し、情報を検索する機能を備えている。 最新の情報や公開データにアクセスし、ユーザーの質問に基づいた詳細な情報を提供。 マ ル チ モ ー ダ ル な サ ー ビ ス が 提 供 コード実行 (Python): • • Pythonコードを実行する機能がある。（統合的な実行結果の確認などは別環境が必要） データ分析、計算問題の解決、グラフの作成などが可能である。 Proprietary and Confidentiaｌ 12
Anthropic Claude3.5の特徴 • ChatGPTのGPTs相当の「プロジェクト」機能が導入 • 各プロジェクトのコンテキストウィンドウは２００K(５００頁の 本相当） • Claude3.5 Sonet およびClaude 3 Haikuに「プロンプトキャッ シング機能」ベータ版導入 • 「プロンプトキャッシング機能」とはAPI呼び出し時のコンテ キストを一時的にキャッシングする機能。最大10倍のコス ト削減と、大幅な速度アップが期待される • 開発者向け機能「Artifact」は、リアルタイムの大型のコー ドウィンドウやライププレビュー機能でコードレビューを効 率化 claude.aiのアーティファクト機能でさくっとテトリス風 ゲームをつくる｜はまち (note.com) Proprietary and Confidentiaｌ 13
Google Geminiの特徴 • Google検索との連携によるリアルタイム情報連携 • Gmail、YoutubeやGoogle WorkspaceのGoogle各種サービスと親和性が高い • マルチモーダル機能による画像、音声、動画の理解 • 圧倒的なコストパフォーマンス（Gemini 1.5 Proが100万トークンで3.5ドル（約500円）からなのに対し、 Gemini 1.5 Flashは75セント約49円） • 以下100万トークン当たりのコスト比較 高機能生成AI GPT-4o Claude 3.5 sonnet 3$ 3$ 低価格生成AI Gemini 1.5 Pro GPT-4o-mini 3.5$ $0.15 Gemini 1.5 Flash $0.075 128Kまで https://cloud.google.com/vertexai/generative-ai/pricing?hl=ja https://ascii.jp/elem/000/004/214/4214587/ Proprietary and Confidentiaｌ 14
結局、生成AIの性能比較は？（LMSYS Chatbot Arena Leaderboard） 性能的にはTOP11以内を使えば、ほぼ実用上は問題がない https://chat.lmsys.org/?leaderboard Proprietary and Confidentiaｌ 15
結局、マルチモーダルな生成AIの性能比較は？（LMSYS Multimodal Arena） マルチモーダルな生成AIの機能ではGPT-4oがやはり一歩リード、それをClaude 3.5 Sonnetが猛追 低コストなGemini 1.5 Flashも何気にArena Scoreは1079と高い https://lmsys.org/blog/2024-06-27-multimodal/ Proprietary and Confidentiaｌ 16
結局、生成AIは何を使えばよいのか？ Proprietary and Confidentiaｌ 17
企業ユースの場合 • 基本は、その企業が許可した生成AIを活用すること • 社内の生成AIガイドラインに従った利用を順守すること • 迷ったら、Edgeで企業のEntra IDでログインしてCopilot in Edgeを利用する • 緑の盾マーク「商用データ保護」が有効になっているので、セキュリティも安心 • インターネット検索連携、画像生成も可能、必要十分な機能がある • Microsoft製品の使い方が分からなくなったら、該当のMicrosoft learnのURLを張 り付けて使い方を聞くのが強力。そのままパンくずリスト込みの手順書も作成可能 https://learn.microsoft.com/ja-jp/copilot/edge • Copilot製品はたくさんあるので注意が必要 • Microsoft Copilot（無料） • Microsoft Copilot in Windows（無料） • Microsoft Copilot Pro（個人向け、有料） • Copilot for Microsoft 365（法人向け、有料） • 他にもCopilot for Securityも Proprietary and Confidentiaｌ 18
シャドーAIがある程度許容されている場合 全部使ってみる（ChatHub） https://chathub.gg/ja Proprietary and Confidentiaｌ 19
シャドーAIがある程度許容されている場合 全部使ってみる（GMO 天秤.AI） https://tenbin.ai/ Proprietary and Confidentiaｌ 20
生成AIと検索エンジン Proprietary and Confidentiaｌ 21
生成AIと検索エンジンの使い分けの考え方 • 生成AIが向いている業務 • 検索エンジンが向いている業務 • 既存データの調査 • 事実とファクトチェック • 元データの参照 • 根拠資料の提示 • 文章生成 • アイデア出しの壁打ち • 論点の洗い出し、仮説検証 • 何かを生成する／何かの処理をする • データ処理 • プログラミング作成、テスト等 Perplexityはこっち 調査生成AI「Perplexity.ai」の使い方～ビジネスマンのリ サーチ業務を劇的に改善するAI時代の必須ツール パー プレキシティ (youtube.com) から Proprietary and Confidentiaｌ 22
Perplexity.aiの特徴 • 元OpenAIの研究者アラヴィンド・スリニヴァスが創業 • AI検索エンジンといわれているが、Perplexity.ai社は自分たちはアン サー（回答）エンジンと定義している • Google検索に対して、質問形式で最新のインターネット情報をもとに 精度の高い回答ができるのが特徴 • 検索対象に学術、数学、ビデオ、ソーシャル等を指定して検索可能 • ソフトバンクが1年間２９８０円（月額）の利用料を無料にするキャン ペーンを実施 • GPT-4oはもちろん、複数の言語モデル対応。画像生成など一部マ ルチモーダル対応 • ProSearch機能が秀逸 • 複雑な問題を小さな要素に分解して、小タスクに分けて解決する 「多段階推論」のプロセスによる質問回答 • 無料ユーザでも４時間で５回まで利用可能 調査生成AI「Perplexity.ai」の使い方～ビジネスマンのリ • 有料ユーザ（月20ドル）で１日６００回まで利用可能 サーチ業務を劇的に改善するAI時代の必須ツール パー プレキシティ (youtube.com) Proprietary and Confidentiaｌ 23
実はポテンシャルが非常に高いPerplexity.ai • ウォール・ストリート・ジャーナルが5種の ChatAI 「ChatGPT」「Copilot」「Gemini」「 Claude」「Perplexity」を対象に「日常会話へ の応答性能を人間が評価するテスト」を実施 し、テスト結果を公開 • 総合的な評価ではPerplexityが首位 • コーディングに関する質問では5種のチャット AIで大きな差は生じなかった • Copilotの性能が振るっていないのは、まだ GPT-4o未実装のため https://gigazine.net/news/20240528-ai-chatbot-ranking/ Proprietary and Confidentiaｌ 24
OpenAIが検索機能「SearchGPT」を試験展開 • OpenAI、AI検索エンジン「SearchGPT」のプロトタイプを発表 • Web からの最新情報を使用し、質問に迅速かつ直接的に回答 また関連するソースへの明確なリンクも提示される • ユーザーやメディアからのフィードバックを基に、将来的には ChatGPTに統合する予定 • 本プレスリリース後、Google親会社Alphabetの株価が約3%下落 • SearchGPTとMicrosoft Bingの違いは、SearchGPTがAI機能を搭載 したチャットボット、 Microsoft Bingは検索エンジンにAIを盛り込 んだツールであるということ https://openai.com/index/searchgpt-prototype/ Proprietary and Confidentiaｌ 25
対するGoogle検索生成AI「AI Overview」 • AI Overview、生成AIによる新しい検索体験としてこれまで試験提供されていた「SGE(Search Generative Experience)」の正 式公開版 • AI Overview(旧SGE)に追加された新機能 1.3つのモードを展開 2.無駄な概要生成の減少 3.複雑なクエリにも対応 4.プランの作成 5.整理した情報を提示 6.動画撮影での検索 7.Google Search Consoleのレポート対象 8.広告の掲載 • ただし、誤回答がひどい。「チーズがピザにくっつかない」と検索すると、「無毒の接着剤を1/8カップほどソースに加えると、チ ーズがピザくっつきやすくなる」。この、ピザに接着剤という回答はReddit（アメリカのQ&A掲示板サイト）に11年前に投稿され たジョーク。厳密にはハルシネーションではない点が深刻。 AIはユーモアを解するか（八田真行） - エキスパート - Yahoo!ニュース Proprietary and Confidentiaｌ 26
生成AIの負の側面 Proprietary and Confidentiaｌ 27
生成AI資料作成 ① GPT-4o編 Q:この１年間におきたAIを悪用した詐欺とその対策について教えてください A:AIを悪用した詐欺の例 •ディープフェイク詐欺: • • 内容: AI技術を使って生成した偽の映像や音声を利用し、著名人や役員の行動を偽装した詐欺が報告されている これにより、企業の意思決定を誤らせたり、金銭を不正に引き出したりするケースがある 対策: AIを活用したディープフェイク検出ソフトウェアの導入や、音声やビデオ通話の認証プロセスの強化 •チャットボットを使った詐欺: • • 内容: チャットボットが合法的なカスタマーサポートを装い、個人情報を窃取するケースがある 対策: 企業の公式なコミュニケーションチャネルを明確にし、不審な問い合わせがあった場合、直接企業に連絡して確 認する意識をユーザーに持たせる •フィッシング詐欺の高度化: • • 内容: AIを用いて非常にリアルなメールやメッセージを自動生成し、銀行情報やログイン情報を盗む手法が広まって いる。 対策: メールフィルタリングシステムの強化と、ユーザー教育を通じたフィッシングの手口に対する意識向上。 Proprietary and Confidentiaｌ 28
生成AI資料作成 ② Perplexity.ai編 【プロンプト】 AIを悪用した詐欺とその対策について教えてください 【回答】 音声クローンを使った詐欺 脅威： 内容は以下のタイトルに対して記載してください。 音声クローン技術を利用して、詐欺師が被害者の知人や家族の声を模倣し、緊急の資 内容には具体的事例を追記してください。 金援助を求める詐欺が発生しています。この技術は、被害者が信頼する人物の声をリア [書式] ルに再現できるため、詐欺の成功率が高まります[3]。 タイトル： 対策： 脅威： •電話での金銭要求には常に警戒し、直接本人に確認を取る。 対策； [タイトル] ・音声クローンを使った詐欺 ・パーソナライズされたフィッシングとスパム ・AI生成ディープフェイク有名人によるプレゼント詐欺 •音声認証システムを導入する。 •知人や家族と、合言葉などのセキュリティ対策を事前に設定する。 パーソナライズされたフィッシングとスパム 脅威： ・AI生成ディープフェイクによる詐欺・恐喝 AIを利用して、ターゲットの興味や関心に基づいたフィッシングメールが作成されます。こ れにより、メールがより信頼できるものに見え、被害者が騙されやすくなります[1][2]。 ・AI生成ディープフェイクによるテレビ会議詐欺 対策： ・AI生成のフェイクニュース •メール送信者の詳細を確認し、疑わしい場合はリンクをクリックしない。 ・AIを悪用したロマンス詐欺 •セキュリティソフトを最新の状態に保ち、フィッシングメールを検出する機能を活用する。 •組織内でフィッシング対策のトレーニングを実施する。 Proprietary and Confidentiaｌ 29
生成AI資料作成 ③ Perplexity.ai編 AI生成ディープフェイク有名人によるプレゼント詐欺 AI生成のフェイクニュース 脅威： 脅威： 有名人のディープフェイクを使って、偽のプレゼントキャンペーンを宣伝し、個人情報を収集す る詐欺が行われています。これにより、被害者は信頼して情報を提供してしまう可能性があり ます[5]。 AIを用いて大量のフェイクニュースが生成され、誤情報が拡散されるケースが増えています。これにより、 社会的混乱や誤解が生じる可能性があります[3]. 対策： 対策： •キャンペーンの公式性を確認し、公式サイトや信頼できる情報源で確認する。 •ニュースの信頼性を確認し、信頼できる情報源からのみ情報を得る。 •ソーシャルメディアでの不審なキャンペーンには参加しない。 •フェイクニュースの見分け方を学び、周囲にも教育する。 •個人情報を求めるキャンペーンには特に注意する。 •フェイクニュースの拡散を防ぐために、SNSでの情報共有を慎重に行う。 AI生成ディープフェイクによる詐欺・恐喝 AIを悪用したロマンス詐欺 脅威： ディープフェイク技術を利用して、偽の映像や音声を作成し、被害者を恐喝する手口が増え 脅威： ことがあります[4][5]。 AIを活用して、偽のプロフィールやチャットボットを利用し、被害者との関係を構築するロマンス詐欺が行わ れています。これにより、被害者は感情的に巻き込まれ、金銭を要求されることがあります[3]. 対策： 対策： •ディープフェイクの可能性を認識し、疑わしい場合は専門家に相談する。 •オンラインでの出会いには慎重になり、相手の身元を確認する。 •プライバシーを守るために、オンラインでの情報共有を制限する。 •金銭を要求された場合は、詐欺の可能性を疑う。 •法的措置を検討し、警察に相談する。 •家族や友人に相談し、第三者の意見を聞く。 ています。これにより、被害者は自身のプライバシーが侵害されたと信じ込み、金銭を支払う AI生成ディープフェイクによるテレビ会議詐欺 脅威： Citations: ディープフェイクを使った偽のテレビ会議が行われ、企業が詐欺に遭うケースがあります。例 [1] https://www.lac.co.jp/lacwatch/report/20240610_004021.html えば、偽の社内会議を設定し、経理担当者に不正な振込を指示する手口です[4]。 [2] https://infrontsecurity.net/blogs/column/phishing01 対策： [3] https://news.trendmicro.com/ja-jp/news-aiscam-worldwide/ •会議参加者の身元を確認し、疑わしい場合は直接確認する。 [4] https://ai-kenkyujo.com/news/ai-sagi/ •重要な指示は、複数の手段で確認する。 [5] https://safety.t- •テレビ会議システムにセキュリティ機能を追加する。 com.ne.jp/feature/ai%E3%82%92%E5%88%A9%E7%94%A8%E3%81%97%E3%81%9F%E6%B5%B7%E5%A4% 96%E3%81%AE%E8%A9%90%E6%AC%BA%E4%BA%8B%E4%BE%8B/ Proprietary and Confidentiaｌ 30
大学の先生による秀逸なChatGPT丸写し検出方法 大学の先生が課題を出す際にchatGPTの丸パクリかどうかチェックする方法を生み出す→「これはうまい」 「トロイの木馬かな？」 Proprietary and Confidentiaｌ 31
AI利用の負の側面①：企業の損失 「チャットボットの誤回答に責任はない」と弁解していたエア・カナダに 裁判所が損害賠償支払いを命令 https://gigazine.net/news/20240219-air-canada-chatbot-mistake/ • 事件の概要: エア・カナダのチャットボットが誤った情報を提供し、 ユーザーが差額払い戻しを受けられなかった。 • 訴訟の経緯: ユーザーはエア・カナダに対して払い戻しを求めたが 拒否され、法廷に訴えた。 • 裁判所の判断: 裁判所はエア・カナダに対し、チャットボットの誤情 報に基づく賠償金650.88ドルの支払いを命じた。 • 重要なコメント: 裁判所は、ウェブサイト上の情報の正確性につい てエア・カナダが責任を負うべきと判断。 Proprietary and Confidentiaｌ 32
AI利用の負の側面②：違法ロボコール業者に６００万ドルの罰金 • 事件概要: AIを用いてバイデン大統領の音声をクローンし、違法な ロボコールを行った犯人に対し、FCCが600万ドルの罰金を提案。 • 技術の進化とリスク: AI音声クローン技術は急速に進化し、少量の 音声サンプルから特定の人物の声を再現可能。エンターテイメント AIを用いて大統領の音 声をクローンし、違法な ロボコールを行った犯人 に対し、FCCが600万ド ルの罰金を受けた犯人 をイメージして画像を生 成してください やカスタマーサービスで有用だが、悪用のリスクも高い。 • 選挙妨害: 偽メッセージは有権者に投票を控えるよう呼びかけ、選 挙の公正さを脅かすもの。犯人は「政治コンサルタント」のスティー ブ・クレイマー。 • 規制と対応: FCCは迅速に対応し、600万ドルの罰金を提案。AI技術 の悪用に対する規制と監視の強化が求められる。 AIを悪用した違法なロボコールで600万ドルの罰金 | Reinforz Insight Proprietary and Confidentiaｌ 33
AI利用の負の側面②：著しい精度向上のディープフェイク問題 • 世界最大の広告代理店グループWPPのCEOを狙ったディープフェイク詐欺 • • • • ターゲット: WPPのCEOマーク・リード氏 手口: WhatsAppとMicrosoft Teamsを利用 リード氏の音声クローンとYouTube映像を使用 会議中にリード氏になりすまし、新規事業立ち上げを名目に金銭と個人情報を要求 • 香港でのディープフェイク詐欺事件 • 企業幹部の偽装による詐欺 • 偽の企業幹部がビデオ会議で指示 • 5つの口座に15件のトランザクション、計2億香港ドル（約41億円）を送金 • ボルチモア学校長に対するディープフェイク攻撃の概要 •ボルチモアの学校長が人種差別的・反ユダヤ主義的な発言をしたとされる音声記録が流布 •学校長は休職処分を受ける •後に、その音声記録が同僚による音声ディープフェイクだったことが判明 •ディープフェイクのパワーワード「偽物の本物」 ディープフェイクの「精度向上」がヤバすぎる、2027年には被害額6兆円超に ｜ビジネス+IT (sbbit.jp) Proprietary and Confidentiaｌ 34
（参考）資料作成支援プロンプト 例 https://www.perplexity.ai/ 1回目 KADOKAWAのDOWANGOのランサムウェア事件をタイムラインを整理してまとめてください 事案の原因となる重要なポイントや復旧状況のポイントは押さえてください。 書式は以下の通り 【書式】 日付：概要、２００文字程度、必要に応じて増量してください 2回目 KADOKAWAのDOWANGOのランサムウェア事件をタイムラインを整理してまとめてください 主要なニュースはすべて網羅してください。特に６月と７月のタイムラインを充実させてください。特に８月の最新の タイムラインも充実させてください 事案の原因となる重要なポイントや復旧状況のポイントは押さえてください。支払った身代金も記載してください 書式は以下の通り 【書式】 日付：概要、２００文字程度、必要に応じて増量してください Proprietary and Confidentiaｌ
（参考）カドカワ事案タイムライン ① 2024年6月8日：KADOKAWAグループの複数のウェブサイトとサービス（ニコニコ動画、KADOKAWAオフィシャルサイ ト、出版事業の製造・物流機能など）がシステム障害を起こし、利用できない状態に。ランサムウェアを含むサイバー 攻撃と確認され、対策本部を立ち上げ、サーバー間の通信を切断し、サーバーをシャットダウン。 2024年6月9日：KADOKAWAグループが外部からの不正アクセスによるシステム障害を発表。ドワンゴは歌舞伎座オ フィスを閉鎖。 2024年6月14日：KADOKAWAおよびドワンゴがランサムウェアを 含む大規模なサイバー攻撃が原因であると正式に発表。経緯や影響 範囲を詳細に説明し、役員による謝罪・解説動画を公開。 2024年6月22日：NewsPicksがKADOKAWAグループと犯人との間 で交わされたメールの内容を報道。４億７千万円を支払ったと報道。 KADOKAWAはサイバー攻撃を助長させかねない報道に対して強く 抗議し、法的措置を検討。 2024年6月27日：KADOKAWAが経理機能の立て直しと出版事業の 正常化を最優先に取り組んでいることを発表。 ニコニコ関連サービスの一部再開も発表。 自粛 https://x.com/reo_scrdev/status/1806408548370493740 Proprietary and Confidentiaｌ
（参考）カドカワ事案タイムライン ② 2024年7月1日：サイバー攻撃犯人側が設定したデッドラインを迎え、内部文書の流出が確認される。 2024年7月2日：KADOKAWAが攻撃者組織が公開した個人情報へのアクセスや拡散を控えるよう呼びかけ。情報漏 洩の対象となった人々にフィッシングメールやスパムメールへの警戒を促す。 2024年7月3日：KADOKAWAがN高の生徒、卒業生、保護者の個人情報が漏洩している可能性が高いことを確認。 また、クリエイター、取引先、元従業員の一部の情報も漏洩の可能性があると報告。個別にお詫びとお知らせを送 付し、専用の問い合わせ窓口を設置。 2024年7月10日：ドワンゴと角川ドワンゴ学園が経過報告と漏洩情報の拡散行為への警告を発表。漏洩情報には、 角川ドワンゴ学園の運営する学校の在校生、卒業生、保護者の一部の個人情報、ドワンゴの社内外の一部個人情 報や契約書情報などが含まれていたことを明らかに。 2024年7月12日：ニコニコ動画の復旧状況について報告。復旧に必要な動画・コメントデータの無事を確認。 Proprietary and Confidentiaｌ
（参考）カドカワ事案タイムライン ③ 2024年8月5日：KADOKAWAは、ニコニコサービスの再開を発表し、新バージョン「帰ってきたニコニコ」をリリースしま した。これにより、ユーザーは再びサービスを利用できるようになった。 2024年8月7日：ニコニコ生放送のサービス再開状況が発表され、徐々に通常の運営に戻りつつあることが報告され た。 2024年8月12日：KADOKAWAは、ランサムウェア攻撃による業績への影響を発表し、2025年3月期連結業績におい て36億円の特別損失を計上することを明らかになった。 2024年8月14日：特別損失の詳細が発表され、サイバー攻撃によるシステム障害の影響や、データ復旧にかかる費 用、さらにはサービス停止による売上減少が含まれていることが明らかになった。これにより、企業は攻撃による金 銭的損失の規模を明確にした Proprietary and Confidentiaｌ
事案の原因と復旧状況のポイント 原因： •標的型攻撃メールにより、従業員のアカウントを盗んだ後、ADサーバを通じて、侵入後の横展開があった。 •ドワンゴの専用ファイルサーバーが主な攻撃対象となり、ランサムウェアを含む大規模なサイバー攻撃が発生。 •KADOKAWAの作家、クリエイター、顧客情報管理システムへの侵害の痕跡は確認されていない。 復旧状況： •KADOKAWAグループの事業活動が一定程度影響を受けているが、犯罪行為に屈することなく対応を続けている。 •経理機能の立て直しと出版事業の正常化を最優先に取り組み、情報セキュリティシステムのさらなる強化に 取り組んでいる。 •ニコニコ関連サービスの一部再開や、漏洩した情報の確認と対応を進めている。 •漏洩した情報は8/21日現在、いまだ公開状態にあり、ハッカーグループの挑発が続いている。 支払った身代金： •現時点でKADOKAWAが身代金を支払ったという情報は確認されていない。会社は犯罪行為に屈することなく対応 を続けている。 Proprietary and Confidentiaｌ
本当に詳しいまとめを見たい人はpiyokangoさんのblogを見よう！ KADOKAWAグループへのサイバー攻撃や悪質な情報拡散についてまとめてみた Edge Copilotによるページ要約 ランサムウェア攻撃: 2024年6月8日未明から、 KADOKAWAやニコニコ動画などの複数のWeb サイトがランサムウェア攻撃を受け、ニコニコ動 画の復旧には約2か月を要しました。 情報流出: 攻撃により、住所情報などが流出し、 SNSで拡散されるなどの被害が確認されました。 影響: KADOKAWAの既刊本の出荷が3分の1に 減少し、書店への本の供給にも支障が出ました。 対応: KADOKAWAは法的措置を取るとともに、 復旧・補償に特損36億円を計上しました。 https://piyolog.hatenadiary.jp/entry/2024/08/19/074417 Proprietary and Confidentiaｌ
生成AIを取り巻く概況 Proprietary and Confidentiaｌ 41
文化庁 「AIと著作権に関するチェックリスト＆ガイダンス」をリリース 目的: AIと著作権に関するリスク低減と権利保全のためのガイダンス。 構成: •第1部: AI開発・提供・利用のチェックリスト •第2部: 権利者のためのガイダンス •主要ステークホルダー: •AI開発者: データ収集、モデル学習、技術的措置 •AI提供者: サービス提供、運用サポート •AI利用者: 適正利用、情報共有 •業務外利用者: 一般利用者としての役割 •リスク低減策: •データ前処理・学習: 適切なデータ収集、技術的措置の尊重 •AI開発時: 類似生成防止技術の採用 •情報提供: 学習データの出所や生成過程の透明性確保 •AI利用者の注意点は主に４つ １．AIモデルを確認する（著作権の問題のないAIモデルを利用する） ２．プロンプトに著作物を入れない ３．プロンプトを残す（エビデンスの確保） ４．生成物の類似性を確認する（文章、画像で類似検索） Proprietary and Confidentiaｌ 42
Google Cloud、生成AIの活用事例集をリリース 顧客体験の改善 •チャットボット / バーチャルアシスタント: KDDI株式会社: 顧客サポートの効率化と24時間対応を実現。 株式会社スリーシェイク: 顧客の問い合わせ対応時間を大幅に短縮。 •エージェントアシスト / 会話分析: The Wendy’s Company: 顧客満足度向上とエージェントのトレーニン グ時間を削減。 日本情報通信株式会社: 会話データの分析により、サービス品質を 向上。 •パーソナライゼーション: Estée Lauder Companies Inc.: 顧客の購買履歴に基づくパーソナライ ズド提案。 Spotify: ユーザーの音楽嗜好に基づくプレイリストの自動生成。 従業員の生産性向上 •対話型情報収集: イオンフィナンシャルサービス株式会社: 従業員の情報収集時間を 短縮。 エイチ・ツー・オー リテイリング株式会社: 効率的な情報共有を実現。 •コード生成: 住友ゴム工業株式会社: プログラミング作業の効率化とエラー削減。 •自動レポーティング: 株式会社QTnet: レポート作成時間を大幅に短縮。 株式会社ソニックス: データ分析の自動化により、迅速な意思決定を 創造性とコンテンツ制作の強化 •マーケティング: 株式会社NTTデータ: 効果的なマーケティングキャンペーンの実施。 Carrefour Group: 顧客ターゲティングの精度向上。 株式会社電通デジタル: デジタル広告のパフォーマンス最適化。 •製品開発: Samsung Electronics Co., Ltd.: 新製品の迅速なプロトタイプ作成。 Ginkgo Bioworks, Inc.: バイオテクノロジー分野での革新的な製品開 発。 業務プロセス最適化 •ドキュメント処理: イオンモール株式会社: 書類処理の自動化により、業務効率を向 上。 京都大学医学部附属病院: 医療記録の管理を効率化。 •サプライチェーン最適化: United States Steel Corporation: サプライチェーンの効率化とコスト 削減。 生成 AI 活用事例集 (inthecloud.withgoogle.com) Proprietary and Confidentiaｌ 43
EUのAI法案が成立、規制は２０２６年から適用の予定 • • • • AI規制法の目的: 基本的権利、民主主 義、法の支配、環境の持続可能性を保 護しつつ、AIの導入を促進すること。 施行スケジュール: 2024年に施行され、 2025年から適用開始。2026年初頭まで に大半の義務が法的効力を持つ。 リスクベースのアプローチ: AIシステムを 4つのリスクレベル（許容できないリスク、 高いリスク、限定的なリスク、最小限の リスク）に分類。 企業への影響: AIシステムの開発・導 入・利用に対する広範な要件と保護メカ ニズムを定め、コンプライアンス違反に 対しては、違反の重大性に応じて、最大 で年間売上高の7%または3500万ユー ロのいずれか高い方が科される。 EUのAI規制法～その影響と対策のポイントは KPMGジャパン Proprietary and Confidentiaｌ 44
生成AIを企業で安全に使うために Proprietary and Confidentiaｌ 45
ChatGPTの規約で読んでおくべき文書 ⚫ APIデータ利用ポリシー – https://openai.com/policies/api-data-usage-policies ⚫ プライバシーポリシー –https://openai.com/policies/privacy-policy ⚫ Terms od use（利用規約） –https://openai.com/policies/terms-of-use ⚫ OpenAI社のPolicy – https://help.openai.com/en/collections/3675949-policy-faq 情報は原典にあたろう！ Proprietary and Confidentiaｌ 46
企業として使うにはどれを使うのが良いのか？ OpenAI API VS Microsoft Open AI service VS Claude API VS Google Gemini API Proprietary and Confidentiaｌ 47
企業で使うためのガイドラインを整備する データ入力に関する注意事項: ・第三者の著作権を有するデータの使用を避ける。 ・登録商標・意匠に注意する。 ・著名人の顔写真や氏名の使用を避ける。 ・個人情報の入力を控える。 ・秘密保持契約による秘密情報の取り扱いに注意する。 ・自組織の機密情報の使用を避ける。 生成物の利用に関する注意事項: ・生成物に含まれる虚偽の可能性に留意する。 ・生成物が既存の権利を侵害する可能性があることを考 慮する。 ・生成物に著作権が発生しない可能性があることを理解 する。 生成AIの利用ガイドライン https://www.jdla.org/document/ ・生成物の商用利用の制限を考慮する。 ・使用する生成AIのポリシーと制限に注意する。 Proprietary and Confidentiaｌ 48
ゼロトラストアーキテクチャについて Proprietary and Confidentiaｌ 49
ゼロトラスト アーキテチャに基づいたシステムの設計思想まとめ Microsoftが提唱するセキュリティの考え方は、グローバルスタンダードなゼロトラスト アーキテクチャに準拠しており、単純に現在のセキュリ ティ対策の置き換えという、機能とコストの比較表での取捨選択にはならない。ゼロトラスト アーキテクチャとして、重要なのは、「認証と認可 （ID、アクセス管理）」、「多要素認証（知識、所持or生体）」、「条件付きアクセス（最小権限の許可）」である。 ゼロトラスト アーキテクチャ ゼロ トラスト アーキテクチャとは、ID、エンドポイント、アプリケーション、ネット ワーク、インフラストラクチャ、データの6つの主要なセキュリティの柱を監視 および制御するエンドツーエンドのセキュリティ戦略を指す。 ゼロトラストの原則 明示的に確認 ゼロ トラストは、リソースにアクセスしようとしているすべて のユーザーとデバイスに対して厳格な ID 確認を要求する。 これにより、誰が何にアクセスできるか確認できる。 最小限の特権アクセスの原則により、ユーザー アクセスが 最小限に抑えられる。 最小限の特権アクセス 具体的には、「誰も信頼せず、すべてを確認する」ルールの実装をいう。 すべての要求、デバイス、またはユーザーを信頼してはならず、ネットワーク へのアクセスを許可する前に、強力な認証方法で確認されるまでは潜在的な 脅威として扱う必要があることを示す。 これは、ユーザーとデバイスが、必要な特定のアプリケーションまたはデータ のみにアクセスを許可されることを意味する。 侵害があるものと考える この原則は、攻撃者が既にネットワークに存在しており、横 方向に移動してより多くの情報を取得しようとしていると想 定する。 ゼロトラストセキュリティフレームワークでは、すべて拒否のアプローチを具 体化し、リアルタイム監視を使用して、既知の動作に対するすべての要求を 評価して、アクセスを制限および制御する。 侵害があるものと考えることは、損害を小さな領域へ封じ込めるために、必 要なアクセス分離を作成し、その際にビジネスへの影響を最小限に抑えると 出典：ゼロ トラスト セキュリティ モデル いう考え方である。 https://learn.microsoft.com/ja-jp/training/modules/zero-trust-introduction/zero-trust-security-model Proprietary and Confidentiaｌ 50
ゼロトラストアーキテクチャを実現するための手順（RaMP） 組織でゼロトラストを迅速に導入するために、Microsoftが提唱するRaMP（Rapid Modernization Plan） は、整理された技術的な 展開ガイダンスを提供する。 Proprietary and Confidentiaｌ 51
クラウドとオンプレミスの一元管理ができた最終的なあるべき姿 ID等が持つリスクを常に分析することで、最もリスクが小さくなるように権限をコントロールして、認証情報を共有することで一貫 性のある安全なアクセスコントロールを行う。 Proprietary and Confidentiaｌ 52
２０２３年度に導入した生成AI環境と当時のセキュリティの考え方 Proprietary and Confidentiaｌ 53
ゼロトラスト時代の セキュア開発環境について Proprietary and Confidentiaｌ 54
GitHub Copilot 概要：GitHub Copilotは、GitHubとOpenAIが共同開発したAIベースのコーディングアシスタントです。プログラミ ング言語のコメントやコードの一部を元に、コードを生成・補完します。対応する言語にはPython、JavaScript、 Java、C#などが含まれ、Visual Studio CodeやJetBrains IDEといったエディタで利用可能 構成 • コード生成: コメントからコードを生成 • コード補完: コードの自動補完 • 対応エディタ: Visual Studio Code、JetBrains IDEなど 価格 • 個人プラン: 月額10ドルまたは年額100ドル（1ヶ月の無料トライアルあり） • ビジネスプラン: 月額19ドル（1ユーザあたり） • エンタープライズプラン: 月額39ドル（1ユーザあたり） 1ドル150円換算 • ゼロトラスト開発環境を実現するGithub Enterprise：月額21ドル（1ユーザあたり） 10,500円／1ユーザ月 Proprietary and Confidentiaｌ 55
GitLab Duo 概要：GitLab Duoは、ソフトウェア開発ライフサイクル全体をサポートするAI主導の開発環境です。プロジェクト のモニタリング、最適化、保護を行い、開発者がイノベーションに集中できるようにします。計画、コード作成、 テスト、セキュリティ、モニタリングといったすべての段階でAIを活用します。 構成 • リアルタイムガイダンス: エンジニアおよび非エンジニア向け • 自動化: 繰り返し作業の自動化とバグの早期発見 • AIモデル: 最適なAIモデルの統合によるワークフローの改善 価格 GitLab Duoの具体的な価格情報は公開されていない ゼロトラスト開発環境を実現するにはGitLab for Enterpriseが必要 Proprietary and Confidentiaｌ 56
AWS Bedrock •概要 AWS Bedrockは、Amazon Web Servicesによる生成AIサービスです。大規模言語モデル（LLM）を活用し、テキス ト生成、要約、質問応答などのタスクをサポートします。企業が独自のAIアプリケーションを迅速に開発・デプロ イできるように設計されています。 構成 •LLMの活用: テキスト生成、要約、質問応答 •カスタマイズ可能: 独自のAIアプリケーションの開発 •統合: AWSの他のサービスとのシームレスな統合 価格 AWS Bedrockの価格は、使用量やサービスの選択により異なる（オンデマンドで利用しただけの量の支払い） Proprietary and Confidentiaｌ 57
生成AI対応エディタ：次世代AIエディタ「Cursor」 Visual Studio Code からフォークした次世代AIエディタ 「Cursor」 Cursorの開発元Anysphere(社員５名)はOpenAIから800万ド ルのシード資金調達 年間売上すでに年間100万ドルを突破 今話題のスイカゲームをゲーム作成未経験者でも２時間程 度で作成可能 RAG; Retrieval-Augmented Generation機能あり 新世代のカーソルOpen Interpriter連携可能:生成AI機能がロ ーカルリソースに対して使える これからのプログラミング 最初の60%を生成AI（ChatGPT）で 完成度80%まではCursor(Open Interpreter)で 残りの完成はGitHub Copilotで仕上げる 無料でも月に50回のGPT4の利用と200回のGPT3.5が利用可 能。月に20ドルである程度無制限に利用可能 Cursor - The AI-first Code Editor ビジネス版40ドルで、OpenAIにデータ保存されない設定可能 Proprietary and Confidentiaｌ 58
書籍：ソフトウェア開発にChatGPTは使えるのか？――設計からコーディングまでAIの限界を探る ソフトウェア開発にChatGPT は使えるのか？――設計から コーディングまでAIの限界を 探る Kindle版 小野 哲 (著) 第2章 プログラミングでの活用 2-1 自動コード作成 ・理解はしているが苦手なものを任せる ・小さな単位で依頼する ・関数に対してテストコードも一緒に生成する ・段階的に積み上げる 2-2 エラー対策 ・エラー対策の基本 ・エラーが堂々巡りになる場合の対応策 ・それでもエラーが解消しなかったら 2-3 クラス化について ・クラス図からのコード生成アプローチ 2-4 状移表でコードを生成 ・状態連表からのコード生成アプローチ 2-5 デザインパターンを提案してもらう ・デザインパターンのマッチング 2-6 アルゴリズムを提案してもらう 2-7 段階的積み上げ手法 2-8 コードの変換 ・SQL方言も怖くない ・他言語（あるいは多言語）の習得も楽しよう ・他言語でも動くコードに変換してもらう ・こんなことまでできていいの？ 2-9付記：テストケースの注意点 Proprietary and Confidentiaｌ 第3章 リファクタリングでの活用 3-1 隙間時間でお気軽りファクタリング ・関数の分割 ・変数名と関数名の改善 ・重複の排除 3-2 コメントとドキュメンテーション ・インラインコメントを追加してもらう ・関数ドキュメントを追加してもらう 3-3 セキュリティの脂弱性チェック 3-4 例外処理と論理完全性の改善 ・例外処理の改善 ・論理完全性のチェックと改善 第4章 ドキュメントの自動生成 4-1 PowerPointのスライドを自動作成 4-2 Wordドキュメントの自動作成 4-3 Excelと連携しドキュメントを自動作成 4-4 diagramsを使ってクラウド図を作成 4-5 dbdiagram.ioでER図を作成する 第5章 各種開発手法の提案 5-1 DDDによる設計と実装 5-2 TDDによるテストからの実装 5-3 ChatGPTとソフトウェア開発のアプローチ 59
現実的な セキュア開発環境について Proprietary and Confidentiaｌ 60
生成AIに「セキュアなプログラム開発環境」のプロジェクトの進め方を相談してみる 【プロンプト定義】 あなたは、重要インフラのグループ企業の情報企画担当です。以下の前提条件を考慮して、インターネットへのアクセスが制限された開発環境の 安全なインターネット接続の方法の提案資料の目次を考えてください。続けて目次の内容の骨子をパワーポイントで使えるように内容を充実させて ください。 【前提条件】 ・重要インフラのグループ企業当社では、開発環境のインターネット接続が原則禁止されている。 ・昨今の生成AIや、インターネット前提のモダンな開発環境に対応できていないなどから、今後のプログラム開発のスピードアップ抑制やコスト競争 力の低下、そして新規採用時に新卒者に忌避されるなどの恐れがある。 ・重要インフラ会社から、親会社の業務データのインターネットサービスへの接続、アップロードなどが極めて厳しく禁止されている。 【開発環境からインターネットサービスに接続する条件】 ・Proxyによる接続先をホワイトリストで制限するなど、本当に必要最低限の接続先とする ・接続先のサービスは、社内の開発環境からのみ接続可能とし、OA環境、他のインターネット環境からの接続を禁止する ・接続先のサービスのユーザ管理は厳格に行い、定期的な棚卸、ログのチェックなどを日常的に行い、情報漏洩が起こらないように監視体制を敷く ・接続先のサービスの約款などで、投入した業務データは、当社社内と同等のセキュリティを確保して管理され、かつ、勝手に生成AIなどの学習に 使われないことを確認できるサービスであること Proprietary and Confidentiaｌ 61
プロジェクトの進め方の目次案 Claude3 ① 1.はじめに 1.1. 本提案の背景と目的 2.現状と課題 2.1. 現行の開発環境の制約と問題点 2.2. モダンな開発環境への対応の遅れによる影響 3.インターネット接続の必要性 3.1. クラウドサービスの活用 3.2. オープンソースの利用 3.3. 生成AI活用の重要性 4.セキュリティ対策案 4.1. Proxyによる接続制限 4.2. 接続元の制限 4.3. ユーザー管理と監視体制 4.4. 約款によるデータ保護 5.提案のメリット ```markdown # 1. はじめに ## 1.1. 本提案の背景と目的 近年のIT技術の進化に伴い、クラウドサービスやオープンソース、生成AIの活用が開発における重要な要 素となっています。しかしながら、当社の現行の開発環境では、インターネット接続が原則禁止されている ため、これらの新しい技術を十分に活用できていません。本提案では、開発環境のインターネット接続を許 可することで、開発効率の向上、コスト競争力の確保、人材確保への貢献を目的としています。 # 2. 現状と課題 ## 2.1. 現行の開発環境の制約と問題点 当社の開発環境では、インターネット接続が原則禁止されているため、クラウドサービスやオープンソース の利用が制限されています。また、生成AIの活用も困難な状況にあります。このような制約は、開発効率 の低下、コスト競争力の低下、人材確保の困難さにつながる可能性があります。 ## 2.2. モダンな開発環境への対応の遅れによる影響 ### 2.2.1. 開発スピードの低下 クラウドサービスやオープンソースの利用が制限されることで、開発環境の構築や更新、ツールの導入な どに時間を要し、開発スピードが低下する可能性があります。 ### 2.2.2. コスト競争力の低下 オープンソースの活用ができないため、有償ソフトウェアの購入が必要となり、コストが増加する可能性が あります。また、クラウドサービスの利用ができないことで、インフラ構築費用が嵩む可能性もあります。 5.1. 開発効率の向上 5.2. コスト競争力の確保 5.3. 人材確保への貢献 6.まとめ 7.付録 7.1. 関連する法令・規制への対応 ### 2.2.3. 人材確保への影響 モダンな開発環境を求める新卒者や中途採用者にとって、当社の開発環境は魅力的ではありません。優 秀な人材を確保することが困難になる可能性があります。 # 3. インターネット接続の必要性 ## 3.1. クラウドサービスの活用 クラウドサービスを活用することで、インフラ構築の手間が省け、すぐに開発環境を用意することができま す。また、必要に応じてリソースを柔軟に確保できるため、コスト削減にもつながります。 7.2. 想定される費用と導入スケジュール Proprietary and Confidentiaｌ 62
プロジェクトの進め方の目次案 Claude3 ② ## 3.2. オープンソースの利用 # 5. 提案のメリット オープンソースを活用することで、高品質なツールやライブラリを無償で利用でき、開発効率の向上と ## 5.1. 開発効率の向上 コスト削減が期待できます。 クラウドサービス、オープンソース、生成AIの活用により、開発効率が大幅に向上します。 ## 3.3. 生成AI活用の重要性 ## 5.2. コスト競争力の確保 生成AIを活用することで、様々なタスクにおいて効率化が図れます。例えば、コード生成、文書作成、 オープンソースの活用やクラウドサービスの利用により、コストを抑えることができます。 データ分析などの作業を自動化・省力化できます。生成AIの重要性は今後さらに高まると考えられます 。 ## 5.3. 人材確保への貢献 モダンな開発環境を提供することで、優秀な人材を確保しやすくなります。 # 4. セキュリティ対策案 ## 4.1. Proxyによる接続制限 # 6. まとめ Proxyを導入し、接続先をホワイトリストで制限することで、本当に必要最低限の接続先のみを許可しま 開発環境のインターネット接続を許可することで、クラウドサービス、オープンソース、生成AIを活用で す。 き、開発効率の向上、コスト競争力の確保、人材確保への貢献が期待できます。また、適切なセキュリ ティ対策を講じることで、情報漏洩のリスクを最小限に抑えることができます。 ## 4.2. 接続元の制限 開発環境からのみインターネット接続を許可し、OA環境や他のインターネット環境からの接続は禁止し # 7. 付録 ます。 ## 7.1. 関連する法令・規制への対応 本提案に関連する法令や規制を確認し、適切に対応します。 *## 4.3. ユーザー管理と監視体制 ### 4.3.1. 厳格なユーザー管理 ## 7.2. 想定される費用と導入スケジュール 接続先サービスのユーザー管理を厳格に行います。 Proxyの導入費用、ユーザー管理システムの構築費用、運用費用など、想定される費用を算出します。 ### 4.3.2. 定期的な棚卸とログチェック また、導入に向けたスケジュールを立案します。 定期的にユーザーの棚卸とログのチェックを行い、情報漏洩がないことを確認します。 ## 4.4. 約款によるデータ保護 接続先サービスの約款において、投入したデータが適切に管理され、勝手に生成AIの学習に使われな いことを確認します。 Proprietary and Confidentiaｌ 63
生成AIに「セキュアなプログラム開発環境」の適切なサービスとそのセキュリティ設定を質問 【プロンプト定義】 以下の方法と、適切なサービスとそのセキュリティ設定を提案してください。サービスはAuzreをベースに検討してください。 目的 社内のインターネット接続に制限のある開発環境ネットワークから安全に生成AIを使えるようにすること 【条件】 ・生成Aiへの接続は、社内のホワイトリスト型のProxy経由のみとする ・API経由での生成AI利用で、接続元のグローバルIPを固定で制限できること →自宅や社内の通常のインターネット接続環境であるOA環境から接続できないこと ・利用履歴が残ること、後で監査などが可能なこと ・プログラミング開発支援や、生成AIのチャットが利用できること ・語尾はである調、もしくは体言止めで Proprietary and Confidentiaｌ 64
「セキュアなプログラム開発環境」の適切なサービスとそのセキュリティ設定の回答 Azure OpenAI Service 2. グローバルIPの固定と制限 Azure OpenAI Serviceは、生成AIを利用するためのプラットフ ォームであり、プライベートネットワークを通じた接続が可能 •Azure Virtual Network (VNet)を設定し、固定IPアドレスを使用すること で、特定のネットワークからのみAIサービスにアクセスできるようにす である。これにより、インターネット接続を制限しつつも、安全 る。これにより、自宅や社内の通常のインターネット接続環境からのア にAI機能を活用できる。セキュリティ設定と条件の実現 以下の条件に基づき、適切なセキュリティ設定を提案する。 クセスを制限できる。 3. 利用履歴の記録と監査 •Azure MonitorやAzure Log Analyticsを利用して、AIサービスの利用履 1. ホワイトリスト型のProxy経由での接続 歴を記録する。これにより、後で監査が可能となり、セキュリティとコン •Azure Firewallを利用して、特定のIPアドレスのみがAzure プライアンスを維持できる。 OpenAI Serviceにアクセスできるように設定する。これにより、 社内のホワイトリスト型Proxyを通じた接続が可能となる。 4. プログラミング開発支援と生成AIのチャット機能 •Azure OpenAI Serviceは、プログラミング開発支援やチャット機能を提 供するため、開発者はこれらの機能を活用して効率的に開発を進め ることができる。 Proprietary and Confidentiaｌ 65
セキュアな生成AIを使った開発環境（素案） •Azure API Management •APIゲートウェイサービス •APIライフサイクル管理機能 •セキュリティ、監視、ドキュメント 化の 統合ソリューション Cursor AI Editor API 開発支援 •Azure Log Analytics •Azure Monitorの一部として提供されるログ分析ツール •クラウドおよびオンプレミスの環境からのログデータの 収集と分析 •カスタムクエリによるデータの可視化と洞察の獲得 •Azure OpenAI Service •MicrosoftのAzure上でOpenAIの言語モデルを利用可能にする サービス •ChatGPTなどの高度なAIモデルのセキュアな環境での利用 Proprietary and Confidentiaｌ 66
生成AIに「セキュアなプログラム開発環境」の適切なサービスとそのセキュリティ設定を質問 【プロンプト定義】 社内のインターネット接続に制限のある開発環境ネットワークから安全に生成AIを利用するための方法と適切なサービス、セキュリティ設定 について、以下の提案をしてください。 方法とサービスの提案 使用するサービス 1.EntraIDを利用して利用者認証を行う 2.Azure OpenAI Serviceを利用して生成AI機能を提供する。 3.Azure API Managementを使用してAzure OpenAI Serviceへのアクセスを制御し、ログを記録する。 4.Azure Virtual Networkを使用してAzure OpenAI ServiceとAPI Managementを配置し、ネットワークを分離する。 5.Azure Firewallを使用して、特定のIPアドレスからのみアクセスを許可する。 6.Azure Log Analyzerを使用して、 Azure OpenAI ServiceとEntraIDの利用状況の監視とログの分析を行う。 7.クライアントとしてCursorを使用し、API経由でAzure OpenAI Serviceにアクセスする。Cursorの認証はEntraIDを利用してSSOログインする https://www.perplexity.ai/search/new?q=pending&newFrontendContextUUID=07bd7369-2683-4ea0-9a1e-6eb60e33c9b7 Proprietary and Confidentiaｌ 67
生成AIに「セキュアなプログラム開発環境」の適切なサービスとそのセキュリティ設定の回答 使用するサービス Azure Log Analytics • • • Azure Entra ID • • • 多要素認証（MFA）を強制的に有効にし、セキュリティを強化する 条件付きアクセスポリシーを実装し、特定の場所や装置からのアクセスを制限する ユーザーとグループを適切に管理し、最小権限の原則を適用する Azure OpenAI Service • • • カスタムクエリを作成し、異常なアクティビティを検出する アラートを設定し、セキュリティイベントをリアルタイムで通知する ダッシュボードを作成し、重要なセキュリティメトリクスを可視化する Cursor (クライアントアプリケーション) • • • プライベートエンドポイントを使用して、パブリックインターネットからの直接アクセスを防ぐ コンテンツフィルタリングを有効にし、不適切なコンテンツの生成を防止する 使用量制限を設定し、過剰な使用やコストの増加を防ぐ アプリケーション設定でEntra ID SSOを構成する ローカルストレージの暗号化を有効にし、保存されたデータを保護する 自動アップデートを有効にし、最新のセキュリティパッチを適用する Azure API Management • • • セキュリティベストプラクティス OAuth 2.0を使用してAPI呼び出しを認証する レート制限を実装し、APIの過剰な使用を防ぐ リクエストとレスポンスの検証を行い、不正なデータの送受信を防止する 1. Azure Virtual Network • • • 2. サブネットを適切に分離し、各サービス間の通信を制御する ネットワークセキュリティグループ（NSG）を使用して、トラフィックを細かく制御する プライベートDNSゾーンを使用して、内部リソースの名前解決を行う 3. 4. Azure Firewall • • • アプリケーションルールを設定し、特定のFQDNへのアクセスのみを許可する ネットワークルールを使用して、特定のIPアドレスやポートからのトラフィックを制御する 脅威インテリジェンスベースのフィルタリングを有効にし、既知の悪意のあるIPアドレスからのトラフ ィックをブロックする 5. Proprietary and Confidentiaｌ 最小権限の原則: 各ユーザーとサービスに必要最小限のアクセス権限 のみを付与する。 データ暗号化: 転送中および保存時のデータを暗号化し、機密情報を保 護する。 定期的なセキュリティ評価: 脆弱性スキャンやペネトレーションテストを実 施し、システムの脆弱性を特定・修正する。 インシデント対応計画: セキュリティインシデントに迅速に対応するため の計画を策定し、定期的に訓練を行う。 セキュリティ意識向上: 開発者向けのセキュリティトレーニングを実施し、 安全な開発プラクティスを促進する 68
当社が目指すべき姿：もう一つの選択肢：ChatGPT - Genie AI Visual Studio CodeにChatGPTと連携し てCursorのようなサービスを提供する 拡張機能 左図はソフトバンクさんのGitHub Copilot Business相当の機能を Auzre OpenAI Serviceを実装した事例 なんと、コストが半分以下で実現 https://marketplace.visualstudio.com/items?itemName=genieai.chatgpt-vscode https://www.softbank.jp/biz/blog/cloud-technology/articles/202312/aoai-apim-genieai-pragent/ Proprietary and Confidentiaｌ 69
スケジュールと今後の予定 ７月～８月 Microsoft、AWS、GitLab環境で実現可能かヒヤリング。合わせてPOCを行う Microsoft、Github Enterｐrise+Github Copilotで実現可能なのは確認済 ８月～１０月 Visual Studio CodeとAzure OpenAI ServiceベースでPOC お客様説明資料作成、本部内承認後、お客様に説明を行う。 １１月～１２月 本部内で実施立案、接続環境の構築 １月 本番運開開始 以上をマネージャーとしてタスク分解して、各メンバーに実施を指示、ステークホルダーと調整し つつ、プロジェクトを進める Proprietary and Confidentiaｌ 70
もう一つの選択肢、ノーコードの生成AIアプリ開発プラットフォーム dify.ai • • • • Difyはオープンソースの 大規模言語モデル（LLM） 開発プラットフォーム RAGによるナレッジ機能 を使用してエージェント形 式のチャットボットから複 雑なAIワークフローなど をノーコードで開発可能。 OSSであり、オンプレで サービス立ち上げも可能 OpenAI、Claudeなど多 様なAIモデルに対応 https://github.com/langgenius/dify?tab=readme-ov-file Proprietary and Confidentiaｌ 71
まとめ：ゼロトラスト時代の生成AIとセキュア開発環境 1.生成AIを取り巻く最新動向 • ここ半年の動向のまとめ。RAG関係、ファインチューニング、AIによる業務の自動 化への流れまでを時間がなくてまとまれなかったのが心残り 2.結局、生成AIは何を使えばよいのか？ • もう、好みなので、業務に合っていて、コスト見合いのものを使えばよいのでは。も ちろん、個人利用なら、無料サービスを順繰りに使いまわすだけでも実用に足りる 3.生成AIと検索エンジン • Perplexyti.AI一択。次点でEghe Copilot。がんばれGoogle 4.生成AIの負の側面 • 今後もいたちごっこが続くと思われる Proprietary and Confidentiaｌ 72
まとめ：ゼロトラスト時代の生成AIとセキュア開発環境 6.生成AIを取り巻く概況 • 著作権や活用事例、EU AI版GDPRなど要注目 7.生成AIを企業で安全に使うために • 社内生成AI利用ガイドラインの整備など重要 8.ゼロトラストアーキテクチャについて • ゼロトラストの基本についてのおさらい 9.ゼロトラスト時代のセキュア開発環境について • ゼロトラスト時代のセキュア開発環境のあるべき姿 10.現実的なセキュア開発環境について • ゼロトラストを意識つつ、コストメリット的に現実的な開発環境の検討手法の紹介 Proprietary and Confidentiaｌ 73
ご清聴、ありがとうございました ご清聴、ありがとうございました [email protected] https://www.facebook.com/connect24h https://twitter.com/connect24h Proprietary and Confidentiaｌ 74