基盤モデルがものづくり産業に及ぼしうる影響と研究開発の方向性(?) 2024年秋ver
3.3K Views
October 12, 24
スライド概要
間違えて消してしまったので､再アップロードしました｡
化学･材料･データ･AI･ロボット
関連スライド
各ページのテキスト
基盤モデルが ものづくり産業*に 及ぼしうる影響と 研究開発の方向性(?) *特に化学・材料分野 Kan Hatakeyama ただの妄想です 1
応用観点で言うと 基盤モデル(foundation model)とは? →人間並の判断力を持ち始めた汎用性の高いAI 2
基盤モデルの進化 人間と同等レベルまでパラメータ数が増えることで性能も上がり、一気に活動領域が拡大 3
基盤モデルの例 • GPT-4 (23年3月, OpenAI) • ChatGPTなど生成AIブームを決定づけたモデル • Gemini (Google), Claude (Anthropic) • GPT-4と同等レベルのフロンティアモデル • OpenAI-o1 (24年9月, OpenAI) • 博士課程レベルの科学知識や推論が可能 • 数学オリンピックの予選で全米500位程度 4
基盤モデルが 経済に与えうる中長期の影響 → 情報化社会で進んだ2極化が更に加速(?) 5
現状: 先端AI企業は少数精鋭 • 従業員一人が生み出す富が非常に大きい • デジタル化による作業の省人化 & システムの高いスケーラビリティが要因 • Sakana AI (23年に元Googleの研究者らが日本で設立した会社) • 従業員数: 約20名、評価額: 2200億円 (24年9月) • Open AI • 従業員数: 2100名、評価額: 23兆円 • Instagram (当時) • 従業員数: 13名、Facebookが1520億円で買収 • トヨタ • 従業員数: 70000人、時価総額: 40兆円 (従業員数などは､ネット情報をもとに収集｡間違っているかもしれません) 6
基盤モデルに注力している会社 トップ企業は 社運をかけて 基盤モデルに 投資 日本経済新聞 時価総額上位 (2024/10/7) https://www.nikkei.com/marketdata/ranking-us/market-cap-high/
基盤モデルは多くの事務・専門作業を代替できる可能性がある 数年-20年程度の時間スケールで、世の中が大きく変化する可能性 • IT化 （1995頃ー） • PC、携帯電話、スマホ • インターネット • 検索エンジン • クラウド • ペーパーレス化 • … • 深層学習(第一期) (2010年頃ー: 専門特化) • ニューラルネットワーク (2024年ノーベル物理学賞) • Alpha Fold (2024年ノーベル化学賞) • AlphaGO • 自動運転 • 音声認識 • 画像認識 • … • 深層学習(第二期) （2020年頃ー: 汎用型） • 現在 • ChatGPT • 生成AI (画像、音声、動画、…) • 今後(?) • AI事務職 • AI士業 • AI技術者 • AI科学者 • … 8
OpenAIが目指す人工知能 レベル１ Chatbot：会話型AI (現在) レベル２ Reasoner：人間レベルの問題解決能力を持つAI レベル３ Agent：自ら行動を起こせるシステム レベル４：Innovator：発明を支援できるAI レベル５：Organization：組織の業務を遂行できるAI https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligentai?sref=b0SdE1lu 数千日以内に超知能を作りたい (アルトマン) https://ia.samaltman.com/ 9
最近の例: 最先端の大規模言語モデル: OpenAI o1-preview 24年9月に公開. 数学オリンピックの予選で全米500位程度 https://docs.kanaries.net/ja/topics/ChatGPT/openai-o1 10
OpenAI-o1の物理化学の能力 教科書に書かれていない方程式などについても、自ら高速で式変形して導出することが可能 (多くの大学院生にはたどり着くのが難しい領域) 11
例: AIサイエンティスト (Aug. 2024) 特筆すべき点は、最初の準備以外、一切人間の介入なしで、このシステムが機械学習研究の全ライフサイクルを自律的 に実行できるということです。研究アイデアの発案、実験の設計・実施、結果の収集と分析までを自動で行い、その結果 をもとに研究論文を執筆します。Sakan AI (Aug. 2024) arXiv:2408.06292, https://sakana.ai/ai-scientist-jp/ 12
例: AIが全自動で研究を行い、執筆した論文の例 AIサイエンティストはコストの点でも極めて効率的に設計されており、今回の実証実験では、各アイデアが実装され論文とな る過程には1本あたり約15ドル（2300円）のコストしかかかりませんでした。 (今後､更にレベルが上がっていくことで､絨毯爆撃的なアプローチが通用する研究テーマなどから普及していく可能性) 13
AIの成長予想 最も悲観的なシナリオにおいてさえ、技術の成熟に伴い、破壊的イノベーションが起きるレベルの能力? 例: 博士レベルのAIに先端の研究論文100万本や、5年分x1000名の実験記録を学ばせる →あらゆる人類よりも研究動向や実験室の様子に詳しいAI 人間を超える知能 (OpenAI､ソフトバンクのトップなどが提唱) 最も楽観的な シナリオ 性能 GPT-4, OpenAI-o1 (博士レベルの 知識) 現在 (2024年) 最も悲観的な シナリオ 5-10年後ー 現行技術の 民主・低コスト化 14
中長期的に、基盤モデルは「優等生」の仕事を代替できる可能性 • • 「誰かに習って訓練すれば身につく程度の能力」は、概ね、AIで代替可能な見通しが立ちつつある (専門技能のコモディティ化) 経済力や資本の２極化が更に加速 「高度なAIを使いこなせる」 類まれなる能力を持った方々が 圧倒的な勝者 経済力 (現在) 経済力・ 頻度 敷かれたレールの上を走る(≒コモディティ) タイプのホワイトカラー人材はAIと競合するリスク有り (例: なんとなく大学/大学院に通って､なんとなく働く方々) 経済力 (将来) 生体レベルの 能力分布 小 能力 大 15
化学・材料分野での基盤モデルの 具体的な活用戦略 16
AIシステムが研究開発のインフラを担う可能性 • インターネットが研究開発のあり方を大きく変えたように、インフラとしての基盤モデルが普及する可能性 • AIは生物学的な制約を受けない点がメリット 研究活動のデジタル化 情報収集 意思決定 作業 過去 図書館 人間 人間 現在 インターネット 人間 人間 将来 基盤モデル+ネット 基盤モデル+人間 人間+ロボット 人間 vs. AI 人間 AI 経験できるプロジェクト数 100-101件 >>108件 劣化 有り なし 判断力 低ー高 現在は低 (今後改善?) 実空間での認知・作業 可能 現在は困難 (今後改善?) 17
勝負: エコシステムを誰が作るのか? • AI技術と各専門の研究開発を密接に紐づけたプラットフォームを作る競争がスタート(?) • 経済的に最大の利益を享受するのは､エコシステムの管理者 • Nvidia (半導体設計とソフトウェア提供), Google (デジタル/AI), Tesla (蓄電システム/自動運転), … • 本格的な資金・人材投資をすれば、ものづくりx基盤モデルで、日本でも勝負できる可能性 • 先行事例の例 • トロント大 Acceleration Consortium: 国を跨いだ自動実験システムの共有 • Google DeepMind: AI駆動での材料探索(Nature 2023) • Sakana AI : AIサイエンティスト (2024)での集約型AIの活用 基盤モデル・データベース ラボA ラボB ラボC 製造業やラボは AIプラットフォーマーの下請けになる可能性 … 18
AI・ロボットのインフラ化における 3つのフェーズ 今後､技術的な成熟度と莫大な需要がマッチしうる領域 1. 頭脳 (オフィスワーク) 既にビッグテックがシェアを確保し始めている領域 2. 知覚 (現場での見守り・助言) 3. 動作 (ロボットが作業) ハード面の進歩が課題 19
研究開発現場のDX 日本のものづくり現場は､データベース化できていない熟練の技や暗黙知が大半 (ビッグテックが参入しにくい､泥臭い領域だが､真に競争力の源泉となりうる情報) 手順､着眼点､コツなどの リアル情報のデータ化 マルチモーダルAI 作業者の手技の観察と監督 熟練のテクニックや審美眼 初心者など 20
AIによる実験室の様子の完全記録 化合物Xの合 成に成功した! マルチモーダルモデル XX時XX分､Aは顕微鏡を使った実験で赤色の試薬 Aを手に取り､様子を観察した｡ Aは合成に成功したことを確認した｡ Aは喜び､「化合物Xの合成に成功した!」と叫んだ｡ データベース+巨大モデル (電子実験ノート etc) • 作業場でのあらゆる情報が記録・解析・監督される状態 • 一部の研究者にとってはディストピアだが、経済合理性的には、導入した方が良い • 事故の自動検出のような､安全面の改善を目的にしたシステムから普及(?) 21
実例: マルチモーダルモデルによる 実験室の記述 • 撮影データをもとに、リアルタイム(< 1fps)で、実験室の様子をテキストとして記述することが既に可能 • 今後の課題: 着眼すべき点や専門的な情報の基盤モデルへの教示 22 microsoftの基盤モデルphi3.5を用いて生成したテキストの例
拡張現実(AR)との融合 今後、ARメガネと基盤モデルの融合により、ものづくりの現場を リアルタイムでサポートするシステムを構築可能 (例: 単純労働や実験操作のARによる補助｡ Google MapやカーナビのARバージョン) Meta Orion https://about.fb.com/news/2024/09/introducing-orion-our-first-true-augmented-reality-glasses/ 23
AI x ものづくり分野の普及見通し 数年以内? (AIが成長) 10ー30年? (ハードウェアの進化は「遅い」) 人間を中心に判断・作業 AIの支援の下､人間とロボットが協業 ムーアの法則に 支えられながら､ AIは今後も成長 • AIが現場のノウハウや情報を本格的に学ぶ (人間よりもAIの方が「賢くなる」可能性がある) • しかしロボットよりもヒト(ヒューマンアクチュエー タ/センサ)の方が基本的に器用で安価なので､細々 とした作業は人間が担う • ヒト・AI・ロボットが入り混じった状態のため､全て に精通した組織でないと､強みを活かせない AIロボが労働? 人間不要? 24
取り組むべきこと 今後10-20年のスパンで､AIが世界の覇権を握る可能性がどの程度かも鑑みな がら､投資戦略を考える必要がある 25
現在は、日本のものづくり産業の岐路(?) • 選択肢1: どこかの誰かが作ったAIインフラに乗っかる • 一見すると、「コスパの良い」アプローチ • ただし、エコシステムの奴隷になるリスク(座して死を待つ?) • 悲観的なシナリオ • AIプラットフォーマーの下請けとして、安値で部品や素材を提供する役割を全うする • 高度なAIシステムの使用料を払い続ける • 高度なAIシステムの使用料を払う代わりに、日々の研究データを供出し続ける • 選択肢2: 何もしない • AIの発達はそれほど早くなく､20年後も､世界はそれほど変わらないという信念を貫く • 選択肢3: AIインフラの構築に挑戦する • うまくいくかは未知数だが、覚悟を決めて、金銭・人的なリソースを投入する • エコシステムの構築に噛むことができれば､利益は得やすい • 勝ち筋の一つは、テック企業が踏み込みにくい､リアル空間でのデータ活用&DX 日本全体のリスクヘッジとしては､選択肢1-3をバランスよく取ることが大事だが､ 関係各位(産学)と話す限り､3を目指す機運があまり(というかほぼ)無いように映るのが､個人的には非常に残念 26
研究開発: 文字通りの異分野融合が必要? 高度なインテグレーションが必須のため、蛸壺型の分業では実現困難? AI知覚システムの実現に必要となる技術要素の例 • AI • ユーザーと対話可能なAI • 画像、音声認識、発話AI • 電子実験ノートなどとの連携 (実空間での専門的な抽象情報の理解) • ハード • スマホ・ARゴーグルを介したインターフェース • ロボットによる作業 • ものづくり • 研究開発の現場でのデータ収集とAIへの教育 27
補足 28
基盤モデルに関する短・中・長期の課題 • 概ね解決済みのタスク • 一般知識・大学院程度の専門知識の回答 • 数学などはo1でかなり強くなった • 軽い会話 • 数年以内に解決しうる事項 • 高度な(日本語での)推論 (e.g., 東大入試の数学) • 学習データが少ない領域でのハルシネーション(幻覚)のさらなる低減 • 学習方法の工夫(e.g., 合成データ) • 基本的には学習コスト､費用対効果の問題? (e.g., マイナーな言語/情報を学習するのはコスパが悪い) • 高度な会話や雑談 対話データの工夫､記憶の整理など • 解決の見通しが立っているのか､よくわからないこと • 答えが明確でない/取得するのが困難な領域の学習 • 長期プランニング､自律行動 • マルチモーダル化・実空間との連動・超高速化 (モラベックのパラドックス)・省エネ化 29