量子コンピュータ時代のプログラミングセミナー～Fixstars Amplifyで実装するブラックボックス最適化～（2023/06/15）　学術・開発研究者向け

7.8K Views

June 16, 23

#量子コンピュータ #量子アニーリング #イジングマシン #組み合わせ最適化 #ブラックボックス最適化 #fmqa #python #機械学習 #fixstarsamplifyシリーズ #フィックスターズ #Fixstars Amplify

スライド概要

株式会社 Fixstars Amplify では、量子コンピュータ時代を見据え、量子アニーリング・イジングマシンのクラウドプラットフォーム「Fixstars Amplify」を活用した、社会課題の解決と実業務への適用を進めています。

本セミナーは、ワークショップ形式で、量子アニーリング・イジングマシンの力を、無料版の Fixstars Amplify を通じて体験していただきます。

今回は、現在多くの業界から注目を集めている、量子アニーリング・イジングマシンを活用した「ブラックボックス最適化」をテーマとして取り上げます。

身の回りには、「組合せ最適化」で解決可能な課題が多く存在します。一方で、複雑で非線形な物理・社会現象の場合、組合せ最適化に必要な定式化が困難なものもあります。このような複雑な現象に対しては、機械学習を活用して最適な解の探索を行うブラックボックス最適化が有効です。

本セミナーでは、機械学習に加えて、量子アニーリング・イジングマシンを組み合せて活用することで、より効率的に最適解の探索を行うブラックボックス最適化について解説します。材料、化学反応、流体力学分野における課題を例として、Fixstars Amplify を用いた実装もご紹介します。

企業や大学で研究開発に従事されている方に、特におすすめの内容となっています。

【量子コンピューティングクラウド「Fixstars Amplify」とは】
Fixstars Amplifyはユーザー登録無料で、すぐにお使い頂けるクラウドサービスです。
実社会のあらゆる場面・場所に存在している、組合せ最適化問題を解決してみましょう。

・量子コンピューティングクラウドサービス「Fixstars Amplify」　無料ユーザー登録：
　https://amplify.fixstars.com/ja/register

・Fixstars Amplify　デモ＆チュートリアル：
　https://amplify.fixstars.com/ja/demo

・Fixstars Amplify　導入事例（お客様事例・研究事例）：
　https://amplify.fixstars.com/ja/customers

・Fixstars Amplify 量子コンピュータセミナー一覧：
　https://amplify.fixstars.com/ja/news/seminar
　※テーマを変えて毎月開催しています。

・フィックスターズグループ／セミナー一覧：
　https://www.fixstars.com/ja/seminar

株式会社フィックスターズ

@fixstars

スライド一覧

フィックスターズは、コンピュータの性能を最大限に引き出すソフトウェア開発のスペシャリストです。車載、産業機器、金融、医療など、幅広い分野での開発経験があります。また、ディープラーニングや機械学習などの最先端技術にも力を入れています。並列化や最適化技術を駆使して、マルチコアCPU、GPU、FPGA、量子アニーリングマシンなど、さまざまなハードウェアでソフトウェアを高速化するサービスを提供しています。さらに、長年の経験から培ったハードウェアの知識と最適化ノウハウを活かし、高精度で高性能なアルゴリズムの開発も行っています。　　　　　　・開催セミナー一覧：https://www.fixstars.com/ja/seminar　　・技術ブログ：https://proc-cpuinfo.fixstars.com/

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

ダウンロード

ダウンロード(pdf - 6.35MB)

関連スライド

Kaggleスコアアップセミナー～画像系コンペ入門[前編]（2023/08/02）

kaggle 画像処理機械学習深層学習ディープラーニングコンペ初心者 kaggleスコアアップシリーズ

株式会社フィックスターズ 61.4K

いまさら聞けない ARM を使ったNEONの基礎と活用事例（2021/08/05）

arm neon

株式会社フィックスターズ 37K

Kaggleスコアアップセミナー～画像系コンペ入門[後編]（2023/09/26）

kaggle 画像処理機械学習ディープラーニングコンペ初心者 kaggleスコアアップシリーズ

株式会社フィックスターズ 28.7K

いまさら聞けない！CUDA高速化入門～プログラミングモデルとアーキテクチャの解説、高速化の実践～（2021/10/29）

cuda gpu cuda高速化高速化シリーズ

株式会社フィックスターズ 27.8K

ROS2自律走行実現に向けて 2 ～次世代ロボット開発フレームワークROS2のビルドシステム徹底理解～（2022/11/30）

ros2 gpu ロボット自律走行 ros2シリーズ高速化シリーズ

株式会社フィックスターズ 27.1K

CUDA高速化セミナー vol.2 ～CUDAアーキテクチャの進化～（2022/06/23）

gpu cuda cuda高速化高速化シリーズ cuda高速化シリーズ

株式会社フィックスターズ 25.8K

各ページのテキスト

本日の予定第二部 14:40-16:00 第一部 14:00-14:35 • 本セミナーのゴール • Fixstars Amplify を用いたワークショップ • 会社紹介 • 組合せ最適化の基本 • 組合せ最適化事例 • ブラックボックス最適化 • Fixstars Amplify の紹介 ① 代数式を未知のブラックボックス関数と見なした場合のブラックボックス最適化 • ワークショップ事前準備のご連絡 ② モデル超電導材料の探索 ③ 化学プラントにおける生産量最大化 ④ 流体シミュレーションによる翼形状の最適化・単体翼／・多段翼 • Q&A Copyright© Fixstars Group 3

本セミナーのゴール組合せ最適化に関する次の項目を実感していただく  身の回りに組合せ最適化問題は多い。一方で、複雑で非線形な物理・社会現象の場合、組合せ最適化に必要な定式化が困難なものもある。  機械学習と量子アニーリング・イジングマシンを活用するブラックボックス最適化により、複雑現象に対する最適化を実施可能。  ブラックボックス最適化を Fixstars Amplify により実施できる。質問は随時ZoomのチャットかQ&Aでお願いします Copyright© Fixstars Group 4

フィックスターズグループの基本情報会社名株式会社フィックスターズ本社所在地東京都港区芝浦3-1-1 msb Tamachi 田町ステーションタワーN 28階設立 2002年8月資本金 5億5,446万円社員数（連結） 263名（2022年9月現在）キオクシア株式会社ルネサスエレクトロニクス株式会社上場区分東証プライム（証券コード：3687）代表取締役社長三木聡主なお客様トヨタグループ（トヨタ自動車株式会社・豊田通商株式会社・株式会社デンソー）みずほ証券株式会社キヤノン株式会社グループ会社 Fixstars Solutions, Inc. 2021/10/1 設立完全子会社米国での営業及び開発を担当 (株) Fixstars Autonomous Technologies 株式会社ネクスティエレクトロニクスとのJV 自動運転向けソフトウェアを開発 (株) Fixstars Amplify (株) Sider (株) Smart Opinion オスカーテクノロジー (株) 完全子会社開発支援SaaS「Sider」を運営連結子会社乳がんAI画像診断支援事業を運営 Copyright© Fixstars Group 完全子会社量子コンピューティングのクラウド事業を運営連結子会社ソフトウェア自動並列化サービスを提供 6

フィックスターズの強みコンピュータの性能を最大限に引き出す、ソフトウェア高速化のエキスパート集団ハードウェアの知見目的の製品に最適なハードウェアを見抜き、その性能をフル活用するソフトウェアを開発します。アルゴリズム実装力各産業・研究分野の知見ハードウェアの特徴と製品要求仕様に合わせて、アルゴリズムを改良して高速化を実現します。開発したい製品に使える技術を見抜き、実際に動作する実装までトータルにサポートします。 Copyright© Fixstars Group 8

フィックスターズの量子技術への取り組み次世代技術を先取りし今ある課題の解決を目指す 2018年 NEDOのプロジェクトに採択「イジングマシン共通ソフトウェア基盤の研究開発」 2022年 5月： Fixstars Amplify がGurobi, IBM-Quantumをサポート 6月：東洋経済主催シンポジウム「ビジネスを劇的に変える量子コンピューティングの可能性」に登壇 7月：累計実行回数1,000万回突破 2021年 2月：量子アニーリングクラウドサービス「Fixstars Amplify」提供開始 10月：子会社Fixstars Amplifyを設立 11月： Q-STAR 量子技術による新産業創出協議会に特別会員として加入 2017年日本で初めて D-Wave Systems社と提携 2019年 SIPの研究開発に参画「光・量子を活用したSociety 5.0実現化技術：光電子情報処理」 Copyright© Fixstars Group 9

量子コンピューティング事業多様なハードウェアでのソフトウェア高速化サービスに加え、量子コンピュータ活用支援とシステム開発を提供しています。お客様の課題ご支援内容量子コンピューティングが課題の解決に役立つか確信が持てないセミナー・トレーニング量子コンピュータの研究動向や活用事例、実際の利用方法等クラウド実行環境のご提供量子コンピューティングの検討をどう進めたら良いかわからないクラウド経由での量子コンピュータ利用サービスを提供コンサルティングセットアップ支援、処理の分割や変換等のコンサル作りたいアプリケーションがあるが、開発がソフトウェア高速化・開発支援サービス難しい量子コンピュータを組み合わせてシステムの高速化を実現 Copyright© Fixstars Group 10

10.

11.

12.

最適配置自動化サービス（物流梱包業務のDX） https://www.fixstars.com/ja/services/cases/amplify-bellemaison 業務内容：梱包業務担当者（１チーム３名）をコンベア前のブースに割り当て従来の方法：前日夕方に、翌日の予測出荷目標数と出勤予定に基づいて、３人程度のリーダーが相談し数時間をかけて決定課題：公平になるよう、様々な配慮を行う必要があり、割り当て担当者に心理的負担がかかっていた成果：  2022年10月より実稼働開始！アニーリング技術を活用して自動化・デジタル化 • 作業時間  15分程度に • 心理負担  ほぼゼロに梱包効率最大化チーム 3名上流下流ローテーション公平感勤務時間が近い相性 Good /NG 国家プロジェクトSIP「光・量子を活用したSociety 5.0実現化技術」の一環として、住友商事、SCSK、ベルメゾンロジスコと、2019年より共同研究 Copyright© Fixstars Group 手動配置一部事前配置自動配置結果の微調整自動配置（アニーリング）各種条件を満たす形で未配置のメンバーを一括割り当て割当業務の時間削減担当者の心理的負担低減配置情報のデジタル化 Smileboard Connectと連携 ※Smileboard Connect: 住友商事様開発の物流業務可視化サービス

https://www.fixstars.com/ja/services/cases/amplify-bellemaison

13.

生産計画最適化 (電気機器製造メーカー A社様) 複数の製品事業部から様々なプリント基板の注文を受け、生産を行う部門課題生産する基板に応じて製造装置の部品や材料を交換する「段取り時間」が必要。段取り時間を考慮した効率的な生産スケジュールを作成したい従来は、専任者が、一日数回・毎回数十分かけて経験に基づいてスケジュールを作成。更なる生産性向上やノウハウ継承のため、生産スケジュール作成の自動化に着手段取り時間装置1 A A 装置2 B B B C E B B 段取り時間装置x 効果 B 段取り時間 E D 生産スケジュール作成の時間・コストの大幅な削減！ (一日あたり数時間 → 数分) 段取りのための製造装置の停止回数の削減！ (10%以上削減) 最適化未経験のご担当者様1人がプログラム試作開始から約1～2ヵ月間取り組んでこの効果を実現現在は試作段階で、実運用に向けてモデルを改良中！次期フェーズでは、Amplify の活用領域の拡大を検討中！ Copyright© Fixstars Group 14

14.

生産計画最適化 (機器製造メーカー B社様) 各製品の生産数に応じて製造人員数の計画をする部門効果必要人員数と日毎の人員数の増減の最小化！計画立案の業務負荷削減・属人化解消！人員数課題少量多品種の機器を製造している。それぞれの製品は生産が開始できる時期や納期が決まっていて、各製品をどの生産ラインでいつ製造するかによって日々の必要人員数が変化する。人員数と日毎の人員数の増減を最小化したい。従来は、専任者が2名で日々計画を立案・修正していたが、効率的な生産計画の立案、業務負荷削減、属人化解消のため自動化に着手。製品 A 製品 B 製品 C 調整 1000台調整▼納期 2000台 ▼納期 7000台順番入れ替え製品 D 200台納期▼ 納期▼ 人員数の増減を最小化！時間（日） Copyright© Fixstars Group 15

15.

Amplify を活用した研究事例大学研究室論文タイトル量子アニーリング/イジングマシンに関する研究早稲田大学戸川研究室イジングマシンによる制約付きグラフ彩色問題の彩色数最小化手法 (リンク) 東京大学 Prof. Codognet Modeling the Costas Array Problem in QUBO for Quantum Annealing (リンク) 名古屋大学片桐研究室 Amplifyを用いたCMOSアニーリングマシンの特性の分析 (リンク) 東北大学小松研究室組み合わせクラスタリングによるアニーリングマシンの評価 (リンク) 応用研究慶應義塾大学村松研究室東京大学長谷川研究室会津大学小平研究室 (LSI設計) シミュレーテッド量子アニーリングを用いたマスク最適化手法 (リンク) 山梨大学鈴木研究室 (情報工学) 量子アニーリングによる疎行列直接解法向けフィルイン削減オーダリング (リンク) 京都大学野田研究室 (電子工学) 量子アニーリングを活用したフォトニック結晶レーザーの構造最適化 (リンク) 東京大学津田研究室 (MI) Designing metamaterials with quantum annealing and factorization machines (リンク) 16 Copyright© Fixstars Group (材料工学) (量子ゲート) Phase-fieldモデルの量子アニーリングシミュレータ (リンク) ISAAQ:イジングマシンを活用した量子コンパイラ (リンク) BBO

16.

フォトニック結晶レーザーの構造最適化 • • • Fixstars との共同研究 [SIP成果] https://www.t.kyoto-u.ac.jp/ja/news/topics/research/20220908 https://opg.optica.org/oe/fulltext.cfm?uri=oe-30-24-43503&id=520202 京都大学大学院工学研究科の野田進教授、慶應義塾大学理工学部の田中宗准教授、早稲田大学理工学術院の戸川望教授ら【概要】 • 「フォトニック結晶レーザー」は、将来のスマート加工用レーザー光源としての普及が期待されており、高光出力化など積極的に研究されていて一定の成果もでている • フォトニック結晶の設計においては、従来は空間的に一様な構造を採用していたが、理論的には様々な構造を用いることも可能であり、その設計自由度を上手く活用すれば、レーザーの性能をさらに向上させられる可能性がある。そのシミュレーションに量⼦アニーリングを適⽤した（構造の最適化） • 量子アニーリングで設計した構造を採用したレーザーでは、性能を表す重要な指標である「光出⼒」「ビーム拡がり⾓」「直線偏光⽐」の３つ全てが向上 Copyright© Fixstars Group 17

17.

メタマテリアルの構造設計（マテリアルズ・インフォマティクス）共同研究中（物質・材料研究機構 x 東京大学）ブラックボックス最適化の一部にQAを利用する量子・古典ハイブリッド型の最適化手法を開発【概要】 • 近年は、内部の人工的な構造により自然には見られない特異な性質を持ったメタマテリアルの研究が活発。一方で、材料設計において調整可能なパラメーターの数が増えると、組合せの数が指数関数的に増大し最適な構造を見つけるのが困難 • 材料の設計にあたっては、最適化のための目的関数などは与えられず、最適化対象の指標値のみが評価可能であることが多い（ブラックボックス最適化問題）。ブラックボックス最適化の解法としては、回帰モデルにガウス過程を利用したベイズ最適化が利用されることが多いが、組合せの数が多くなると最適解の推定自体も難しくなるといった問題あり。そこに量子アニーリングの技術を活用したもの • 熱放射材料のメタマテリアルの構造設計において、これまでにない放射冷却性能を示すメタマテリアルの設計に成功。またその実験において、提案手法が既存手法であるベイズ最適化よりも優れた最適化性能を持つことを確認 Copyright© Fixstars Group 18

18.

19.

量子技術とFixstars Amplifyの対応領域 1. 量子コンピュータ 3. イジングマシン二値二次多項式模型量子ゲート方式古典汎用コンピュータの上位互換。量子力学の重ね合わせ状態を制御する量子ゲートを操作し、特定の問題を汎用的かつ高速に処理する。 QAOA により組合せ最適化問題 (QUBO) を取り扱うことが可能。 1 量子コンピュータ IBM/Google/Rigetti/IonQ 2 量子アニーリング 3 イジングマシン富士通/日立/東芝/Fixstars 二次の多変数多項式で表される目的関数の組合せ最適化問題 (QUBO) を扱う専用マシン。変数は0,1または±1。統計物理学におけるイジング模型 (磁性体の性質を表す模型) に由来。様々な実装により実現されている。 D-Wave/NEC 2. 量子アニーリング方式量子焼きなまし法イジングマシンの一種であり、量子焼きなまし法の原理に基づいて動作する。量子イジング模型を物理的に搭載したプロセッサで実現する。自然計算により低エネルギー状態が出力される。組合せ最適化問題 (QUBO) を扱う専用マシン。 Copyright© Fixstars Group Amplify AE 20

20.

二次計画問題組合せ最適化問題量子アニーリング・イジングマシン  決定変数が離散値 (整数など) • 整数計画問題 (決定変数が整数) • 0-1整数計画問題 (決定変数が二値)  連続最適化問題 • 決定変数が連続値（実数など） Quadratic 二次形 Unconstrained 制約条件なし Binary 0-1整数 (二値) Optimization 計画（最適化） QUBO模型 (0-1整数二次計画問題) 𝒇𝒇 𝒒𝒒 = � 𝑄𝑄𝑖𝑖𝑖𝑖 𝑞𝑞𝑖𝑖 𝑞𝑞𝑗𝑗 + � 𝑄𝑄𝑖𝑖𝑖𝑖 𝑞𝑞𝑖𝑖 目的関数 𝑖𝑖<𝑗𝑗 決定変数 𝑖𝑖 係数 Copyright© Fixstars Group 𝒇𝒇 𝒒𝒒 を最小化するような 𝒒𝒒 を求める 21

21.

クラウドサービス：Fixstars Amplify  量子コンピューティングを想定したシステム開発・運用のクラウドプラットフォーム（開発環境及び実行環境）  量子コンピュータや独自開発のGPUアニーリングマシンなど、組合せ最適化問題の専用マシンを効率的に実行できる https://amplify.fixstars.com/ja/ サービス概要簡単ポータブル適用分野 (一例) ・・・金融物流始めやすいライフサイエンス Copyright© Fixstars Group  SDKをインストールするだけですぐに使える  pip install amplify  ハードウェアの専門知識不要でアプリケーションが開発できる  すべての量子アニーリング/イジングマシンに対応  Fixstarsの26万ビット級のアニーリングマシン実行環境も利用可能  評価・検証用途には開発環境と実行環境が無償で利用可能  多くのチュートリアル、サンプルコードを整備・拡充 22

https://amplify.fixstars.com/ja/

22.

Fixstars Amplify の特長 – いつでも開発環境と実行環境がセットのためすぐにプログラミングと実行が出来る – 誰でもハードウェアや専門的な知識が不要無料で開発がスタート可能多くの解説、サンプルコード – 高速に 26万ビットクラスの大規模問題の高速処理と高速実行が可能 – あらゆる一般に公開されている全てのイジングマシンを利用可能 Copyright© Fixstars Group 23

23.

24.

25.

26.

Fixstars Amplify SDKによるシンプルプログラミング数独を解くサンプルアプリ SDKなし最適化しても 200行以上 SDKあり 30行程度富士通・デジタルアニーラの設定用コード SDKなし 59行 SDKあり 1行日立CMOSアニーリングマシンの設定用コード SDKなし 183行出典: Wikipdia Copyright© Fixstars Group SDKあり 1行 SDKが、各マシンに対して最適な形式に実装式を多段変換！ 27

27.

Fixstars Amplify Annealing Engine (Amplify AE) NVIDIA GPU V100/A100 で動作 • 独自の並列化シミュレーテッドアニーリングアルゴリズム WEB経由で計算機能を提供 • 社会実装・PoC・検証が加速 • Amplify SDK の実装を直ぐに実行可能商用マシンでは最大規模・最高速レベル • 120,000 ビット（全結合） • 260,000 ビット超（疎結合） Copyright© Fixstars Group ※評価・検証用途では無償提供 28

28.

29.

https://amplify.fixstars.com/ja/demo

30.

31.

32.

https://amplify.fixstars.com/ja/pricing

33.

セミナー・トレーニングのご紹介 https://amplify.fixstars.com/ja/news/seminar お客様の実際の課題解決をご支援するために、無料セミナーや有償トレーニングを提供しています。無料セミナー・ワークショップビジネス向け、エンジニア向けに分けて開催しています！企業向けプライベートトレーニングお客様が抱える実際の課題やデータを使ったカスタムメイドのトレーニングです！ Copyright© Fixstars Group 34

https://amplify.fixstars.com/ja/news/seminar

34.

35.

ワークショップの事前準備 (1) • ご自身のPC (ブラウザ上) でPythonプログラミングを行います。Google Colaboratoryを使うので、事前にログイン出来ることを確認をお願いします（要Googleアカウント） Google Colab 検索 https://colab.research.google.com/ • Fixstars Amplify ホームページよりユーザ登録の上、無料トークンの取得をお願いします（1分で終わります） Fixstars Amplify 検索 https://amplify.fixstars.com/ Copyright© Fixstars Group 36

36.

ワークショップの事前準備 (2) • 取得されたトークンを用いて、トークンチェック用サンプルコードが動くか確認をお願いします。 https://colab.research.google.com/drive/1evYBKqKfVrEzrQOa-SWwciROfvqjL8qm?usp=sharing （※URLはZoomのチャット欄を参照） • サンプルコードは閲覧のみ可能な状態です。「ファイル」→「ドライブにコピーを保存」の上、ご自身のトークンを入力してください。その後、Shift + Enterで実行下さい。 ! pip install amplify token = "********************************" # ご自身のトークンを入力 • ご自身のトークン番号は、Amplifyウェブページ → よりご確認いただけます。 • 実行後、以下の結果が出力されればOKです。 result: [q_0, q_1] = [1. 1.] (f = 0.0) Copyright© Fixstars Group 37

https://colab.research.google.com/drive/1evYBKqKfVrEzrQOa-SWwciROfvqjL8qm?usp=sharing

37.

38.

組合せ最適化とブラックボックス最適化通常の組合せ最適化ブラックボックス最適化 • • 課題に対し、定式化によりQUBO式を取得可能例：合成素材の性能向上に必要な、合成対象の材 • 数の分割 𝑓𝑓 = Σ 2𝑞𝑞𝑖𝑖 − 1 𝑎𝑎𝑖𝑖 • 生産計画最適化課題が複雑で直接の定式化が不可能。料の組合せ最適化 2  実験かシミュレーション 𝑓𝑓 = ΣΣ Σ𝑎𝑎𝑖𝑖 𝑝𝑝𝑖𝑖 𝑞𝑞𝑚𝑚,𝑖𝑖,𝑡𝑡 + ΣΣ𝑏𝑏𝑖𝑖 𝑠𝑠𝑖𝑖 𝑞𝑞𝑚𝑚,𝑖𝑖,𝑡𝑡 𝑞𝑞𝑚𝑚,𝑖𝑖−1,𝑓𝑓 ⋯ • シミュレーションや実験の試行回数の削減 • TSP問題（お遍路巡り最短経路探索） • 𝑓𝑓 = ΣΣΣ𝑑𝑑𝑖𝑖,𝑗𝑗 𝑞𝑞𝑛𝑛,𝑖𝑖 𝑞𝑞𝑛𝑛+1,𝑗𝑗 ⋯  シミュレーションや実験が楽になる • 逆問題に対するアプローチとしても適用化 QUBO式に対し、直接アニーリングを行う（量子アニーリング・イジングマシン） Copyright© Fixstars Group 例：ある計測値を実現する実験条件を見つける 39

39.

40.

サンプルコード • ワークショップで使うサンプルコードを取得して下さい。 • それぞれのサンプルコードにご自身のトークンを入力いただく必要があります。 • サンプルコードを開き、「ファイル」→「ドライブにコピー」の上、トークンを入力し実行して下さい。 • 数の分割サンプルコード https://colab.research.google.com/drive/1po4m292IbW-rMnJImLRcqgmWosIO897l?usp=sharing （※URLはZoomのチャット欄を参照）質問は随時、Zoomのチャットか Q&A でお願いします。 Copyright© Fixstars Group 41

https://colab.research.google.com/drive/1po4m292IbW-rMnJImLRcqgmWosIO897l?usp=sharing

41.

数の分割問題（概要） • 与えられた 𝑛𝑛 個の整数𝑎𝑎0 , ⋯ , 𝑎𝑎𝑛𝑛−1 を二つの集合に分ける。集合内の数の和が、もう一方の集合内の数の和と等しくなるようできるか? • NP完全問題: とても難しい問題として知られている → 全通り試すしか方法は無い • 問題のバリエーション • 判定問題: 完全に等しく出来るか？または等しい組合せは何か？ • 最適化問題: 完全に等しいか、または最も惜しい組合せは何か？ Copyright© Fixstars Group 42

42.

数の分割問題（具体例と解法の方針）具体例 {2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？答え • 存在する • {2,3,5,7,10} と {2,3,5,8,9} • どちらも和は27 • 分割方法は23通り存在する (対称を除く）どうやって解くか？ • ひとつの『数』がどちらの集合に分割されるか全通り試す → 210 = 1024通り Copyright© Fixstars Group • 効率のよい厳密な方法は知られていない・・・ (もし発見されたら大騒ぎ) 43

43.

44 数の分割問題（定式化）最適化問題：数の分割において最も惜しい組合せは何か？ • 目的関数 {集合1の和} – {集合2の和} の絶対値を最小化 • 決定変数数 𝑎𝑎𝑖𝑖 がどちらの集合に属するかを 𝑠𝑠𝑖𝑖 で表す • 制約条件なし数理モデル • 目的関数 𝑁𝑁−1 𝑓𝑓 = � 𝑠𝑠𝑖𝑖 𝑎𝑎𝑖𝑖 𝑖𝑖=0 𝑎𝑎𝑖𝑖 = { 2,10, 3, 8, 5, 7, 9, 5, 3, 2} 𝑠𝑠𝑖𝑖 = {-1, 1,-1, 1,-1,-1, 1, 1, 1, 1} 𝑠𝑠𝑖𝑖 ∈ −1, +1 Copyright© Fixstars Group ∑ 𝑠𝑠𝑖𝑖 𝑎𝑎𝑖𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！

44.

数の分割問題（バイナリへの式変形） • 0-1整数二次計画問題への変換 • Quadratic Unconstrained Binary Optimization (QUBO) 式 𝑁𝑁−1 𝑓𝑓 = � 𝑠𝑠𝑖𝑖 𝑎𝑎𝑖𝑖 𝑖𝑖=0 → → 𝑁𝑁−1 � 𝑠𝑠𝑖𝑖 𝑎𝑎𝑖𝑖 𝑖𝑖=0 𝑁𝑁−1 𝑠𝑠𝑖𝑖 ∈ −1, +1 2 𝑠𝑠𝑖𝑖 ∈ −1, +1 � 2𝑞𝑞𝑖𝑖 − 1 𝑎𝑎𝑖𝑖 𝑖𝑖=0 2 𝑞𝑞𝑖𝑖 ∈ 0, +1 Copyright© Fixstars Group ∑ 𝑠𝑠𝑖𝑖 𝑎𝑎𝑖𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！絶対値を二次式で表す ±1をバイナリで表す (イジングで定式化するなら不要) 45

45.

数の分割問題（定式化の具体例）問題 • 𝑎𝑎𝑖𝑖 ={2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？決定変数 • 𝑞𝑞𝑖𝑖 = 𝑞𝑞0 , 𝑞𝑞1 , 𝑞𝑞2 , 𝑞𝑞3 , 𝑞𝑞4 , 𝑞𝑞5 , 𝑞𝑞6 , 𝑞𝑞7 , 𝑞𝑞8 , 𝑞𝑞9 𝑞𝑞𝑖𝑖 ∈ 0,1 で集合0又は集合1、どちらに所属するかを表す目的関数 𝑁𝑁 𝑓𝑓 = � 2𝑞𝑞𝑖𝑖 − 1 𝑎𝑎𝑖𝑖 2 𝑖𝑖=1 目的関数を展開 2 2𝑞𝑞0 − 1 + 10 2𝑞𝑞1 − 1 + 3 2𝑞𝑞2 − 1 + 8 2𝑞𝑞3 − 1 + 5 2𝑞𝑞4 − 1 𝑓𝑓 = +7 2𝑞𝑞5 − 1 + 9 2𝑞𝑞6 − 1 + 5 2𝑞𝑞7 − 1 + 3 2𝑞𝑞8 − 1 + 2 2𝑞𝑞9 − 1 Copyright© Fixstars Group 2 46

46.

数の分割問題（プログラムコード） • 問題の定義と決定変数生成器による決定変数の生成 a = [2, 10, 3, 8, 5, 7, 9, 5, 3, 2] q = BinarySymbolGenerator().array(len(a)) 1. 定式化 2. 実行 3. 結果 2 • 目的関数、𝑓𝑓 = ∑𝑁𝑁𝑖𝑖=1 2𝑞𝑞𝑖𝑖 − 1 𝑎𝑎𝑖𝑖 、の定式化（①②③は同等） ① f = ((2 * q - 1) * a).sum() ** 2 ② f = 0 for i in range(len(a)): f += (2 * q[i] - 1) * a[i] f **= 2 ③ f = sum_poly(len(a), lambda i: (2 * q[i] - 1) * a[i]) ** 2 solver = Solver(client) result = solver.solve(f) 得られた目的関数の値0 色々な書き方が出来る各集合の合計値27 q = [1, 1, 1, 0, 1, 1, 0, 0, 0, 0], f = 0.0, w = 27 Copyright© Fixstars Group 各数字に対して、集合0か、集合1か 47

47.

https://amplify.fixstars.com/ja/demo

48.

49.

サンプルコード • サンプルコードを以下より取得して下さい。 • それぞれのサンプルコードにご自身のトークンを入力いただく必要があります。それぞれのサンプルコードを開き、「ファイル」→「ドライブにコピー」の上、トークンを入力し実行して下さい。 ① ある代数式を未知のブラックボックス関数と見なした場合のブラックボックス最適化 https://colab.research.google.com/drive/19uVGrWxj_PSRqql4s8pTsVbebSa2ORbd ②ブラックボックス最適化によるモデル超電導材料の探索 https://colab.research.google.com/drive/1Xw-9PSYi7KH-1mf3LrofDj8Ju4ZGJYQM ③ブラックボックス最適化による化学プラントにおける生産量最大化 https://colab.research.google.com/drive/12X7Nf38tCqY1tWSZVpyr8NWVyrakx85d ④ブラックボックス最適化と流体シミュレーションによる翼形状の最適化 https://amplify.fixstars.com/ja/demo/fmqa_3_aerofoil（公式デモサイトでのご紹介）（※URLはZoomのチャット欄を参照） Copyright© Fixstars Group 50

50.

ブラックボックス最適化数理最適化ブラックボックス最適化目的関数値 𝒇𝒇 𝒙𝒙 のみ観測可能 • 目的関数の形状や勾配などは何も分からない。機械学習＋量子アニーリング／イジングマシン目的関数の評価回数に限りがある • 入力集合 Ω が有限集合であっても全検索できない。イメージ • 5種類の材料から、いくつかの材料を選択・合成し、最も電気抵抗の小さな物質を作る。 • 決定変数（材料の選択肢）𝒙𝒙 ・・・ 5桁の01ビットでどの材料を選択するかを記述 𝒙𝒙 = [1,0,0,0,0], [1,1,0,0,0], [1,0,1,0,0], ⋯ , [1,1,1,1,1] → 25 − 1 通り • 目的関数 𝑓𝑓 𝒙𝒙 = 合成物質の電気抵抗（実験又は数値シミュレーション） Copyright© Fixstars Group 51

51.

ブラックボックス最適化アプローチ数理最適化ブラックボックス最適化 • ブラックボックス関数 𝑓𝑓 𝒙𝒙 に対して、以下サイクルを繰り返す（実験・シミュレーション）機械学習＋量子アニーリング／イジングマシン 1. 訓練データから獲得関数 𝑔𝑔(𝒙𝒙) を構築 � を推定 2. 獲得関数 𝑔𝑔(𝒙𝒙) が最小となる点 𝒙𝒙 �, 𝑓𝑓(� 3. 目的関数の評価結果 𝒙𝒙 𝒙𝒙) を訓練データに追加 • 獲得関数 𝑔𝑔(𝒙𝒙) で（最適化点周辺の）目的関数 𝑓𝑓(𝒙𝒙) を近似する。 • 課題： ① 獲得関数の構築 � の推定 ② 獲得関数最小化を実現する 𝒙𝒙 Copyright© Fixstars Group 52

52.

獲得関数としての Factorization Machine (FM) • 獲得関数 𝑔𝑔(𝒙𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次のように 𝒙𝒙 に対する2次式での記述ができる。 𝑛𝑛 𝑛𝑛 𝑔𝑔 𝒙𝒙 𝒘𝒘, 𝒗𝒗 = 𝑤𝑤0 + 𝒘𝒘, 𝒗𝒗 + � � 𝒗𝒗𝑖𝑖 , 𝒗𝒗𝑗𝑗 𝑥𝑥𝑖𝑖 𝑥𝑥𝑗𝑗 𝑖𝑖=1 𝑗𝑗=𝑖𝑖+1 𝑛𝑛 𝑘𝑘 1 = 𝑤𝑤0 + � 𝑤𝑤𝑖𝑖 𝑥𝑥𝑖𝑖 + � 2 𝑖𝑖=1 • • 𝑓𝑓=1 𝑛𝑛 � 𝑣𝑣𝑖𝑖𝑖𝑖 𝑥𝑥𝑖𝑖 2 𝑖𝑖=1 𝑛𝑛  QUBO式 2 2 − � 𝑣𝑣𝑖𝑖𝑖𝑖 𝑥𝑥𝑖𝑖 𝑖𝑖=1 𝑘𝑘 はハイパーパラメータ、 𝒘𝒘 及び 𝒗𝒗 は FM 学習後に取得される FM パラメータ。 FM パラメータ数は 𝑘𝑘 に依存。𝑘𝑘 = 𝑛𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘𝑘 を小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group 53

53.

ブラックボックス最適化 (FMQA) フロー • 数理最適化ブラックボックス最適化初期教師データの準備（𝑵𝑵𝟎𝟎 個） 1. 初期教師データとして、𝑁𝑁0 個の入力 𝒙𝒙1 , 𝒙𝒙2 , ⋯ , 𝒙𝒙𝑁𝑁0 と、目的関数を評価し、対応する出力 𝑓𝑓 𝒙𝒙1 , 𝑓𝑓 𝒙𝒙2 , ⋯ , 𝑓𝑓 𝒙𝒙𝑁𝑁0 機械学習＋量子アニーリング／イジングマシンを得る。 2. 初期教師データに基づき、FM を学習し、係数パラメータの初期値 𝒘𝒘, 𝒗𝒗 • を取得する。初期データのみに基づく獲得関数 𝑔𝑔 𝒙𝒙 𝒘𝒘, 𝒗𝒗 を得る。最適化サイクルの実施（𝑵𝑵 − 𝑵𝑵𝟎𝟎 回） � を Amplify を用いて求める。 1. 獲得関数 𝑔𝑔 𝒙𝒙 𝒘𝒘, 𝒗𝒗 を最小とするような入力 𝒙𝒙 � を求める。 2. 真の関数を評価することで 𝑦𝑦� = 𝑓𝑓 𝒙𝒙 �, 𝑦𝑦� を加えて FM を再度学習し、 𝒘𝒘, 𝒗𝒗 を更新する。 3. 教師データに 𝒙𝒙 Copyright© Fixstars Group 𝑁𝑁 − 𝑁𝑁0 回繰り返す 54

54.

55.

ブラックボックス最適化による模擬超電導材料の探索 • 超電導状態に転移する温度（臨界温度 𝑇𝑇𝑐𝑐 ）ができるだけ高温になる材料組合せの探索 • 通常、①数々の材料を選択・合成し、②臨界温度を計測し評価、を繰り返し、より高温の臨界温度を実現する合成対象の材料を同定する、という試行錯誤が主。評価は高コスト。 • 目的関数は臨界温度の負値（−𝑇𝑇𝑐𝑐 ）。臨界温度は簡易的なモデルで推定 • 決定変数の例 x = [0, 0, 1, 0, 1, 0, 0, 0, 0, 1] 素材量名材料0 材料1 材料2 材料3 材料4 材料5 材料6 材料7 材料8 材料9 非選択 / 選択 0 0 1 0 1 0 0 0 0 1 Copyright© Fixstars Group 56

56.

ブラックボックス最適化による模擬超電導材料の探索目的関数値（−𝑇𝑇𝑐𝑐 ） • 超電導状態に転移する温度（臨界温度 𝑇𝑇𝑐𝑐 ）ができるだけ高温になる材料組合せの探索最適化過程に • 通常、①数々の材料を選択・合成し、②臨界温度を計測し評価、を繰り返し、より高温のおける評価値臨界温度を実現する合成対象の材料を同定する、という試行錯誤が主。評価は高コスト。 • 目的関数は臨界温度の負値（−𝑇𝑇𝑐𝑐 ）。臨界温度は簡易的なモデルで推定初期教師データ構築時の評価値＝ランダム探索 • 決定変数の例 x = [0, 0, 1, 0, 1, 0, 0, 0, 0, 1] 素材量名材料0 材料1 材料2 材料3 材料4 材料5 材料6 材料7 材料8 材料9 非選択 / 選択 0 0 1 0 1 0 0 0 0 1 𝒊𝒊番目の目的関数𝑓𝑓 𝒙𝒙 の評価 Copyright© Fixstars Group 57

57.

ブラックボックス最適化による化学プラント生産量最大化 • 化学反応装置（𝐴𝐴 → 𝐵𝐵）における物質生成量の最大化を目指す最適化モデル課題 • 目的関数は、化学反応シミュレーションで得るB分布を空間積分した生成量 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 の負値 • 反応器は、反応性物質 A の初期濃度分布で制御される化学反応シミュレーションで考慮する基礎方程式（有限差分法） • • 𝜕𝜕𝐶𝐶𝐴𝐴 𝜕𝜕𝜕𝜕 𝜕𝜕𝐶𝐶𝐵𝐵 𝜕𝜕𝜕𝜕 = 𝛼𝛼 = 𝛼𝛼 𝜕𝜕 𝜕𝜕𝐶𝐶𝐴𝐴 𝜕𝜕𝜕𝜕 𝜕𝜕𝜕𝜕 𝜕𝜕 𝜕𝜕𝐶𝐶𝐵𝐵 𝜕𝜕𝜕𝜕 𝜕𝜕𝜕𝜕 − 𝜔𝜔 𝐶𝐶𝐴𝐴 , 𝐶𝐶𝐵𝐵 ・・・A濃度の拡散反応輸送方程式 + 𝜔𝜔(𝐶𝐶𝐴𝐴 , 𝐶𝐶𝐵𝐵 ) ・・・B濃度の拡散反応輸送方程式 • 𝜔𝜔 = 𝑅𝑅𝑟𝑟 𝐶𝐶𝐴𝐴 1 − 𝐶𝐶𝐴𝐴 exp −𝐶𝐶𝐵𝐵 ・・・反応速度 • 𝐶𝐶𝐵𝐵 = 𝑂𝑂 at 𝑡𝑡 = 0・・・初期条件 Copyright© Fixstars Group 58

58.

ブラックボックス最適化による化学プラント生産量最大化 • 化学反応装置（𝐴𝐴 → 𝐵𝐵）における物質生成量の最大化を目指す最適化モデル課題 • 目的関数は、化学反応シミュレーションで得るB分布を空間積分した生成量 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 の負値 • 反応器は、反応性物質 A の初期濃度分布で制御される c_a0 =[0, 0, 0, 1, 0]  燃料ノズル位置等 c_a0 = [0, 1, 0, 1, 0] Aの初期濃度分布 Copyright© Fixstars Group 59

59.

ブラックボックス最適化による化学プラント生産量最大化 • 化学反応装置（𝐴𝐴 → 𝐵𝐵）における物質生成量の最大化を目指す最適化モデル課題 • 目的関数は、化学反応シミュレーションで得るB分布を空間積分した生成量 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 の負値 • 反応器は、反応性物質 A の初期濃度分布で制御される生産時間終了時におけるBの濃度分布初期の反応性物質Aの濃度分布さらに時間経過後のBの濃度分布初期の生成物Bの濃度分布（ゼロ）少し時間経過後のBの濃度分布 Copyright© Fixstars Group 60

60.

ブラックボックス最適化による化学プラント生産量最大化 #9 Random, 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 = 0.4~0.6 目的関数値（−𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 ） ※目的関数は、B生成量 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 の負値 #0 FMQA 初期教師データ構築時の評価値＝ランダム探索 #9 Random 最適化過程における評価値 #7 FMQA #0 FMQA, 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 = 0 #7 FMQA, 𝑚𝑚𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 = 0.831 𝒊𝒊 番目の目的関数 𝑓𝑓 𝒙𝒙 の評価 Copyright© Fixstars Group 61

61.

ブラックボックス最適化とCFDによる翼形状の最適化 • 一様流れ中に設置された翼に作用する揚力𝐹𝐹𝐿𝐿 と抗力𝐹𝐹𝐷𝐷 の比（揚抗比） 𝑟𝑟𝐿𝐿𝐿𝐿 = 𝐹𝐹𝐿𝐿 / 𝐹𝐹𝐷𝐷 を最大化する翼形状の探索（−𝑟𝑟𝐿𝐿𝐿𝐿 を最小化する問題） • パラメータにより翼形状を定義し、定義された翼形状に対し流体シミュレーションを実施、後処理にて揚抗比 𝑟𝑟𝐿𝐿𝐿𝐿 （の負値）を算出。 • 単一翼の場合、写像パラメータ（実数）2つ、迎角（実数）1つの、合計3つからなる実数決定変数 • one-hot エンコーディングにより、実数決定変数を100要素からなるバイナリ変数ベクトルに変換し、ブラックボックス最適化を実施 Copyright© Fixstars Group 62

62.

ブラックボックス最適化とCFDによる翼形状の最適化 #1 Random, 𝑟𝑟𝐿𝐿𝐿𝐿 = 𝟏𝟏. 𝟖𝟖𝟖𝟖 ※目的関数は、揚抗比 𝑟𝑟𝐿𝐿𝐿𝐿 の負値目的関数値（−𝑟𝑟𝐿𝐿𝐿𝐿 ）初期教師データ構築時の評価値＝ランダム探索 #17 Random , 𝑟𝑟𝐿𝐿𝐿𝐿 = 𝟐𝟐. 𝟑𝟑𝟑𝟑 #7 FMQA 最適化過程における評価値 #7 FMQA , 𝑟𝑟𝐿𝐿𝐿𝐿 = 𝟏𝟏. 𝟎𝟎𝟎𝟎 #1 Random #17 Random #19 FMQA #19 FMQA , 𝑟𝑟𝐿𝐿𝐿𝐿 = 𝟐𝟐. 𝟕𝟕𝟕𝟕 𝒊𝒊 番目の目的関数 𝑓𝑓 𝒙𝒙 の評価 Copyright© Fixstars Group 63

63.

64.

65.

ブラックボックス最適化のデモプログラム ① ある代数式を未知のブラックボックス関数と見なした場合のブラックボックス最適化最適化サイクル問題設定 • 本来なら評価が高コストで、形状が不明な目的関数（真の関数）𝑓𝑓(𝒙𝒙) として、 𝑇𝑇 𝑓𝑓 𝒙𝒙 = 𝒙𝒙 𝑄𝑄𝒙𝒙 とした。プログラム内で 𝑄𝑄 は乱数で定義 1. 教師データから獲得関数 𝑔𝑔(𝒙𝒙) を構築 (FM) � を推定 (QA) 2. 獲得関数 𝑔𝑔(𝒙𝒙) が最小となる点 𝒙𝒙 �, 𝑓𝑓(� 𝒙𝒙) を教師データに追加 3. 評価結果 𝒙𝒙 ↑のサイクルにより、最適化点近傍におけるFMの予 � 測精度が向上し、組合せ最適化により、より良い 𝒙𝒙 の推定が期待される Copyright© Fixstars Group 66

66.

67.

68.

デモプログラム 3/7（FMパラメータの学習） FM の学習は、通常の機械学習と同様に進める。教師データを学習・検証データに分割し、ミニバッチ学習。 • model_class: モデルクラス（TorchFM） • model_param: ハイパーパラメータ • batch_size: ミニバッチサイズ • epochs: エポック（繰り返し）の数 • criterion: 損失関数 • optimizer_class: 最適化アルゴリズムクラス • opt_params: その他細かな設定 Copyright© Fixstars Group 69

69.

70.

71.

72.

73.

デモプログラムの実務での活用方法基本的に、true_func()を変更する。必要に応じて、現在の教師データの出力などを追加。 • 例①：true_func() 内でシミュレーションを呼び出し、その戻り値を最小化するように最適化。 • 例②：true_func() 内で実験を行う。つまり、1 � を対象に実回のFMQA で推定された探索候補 𝒙𝒙 験し、結果を教師データに追加、次のFMQA 試行を行う。 • ℎ 𝒙𝒙 を最大にするような入力 𝒙𝒙 を推定する場合は、1/ℎ 𝒙𝒙 や −ℎ 𝒙𝒙 などを目的関数 𝑓𝑓 𝒙𝒙 とする。 Copyright© Fixstars Group 74

74.

75.

https://amplify.fixstars.com/ja/docs/

76.

今後のセミナーのご案内今後も無料セミナーを開催します！第二部からの参加も可能です 2023/7/13 (木) 「搬送経路最適化」 2023/8/10 (木) 「シフト最適化」 2023/9/14 (木) 「生産計画最適化」第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「生産計画最適化」のワークショップ • Q&A 第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「シフト最適化」のワークショップ • Q&A 第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「生産計画最適化」のワークショップ • Q&A ご質問・ご不明点は問合せフォームでご連絡下さい https://amplify.fixstars.com/ja/contact Copyright© Fixstars Group 77

https://amplify.fixstars.com/ja/contact

77.

量子コンピュータ時代のプログラミングセミナー ～Fixstars Amplifyで実装するブラックボックス最適化～（2023/06/15） 学術・開発研究者向け