ベクトルプログラミングとunsafe

8.9K Views

April 27, 24

#C# #ベクトルプログラミング #unsafe #ポインタ #パフォーマンス

スライド概要

profile-image
スライド一覧

こんにちは

シェア

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

ダウンロード

ダウンロード(pdf - 1.1MB)

関連スライド

slide-thumbnail

技術書を集中して読むために新たに始めた方法が自分にクリティカルヒットした話​
user-img 松井 敏 124.4K
slide-thumbnail

C#の素晴らしさ
user-img 松井 敏 104.1K
slide-thumbnail

ベクトルプログラミング入門を読んでunsafeの沼に足を踏み入れかけたが _unsafeはUnsafeでセーフ_
user-img 松井 敏 3.5K
slide-thumbnail

Blazor+Identity
user-img 松井 敏 2.4K
slide-thumbnail

CI&CD
user-img 松井 敏 1.9K
slide-thumbnail

C#コードレビュー
user-img 松井 敏 1.4K
各ページのテキスト
1.

C#ベクトルプログラミ ング入門を読んで UNSAFEについて 調べてみた 2024/04/27 C#パフォーマンス勉強会 松井 敏

2.

自己紹介 • 名前 : 松井 敏 a.k.a @moririring • 職業 : Codeer、HACARUS(副業) • 著書 : Unity5 3Dゲーム開発講座 • 表彰 : Microsoft MVP for Developer Technologies • コミュニティ : C#読書会主催、Greek Alphabet Software Academy TA

3.

C#ベクトルプログラミング入門について • C#読書会でC#ベクトルプログラミング入門を読んでいる。 • この本は、SIMD(Single Instruction Multiple Data)をC#で使うための本 • System.Runtime.Intrinsics (イントリンシック)の命令(例えばAvx.Addなど)で、1回に 256ビット処理するプログラムが書ける • 例えばfloat型の配列なら256ビット / 32ビットで8個まとめて扱える。…単純に8倍 速くなるではないが、状況によっては2-8倍以上速くなることもある

4.

C#ベクトルプログラミング入門について • System.Runtime.Intrinsicsの命令は一杯あって、本ではその説明が一番長い（3割 弱）。 • 足し算や掛け算は兎も角、これ何に使うんだろうという命令、例えば偶数のみ複 製とかアンパッチしてインターリーブする（？）命令とかまである。 • しかも説明の最初に「これはごく一部です」と書いてある。 • 正直、読書会でもその章は途中で止めた。

5.

UNSAFE • イントリンシックの命令を扱う際に本の中でunsafe, fixed, stackallocなどが出てくる • 自分はC#歴は10年以上はあるが、業務でunsafeを使ったことはない • もちろんunsafeを使えば速く出来るケースはあったと思うが結果的には使わずに やってきたため知識が足りてない。。 • この本をきっかけにunsafeについて色々学びなおし

6.

質問 • /unsafe オプションを付けたことがある人？ • 実際にunsafeのコードを書いたことある人？ • C#でポインターを使ったことがある人？ • unsafeを使ってパフォーマンスが向上したことがある人？

7.

UNSAFE=ポインタ？ • そもそもunsafeは何のために使うのか？ • 個人的にはunsafe = ポインタを使いたいからという印象 • MS Learnにもアンセーフコードとポインタという記事がある

8.

ポインタが速い？ • ただ、ちょっと考えみるとポインタはあくまで受け方 • 参照だってコピーは発生しない • 使っただけで直ちに速くなるというわけではない…はず • でも、正直、自分もポインタにするだけで速くなるというイメージはあった。。 代償(unsafe)を払ったのだから、それに見合うだけの力(パフォーマンス)を得て当 然みたいな

9.

ポインタ以外 • unsafeにおけるポインタ以外のキーワード。 • fixedとstackalloc

10.

FIXED • fixed ステートメント - ポインター操作のために変数を固定する • fixed ステートメントを使うと、ガベージ コレクターによる移動可能変数の再配 置を防ぎ、その変数へのポインターを宣言することができます。 固定 (またはピ ン留め) された変数のアドレスは、そのステートメントの実行中に変わりません。 宣言されたポインターは、対応する fixed ステートメント内でのみ使用できます。 宣言されたポインターは読み取り専用であり、変更できません。

11.

STACKALLOC • stackalloc 式 (C# リファレンス) • stackalloc 式を使用すると、スタックにメモリ ブロックを割り当てることができ ます。 メソッドの実行中に作成されてスタックに割り当てられたメモリ ブロッ クは、そのメソッドが戻るときに自動的に破棄されます。 stackalloc を使用して 割り当てられたメモリを明示的に開放することはできません。 スタックに割り 当てられたメモリ ブロックは、ガベージ コレクションの対象外であり、fixed ス テートメントを使用してピン留めする必要はありません。

12.

ガベージコレクション • 速度向上のコツの一つがガベージコレクションを避けること • fixedとstackallocを使うとまさにガベージコレクションを避けることが出来る

13.

NEW VS FIXED VS STACKALLOC • SharpLab • やっていることは一緒 • 1番目は普通にnew • 2番目はfixed • 3番目はstackalloc • これを100回。大体1 < 2 < 3で速い

14.

スタックとヒープ • fixedとstackallocの違い。 • stackallocはスタック領域、fixedはヒープ領域からメモリを確保。 • スタックは領域をそのまま使うが、ヒープはアドレスから実体を見に行くので、 一般的にスタックはヒープよりも速い

15.

STACKALLOCの特徴 • ただし、スタックは無条件で使えるわけでない • 例えば幅=2000,高さ=2000にしたら？

16.

STACKALLOCの受け方 • 因みにポインタで受けなければ、stackalloc自体はunsafeは必要ない • ポインタを使わない場合はSpan<T>で受ける • Span<byte> content = stackalloc byte[1000];

17.

SPAN<T> • Span<T> 構造体 • メモリの連続した領域にアクセスするために使う型です。 Span<T> インスタン スは、T 型の配列、String、stackalloc を使って割り当てたバッファー、またはア ンマネージ メモリへのポインターによってバックアップできます。 これはス タック上に割り当てる必要があるため、いくつかの制限があります。 たとえば、 クラス内のフィールドを Span<T> 型にすることはできませんし、非同期操作で スパンを使うこともできません。

18.

BYTE[] VS * VS SPAN<T> • SharpLab • 1はnewをbyte配列 • 2はnewをSpan<T> • 3はstackallocをbyte* • 4はstackallocをSpan<T> • 1 < 2は絶対速い。3 < 4はほんの少し 速い

19.

VARクイズ • varの型は？ • var a1 = new byte[w * h]; • Answer: byte[] • var a2 = stackalloc byte[w * h]; • Answer: byte* • var a3 = (w * h > 1000) ? new byte[w * h] : stackalloc byte[w * h]; • Answer: Span<byte> • var a4 = (stackalloc byte[w * h]); • Answer: Span<byte>

20.

属性 • あとパフォーマンスに [SkipLocalsInit]が効くケースもある

21.

[SKIPLOCALSINIT] • SkipLocalsInitAttribute クラス • この属性は安全ではありません。これは、初期化されていないメモリが特定のイ ンスタンスでアプリケーションに表示される可能性があるためです (たとえば、 初期化されていないスタック割り当てメモリからの読み取り)。 メソッドに直接 適用された場合、属性はそのメソッドと、ラムダやローカル関数を含むすべての 入れ子になった関数に適用されます。 型またはモジュールに適用された場合は、 内部に入れ子になっているすべてのメソッドに適用されます。 この属性は、ア センブリでは意図的に許可されていません。 属性を複数の型宣言に適用するに は、代わりにモジュール レベルで使用します。

22.

BENCHMARKDOTNET • Stopwatchでは結果がばらついたので、BenchmarkDotNetを使用するとほぼ SkipLocalsInitはパフォーマンスに効く結果だった。 • BenchmarkDotNetは属性を指定して実行するだけで、時間はかかるがかなり正確 なベンチマークが取れる

23.

ベクトルプログラミングとUNSAFE • ベクトルプログラミング入門は基本unsafeを使っているが、Span<T>のように unsafeを書かなくても済むようになってきている。 • 実際.NET7であればunsafeを使わなくてもベクトルプログラミングを書くことは可 能 • Learnに.NET8のところに「NET 7 ではクロスプラットフォーム ハードウェアの組 み込みが追加されました」と書いてあるが、公式にこの辺のことが書いてある文 章は見つけられてない。。 • 特にハード命令ではなくVectorのサイズで分岐できるようなっているのは大きい

24.

.NET6 VS .NET7.2以降 • 速度も.NET7の方が速かった。 • unsafeを使わない場合MarshalクラスやUnsafeクラスを使う必要がある。

25.

VECTOR512 • .NET8から512ビット扱えるVector512<T>も使えるようになった。同じ書き方でさ らに倍に出来るかも？ • C#ベクトルプログラミング入門の作者が書いたC#ではなさそうだが、 512ビッ ト・ベクトルプログラミング入門という本もある。

26.

AVX512が使えるCPU

27.

VECTOR512 • 自分のノートPC、デスクトップPC、会社のPCは全て512ビットは非対応だった。 • 大体ここ2,3年で買ったPCなので、まだまだ非対応のPCの方が多いと思う • 調べた感じだと対応しているCPUは単体で２万ぐらいだった • あと数年はいるかなーという印象

28.

まとめ • unsafeでfixedを使ってポインタで受ければGCが避けられる。 • サイズが小さい場合はそれよりも、stackallocを使って、Span<T>で受けた方が速 いし、unsafeを使う必要がない。但し、.NET7.2以降。 • ベクトルプログラミングも.NET 7以降であればunsafeを使わなくても書くことが 出来る。新しめのPCで.NET 8以降であればVector512も使用可能。

29.

まとめ • 知識は大事。自分がunsafeを使ってなかったのは単なる怠惰。使えば速くなる機 会はあったはずだが、無知によって使う機会をなくしていた。。 • 今回プロファイルも取ってみたけれど、使いたいシチュエーションが変わればま た結果は変わる。あくまで今回の状況限定の話なので、実践とは違う • 知識は大事だけど、実践していない知識は使いどころが限られる。 • 自分の今の知識と経験では、unsafeやポインタに関してまとまったことはあまり 言えない。。。

30.

参考 • C#ベクトルプログラミング入門 • .NET 7こそがC# SIMDプログラミングを始めるのに最適である理由 • 気づいたら、C# が C++ の速度を凌駕している！ • C#はunsafeの方が速いという幻想 • Span<T>を使うべき5つの理由 • 【.NET】C#でSIMDを使った高速演算 • 【C#】Unsafeクラスで安全で危険なコードを書こう() • 【C#】unsafeコードを書いてみよう • ++C++ - unsafe • ++C++ - Span構造体