00:03:00 @azyobuzin@mstdn.maud.io
icon

単精度でやったら e-5 とか結構危うい値出てきたな

Attach image
00:06:06 @azyobuzin@mstdn.maud.io
icon

回転因子の計算だけ倍精度でやって、信号と掛け合わせるところは単精度でやるみたいな戦略を取るべきなのかな

00:10:48 @azyobuzin@mstdn.maud.io
icon

@ltzz 確かに、全部 /N で計算する DFT に対して、大雑把に計算する FFT のほうが精度高そう。今までは全部倍精度で作ってあったけど、単精度にして SIMD に突っ込もうかと考えてたから、誤差について考えないと……。

01:51:36 @azyobuzin@mstdn.maud.io
icon

FFT じゃなくてナイーブ DFT だけど、上から順に Complex(double), float 配列, float 配列に SIMD で試した

Attach image
01:55:31 @azyobuzin@mstdn.maud.io
icon

float 配列が遅いのは盛ってた(IReadOnlyList のインデクサを 2 回叩いてたため。直したら Complex とほぼ同じになった)

01:58:57 @azyobuzin@mstdn.maud.io
icon

おっおっおっ(ただ単に配列より IReadOnlyList のインデクサがインターフェイスコールなことが足引っ張ってるだけ説出てきたぞ)

02:05:56 @azyobuzin@mstdn.maud.io
icon

インターフェイスは遅いという結論にしか至らなかった……

02:18:20 @azyobuzin@mstdn.maud.io
icon

.NET Standard 2.1 が来ないので Span が広範囲で使えない😠😠😠

02:37:58 @azyobuzin@mstdn.maud.io
icon

単精度の誤差、結構きついという感想に至った

02:45:26 @azyobuzin@mstdn.maud.io
icon

あー誤差判定正規化したほうがいいか。でかい値で小さいこと気にしてもアレだし

04:19:54 @azyobuzin@mstdn.maud.io
icon

Qiita に投稿するメリット、 SEO で圧倒的承認が得られることしかない

04:21:20 @azyobuzin@mstdn.maud.io
icon

はてなブログやめたいって言いながら、物書きスペースを構築するやる気が起きず、現在に至る……

14:16:35 @azyobuzin@mstdn.maud.io
icon

収入に不安があるが、これ以上稼働を増やしたら絶対にやばいという自覚があるので、不労所得ください

14:21:23 @azyobuzin@mstdn.maud.io
icon

働きたくない → オタクの言い訳
これ以上稼働を増やしたらやばい → 先週の反省

14:23:33 @azyobuzin@mstdn.maud.io
icon

ご冗談でしょう、内容がご冗談でしょうって感じすぎて言及したら負けシリーズなのに言及してしまった

14:27:24 @azyobuzin@mstdn.maud.io
icon

Music QAM

19:48:32 @azyobuzin@mstdn.maud.io
icon

そういう視点、そういう視点が大事やぞになった

21:56:21 @azyobuzin@mstdn.maud.io
icon

は??? 月末Payトクコンビニでコード決済だけなの??? honto に突っ込む計画が……

21:57:36 @azyobuzin@mstdn.maud.io
icon

20歳になった瞬間が一番お酒に強かった説

22:38:47 @azyobuzin@mstdn.maud.io
icon

ポイントカードを読み取ったときに商品を読み取ったときと違う音を出すの、店員が不正しないため?