Conversation

Notices

1. はいこん (hcm@mastodon.home.js4.in)'s status on Saturday, 15-Sep-2018 16:26:59 JST はいこん

   音声は小さい音は敏感に、大きい音には大雑把にという対数的な感覚があるから浮動小数点数で取り扱うのは実態にあってると個人的には思う。そこからハードウェアにどうやって整数に落とし込むかは別

   • らりお・ザ・何らかの?然㊌ソムリエ repeated this.
   • はいこん (hcm@mastodon.home.js4.in)'s status on Saturday, 15-Sep-2018 16:31:33 JST はいこん

     in reply to

     浮動小数点数だとサンプルを2倍にしたい時に完全にその精度を維持できるけど、整数だと1ビット落ちるから、そういうゲイン変更処理が度々要求されるところでは浮動小数点数で扱うのが妥当

     らりお・ザ・何らかの?然㊌ソムリエ repeated this.