単精度でも24bit程度の精度があるわけで、これで足りないのは元データの有効数字がめっちゃ桁数ある、とかの場合になりそう
単精度でも24bit程度の精度があるわけで、これで足りないのは元データの有効数字がめっちゃ桁数ある、とかの場合になりそう
senooken JP Social is a social network, courtesy of senooken. It runs on GNU social, version 2.0.2-beta0, available under the GNU Affero General Public License.
All senooken JP Social content and data are available under the Creative Commons Attribution 3.0 license.