固定小数点の係数表と丸め誤差を作る
- ダウンロード商品¥ 680

固定小数点の係数表と丸め誤差を作る 販売価格(税込):680円 係数列を符号付き固定小数点へ丸め、整数配列と誤差の資料を作ります。 対象:組込み向けの数値係数を準備する開発者 ・十進文字列をBigInt有理数で量子化 ・丸め・飽和の結果と厳密な誤差を記録 ・符号付きC配列と16進表記を出力 納品:オフラインHTMLアプリ7ファイル。ZIPを展開しapp.htmlを開きます。 出力:係数CSV/Cヘッダー/計算説明HTML 作業ファイルを明示保存・復元できます。自動保存はありません。 対応範囲: ・500係数・小数18桁・整数部18桁。符号付き8/16/32ビット、二の補数です。 ・実機上の演算やフィルターを設計・検証しません。量子化で失われる精度があります。 ・誤差は厳密な分数、復元値は有限十進数で示します。指数表記・非有限値は拒否します。 記入例は架空データです。需要・売上・効果を保証する商品ではありません。無料の代替手段もあるため、対応範囲と出力形式をご確認ください。
もっと見る
