新規に質問を投稿する
数値をデータベースに保存
2022-05-20 13:10
データベースに値を保存する際に問題が発生しました。
ステップ1：値1350.2と1350.1を入力します
ステップ2：入力した値をデータベースに保存します
ステップ3：データベースに保存されている値は、1350.2=1350.2と1350.1=1350.0999999で異なります
私の願いは、1350.2 = 1350.2、1350.1=1350.1と入力することです。
テキストと数字の書式を変更しようとしましたが、それでも修正されません。
このエラーが発生した場合は、原因と修正方法をお知らせください。
どうもありがとう
回答を投稿するにはログインが必要です。
ご指導ありがとうございます。
よろしくお願いいたします.
よろしくお願いいたします.
こんにちは。
テーブルに保存された値は1350.1でも、「テーブル管理」画面では1350.0999999と見えてしまいます。これは「小数点あり」(DOUBLE)が浮動小数点なので仕方ありません。
セルに読み込む際にセルの書式設定で「数値」として小数点以下の桁数に有効桁数を設定するのが良いと思います。
FAQ：
https://cloud.celf.jp/celf-help/ja/texts/faq/technical/faq000090.html
また、集計出力などをしないのであれば、テーブルには「文字列」として保存して読み込みセルの書式を「標準」としておけば、文字列として保存されていたデータが数値ならばセルに読み込むと数値として扱われるので、有効桁数にこだわらなければそういう方法もあると思います。
テーブルに保存された値は1350.1でも、「テーブル管理」画面では1350.0999999と見えてしまいます。これは「小数点あり」(DOUBLE)が浮動小数点なので仕方ありません。
セルに読み込む際にセルの書式設定で「数値」として小数点以下の桁数に有効桁数を設定するのが良いと思います。
FAQ：
https://cloud.celf.jp/celf-help/ja/texts/faq/technical/faq000090.html
また、集計出力などをしないのであれば、テーブルには「文字列」として保存して読み込みセルの書式を「標準」としておけば、文字列として保存されていたデータが数値ならばセルに読み込むと数値として扱われるので、有効桁数にこだわらなければそういう方法もあると思います。
Q&A一覧へ