エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
16進数で大きな桁数の計算を行う
○16進数で大きな桁数の計算を行う ■はじめに プログラムでは変数によって表現できる値の最大値がきまっ... ○16進数で大きな桁数の計算を行う ■はじめに プログラムでは変数によって表現できる値の最大値がきまってますよね 1バイトだと256ですし、2バイトだと65536ですし、 もっともっと大きい数を計算したい時どうすればいいんでしょうか? えっ?64bit変数とか使えばいいって? もっともっと大きな数なら、浮動少数点型とか使えば解決するって? いやいや、64bit変数では0x0000000000000000から0xFFFFFFFFFFFFFFFFまでしか 表現できませんし、浮動小数点型では正確な値を保持できません (浮動小数点型の誤差を見たいのなら0.1をループで1000回ぐらい加算して 結果を表示させてみてください) たとえば、数百桁の計算をしなければいけない時とか、どのようにすれば計算 出来るのか? 今回はそれを考えて見たいと思います ■加算について考える 大きな数を表現するために複数の1
2008/10/05 リンク