並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 84件

新着順 人気順

整数の検索結果1 - 40 件 / 84件

タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。

整数に関するエントリは84件あります。 数学プログラミングmath などが関連タグです。 人気エントリには 『プログラミングを始めた人に「"文字列" の 42 と "整数" の 42 ってなにが違うんですか? そのまま足し算とかしようとするとエラーになるんですけど」と聞かれた話』などがあります。
  • プログラミングを始めた人に「"文字列" の 42 と "整数" の 42 ってなにが違うんですか? そのまま足し算とかしようとするとエラーになるんですけど」と聞かれた話

    Dai MIKURUBE @dmikurube むかし実際、プログラミングを始めた人に「"文字列" の 42 と "整数" の 42 ってなにが違うんですか? そのまま足し算とかしようとするとエラーになるんですけど、でも 42 って書いてあるんだから足せればよくないですか」と聞かれてわりと回答に詰まった記憶がある。それできる言語も実在するしな… 2024-05-19 01:01:26

      プログラミングを始めた人に「"文字列" の 42 と "整数" の 42 ってなにが違うんですか? そのまま足し算とかしようとするとエラーになるんですけど」と聞かれた話
    • 128ビット符号付き整数の最大値は素数 - Rustで任意精度整数演算

      概要 2^n-1 型の数はメルセンヌ数と呼ばれ、更に素数である場合にメルセンヌ素数といいます。本記事では、メルセンヌ数に対する高速な素数判定法であるリュカ・レーマーテストを、Rustの任意精度演算用クレート rug を利用して実装します。 実行環境 CPU: Intel Core i7 1.8GHz メモリ: 16GB OS(ホスト): Windows 10 Home 21H1 WSL2: Ubuntu 20.04.3 rustc: Ver. 1.55.0 cargo: Ver. 1.55.0 符号付き整数型の範囲について Rustには組み込みの整数型として 8,\,16,\,32,\,64,\,128 ビット整数[1]がそれぞれ符号付き・符号なしで備わっています[2]。そのうち符号付き整数は、他の多くの言語と同様、2の補数によって負の数が表現されます。したがって、ビット数 n = 8,

        128ビット符号付き整数の最大値は素数 - Rustで任意精度整数演算
      • ArmにあるというJavaScript専用命令とは何か、あるいは浮動小数点数を整数に変換する方法について - Qiita

        // gcc-10 -march=armv8.3-a arm-jcvt.c という風にコンパイル #include <stdio.h> #include <math.h> #include <inttypes.h> #include <arm_acle.h> // Prototype: // int32_t __jcvt(double); #if defined(__GNUC__) __attribute__((noinline)) #endif int32_t cast_double_to_i32(double x) { return (int32_t)x; } int main(void) { printf("(int32_t)(-2.8) = %" PRId32 "\n", cast_double_to_i32(-2.8)); printf("(int32_t)1.99 = %" P

          ArmにあるというJavaScript専用命令とは何か、あるいは浮動小数点数を整数に変換する方法について - Qiita
        • 【JavaScript】実数から整数への変換に parseInt() を使ってはいけない2つの理由🙅‍♀️ - Qiita

          背景(誰のための記事?) JavaScriptプログラマのみなさまこんにちは。 最近のお仕事の傾向として、マイクロサービス化といいいますか、オブジェクト指向の延長といいますか、MVVM化といいますか、下回りは速度&効率重視でC++で構築し、中間は保守(メンテ)&書きやすさ+ちょっぴり速度も重視で node.js(JavaScript)、上層のUIはなるべく広範囲で使えるように考慮して HTML+CSS 、という3層構造 ・上層:HTML + CSS ・中層:node.js(JavaScript) ・下層:C++ が流行っていまして、今回の事件は中層の node.js スクリプトの部分で発生した問題でした。しかも、下層で生成された巨大なデータを中層で処理し、上層で表示しようとするとある条件で遅延が発生し、表示がカクつくという問題で、その「ある条件」が長期間に渡って特定できない、、、といった難

            【JavaScript】実数から整数への変換に parseInt() を使ってはいけない2つの理由🙅‍♀️ - Qiita
          • 超高速!多倍長整数の計算手法【前編:大きな数の四則計算を圧倒的な速度で!】 - Qiita

            1. はじめに ~メインを読むための準備~ まず、大きな数の計算の話をする前に、少しコンピューターと計算回数について話しましょうか。 コンピューターは、現代ではソフトウェアやアプリケーションの開発に使われていますが、これには重要な背景があります。これは「計算がめっちゃ速いこと」です!人間なんかと比べたら、圧倒的な計算スピードを誇ります。 1-1. 人間の計算速度はどのくらい? まず人間はどのくらいの速度で計算できるでしょうか?速い人も遅い人もいると思います。 例えば、$628 \times 463$ の計算を、今やってみましょう。10 秒以内で計算できたらかなり速い方でしょう。この計算では、次のように「単純計算」を合計 28 回もしていることになります。 9 回の 1 桁 × 1 桁の掛け算 6 回の 1 桁 × 1 桁の足し算 13 回の繰り上がり計算 もし $628 × 463$ が

              超高速!多倍長整数の計算手法【前編:大きな数の四則計算を圧倒的な速度で!】 - Qiita
            • 「π>3.05を凄すぎる方法で証明」を整数論的に考える - tsujimotterのノートブック

              「」を示す問題が2003年の東大入試で出題されました。これは有名なのでみなさん良くご存じかと思いますが、一方で以下の動画のような解法はご存知でしょうか? www.youtube.com たいへん面白い解法なので、まずは一度ご覧いただきたいです。動画の解説もとても丁寧です。今回の記事はこの動画の内容を前提としてお話したいと思います。 動画の概要欄にもリンクが載っていますが、Yahoo知恵袋の以下の質問の「その他の回答」に載っていた回答が元ネタだそうです。 detail.chiebukuro.yahoo.co.jp 元ネタの人はどうやって発見したんでしょうね。いやー不思議です。 今回私が考えたいのは、いったいどうしてこんな解法が存在するのであろうかということです。登場するパラメータが絶妙なバランスで構成されていて、このような解法が存在すること自体が非自明です。 今回はその背景にある理屈を整数論

                「π>3.05を凄すぎる方法で証明」を整数論的に考える - tsujimotterのノートブック
              • 『代数的整数論』目次

                『代數的整數論』高木 貞治 著の現代仮名遣い版高木貞治さんの『代數的整數論』初版を現代語訳しました。 高木さんの出版された書籍は2010年末に著作権が消失しているため、現代語訳は法律的に問題ないと考えています。 著作権について、ブログ:高木貞治プロジェクトを顧みる。 二(三)次利用について、現代語訳の権利について。 推奨環境:PC。(スマホ:Chrome、Firefox。) JavaScript有効。 現在も岩波書店から第2版が出版されています。 底本:『代数的整数論』高(たか)木(ぎ)貞(てい)治(じ)著、岩波書店、1959年刊 $\blacktriangleright$ 評判 代数的整数論  概説および類体論序 前編 概説 第一章 代数的整数 $1.1$ 代数的な数 $1.2$ 有限代数体 $1.3$ 代数的整数 $1.4$ 整除 $1.5$ 単数 第二章 代数体の整数 イデアル $2

                • Pythonの整数型はどのように実装されているのか

                  この記事はPython Advent Calendar 2021 18日目の記事です。 GoogleでソフトウェアエンジニアをしているAlberto Oshiro氏のHow Python Represents Integers using Bignumの翻訳になります。本人のご了承を得て公開しています。感謝。 Photo by Crissy Jarvis on Unsplash C/C++のような低レイヤーのコーディングをしているプログラマは整数型のメモリ使用量を気にしなければいけません。また、オーバーフローを防ぐために変数の取りうる最小・最大値も把握して、intで十分なのか、longが必要なのかを常に考えなければいけません。 C/C++と違ってPythonの整数値にはオーバーフローがないので、Pythonプログラマは整数にどの型を使うか考える必要はないです。また、Pythonの整数型はと

                    Pythonの整数型はどのように実装されているのか
                  • [小ネタ]Javascriptで大きい桁の整数をJSONパースする時の注意点 | DevelopersIO

                    JavascriptでJSONにパースしたいデータに大きい桁の整数があった場合は注意が必要です。 16桁を超えた数値を含む場合、超えた桁数分端数が丸め処理されてしまいます。 その場合、json-bigintを使って回避できます。 例 JSONとして解析する文字列 const jsonStr = '{"id": 6476060033855273896}'; Javascript標準ビルトインのJSON.parseでパースすると以下のようなデータになります。 JSON.parse(jsonStr); > { id: 6476060033855274000 } // (_□_;)!! 桁はそのままですが数値が変わってしまいました。エラーは出ていません。 json-bigintを使うと、 const JSONbig = require('json-bigint'); const jsonStr =

                      [小ネタ]Javascriptで大きい桁の整数をJSONパースする時の注意点 | DevelopersIO
                    • 数学を愛する会 on Twitter: "「素数に一般項はない!」 と主張する人をまれに見かけますが、それは嘘です。 画像の式に好きな整数nを代入すると、n番目の素数が得られます。 https://t.co/GF6hCJDVuF"

                      「素数に一般項はない!」 と主張する人をまれに見かけますが、それは嘘です。 画像の式に好きな整数nを代入すると、n番目の素数が得られます。 https://t.co/GF6hCJDVuF

                        数学を愛する会 on Twitter: "「素数に一般項はない!」 と主張する人をまれに見かけますが、それは嘘です。 画像の式に好きな整数nを代入すると、n番目の素数が得られます。 https://t.co/GF6hCJDVuF"
                      • C言語の符号付き整数はモジュラー演算ではない

                        C言語の符号付き整数の足し算、引き算、掛け算は「2^nを法とするモジュラー演算である」と説明されることがありますが、これは間違いです。正しい説明は、「C言語の符号付き整数のオーバーフローは未定義動作である」となります。 この違いが観測できる例を2つ紹介します。 まず、単項マイナスについて。以下のプログラムを考えます: #include <limits.h> #include <stdbool.h> #include <stdio.h> bool f(int x) { return x == -x; } int main() { printf("%s\n", f(INT_MIN) ? "true" : "false"); } int 型の単項マイナスが2^nを法とするモジュラー計算で行われるのであれば、f が true を返す x は 0 と INT_MIN の2つのはずです。ですが、実際に

                          C言語の符号付き整数はモジュラー演算ではない
                        • 柞刈湯葉(いすかり・ゆば) on Twitter: "1兆から0までの整数で人類が歴史上いちども発声したことのない数字がまだいくつか存在し、全部が発声された瞬間に世界が終わる「カウントダウン仮説」というのを考えていたことがあるんだが、中学生の空想としてはわりとオリジナリティがあって気に入っている"

                          1兆から0までの整数で人類が歴史上いちども発声したことのない数字がまだいくつか存在し、全部が発声された瞬間に世界が終わる「カウントダウン仮説」というのを考えていたことがあるんだが、中学生の空想としてはわりとオリジナリティがあって気に入っている

                            柞刈湯葉(いすかり・ゆば) on Twitter: "1兆から0までの整数で人類が歴史上いちども発声したことのない数字がまだいくつか存在し、全部が発声された瞬間に世界が終わる「カウントダウン仮説」というのを考えていたことがあるんだが、中学生の空想としてはわりとオリジナリティがあって気に入っている"
                          • 超高速!多倍長整数の計算手法【後編:N! の計算から円周率 100 万桁の挑戦まで】 - Qiita

                            4-1. N! の高速な計算 $N! = 1 \times 2 \times 3 \times 4 \times \cdots \times N$ を計算してみましょう。 $N!$ は場合の数を求める問題でよく出てきて、こんな感じのものが求まります。 $1, 2, ..., N$ が書かれたトランプのカードが 1 枚ずつあるとき、これを一列に並べる順番は何通りあるか? 例えば、$N = 13$ の場合 $13! = 6,227,020,800$ 通り、のように計算できます。 また、$N!$ は二項係数 $_NC_K$ を求めるのにも使われます。 $N!$ が求まれば、$_NC_K = N! \div K! \div (N-K)!$ で掛け算・割り算するだけで計算できますね。 $N$ 個の区別できるボールから $K$ 個を選ぶ方法は何通りか? これが $_NC_K$ になります。例えば、$N

                              超高速!多倍長整数の計算手法【後編:N! の計算から円周率 100 万桁の挑戦まで】 - Qiita
                            • Android版のLINEアプリに整数オーバーフローの脆弱性 アップデート呼びかけ

                              JVNを運営するJPCERTコーディネーションセンター(JPCERT/CC)と情報処理推進機構(IPA)は対策として、脆弱性の修正や動作の安定化などがなされた最新版へアップデートするよう呼びかけている。 LINEは2016年6月から、アプリの脆弱性を発見したユーザーに報奨金を贈る制度「LINE Bug Bounty Program」を運用。脆弱性の早期発見に努めている。 関連記事 LINEアプリの脆弱性を見つけたら報奨金 「LINE Bug Bounty Program」本格展開 「LINE」アプリの脆弱性発見者に報奨金を贈る「LINE Bug Bounty Program」が本格スタート。 LINE、プロフ画像が第三者に変更される脆弱性 「プロフ画像、変えられてないか確認を」とユーザーに呼び掛け LINEアプリのプロフ画像を第三者が変更できる脆弱性があり、この脆弱性を利用してプロフ画像を

                                Android版のLINEアプリに整数オーバーフローの脆弱性 アップデート呼びかけ
                              • 「PostgreSQL 16」が正式リリース ~オープンソースのリレーショナルデータベース/パフォーマンスの向上、SQL/JSON構文の拡充、桁区切り・整数リテラルの導入など

                                  「PostgreSQL 16」が正式リリース ~オープンソースのリレーショナルデータベース/パフォーマンスの向上、SQL/JSON構文の拡充、桁区切り・整数リテラルの導入など
                                • AtCoder 版!マスター・オブ・整数 (素因数分解編) - Qiita

                                  お久しぶりです! アルゴリズムと整数好きのけんちょんです! 今回は俗に「数学ゲー」と呼ばれるタイプの問題のうち、整数について語ります。 【他シリーズ】 AtCoder 版!マスター・オブ・整数 (最大公約数編) エラトステネスの篩の活用法を総特集! 〜 高速素因数分解・メビウスの反転公式 〜 フェルマーの小定理の証明と使い方 拡張ユークリッドの互除法 〜 一次不定方程式 ax + by = c の解き方 〜 (書籍画像は amazon ページ より) 追記:整数問題を練習できるオンライン教材 本記事に準拠した、整数アルゴリズムを学べるオンライン教材を作ってみました。素数判定から始めて、段階的に学べる教材としました。 整数問題などのオンライン練習問題集 1 問 1 問は下図のような構成になっています。各問題に対して、ユーザが実装したプログラムを提出すると、その場でサーバー上で実行し、正しく挙

                                    AtCoder 版!マスター・オブ・整数 (素因数分解編) - Qiita
                                  • 「NVIDIA CUDA Toolkit」に整数オーバーフローの脆弱性、v11.6 Update 2への更新を/任意コードの実行やサービス拒否(DoS)、情報漏洩につながる可能性

                                      「NVIDIA CUDA Toolkit」に整数オーバーフローの脆弱性、v11.6 Update 2への更新を/任意コードの実行やサービス拒否(DoS)、情報漏洩につながる可能性
                                    • 混合整数最適化でスケジューリング問題を扱うテクニック 〜カスタマーサポートのWFMを例に〜 - ZOZO TECH BLOG

                                      はじめに こんにちは。ZOZO Researchの千代です。 ZOZO Researchでは類似アイテム検索やおすすめアイテムのレコメンドといった機能開発の他に、様々な技術を用いたバックエンド業務の効率化にも取り組んでいます。 ZOZOTOWNのカスタマーサポートで実施しているワークフォースマネジメント(以下WFM)もその1つです。WFMで必要となるタスク割当て問題を数理最適化問題の一種である混合整数最適化問題として定式化し、最適なタスク割当てを計算しています。 この記事では、カスタマーサポートのWFMでの利用を例に、混合整数最適化でスケジューリング問題を定式化するテクニックについて説明します。 目次 はじめに 目次 ワークフォースマネジメントとは スケジューリング問題とは この記事の問題設定 スケジューリング問題を解くためのアプローチ 数理最適化問題とは 混合整数最適化問題とは 混合整数

                                        混合整数最適化でスケジューリング問題を扱うテクニック 〜カスタマーサポートのWFMを例に〜 - ZOZO TECH BLOG
                                      • 『初等整数論講義 第2版』目次

                                        『初等整数論講義 第 $2$ 版』高木 貞治 著高木貞治プロジェクトとして『初等整数論講義 第 $2$ 版』を転載しました。 共立出版より許諾を頂きました。 著作権について、ブログ:高木貞治プロジェクトを顧みる。 誤植と思われる箇所はこちらにまとめてあります。 推奨環境:PC。(スマホ:Chrome、Firefox。) JavaScript有効。 現在も共立出版から初等整数論講義 第 $2$ 版が出版されています。 転載元:『初等整数論講義 第 $2$ 版』高(たか)木(ぎ)貞(てい)治(じ)著、共立出版、2019年刊(第2版44刷) $\blacktriangleright$ 評判

                                        • 「WebAssembly 2.0」に関する最初のワーキングドラフトが公開。整数における符号拡張命令、関数からの複数の戻り値などを拡張

                                          「WebAssembly 2.0」に関する最初のワーキングドラフトが公開。整数における符号拡張命令、関数からの複数の戻り値などを拡張 W3Cの WebAssembly Working Groupは、「WebAssembly 2.0」に関する最初のワーキングドラフト「Web Assembly First Public Working Draft」を公開しました。 WebAssemblyは、Webブラウザ上でネイティブコードに近い実行速度で高速に実行できるバイナリフォーマットとして仕様策定と実装が始まりました。2017年には主要なWebブラウザでのサポートが実現し、2019年12月にはW3Cの勧告に到達しました。 WebAssemblyがW3Cの勧告に到達。「WebAssembly Core Specification 」「WebAssembly Web API」「WebAssembly Ja

                                            「WebAssembly 2.0」に関する最初のワーキングドラフトが公開。整数における符号拡張命令、関数からの複数の戻り値などを拡張
                                          • Ice Lakeプロセッサは整数除算がアツい 数値計算編 - chroot("/home/hibari")

                                            下記の前回の記事でIce Lakeプロセッサは整数除算命令が強化されていることが実験を通じてわかった. lcstmarck.hatenablog.com ただこの記事では単にidiv命令をただ実行しまくっただけなので,特に意味がない処理をしている.そのため,もう少しだけそれらしい処理をさせて整数除算が強化されているかどうかをもう少しだけ見ていこうと思う. 今回は多倍長整数除算の処理をさせていく.といっても,除数と被除数が共に任意精度の時の除算処理は実装が非常に大変であるため,除数に関しては1ワードのみとし「(多倍長整数) / (1ワード整数)」の計算の処理とした. 実装 以下が簡易的多倍長整数除算の実装である. (追記:aやbなどはuint32_tで十分というご指摘をいただきました.ありがとうございます.) void divide(uint32_t *a, uint32_t b, uint

                                              Ice Lakeプロセッサは整数除算がアツい 数値計算編 - chroot("/home/hibari")
                                            • AMD、“視覚的損失なし”で2割以上FPSを向上できる新「Radeon Software」ドライバ ~整数倍スケーリング対応、Radeonドライバ史上最高の安定性を実現

                                                AMD、“視覚的損失なし”で2割以上FPSを向上できる新「Radeon Software」ドライバ ~整数倍スケーリング対応、Radeonドライバ史上最高の安定性を実現
                                              • Xユーザーの徳丸 浩さん: 「全銀ネットの障害原因、開発言語はやはりC言語だったそうです(インプレスの質問ナイス)。64ビット化によって(整数の?)サイズが増えるが、計算上メモリ割り当て量を増やさなくても足りると見て再コンパイルのみしたが、そのサイズ計算が間違っていた https://t.co/jHk6ecZKli」 / X

                                                • 面接での「100以下の整数」問題の攻略法 - 破壊屋ブログ

                                                  哲学ニュースにあったこの問題が面白いです。 面接官「100以下の整数で一番大きな数を書いた人を採用します。ただし、他の人と被ったらアウトです。ライバルは100人いるとします。」 blog.livedoor.jp 面接や学校の試験で実際に出されたことがある問題みたいですね。ジャンルとしては「囚人のジレンマ」と呼ばれるゲーム理論です。 このルールで本気でやったら一番勝率が高い数字は何だろうか?プログラムを作って検討してみました。 ゲームのルール 一番大きい数字を選んだ人が勝利、それ以外は敗北。 一番大きい数字を選んだ人が2人以上いる場合はバーストとして敗北。 バーストの場合は、その次に大きい数字で再びバーストかどうか判定する。これをループする。 プログラムの挙動 百人の仮想メンバーを用意する。(101人じゃないのかよ!というツッコミは無し) 百人は1から100までの数字を選ぶ。この際に仮想メン

                                                    面接での「100以下の整数」問題の攻略法 - 破壊屋ブログ
                                                  • 「整数なぞぺ~」終了と「空間なぞぺ~」開始【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~

                                                    息子が夫との算数の学習として、1日1問していた「整数なぞぺ~」が金曜日に終わりました。 ⇒「天才くらぶチャレペー4【考える】編」を終了・「整数なぞペ~小学4~6年編」を開始【小3息子】 始めたのは、12月の半ばですが、インフルエンザにかかったり、帰省したり、ジュニア算オリの過去問や面積の問題を始めたので、できたりできなかったりになっていました。 考える力がつく算数脳パズル整数なぞペ~ 小学4~6年編 /草思社/高濱正伸 posted with カエレバ 楽天市場 Amazon Yahooショッピング 7net 夜なので、他のものに時間をとられるとできなかったりしたようです。終わりにある約数大富豪の問題はしないとのことでした。息子は、整数の問題は比較的好きなようですが、簡単な問題でも間違えがあったりしたそうです。また、算数オリンピックレベルの問題と記載があった問題は、「考えもしなかった!」と

                                                      「整数なぞぺ~」終了と「空間なぞぺ~」開始【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~
                                                    • Android版「LINE」アプリに整数オーバーフローの脆弱性/細工された画像を読み込むとアプリがクラッシュしたり、任意のコードが実行される可能性

                                                        Android版「LINE」アプリに整数オーバーフローの脆弱性/細工された画像を読み込むとアプリがクラッシュしたり、任意のコードが実行される可能性
                                                      • JVNVU#90419651: OpenSSL における整数オーバーフローの脆弱性

                                                        OpenSSL Project より、OpenSSL Security Advisory [6 December 2019] が公開されました。 深刻度 - 低 (Severity: Low) 512 ビット用モジュールのべき乗計算で使用される Montgomery squaring プロシージャにおけるオーバーフローの問題 - CVE-2019-1551 秘密鍵の情報が窃取される可能性があります。 なお、開発者によると楕円曲線暗号アルゴリズムを用いる場合には本脆弱性の影響は受けないとのことです。 アップデートする [2020年 3月 18日 - 追記] 本脆弱性の修正を含む次のバージョンが提供されています。開発者が提供する情報をもとに、最新版へアップデートしてください。 OpenSSL 1.1.1e パッチを適用する 開発者が提供する情報をもとに、パッチを適用してください。詳しくは、開発

                                                        • 「次元」は整数値だけではない。無理数次元だって有り得る

                                                          世の中ではあまり知られていないようだけど、「次元」というものは整数値だけじゃないんだよ。 すなわち、1次元(直線)、2次元(平面)、3次元(立体)、4次元(時空間)…のような整数次元以外の図形も有り得るんだ。 いや別に、これは私が勝手に構築した妄想内での話じゃない。ちゃんとした数学での話だ。 一般にフラクタルと呼ばれる図形では、無理数次元というものが考えられるんだ。 まず、フラクタルとは何か。 それは、図形全体がその一部分から再帰的に定義される図形のことだ。 まあ、これじゃ何言ってるかわからないよね。でも、具体例を見ればピンと来るだろう。 有名なのは、シェルピンスキーのギャスケットというやつだ。 こいつは三角形なんだけど、その中身が細かくくりぬかれた図形であり、そのくりぬき方に規則性がある。 まず最初に、三角形の中央をくりぬく。くりぬく形は元の三角形を上下反転させて、半分の大きさにしたもの

                                                            「次元」は整数値だけではない。無理数次元だって有り得る
                                                          • Pythonのbin()、oct()、hex()関数: 整数を2進数、8進数、16進数に変換する - Python転職初心者向けエンジニアリングブログ

                                                            Pythonには整数を異なる進数に変換するための組み込み関数がいくつか存在します。その中でもbin()、oct()、hex()関数は、それぞれ整数を2進数、8進数、16進数に変換する際に役立つツールです。この記事では、これらの関数に焦点を当て、コード例を交えながら詳細に解説します。 bin()関数: 整数を2進数に変換 bin()関数は、与えられた整数を2進数の文字列に変換します。以下に基本的な使用例を示します。 # bin()の基本的な使用例 decimal_number = 42 binary_representation = bin(decimal_number) print(binary_representation) この例では、整数42をbin()関数で2進数に変換し、結果を文字列として得ています。 oct()関数: 整数を8進数に変換 oct()関数は、与えられた整数を8進数

                                                              Pythonのbin()、oct()、hex()関数: 整数を2進数、8進数、16進数に変換する - Python転職初心者向けエンジニアリングブログ
                                                            • Python3の整数int型に最大値はない(上限なし) | note.nkmk.me

                                                              Python2の整数型にはintとlongの2つの型があったが、Python3にはintしかない。Python3のintはPython2のlongに相当し、最大値の上限はなく、メモリの許す限り大きな値を扱うことが可能。 浮動小数点数float型の取り得る範囲(最大値・最小値)については以下の記事を参照。 関連記事: Pythonの浮動小数点数float型の範囲(最大値・最小値) なお、NumPyではint32(32ビット整数型)やint64(64ビット整数型)のようにビット数が固定のデータ型が用いられる。 関連記事: NumPyのデータ型dtype一覧とastypeによる変換(キャスト) Python2の整数int型と長整数long型 Python2では通常の整数型のint型と長整数型のlong型があった。 5. 組み込み型 - 数値型 int, float, long, complex

                                                                Python3の整数int型に最大値はない(上限なし) | note.nkmk.me
                                                              • Python の整数除算の扱い | IwaoDev

                                                                先日の Python コードのバグ(整数で計算されてしまうため結果が異なる). 原因はすぐわかるが,対応は悩む所. コードを分解して動作を確認してみた. def r_cs_o (c , s) : return ( ( c*c ) / ( 8 *s ) + s/2 ) def r_cs_n (c , s) : return ( ( c*c ) / ( 8.*s ) + s/2. ) print (6*6) print (8*1) print (36/8) print (36/8.) print (1/2) print (1/2.) print ("") print (36/8 +1/2 ) print (36/8.+1/2.) print ("") print (r_cs_o(6,1)) print (r_cs_n(6,1)) https://docs.python.org/ja/3/how

                                                                • 「四則計算パズル(整数範囲)」(サイパー思考力算数練習帳シリーズ7)終了【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~

                                                                  サイパーの四則計算パズル「+-×÷パズル(整数範囲)」が昨日終わりました。始めたのは、3月の春休みだと思います。 ⇒サイパー思考力算数練習帳のパズル系問題【小3息子】 パズル系なので、好きな時に進めていました。気分転換用です。 +-×÷パズル 四則計算 新装版/認知工学/M.access posted with カエレバ 楽天市場 Amazon 続いて続編の「+-×÷パズル2」を本棚においておこうと思います。いろいろやりかけの問題集が多いのであまり新しい物を置きたくはないのですが、パズル系は数冊置いておけば適当にするので渡しておきました。 +-×÷パズル 四則計算 2 新装版/認知工学/M.access posted with カエレバ 楽天市場 Amazon ゆっくりでも進めてくれればいいかなと思います。少しリビングの本棚に問題集がいっぱいなので整理中です。 我が家で使っているもの、息子

                                                                    「四則計算パズル(整数範囲)」(サイパー思考力算数練習帳シリーズ7)終了【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~
                                                                  • ぼやけたドット絵とおさらば! NVIDIA「整数スケーリング」の威力

                                                                    NVIDIAは2019年8月20日に公開した「Gamescom Game Ready Driver」と名付けられたGeForceシリーズ向けのドライバ(バージョン436.02)で、パフォーマンスの向上や入力レスポンスの高速化を可能になる「Ultra-Low Latency」など複数の機能が追加されだが、ここではその一つ「整数スケーリング」に注目したい(バージョン436.02以降なら利用可能)。 解説に移る前に、一つ注意事項がある。「Gamescom Game Ready Driver」はGeForceシリーズに導入可能だが、「整数スケーリング」はGeForce RTXまたはGeForce GTX 16シリーズといわゆるTuning世代でのみ使える機能であること。古い世代のGeForceシリーズでは使えない点は注意が必要だ。 「GeForce RTX 2080 Ti」はメジャーリーグのダルビ

                                                                      ぼやけたドット絵とおさらば! NVIDIA「整数スケーリング」の威力
                                                                    • 因幡めぐる@競技プログラミング on Twitter: "【めぐるのアルゴリズム講座】 二分探索(整数)の書き方 難しさ:4 https://t.co/LGLbkS0D7l"

                                                                      【めぐるのアルゴリズム講座】 二分探索(整数)の書き方 難しさ:4 https://t.co/LGLbkS0D7l

                                                                        因幡めぐる@競技プログラミング on Twitter: "【めぐるのアルゴリズム講座】 二分探索(整数)の書き方 難しさ:4 https://t.co/LGLbkS0D7l"
                                                                      • 計画立案には「混合整数最適化」アルゴリズムがお薦め、自然言語処理ならBERT

                                                                        混合整数最適化は整数と実数の両方が含まれる「線形計画」問題であり、制約条件のある中で、複数の変数の最適な組み合わせを見つけるアルゴリズムだ。 似た手法として数十年前から使われる「整数計画法」があるが、こちらは整数しか取り扱えない。しかし実際のビジネスの世界においては、整数と実数の両方を含んだ問題が多い。例えば配送個数(整数)と配送距離(実数)から最適な配送計画を立案する問題などだ。整数と実数の両方を含むことで最適な組み合わせを見つけるのが難しくなる。この問題に対応するのが、混合整数最適化のアルゴリズムだ。 最適解を求める考え方はシンプルで、初期の設定(変数の組み合わせ)から出発し、その周辺でより良い解を見つける。次に新しく見つかった解の周辺で、さらに良い解を見つけようとする。これらのプロセスを徹底的に繰り返すことによって、最適な解を見つけていく。計算量が莫大になるため、現実的な速度で解を得

                                                                          計画立案には「混合整数最適化」アルゴリズムがお薦め、自然言語処理ならBERT
                                                                        • 「天才くらぶチャレペー4【考える】編」を終了・「整数なぞペ~小学4~6年編」を開始【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~

                                                                          「天才クラブチャレペー」シリーズの④【考える】編が終わりました。 4冊は①の1番目の問題から少しずつ難しくなっていく難易度設定らしいです。ですが、キッズBEEや「明日への算数」にたくさん出てきていた「場合の数」の問題が多かったようで、時間もかからず、間違えた問題も少しだったようです。 天才くらぶチャレペ- 「考え抜く力」が身につく 4 /実務教育出版/算数オリンピック数理教室アルゴクラブ posted with カエレバ 楽天市場 Amazon 夫や私から見ると、キッズBEEの方が難しいかなと思いました。キッズBEEの前にしておきたかたった問題集でした。 間違えたところを再度、解きたいところなのですが、すぐに直すと達成感がないだろうということで、いったん終わりにします。 1月からジュニア算オリの過去問の予定だったので、少し時間があるので、同じ花丸学習会の高濱さんが著者の有名な「なぞぺ~」シ

                                                                            「天才くらぶチャレペー4【考える】編」を終了・「整数なぞペ~小学4~6年編」を開始【小3息子】 - ずぼら母の育児メモ ~2023年中学受験&幼児教育~
                                                                          • 整数除算の二つの流儀

                                                                            整数除算の流儀 整数除算は割り切れなかった時の商の扱い方によって何種類かに分類でき、商を0に向かって切り捨てるものと、-\inftyに向かって切り下げる(床関数)ものの2種類がよく使われます。この記事ではこれらの関係を見ていきます。 ここではquot, rem, div, modを次のように定めます。ただし、\mathrm{trunc}(x)はxと同じ符号を持ち、絶対値が\lvert x\rvertを超えない最大の整数であるような整数です。 \begin{aligned} \mathrm{quot}(n,d)&:=\mathrm{trunc}(n/d), \\ \mathrm{rem}(n,d)&:=n-\mathrm{quot}(n,d)\cdot d, \\ \mathrm{div}(n,d)&:=\lfloor n/d\rfloor, \\ \mathrm{mod}(n,d)&:=n

                                                                              整数除算の二つの流儀
                                                                            • Intel Ice Lakeのプロセッサは整数除算命令がアツい - chroot("/home/hibari")

                                                                              特に理由はないのですが,intelのIce Lakeのプロセッサに対して謎の高揚感等を感じている. Ice Lakeというコードネームのプロセッサの代表的な特色として,AI推論命令セットとなるIntel Deep Learning Boostであったり,グラフィック機能も持った10nm製造プロセスなどなど,満載感があふれている. しかしこのアーキテクチャにはあまり表沙汰になっていない進化もしており,なんとinteger dividerのレイテンシも低減させているという. 除算命令,もといdiv命令系はもともとレイテンシが大きく,四則演算の中でもadd, sub, mulと比較しても処理が重い命令として有名である.そんな除算命令のレイテンシが抑えられたというのであれば,これは進化といえるであろうと思う. ということで,今回はこのdividerに着目し,実際に動かしてみてこの目で確かめてみよう

                                                                                Intel Ice Lakeのプロセッサは整数除算命令がアツい - chroot("/home/hibari")
                                                                              • 重複組合せの公式と例題(玉,整数解の個数) | 高校数学の美しい物語

                                                                                nnn 種類のものから重複を許して rrr 個選ぶ場合の数は n+r−1Cr{}_{n+r-1}\mathrm{C}_rn+r−1​Cr​ 通り。

                                                                                  重複組合せの公式と例題(玉,整数解の個数) | 高校数学の美しい物語
                                                                                • 整数同士の除算演算子の挙動 (C言語、C++、Scala、Java、Rust、Go言語、PHP、JavaScript、Perl、Python、Ruby、Elixir) - Qiita

                                                                                  整数同士の除算演算子の挙動 (C言語、C++、Scala、Java、Rust、Go言語、PHP、JavaScript、Perl、Python、Ruby、Elixir)JavaRubyPythonPHPRust 整数での / と % の演算子の挙動。 整数を整数で割ったら 整数 vs 浮動小数点数 どっち? -5 / 4 は -1.25 PHP 割り切れないから浮動小数点数 C言語派のために intdiv という関数もある Perl 割り切れないから浮動小数点数 use integer を宣言するとC言語派に変わる Python 割り切れるか関係なく割り算したら浮動小数点数 C言語派のために // という演算子もある Elixir 割り切れるか関係なく割り算したら浮動小数点数 C言語派のために div という関数もある JavaScript はじめから整数と浮動小数点数の区別がない -5 /

                                                                                    整数同士の除算演算子の挙動 (C言語、C++、Scala、Java、Rust、Go言語、PHP、JavaScript、Perl、Python、Ruby、Elixir) - Qiita

                                                                                  新着記事