Papers with Code - The latest in Machine Learning
X-LoRA: Mixture of Low-Rank Adapter Experts, a Flexible Framework for Large Language Models with Applications in Protein Mechanics and Molecular Design ericlbuehler/mistral.rs • 11 Feb 2024 Starting with a set of pre-trained LoRA adapters, our gating strategy uses the hidden states to dynamically mix adapted layers, allowing the resulting X-LoRA model to draw upon different capabilities and create
解析力学（汎関数微分に注目して変分原理からオイラー・ラグランジュ方程式まで） - Qiita
古典力学を見通しよくするための方法に解析力学がある。解析力学では、変分問題の一つである最小作用の原理（ハミルトンの原理）を指導原理として要請する。変分とは何か、汎関数とは何か、一歩一歩考えながら、有限自由度の系に対して、最小作用の原理からオイラー・ラグランジュ方程式を導くことを本稿では目指す。 最小作用の原理 系の性質を決定づける量にラグランジアン$ L(q,\dot{q},t) $がある。ここで、$t$は時間変数とし、$ q = \left\{ q_i(t) \right\} (i=1,2・・・,N) $ は全ての力学変数をまとめて表している。$N$ は力学変数の個数であり自由度と呼ばれる。$\dot{q} = \left\{ \dot{q_i}(t) \right\} (i=1,2・・・,N) $ は、全ての力学変数の時間微分をまとめたものである。 ラグランジアンを時間で積分した量
AHC典型解法シリーズ第2弾「焼きなまし法」 - Qiita
AHC002の問題設定 50×50マスの床に最大2マス分の大きさのタイルがランダムに敷き詰められています。 ランダムに与えられた初期位置からスタートして、縦横4方向(DRUL)に進みながら、なるべく多くのポイントを稼ぐことが目的です。 例えば、左(L)、下(D)、下(D)の経路を辿ると、経路上のポイント(11,32,90,90)の合計223がスコアとなります。 注意点として、既に踏んだタイルはもう一度踏むことができません。2マスで構成されているタイルの場合、2マスともが侵入禁止になる点に注意してください。この場合、左(L)、下(D)への移動は可能ですが、右(R)、上(U)への移動は不可能です。 目指す形 まず最初に、焼きなまし法系の手法に共通する流れを軽く説明します。 初期解を生成する 解の一部を変えながらよりよい解を探す ゲームで学ぶ探索アルゴリズム実践入門～木探索とメタヒューリスティク
輸送問題を近似的に行列計算で解く（機械学習への応用つき） - 私と理論
輸送問題と呼ばれる問題があります． この問題は，普通は線形計画法やフローのアルゴリズムを使って解かれます． この記事では，この輸送問題を近似的に行列計算で解くアルゴリズム（エントロピー正則化 + Sinkhorn-Knopp アルゴリズム）を紹介します． 輸送問題とは アルゴリズム 得られる解の例 なぜこれで解けるのか？ 競プロの問題を解いてみる 機械学習界隈における流行 まとめ 輸送問題とは 輸送問題とは以下のような問題です． 件の工場と 件の店舗からなる，ある商品の流通圏があるとする． 各工場には 個の在庫がある.． 各店舗では 個の需要がある． 在庫の総和と需要の総和は等しいとする （すなわち ）． 工場 から店舗 に商品を一つ運ぶためには の輸送コストがかかる． 各工場 から各店舗 への輸送量 を適切に決めて，各店舗の需要を満たしつつ輸送コストの総和を最小化せよ． 輸送問題は最適化
輸送問題の解を微分する - Qiita
0. はじめに この記事では輸送問題の解を「微分」する方法に関して説明します。とくにSinkhornアルゴリズムという手法について詳しく解説し、実際に輸送問題の解の「微分」を計算するPyTorchのサンプルコードを載せました。 解説中に出てくる定理や命題の証明はAppendixにまとめまてあります。AppendixおよびShinkhornアルゴリズムの収束に関する章は数学的な内容なので、興味のない方は飛ばしても問題ありません。 輸送問題と微分 輸送問題はその名の通り、複数の工場から複数の店舗への最適な商品の輸送の仕方を決める問題です。 各工場と店舗間の配送には配送料に応じたコストがかかり、総配送コストを最小化するように各輸送量を決めます。 輸送問題やその他類似の数理最適化に関する入門的な内容は例えば 数理計画法（数理最適化） が参考になります。 この記事でいう輸送問題の解の「微分」とは、最
何でも微分する
IBIS 2023 企画セッション『最適輸送』 https://ibisml.org/ibis2023/os/#os3 で発表した内容です。 講演概要: 最適輸送が機械学習コミュニティーで人気を博している要因として、最適輸送には微分可能な変種が存在することが挙げられる。微分可能な最適輸送は様々な機械学習モデルに構成要素として簡単に組み入れることができる点が便利である。本講演では、最適輸送の微分可能な変種とその求め方であるシンクホーンアルゴリズムを紹介する。また、この考え方を応用し、ソーティングなどの操作や他の最適化問題を微分可能にする方法を紹介するとともに、これらの微分可能な操作が機械学習においてどのように役立つかを議論する。 シンクホーンアルゴリズムのソースコード：https://colab.research.google.com/drive/1RrQhsS52B-Q8ZvBeo57vK
技術書出版ラムダノート
いつもご来店ありがとうございます。計算機好きのための技術解説情報誌『n月刊ラムダノート』Vol.4 No.1の発売開始のお知らせです。本号は以下の3つの記事でお送りします。 継続して発生するデータを即座に処理していくシステムに共通する考え方から作り方までを端的に駆け抜ける「手を動かして学... TLSとPKIの実像を理解し、サーバとアプリを安全にする Ivan Ristić 著、齋藤孝道 監訳 488ページ B5判 ISBN：978-4-908686-19-1 電子書籍の形式：PDF 2023年12月4日 第2版第1刷 発行 現代生活を支えるインターネットでは暗号化が不可欠です。しかし実際にサーバやアプリで通信の暗号化を適切に利用するには、暗号化アルゴリズムの知識だけでなく、セキュリティプロトコルであるTLSとそのWebでの応用、さらには基盤となる信頼モデルであるPKIについての幅広い知識
【詳細版】 1+1=2 笑えない数学 ～笑わない数学の笑えない間違いの話～ - Sokratesさんの備忘録ないし雑記帳
NHK で放映された『笑わない数学』という番組の次の回が話題になっていた． www.nhk.jp 企画意図としては「\(1+1=2\) という式を通して数学基礎論という分野を紹介する」というものだったのだが，怪しい説明や誤解を招く説明，端的に誤っている説明があった．というか，全体を通してそういうものがとても多かった．どう少なく見積もっても番組の内容の半分以上がそういうものになっている．正直，全然笑えない．笑わないのではなく笑えない． そういった説明に注意喚起を促し，簡単にだが訂正をするための記事を以前書いた．その記事は速報性を重視して書いており，「ここが怪しい」「ここが間違っている」ということだけを伝えることを目的としていたため，詳細や「具体的にどう直すべきだったのか」という点の記述が不十分であった．というか，一部わたしも素でまちがったこといくつか書いちゃった（訂正・取り消し線による削除済
追っ手から逃れるシステム - きしだのHatena
小さい簡単なシステムでも、工夫次第で追っ手から逃れることができるという良い例が目の前にある。 とりあえず、手法として取り入れやすいものをあげておこう。 ドキュメントは残さない 基本です。手がかりを与えてはいけません。 ドキュメントにうそを混ぜる 契約上ドキュメントを作らざるを得ない場合、実際とは違う記述を織り交ぜておきましょう。その場合でも、全体像がわかるようなドキュメントは書かないこと。 単純な処理でもテンプレートメソッドパターンなどを使って複数のクラスに分散させる 複数のクラスを見る必要があるため見通しがわるくなり追っ手から逃げやすくなる。さらに、一部の変更がどこに影響があるかわかりにくくなるため、変更も行いにくくするという効果がある。 ちょっとした処理は15行ルールの名の下、メソッドを分割する このとき別のクラスにメソッドを置くようにすると、さらに効果的。上から下に順に読めばいいよう
きれいなコードは互いに似通っているが、クソコードはどこもその趣が異なっている - きしだのHatena
先日のJJUG CCC 2023 Fallの懇親会でクソコードを研究しているという学生がいたのだけど、クソコードの研究は難しいという話をした。 人工的にクソコードを再現しても、あの野生のクソコードのクソさには全く足りないわけで。 トルストイが言うように「すべてきれいなコードは互いに似通っているが、クソコードはそれぞれにクソの趣を異にしているものである」なので、なかなか「これがクソコード」のように類型化するのも難しい。 典型的なクソコードを書いてみても、なんだかきれいなクソコードができてしまう。 クソコードはネットに出回らないので、資料の収集もまた難しい。ネットにないということは、ネットの情報に基づいている「AI」もホンモノのクソコードには触れていないことになる。 クソコード収集サイトをつくっても、実際のクソコードは業務固有処理も含まれるので、掲載できる形に整理していくと本来のクソさが薄れて
AHC典型解法シリーズ第1弾「モンテカルロ法」 - Qiita
1位相当の解と95位相当の解が利用している問題特性はほぼ同じで、モンテカルロ法の適用部分だけでこれほどのスコア差がついています。 これで、モンテカルロ法を学ぶモチベーションを持っていただければ幸いです。 AHC015の問題設定 10個×10個でのキャンディーが入る正方形の空の箱があります。 この箱に100個のキャンディーを1つずつ順に追加します。 キャンディーの種類はイチゴ、スイカ、パンプキンの3種類で、t番目に受け取るキャンティーの種類は事前にわかっています。 一方、どの位置にキャンディーが追加されるかは事前にはわからず、空いてるマスから一様ランダムに選ばれます。 キャンディーを1つ追加するごとに、箱を前後左右（FBLR）のいずれか1方向に1回傾けます。 この操作を100回行った時のスコアをなるべく高くすることが目的です。 スコアの詳細は省きますが、各キャンディーの連結成分の大きさの二乗
逆問題解析（逆解析）とは？数理最適化とシミュレーションによるアプローチ｜NTTデータ数理システム
HOME MSIISMについてABOUT US MSIISM とは NTTデータ数理システムとは 技術TECHNOLOGY ベイジアンネットワーク 機械学習・統計解析 数理計画・最適化 ディープラーニング シミュレーション 自然言語処理 画像認識 EDA（半導体） 量子計算 分野・業界FIELD 流通・マーケティング 運輸・物流 製造 研究開発 医療・医薬・ヘルスケア 金融 教育・アカデミック 公共・インフラ 経営・人事・労務 製品活用事例CASE S4 Simulation System Nuorium Optimizer BayoLinkS Text Mining Studio Alkano セミナー&イベントSEMINAR&EVENT お役立ち情報USEFUL 無料E-Book セミナー動画視聴 1から学ぶ基礎知識 お問い合わせ 逆問題解析とは 通常のシミュレーションは、「支配方程式
順列の最小完全ハッシュ関数 - Qiita
この記事は文字列アルゴリズム Advent Calendar 2017 24日目の記事です. 今日 12/24 が何の日か，みなさんもちろん知っていますよね？そう，アッカーマン関数で有名な Wilhelm Friedrich Ackermann1の没日です．計算理論に多大な貢献をしたアッカーマンに縁のある日に記事を書くということで，身が引き締まる思いです． さて，この記事では同じ文字が二度現れない文字列とみなすこともできる順列に関して，その最小完全ハッシュ関数のお話をします. TL;DR 順列の辞書順最小完全ハッシュ関数・逆関数の計算は $O(N \log N)$ でできる．(計算モデルを仮定すると高速化可能) 辞書順を諦めると，順列の最小完全ハッシュ関数・逆関数の計算は $O(N)$ でできる． 定義 順列 (Permutation) 順列，あるいは置換 (Permutation) とは
Implicit Convolutional Kernels for Steerable CNNs
Steerable convolutional neural networks (CNNs) provide a general framework for building neural networks equivariant to translations and transformations of an origin-preserving group $G$, such as reflections and rotations. They rely on standard convolutions with $G$-steerable kernels obtained by analytically solving the group-specific equivariance constraint imposed onto the kernel space. As the so
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
3D VR Sketch Guided 3D Shape Prototyping and Exploration
Rustで数値計算
Fast PDE-constrained optimization via self-supervised operator learning
Preconditioning PDE-constrained optimization with $\rm L^1$-sparsity and control constraints
TOOL SEARCH: メニュー
GitHub - pfnet-research/optuna-book