タグ

最適化に関するabrahamcowのブックマーク (23)

  • 東京工業大学 情報理工学院 数理・計算科学系

    大岡山地区の建物 大学正門より,桜並木のウッドデッキを通り,右手の芝生をつっきる小径が西8号館,西7号館に続くみちです. 大岡山西8号館(E棟,W棟): キャンパスマップの18, 19番の建物にあたります.館の西隣りに位置しています.正面玄関をはいったところは3階です. E棟においでの方は廊下をはいってすぐ左手のエレベータをご利用下さい. W棟にはじめておいでの方は十分に注意して下さい.E棟とW棟を繋いでいる通路は3階と10階にしかありません.E棟のエレベータを利用すると迷子になります.正面玄関から廊下をまっすぐにおいでになり,奥の右手にあるエレベータをご利用下さい. 西7号館:キャンパスマップの17番の建物にあたります.西8号館から,建物を二つ挟んだ並びにあります.芝生から向う場合,左手に館を見ながら進み,館がとぎれたあたりの右手にある小さな建物が西7号館です.橋を渡ってはいったと

  • GNU Scientific Library – Reference Manual: Multimin Examples

  • JuliaによるNelder-Meadアルゴリズムの実装 - りんごがでている

    Optim.jlというJuliaの関数最適化パッケージの出力が気になったのでプルリクエストを投げたら、ちょっと議論になり色々Nelder-Meadアルゴリズムを調べる事になってしまい、その副作用で少し詳しくなったのでJuliaで実装を書いてみました。Optim.jlの実装より高速だと思います。そのパッケージがこちらです: ANMS - Adaptive Nelder-Mead Simplex Optimization Nelder-Mead法というのは、ご存じの方はご存知のように、n変数の関数の最適化をする際にn+1点からなるsimplex(単体)を変形させながら最小値をgreedyに探索するアルゴリズムです。 アルゴリズム自体は1960年代がある古い古い方法で、数々の亜種が存在します。 今回実装したのはそのうちの比較的新しい Adaptive Nelder-Mead Simplex (A

  • 微分積分

    静岡理工科大学情報学部コンピュータシステム学科菅沼研究室のページです.主として,プログラミング言語( HTML,C/C++, Java, JavaScript, PHP, HTML,VB,C# ),及び,システムエンジニアとしての基礎知識(数学,オペレーションズ・リサーチやシステム工学関連の手法)を扱っています.

    微分積分
  • R_Knapsack - ソフトウェア工学研究室 | 総合情報メディアセンター

  • ネルダー–ミード法 - Wikipedia

    ネルダー–ミード法(ネルダー–ミードほう、英: Nelder–Mead method)や滑降シンプレックス法(英: downhill simplex method)やアメーバ法(英: amoeba method)は、最適化問題のアルゴリズム。導関数は不要。1965年に John A. Nelder と Roger Mead が発表した[1]。 n + 1 個の頂点からなる n 次元の単体(シンプレックス)をアメーバのように動かしながら関数の最小値を探索する。反射、膨張、収縮の3種類を使い分けながら探索する。 Rの汎用的最適化の optim() のデフォルトのアルゴリズムとしても使われている。 線形計画法の1つであるシンプレックス法と名前はまぎらわしいが、基的に無関係である。 の最小化を行う。 は n 次元のベクトル。関数の引数は探索開始点。定数は一般的には を使用する。 は単位ベクトル。

    abrahamcow
    abrahamcow 2015/04/13
    実装してみよう
  • RでLPを解く - J's blog

    RでもLP程度なら「不等式制約付き最適化問題」であっても 数値計算で求められることがわかりました。 用いる関数は、optim()のラッパー関数であるconstrOptim()を使います。 例えば、以下のような(最大化)LPを考えます。 目的関数: 制約条件: (解答は, のとき, 最適値12) わかりやすさのためにまず、constrOptim()の引数のために目的関数f、制約条件uiとciを定義しておきます。fに関しては、optim()と同様に扱えます。 > # 目的関数 > f <- function(par) { + return(3*par[1] + 2*par[2]) + } uiとciに関しては、「 %*% 」を満たすように構成します。 parは推定するパラメータです。 > # 制約条件その1 > (ui <- matrix(c(-3, -1, -2.5, -2, -1, -2,

  • 最急降下法 - Wikipedia

    この項目では、最適化アルゴリズムについて説明しています。解析的(漸近)近似については「最急降下法 (漸近解析)(英語版)あるいは鞍点法(英語版)」をご覧ください。 最急降下法(さいきゅうこうかほう、英: gradient descent, steepest descent)[1]は、関数(ポテンシャル面)の傾き(一階微分)のみから、関数の最小値を探索する連続最適化問題の勾配法のアルゴリズムの一つ。勾配法としては最も単純であり、直接・間接にこのアルゴリズムを使用している場合は多い。最急降下法をオンライン学習に改良した物を確率的勾配降下法と呼ぶ。 尚、最急降下法の“最急”とは、最も急な方向に降下することを意味している。すなわち、収束の速さに関して言及しているわけではない(より速いアルゴリズムがあり得る)。 手法[編集] n 次のベクトル x = (x1, x2, ... , xn) を引数とす

  • 【 R言語 】最適化問題 でよく使う optim( )関数・optimize( )関数 まとめ - Qiita

    【 注 記 】 ※ 以下では、計算速度高速化・負荷軽減化をめざす「最適化」ではなく、関数の最小値・最大値問題を解く「最適化問題」を扱います 最適化問題を解く場面(多変量解析・機械学習・統計的学習の領域) (例1)線形回帰(最小二乗法) ⇒ 誤差関数の最小化 (例2)線形回帰(最尤法)⇒ 尤度関数の最大化 (例3)ベイズ統計 ⇒ 事後分布の最大値・最小値の探索 1変数の最適化問題: optimize() 関数 【関数定義】 optimize(f = , interval = , ..., lower = min(interval), upper = max(interval), maximum = FALSE, tol = .Machine$double.eps^0.25) (引数・オプション) -f : 最大値・最小値を求めたい関数 -interval :最大値 または 最大値を探索する区

    【 R言語 】最適化問題 でよく使う optim( )関数・optimize( )関数 まとめ - Qiita
  • Rosenbrockのbanana functionを共役勾配法で最適化して、可視化してみた - yasuhisa's blog

    wikipedia:en:Rosenbrock_functionという有名らしい関数があるんですが、共役勾配法の動きを見てみるためにこの関数で遊んでみました。結果はこんな感じ。 極端すぎないパラメータだと大域的最適解に行ってくれました。コードも簡単。 f <- function(x) { x1 <- x[1]; x2 <- x[2] (1 - x1)^2 + 100 * (x2 - x1^2)^2 } nabla_f <- function(x) { x1 <- x[1]; x2 <- x[2] c(2 * (x1 - 1) + 400 * x1 * ((x1^2 - x2)), 200 * (x2 - x1^2)) } armijo <- function(x, d, xi, tau) { beta <- 1 while(f(x + beta * d) > f(x) + xi * bet

    Rosenbrockのbanana functionを共役勾配法で最適化して、可視化してみた - yasuhisa's blog
  • quantitate: Sparse Quadratic Programming with Ipoptr

  • In R, how to do nonlinear least square optimization which involves solving differential equations?

  • 関数の最大・最小化 - RjpWiki

    RjpWiki はオープンソースの統計解析システム R に関する情報交換を目的とした Wiki です汎用最適化関数 optim() の使用法 統計学では、最尤推定や最小自乗法等、ある目的関数の最適化を行なう必要が しばしば起こる。optim() は R の汎用最適化関数で、複数の代表的手法をオプションで選べる便利な道具である。 一変数関数専用の最適化関数 optimize もある。 線形不等式制約の場合は 線形不等式制約付きの最適化関数 constrOptim 参照。 同種の関数として 汎用非線形最小化関数 nlm もある。 一変数関数の根を求める専用関数 uniroot もある。 非線形回帰専用の関数 nls は独自の最適化アルゴリズムを使用する。 命令書式 optim(par, fn, gr = NULL, method = c("Nelder-Mead", "BFGS", "CG",

  • Rで数理計画 - RjpWiki

    RjpWiki はオープンソースの統計解析システム R に関する情報交換を目的とした Wiki ですRで数理計画 (例題など、どんどん付け足してください。) ここでは、Rの関数を利用した数理計画問題の解法を説明します。 Rでも既存の関数を利用して、制約条件付き最適化問題を解くことができます。

  • Rによる2次計画法 - subrecurrent blog

    今回は久しぶりにRの話題。 2次計画問題を解くのに、Rの"quadprog"パッケージを使うことにした。 例題は東工大の水野先生のサイト↓ http://www.me.titech.ac.jp/~mizu_lab/text/pdf-file/LP9-QP-problem.pdf 例題では制約が等式制約である。だがquadprogで扱える制約は不等式制約である。 等式制約を不等式制約に変えるのは難しくなく、 ならば、 という2つの制約に落とし込めばよい。 # TODO: 狭義2次計画問題を解く ############################################################################### setwd("H:\\RW\\QPTest") library(quadprog) ## ## Assume we want to minim

    Rによる2次計画法 - subrecurrent blog
  • 線形不等式制約付きの最適化関数 constrOptim - RjpWiki

    RjpWiki はオープンソースの統計解析システム R に関する情報交換を目的とした Wiki です線形不等式制約付きの最適化関数 constrOptim() constrOptim 関数は adaptive barrier アルゴリズム(制約領域の境界に近付くと目的関数値が増加するような付加項を適宜付け加える?)を用い、線形不等式制約(つまり無限もしくは有界な多角形内での最小値求める)下で関数を最小化する。内部的に optim() 関数を使う。矩形制約付きの最適化は otpim の method="L-BGFS-B" が使える。 書式 (method オプションの既定値の与え方にびっくり!) constrOptim(theta, f, grad, ui, ci, mu = 1e-04, control = list(), method = if(is.null(grad)) "Neld

  • 株式会社NTTデータ数理システム

    アルゴリズムとは日語では処理手順のことを言います。 汎用数理計画法パッケージ Nuorium Optimizer が色々な問題を解くことができるのは様々なアルゴリズムがプログラムされているからです。 ここでは数理計画法・最適化の仕組みを理解する上で必要な情報を分かりやすくご説明致します。 あくまで入門的な位置づけですので数学的に厳密な説明を行う訳ではございませんのでご了承ください。 数理計画法で代表的なアルゴリズムについての簡単な解説 線形計画法(LP) 混合整数線形計画法(MILP) 整数計画法(IP) 凸二次計画法(CQP) 非線形計画法(NLP) アルゴリズムの説明 アルゴリズムの説明を具体例を見ながら行いたいと思います。 例題 8 枚の金貨を袋に入れた金貨セットを 1000 袋販売します。 袋に 8 枚の金貨を入れる作業をある業者に依頼したのですが、 その業者は 1 袋あたり 1

    株式会社NTTデータ数理システム
    abrahamcow
    abrahamcow 2014/04/28
    “目的関数が 2 次式で制約条件が線形で表現できる問題を二次計画問題と呼びます。 目的関数が凸の場合にはさらに有効なアルゴリズムを適用することが可能なります。”
  • 凸二次計画 - 機械学習の「朱鷺の杜Wiki」

    凸二次計画 (convex quadratic programming)† 次の凸二次計画問題の解法のこと. 凸二次計画問題 目的関数:\(\min\; \frac{1}{2}\mathbf{x}^\top Q\mathbf{x}+\mathbf{c}^\top\mathbf{x}\) 制約条件:\(A\mathbf{x}=\mathbf{b}\),\(C\mathbf{x}\ge \mathbf{d}\) ただし,入力ベクトル \(\mathbf{x}=[x_1,x_2,\ldots,x_N]^\top\),\(Q\) は N×N の正定値行列,\(A\) と \(C\) はM×N行列,\(\mathbf{c}\) はN次のベクトル.\(\mathbf{d}\) と \(\mathbf{b}\) はM次のベクトル. 一般の非線形最適化問題では大域最適解を求めるのが難しい. しかし,この凸

  • R: Linearly Constrained Optimization

    Linearly Constrained Optimization Description Minimise a function subject to linear inequality constraints using an adaptive barrier algorithm. Usage constrOptim(theta, f, grad, ui, ci, mu = 1e-04, control = list(), method = if(is.null(grad)) "Nelder-Mead" else "BFGS", outer.iterations = 100, outer.eps = 1e-05, ..., hessian = FALSE) Arguments

  • R help - optimization subject to constraints