大域的非線形数値最適化 - Wolfram Mathematica 7 Documentation
制約条件付きの非線形最適化に対する数値アルゴリズムは，大まかに分けると勾配法と直接探索法とに分けられる．勾配法では，第1導関数（勾配）か第2導関数（ヘッシアン）が使われる．この例には逐次二次計画(SQP)法，拡大ラグランジュ法，非線形内点法がある．直接探索法では，導関数情報は使われない．この例としては，Nelder-Mead法，遺伝的アルゴリズム，微分進化法，焼きなまし法がある．直接探索法の方が収束が遅い傾向があるが，関数と制約条件のノイズの存在への耐性は強い． 通常，アルゴリズムは問題の局所的なモデルを構築するだけである．また，そのようなアルゴリズムの多くは目的関数の減少，目的関数と制約条件の組み合わせであるメリット関数の減少を要求し，反復プロセスの収束を確実にする．収束した場合，このアルゴリズムは局所的最適値だけを見付けるため，「局所的最適化アルゴリズム」と呼ばれる．Mathemati
Simulated Annealing/SA -概論-
Simulated Annealing/SA -概論- 1.はじめに 一般に最適化問題とは，ある制約条件下において， 与えられた状態空間で定義された関数の最大値または最小値を与える状態空間の要素を求める． シミュレーテッドアニーリング（Simulated Annealing）は，最適化問題を解く汎用近似解法の一つである． この方法は，Fig.1のように高温で加熱した金属を徐々に少しずつ温度を下げて冷やすことによって， 元の金属より欠陥の少ない優れた結晶構造を作る物理プロセス（アニーリング）に着想を得て， これを計算機上で模擬することにより最適化問題を解こうとする手法である． Fig.1 高温時から低温時への徐冷に伴う原子の配列 2.SAの特徴 ＜長所＞ ・ 頑強性・・・多くの最適化解法が局所最適化に補足される欠点を持つのに対し，SAは用意には局所最適解につか まらず，理論上は真の最適解
計算機プログラムの構造と解釈 第二版
[ 目次, 前節, 次節, 索引 ] 2014-03-06 更新 [ 目次, 前節, 次節, 索引 ]
Simulated Annealing for beginners
Finding an optimal solution for certain optimisation problems can be an incredibly difficult task, often practically impossible. This is because when a problem gets sufficiently large we need to search through an enormous number of possible solutions to find the optimal one. Even with modern computing power there are still often too many possible solutions to consider. In this case because we can’
バブルソートの方がいい？
CACM の10月号に面白いデータを見つけました． D. H. Ackley, “Beyond efficiency,” CACM 56(10), pp. 38-40, 2013. 仮にあなたの計算機の信頼性が著しく劣っていたとして，比較命令を実行すると10%の割り合いで間違えるとしよう．そのとき，いろんなアルゴリズムは結果の正確さについてどの程度の耐性があるだろうか？で，数字列を正準化するいくつかの方法を比較してみたら，クイックソート < マージソート ≪ バブルソートということでバブルソートが圧勝ということです． クイックソートとマージソートは正準化の高速アルゴリズムで，バブルソートは遅い手法としての地位を確立（？）しています．速さは，如何に比較の回数を削減するかとか，一回の比較あたりでどれだけ遠く離れだ数同士を交換するかに由来しています． でも，正確に動作すると思っていた比較演算があ
「Rによるモンテカルロ法入門」読書ノート：アーカイブ - Wolfeyes Bioinformatics beta
本書は，モンテカルロ法の実践的な解説書であり，統計解析ソフトのRを用いた豊富な実例と練習問題が組まれている．モンテカルロ法とは乱数を用いて数値計算を行う手法の総称であり，本書で扱う内容は乱数の発生からモンテカルロ積分，そしてマルコフ連鎖モンテカルロ法（MCMC）の各種アルゴリズムに至るまで非常に幅広い．たいていの解説には理論に実践演習が付随した形となっており，数学的な理論を軸にして実際にRを用いたコード例が示される． 練習問題を解きつつ読書ノートをまとめてみる そんなこんなで，久保本と並行する形で「Rによるモンテカルロ法入門」を読んでいる．一応MCMCの部分だけひと通り目を通したのだが，最終的にMCMCの実装までひと通りやるにしても一連の流れを簡単にでも追っておかなければと思って，最初の乱数の部分からじっくり読み進めている．これがなかなか難しくて，手も足も出ないところをなんとかRのコードを
初めての機械学習理論 - Y's note
はじめての機械学習 作者: 小高知宏出版社/メーカー: オーム社発売日: 2011/04/22メディア: 単行本（ソフトカバー）購入: 6人 クリック: 99回この商品を含むブログ (9件) を見る はじめての機械学習 はじめての機械学習という本を読んで学んだことをまとめます。自分で理解した言葉としてまとめています。原文とは異なる可能性があります。またその他自分で勉強した内容についても紹介します。 機械学習とは パラメータ調整による学習 帰納的学習 教示的学習 進化的手法による規則学習 ニューラルネット 機械学習ライブラリ その他用語 機械学習とは 「生物」以外の「機械」が学習を行う事。 過去のデータやとある局面のデータを学習して新たな局面に当てはまる有効な知識構成を「汎化」と呼ぶ。 機械学習はゲーム研究での適用が始まりで、人口知能と人間の対戦だった。 評価関数の評価値が高くなるようなパラ
焼き鈍し法(SA法)メモ - Negative/Positive Thinking
はじめに 探索空間から大域的最適解を求めることができる汎用的なアルゴリズムの「焼き鈍し法」についてちょっと調べてみたのでメモ。 latticelmでも用いられているみたい。 SAアルゴリズム 温度Tによって、動作が変わる メインは「メトロポリスの手続き」で、ある温度Tにおけるアニーリング過程をシミュレートする 低下していく各温度についてMetropolisを実行する 温度が高いほど動きがあり(ランダム)、低いほど動きがなくなる(どん欲法) beta > 1 : ある温度でアニーリングに費やされる時間は温度が低下するにつれ次第に増加 RANDOMは一様乱数(0-1) 新しい解を採択する基準は「メトロポリス基準」と呼ばれる 手続きMetropolisはM個の解を生成してチェックする SAの疑似コード SA部分 Algorithm Simulated_annealing(S0,T0,alpha,
焼きなまし法で遊ぶ - Negative/Positive Thinking
はじめに 焼きなまし法について、どんな挙動で、どこを気をつけないといけないのかよくわかってないので、遊んでみる。 焼きなまし法メモ : http://d.hatena.ne.jp/jetbead/20111014/1318598381 評価関数 簡単のために、4次関数を使って、初期位置は小さい山の外側(x0=2.0)に配置してみる。 【関数の形】 (google) (wolfram alpha) http://www.wolframalpha.com/input/?i=-3x%5E4%2B3x%5E3%2B10x%5E2-10x%2B15 best_x = argmax f(x)を求めたい。 コード #include <iostream> #include <cmath> //xorshift // 注意: longではなくint(32bit)にすべき unsigned long xor1
paizaオンラインハッカソンPOH![ポー！]中間レポート――1週間で1万5,000ものコードが提出される！｜gihyo.jp … 技術評論社
paizaオンラインハッカソンPOH![ポー！]中間レポート――1週間で1万5,000ものコードが提出される！ 2013年12月2日より開始したpaizaオンラインハッカソンVol1「新人女子の書いたコードを直すだけの簡単なお仕事です！」ですが、おかげ様で1週間で15,000ものコード提出を頂けています。今回は皆さんのチャレンジの様子について中間レポートをお届けします。 paizaオンラインハッカソンVol1 https://paiza.jp/poh/ec-campaign paizaオンラインハッカソンとは？ 「paizaオンラインハッカソン（略してPOH![ポー！]）」はオンラインで誰でも気軽に参加できるハッカソンを目指しているので、とくに会員登録などをしなくても参加できるような仕組みとなっています。このハッカソンは、1つの課題に対してどのようにコードを書くかより深く考えるきっかけ
![paizaオンラインハッカソンPOH![ポー！]中間レポート――1週間で1万5,000ものコードが提出される！｜gihyo.jp … 技術評論社](https://cdn-ak-scissors.b.st-hatena.com/image/square/eeffbd6a9e6e9b00e610b659b5185fee7ce49409/height=288;version=1;width=512/https%3A%2F%2Fgihyo.jp%2Fassets%2Fimages%2FICON%2F2013%2F1202_paiza.png)
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
関西大学システム理工学部 感性情報システム研究室
いぐさ on Twitter: "要素を追加しつつ小さい順に並べるの、大抵PriorityQueueを使ってるけど、先頭要素だけじゃなく全要素必要なときは挿入ソートした方が速いんだなー。当たり前だけど何か感覚的に意外だ"
Cache-Oblivious データ構造入門 @DSIRNLP#5
こつこつドカンファンド on Twitter: "平衡三進数について調べてたら面白い読み物に当たった http://t.co/viNvBQELRH"
モンテカルロサンプリング
Simulated Annealing
нiяоко iп пеtщоякs on Twitter: "プログラミングと数学を合わせると面白い！PHPとモンテカルロ法で円周率を近似してみた #PHP｜CodeIQ MAGAZINE https://t.co/lvjFtXUQmy via @codeiq"
SimulatedAnnealing - KLab Public Wiki
Modern Heuristic Techniques for Combinatorial Problem
まーす on Twitter: "http://t.co/6YJQ0OAz0R アルゴリズムの解説がスライドと音声で置いてる？(英語)"