Scheme で MNIST からの学び - higepon blog
久しぶりに Mosh Scheme に触っている。良い機会なので ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 を参考に Scheme で動く MNIST デモを実装しようと思い立つ。MNIST は 0 から 9 までの手書き数字の認識デモ。Neural Network フレームワークのデモやチュートリアルでよく使われるあれだ。なお Scheme には Python でいうところの numpy は存在しないので必要な行列演算はすべて Scheme で実装することとする。 データサイズ train data 画像(28 x 28 x 1) と正解ラベル（0-9） train data: 60000件 test data: 10000件 実装前の期待と予想 他の言語・フレームワークでデモ可能だったのだから CPU 上で十分速く動作する。 比較的小さ
GCP + Visual Studio Code 開発環境構築 - higepon blog
前提 GCP への ssh 接続。GCP の AI notebooks インスタンスに ssh できなかったので調べた - higepon blog。 目標 Visual Studio Code のリモート接続を利用して GCP 上のコードを快適に編集。 git 周りの操作もそのまま行いたい。 Visual Studio Code 自体の習熟。 Kaggle 用に directory layout も最適化。 手順 以前の適当な設定を消したいので VS Code アンインストール。macos - How to completely uninstall vscode on mac - Stack Overflow VS Code インストール。 Settings Auto Save - after delay Extensions Python Awesome Emacs Keymap Re
GCP の AI notebooks インスタンスに ssh できなかったので調べた - higepon blog
動機 Visual Studio Code でコードをリモート編集したい。そのためには local Mac からインスタンスに ssh が必要。 事実 インスタンスは起動している(Web インターフェースからコードを編集できる） インスタンスには外部IPアドレスが設定されている telnet [外部IPアドレス] 22 はタイムアウト。"telnet: Unable to connect to remote host". "VM インスタンスの詳細" - "ssh" の Web インターフェース ssh はつながる ssh -v ssh -v [外部IPアドレス] OpenSSH_7.9p1, LibreSSL 2.7.3 debug1: Reading configuration data /Users/higepon/.ssh/config debug1: Reading config
突発性脳脊髄液減少症になり1ヶ月以上寝たきりだった話 - higepon blog
時間のない人向けのまとめ ある日突然激しい頭痛に見舞われ即入院。 突発性脳脊髄液減少症（低髄液圧症候群）と診断され手術。何らかの原因で、脳脊髄液が硬膜から漏れて髄液圧が低下することで頭痛などの症状が起こる病気。 起立性頭痛（頭痛があるがしばらく横になると楽になる）がある場合は病院に行き症状を医師に伝えよう。 確定診断・治療できる病院＆先生はとても少ない。関東エリアならS病院T先生。 このまとめについて ある日の朝、原因不明の激しい頭痛に見舞われた際の、入院、手術、回復までのまとめ。最近少しずつ知られるようになった病気で（ラジエーションハウス～放射線科の診断レポート～でも取り上げられた）。正しく診断してもらえない場合が多いようだ。病院をたらい回しにされ、心療内科でうつ病と誤診されることもある。何ヶ月も原因不明で苦しむこともある。ここに詳細な記録を残すことで同じ病気にかかった人が、正しい診断・
扁桃腺摘出手術を受けた - higepon blog
口蓋扁桃の摘出手術を受けて7日入院したときの記録。 手術を受けた理由 直接の引き金は先月初旬に扁桃腺炎で40度以上の熱を出し入院したこと。以前から1年に何度も扁桃腺炎になっていた。喉の痛みからはじまり高熱というパターン。最悪の場合は悪化して抗生剤点滴のため入院となる。年に1-2回入院していると思う。過去にも医師に摘出をすすめられたが出血などのリスクが怖くて断っていた。その代わり以下の予防に命をかけていた。 頻繁なうがい。出社、帰宅時はもちろん。トイレで手を洗うときはうがいもする。 通勤時のマスク。これは他者のくしゃみや咳からの予防目的ではない。マスクを付けていることで、自分の手が鼻や口などの粘膜に物理的に触れなくなる。つまり自分の汚い手からの感染を防ぐのが目的。 睡眠 加湿。家には加湿器が2台あり冬場はフル稼働である。 喉の腫れや痛みを感じたらすぐに病院に行き、必要があれば抗生物質を処方し
APTOS 2019 Blindness Detection コンペ反省会 - higepon blog
失明にいたる病気を眼の画像から判定する（5段階）コンペ。初めての画像コンペ。画像コンペでは大きくマシンリソースを使うというイメージで敬遠していたがそこまでもなかった。チームで挑み結果は804/2987。public から375もランクダウン。Shake up の原因と対策はあとでまとめる。 学び PyTorch コンペの途中で Keras が deterministic results を出してくれないことに悩み PyTorch にスイッチ。PyTorch 公式のチュートリアルを写経するだけで十分だった。以前から PyTorch カーネルを読み込んでいて一番気になったのが train 時に back prop の伝播の一部を明示的に書かないといけないこと。やってみたらそれほど気にならなかった。それよりも PyTorch API と画像コンペとの相性のよさが際立っていた。これまで Tenso
Deep Learning training の待ち時間にすべきこと - higepon blog
Deep Learning の training 時間は短いものでは数十分、長いものでは数日に及ぶ。その training が走っている間は、何をすると1番プロダクティブだろうか。いくつかの候補とそれぞれの利点と欠点を以下にまとめてみた。 SNS やメールのチェック コーディング時には後回しにしていた、返事をするのも良いだろう。欠点はもちろん皆さんご存知の通り。気づいたらあっという間に時間を吸い取られること。そしてプロジェクトへのフォーカスが失われることだ。 リファクタリング コードを常にクリーンに保つことは、プロジェクト全体のプロダクティビティ向上に通じる。ただし機械学習のコードはテストが書けない場合が多いので注意が必要。テストによって支えられていないリファクタリングでは必ず IDE の助けを借りよう。リファクタリングの欠点は2つ。1つ目は現在走っているコードと、リファクタリングによって
ZOZO SUIT 後の世界に起こること - 副作用編 - higepon blog
思いついたら追記していく or コメント下さい。 Amazon が似たようなことをやる。 中高生が結果を見せあって盛り上げる。「おまえ足短っ！」とか。 筋トレクラスタが盛り上がる。 ダイエットクラスタが盛り上がる。 夫婦間でも結果を見せ合うのに躊躇する。 ハロウィンで ZOZO SUIT 勢が現れる。 芸能人の採寸が高値で取引される。 by 匿名さん ZOZO suitを切ってであるくやつが発生。採寸スーツなのに。by id:asbjom スマホカメラで測定できるようになって、スーツがゴミになる。 by id:isawo81 Amazonが電撃買収。 by id:mongrelP ボディサイズという新手の個人情報漏洩が見られるのもそう遠い未来じゃないかもしれない。 by id:nakakzs 気になる人のデータから人形を作って抱き枕にする(´･_･`)がっきーのデータとか高く売れそう by
Chatbot と beam search - higepon blog
seq2seq で decoder から出力するときに beam search の方が出現確率が高いモノを選べるので結果が良くなるはず。beam search の詳細は karino2氏の解説。beam search 自体はシンプルで理解しやすいアルゴリズムなのだけど、Tensorflow のグラフでこれを書くのは非常に難易度が高い。使っている seq2seq library には loop_function という引数があってこれで一つ前の input を横取りしてあれこれできる。ということでずっとコードリーディングしてたんだがそれでも難しい。ということで試行錯誤しているうちに他の人が実装しているのを見つけてようやく動いた。 beam search のほうが結果が良いのかいまいち分からない。 >おはよう normal:おはようございます beam 0 おはよう ござい ます 1 お は
Essential COM を読み考えた事 - higepon blog
COM を使った事も、使う予定も無いのだが、天才プログラマ A 氏のすすめで読んでみた。 COM が目指したコンポーネントは 言語独立 native コード なのだがそれを実現するために、どのような仕組みが必要であったかがよく分かる本。 特にI/F と実装を分離する際の C++ が持つ問題点は意識した事がなかったので大変勉強になった。BeOS API のクラスがダミーメンバを持っていた理由もやっと理解できた。 Essential COM を読み A 氏との議論を通して考えた事を残しておく。 COM は当初の目的を達成しているが、複雑すぎるというのが正直な感想。結局のところ「言語独立」と「native コード」の両方を実現しようとしたから複雑になったのだと思う。MS が .NET に舵を切ってからは少しずつ使われなくなっていくのだと思うのだが COM の次の世界はどんなものだろうか。 自分の
Emacs の moccur-grep-find で特定のファイルを無視したい - higepon blog
moccur-grep や moccur-grep-find は moccur-edit と組み合わせると強力なので手放せず毎日使わせてもらっています。 ただしちょっと不満があって moccur-grep-find では .svn やら TAGS などが検索に引っかかってしまうのが少し不便に感じていました。 実は M-x moccur-grep-find して hoge \.scm$ みたいに拡張子を指定すれば引っかからなくなるのでそこまで困っていなかったので放置していました。 今回 id:tonextone さんに *moccur-buffer-name-exclusion-list* で特定のファイルを無視できないんだろうか？と 質問されたのでまじめに調べてみました。 毎日使っている道具なので快適になるなら取り組む価値はありますよね。 結論から言うと *moccur-buffer-na
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Mosh compiler/VM のデバッグを1週間続けた話 - higepon blog
Scheme で MNIST 続き - higepon blog
The Rust Programming Language を読んだ - 2022夏休み - higepon blog
Mosh の Apple Silicon 対応 - 2022夏休み - higepon blog
Visual Studio Code キーバインディング微調整 - higepon blog
Karabiner-Elements - higepon blog
Kaggle Halite コンペ + 強化学習 - higepon blog
colab でプッシュ通知 - higepon blog
むだ死にしない技術を読んだ - higepon blog
