黒魔術への招待：Neural Network Stacking の探求 - 俵言
この記事は Kaggle Advent Calendar 2020 の16日目の記事です。去年ネタ記事*1を書いたので今年は真面目なやつにしました。 はじめに Kaggler はコンペにおいてあらゆる手段を用いて評価指標の改善を目指します。特徴量エンジニアリング、モデルや学習手法の試行錯誤、特殊な前処理・後処理の考案、はたまた Leakage の利用に至るまで、ルールを破らない範囲であれば何でもする*2のが Kaggler です。今挙げた例はそのコンペ固有の性質(データの生成過程・分布、評価指標、... etc.)に着目することで大きな効果をもたらす場合が多いのですが、一方でいずれのコンペにおいても一定の効果が得られる手法があります。それは複数のモデルの予測結果を統合して予測を行う Ensemble です。Ensemble は統合するモデルに多様性があるほど性能が向上すると一般に知られてお
Pytorch-lightning+Hydra+wandbで作るNN実験レポジトリ - Higu`s diary
Kaggle Advent Calender2020の 11日目の記事です。 昨日はhmdhmdさんのこちらの記事です! 2020年、最もお世話になった解法を紹介します - Qiita 明日はarutema47さんの記事です! (後ほどリンクはります) 本記事では、深層学習プロジェクトで使用すると便利なライブラリ、 Pytorch-lightningとHydraとwandb(Weights&Biases)について紹介したいと思います。 対象読者 Pytorchのボイラープレートコードを減らせないか考えている 下記ライブラリについては聞いたことあるけど、試すのは億劫でやってない 書いてあること 各ライブラリの役割と簡単な使い方 各ライブラリを組み合わせて使う方法 各ライブラリのリファレンスのどこを読めばよいか、更に勉強するにはどうすればよいか また、上記3つのライブラリを使用したレポジトリを
GitHub、YouTube動画をダウンロードする「youtube-dl」プロジェクトを削除
GitHubは米国時間10月23日、米レコード協会（RIAA）から法律に基づく要請を受け、18件のプロジェクトを削除した。 この日に削除されたコードリポジトリはすべて、「youtube-dl」プロジェクトに関連するものだ。 youtube-dlはPythonで書かれたライブラリーで、開発者はこれを利用して、YouTube動画で使われているソースの音声ファイルや映像ファイルをダウンロードできる。 RIAAは、GitHubに送付した書簡の中で、「このソースコード（youtube-dlライブラリー）の明確な目的は、（i）YouTubeなどの許可されたストリーミングサービスで用いられている技術的保護措置を回避し、（ii）許可なく（中略）ミュージックビデオや録音された音声を複製して配布」することだと主張している。 RIAAは同プロジェクトのソースコードについて、「著作権で保護された以下の作品の複製や
「期待検証性能（expected validation performance）」をもとにしたパラメータ探索の検証 - May the Neural Networks be with you
こんにちは@shunk031です。 温泉は素晴らしいですが、ホテルのインターネットが遅いと生きた心地がしないので人生難しいと感じています。 この記事は彌冨研 Advent Calendar 2019 19日目の記事です。 今回はAllenAiから公開されているハイパーパラメータ探索allentuneに実装されているアルゴリズムであるShow Your Work: Improved Reporting of Experimental Resultsを紹介します。 arxiv.org 背景および導入 期待検証性能 ハイパーパラメータ探索を行う際の推奨事項 再現性を担保するためのチェックリスト EMNLP2018におけるチェックリストの集計結果 おわりに 背景および導入 自然言語処理の研究において、しばしば提案手法が先行研究よりも優れたテストスコアを出すことによって提案手法の良さを実証するという
SIGNATE Student Cup 2020 [予測部門] 参加記 - MosaasoMの日記
はじめに 去年に引き続きSIGNATE学生コンペに出てました。 今年はNLPコンペです。 NLPか〜考察ゲーってよりはSOTAな手法をガチャガチャするゲームなりそうで辛いな〜と思いつつ参加しました。 案の定SOTAな手法をガチャガチャして、闇の中を彷徨う苦行をしてたら終わったんですが、NLP初心者だったのでそれでも学びが多くて良かったです。 結果 21位でした！public40位くらいからのShake Upだったので満足です。 ちなみにBERT-base-uncasedに分類ヘッド付けてBERTごとFinetuningしたものと,CountVector+LightGBMとSWEM-max+LightGBMの6:2:2のblendでした. 後述しますが不均衡なデータだったので、 BERTモデルはUnder-sampleしてrandom seed average(n=6), その他のLight
Amazon Fraud Detectorが本日GAになりました！ | DevelopersIO
昨年(2019年)のre:Inventでプレビュー版として発表されたAmazon Fraud Detectorが本日から晴れて一般利用できるようになりました！！ 概要は上記のブログに書かれていますが簡単に説明すると、オンラインのカード不正利用や偽アカウントなどの詐欺行為を機械学習モデルを使って検出できるマネージドサービスです。 早速試してみたいと思います！ 試してみた なお、東京リージョンではまだ使えないので今日はバージニアリージョンで試します。 不正を評価するイベントを定義 履歴イベントデータセットをAmazon S3にアップロードし、不正検出モデルタイプを選択 履歴データを使用してカスタムモデルを構築する。 アルゴリズムを選択し、モデルをトレーニングして調整、モデルをホストする モデルの予測に基づいて、情報の受け入れ、確認、または収集するためのルールを作成 Amazon Fraud D
Anaconda の NumPy が高速みたいなので試してみた - Morikatron Engineer Blog
こんにちは、モリカトロンでプログラマおじさんをやってる岡島です。 pip install で導入した NumPy と conda install で導入した NumPy とでは内部で使われているライブラリが違い、後者の方が高速だという記事を見つけました。 orizuru.io minus9d.hatenablog.com 要約すると Anaconda と pip では NumPy に使われている数値計算ライブラリが違っている pip が提供する Numpy は OpenBLAS を使っている Anaconda が提供する NumPy は Intel MKL (Math Kernel Library) を使っている 両者を比較すると、Anaconda が提供する NumPy のほうが速い という事みたいです。 今まで僕は Python のパッケージ管理を pip で行ってきましたが、Anac
SPAでKaggleするために回った施設を独断と偏見で紹介する - 俵言
【2019/12/28 追記】 RAKU SPA 鶴見は 2019/12/9-2019/12/13に行われた改装に伴い環境が大きく変わってしまいました。よってこの記事で述べている情報は古いです。ご注意ください。 こちらの記事は kaggle その2 Advent Calendar 2019 の2日目の記事となります。 はじめに この記事を読もうと開いた方は SPA Kaggle (あるいは spaggle) という言葉を見聞きしたことがある、かもしれない。可能性はゼロではないはず...*1 別に明確に定義されているわけでは無いですが、文字通り SPA に行って kaggle 関連の作業をしつつ、合間合間で休憩がてら温泉やサウナでリフレッシュすることだと僕は思ってます*2。 僕自身がこの spaggle をするようになったのは Twitter 上でちらほら「SPA で Kaggle してる」
atmaCup#2 インターン生参加記録 #atmaCup - atma-inc__blog
はじめに はじめまして、atmaでインターンをしている植田 (@tellmoogry)と申します 今回のatmaCup#2では一般参加者として参加させていただきました 本記事は1参加者目線からみたコンペの参加記事となります はじめに コンペ概要 コンペ中に取り組んだこと 結果 参加して良かった点 コンペ概要 今回のタスクは"睡眠データをもとにその人の睡眠の質を予測する"というものでした。 データはユーザーごとにtrain, testで連続した時系列データが与えられました。 目的変数はユーザーが入力した[1,2,3]の3段階で与えられ、値が小さいほどその人の睡眠の質が低いことを表します。 評価指標はRMSEでした。*1 public, private*2の中身については事前に以下のような説明がありました。 private/public は時系列によって分割されています。具体的には特定のユーザ
GBDTの理解に役立つサイトまとめ - copypasteの日記
GBDTは分析コンペや業務で頻出しますが、アルゴリズムの詳細はパッケージごとに異なるため複雑です。できることなら公式ドキュメント・論文・実装を読み込みたいところですが、私の実力的にそれは厳しいので参考サイトをまとめておきます。ゆるふわ理解に留まっている自分用のメモです。 GBDT Gradient Boosting Interactive Playground トイデータを使ってGBDTの挙動を確認できる。しばらく遊べる。 YouTube とてもわかりやすい解説動画。Part1~4を視聴すればアルゴリズムの基本が理解できる。 Gradient Boost Part 1: Regression Main Ideas Gradient Boost Part 2: Regression Details Gradient Boost Part 3: Classification Gradient
データ分析コンペで役に立つ特徴量管理方法と学習・推論パイプライン【コネヒトマルシェLT書き起こし】 - コネヒト開発者ブログ
こんにちは！MLエンジニアの野澤（@takapy0210）です！ 気づけば2019年の営業日も残り20日強ですね。年始に立てた個人的な目標が1/5しか達成できていないことに先日気付いたので、残りの期間で1つくらいは達成できると良いですね、という他人行儀な振る舞いをしたくなっている今日この頃です。 さて今回は、11月5日に開催した(コネヒトマルシェ)でLTした内容の全文書き起こしです。参考資料とあわせてご紹介できればと思います。 全文書き起こしは初の試みなので「ふ〜ん。なるほど〜」ぐらいのお気持ちで見ていただければと思います。 発表資料はこちらです。 Kaggleとは Kaggleと書いて「カグル」と読みます。日本でも最近は定着してきましたが、Kaggleに参加している方を「カグラー（Kaggler）」とも呼びます。 「The Home of Data Science & Machine L
「性的な意味でナスと桃の絵文字を使用すること」をFacebookとInstagramが禁止へ
ナスの絵文字と桃の絵文字は性的な意味で使われる場合があるとして、FacebookとInstagramが検閲を開始したと報じられました。 Facebook, Instagram Target Sex Workers With Updated 'Community Standards' - XBIZ.com https://www.xbiz.com/news/247831/facebook-instagram-target-sex-workers-with-updated-community-standards Facebook, Instagram ban 'sexual' uses of eggplant, peach emojis https://nypost.com/2019/10/29/sexual-use-of-eggplant-and-peach-emojis-banned-on
行政をハックし、行政データをオープンにしてみようとした結果
2019年6月29日に開催されたCivic Tech Forum 2019の資料です。
日本たばこ産業によるAIコンペティションで全1013チーム中、第3位に入賞しました！ - Platinum Data Blog by BrainPad
分析コンペサイト「SIGNATE」にて行われた「日本たばこ産業 たばこ商品の画像検出」にて、当社のデータサイエンティストチームが全1013チームの中で見事第3位に入賞しました！ 本ブログでは表彰式の様子についてご紹介したいと思います！ こんにちは。アナリティクスサービス部の井出です。 先日分析コンペサイトSIGNATEにて、日本たばこ産業株式会社（JT）がホストとなって行われた「たばこ商品の画像検出」に、同じくアナリティクスサービス部の兵藤さんと参加しました。結果、全1013チームの中で第3位の精度を出し、見事入賞しました！ プレゼンテーションも実施した表彰式当日の様子について紹介したいと思います。 ■コンペの概要・趣旨について SIGNATEとは データサイエンティストコミュニティです。ここでは、企業がホストとなってデータサイエンスコンペティションが行われています。 今回我々が参加した「
意思表示の方法｜日本臓器移植ネットワーク
臓器提供に関する意思表示欄の記入方法 臓器提供の意思表示は、健康保険証・運転免許証・マイナンバーカード・意思表示カード・インターネットによる意思登録で意思表示をすることができます。 STEP1：意思の選択 自分の意思に合う番号にひとつだけ○をしてください。 a）脳死後及び心臓が停止した死後のいずれでも臓器を提供してもいいと思われている方は、1. に○をしてください。 STEP：2へ b）脳死後での臓器提供はしたくないが、心臓が停止した死後は臓器を提供してもいいと思われている方は、2.に○をしてください（この場合、法律に基づく脳死判定を受けることはありません）。 STEP：2へ c）臓器を提供したくないと思われている方は、3. に○をしてください。 STEP：4へ STEP2：提供したくない臓器の選択 1. か2. に○をした方で、提供したくない臓器があれば、その臓器に×をつけてください。
Googleで「サノス」と検索すると……ああああああ！ 「アベンジャーズ」新作公開でGoogleがサノスに侵略される
4月26日に封切りとなった、映画「アベンジャーズ」シリーズの第4作目にして完結作となる「アベンジャーズ／エンドゲーム」。その宿敵「サノス」の名前をGoogleで検索すると、検索結果の半分が消えてしまう……という、作中の世界観になぞらえた機能がGoogleに実装されており、シリーズファンの心を熱くさせています。 Googleの「サノス」検索結果 右側のボックスに表示された「ガントレット」をクリックすると、指を鳴らす動作が。すると……？ 機能は26日から施されているもの。Googleで「サノス」と検索すると、Wikipediaやマーベル公式サイトなどサノスに関連するURLがつらつらと表示されます。その右側のボックス（ナレッジパネル）にサノスの要約文が自動表示されるのですが、そこになぜか作中のキーアイテム「インフィニティ・ガントレット」のイラストが。クリックするとガントレットがパチンと指を鳴らす
「不適切コンテンツ検出」 の機械化と安定運用 / Automating "unsafe content detection" with Amazon SageMaker
＊「機械学習による不適切コンテンツ検出」の実装と成果 https://medium.com/mixi-developers/mixi-20190110-d1cde81cf37c ＊【開催報告】第4回 Amazon SageMaker 事例祭り https://aws.amazon.com/jp/blogs/news/amazon-sagemaker-fes-4/ SNS mixi というプロダクトで、「不適切コンテンツ検出」タスクを Amazon SageMaker, ECS 等の AWS サービス群によって機械化し、安定運用しています。 機械化にいたった経緯と成果、アーキテクチャと運用上のポイントについてお話しさせていただきます。 １．事業紹介 ２．「健全性維持」という課題と対策 ３．アーキテクチャ解説 ⅰ．カスタムアルゴリズム ⅱ．中間生成物の管理 ⅲ．定期実行タスク ４．まとめ 株式
TechAcademy盗用事件 公式発表と深まる疑念 - 静かなる名辞
これまでの経緯 TechAcademyマガジンで、teratailの質問・回答の盗用疑惑があり、前回の記事で取り上げました。 TechAcademyがteratailの質問・回答を盗用していた件 - 静かなる名辞 私が書いたその記事はTwitterやはてブ経由で拡散して多くの方に見ていただき、TechAcademyマガジンの運営上の問題が多くのインターネットユーザに共有されました。それを受けてか、昨日teratail運営、TechAcademy運営からそれぞれ公式のアナウンスがありました。 【ご報告】teratailのQ&Aと類似したコンテンツが他メディアに掲載されていた件に関して、先方よりリリースが出されました。https://t.co/wBe9wWjlpi— teratail【テラテイル】 (@teratail) 2019年3月25日 弊社運営のオウンドメディアへのご指摘について（20
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
株式会社コロプラ『GKE と Cloud Spanner が躍動するドラゴンクエストウォーク』第 9 回 Google Cloud INSIDE Game & Apps
GitHub - bloc97/Anime4K: A High-Quality Real Time Upscaler for Anime Video
