ヒューリスティックコンテストで機械学習しよう2023/8/10のDeNA/Go AI技術共有会の発表資料です。
プログラマーの書いたソースコードの続きを自動で記述する「GitHub Copilot」はエンジニアを駆逐してしまうのか？
GitHubがリリースした、プログラマーの記述したソースコードの続きを自動で補完してくれる機能が「GitHub Copilot」です。このGitHub Copilotを使えばAIがソースコードを完成させてくれるため、この種のAIが増えれば「エンジニアの仕事はなくなってしまうのでは」という危機感を覚えた人も少なくないはず。そこで、エンジニアのHrithwik Bharadwaj氏がGithub Copilotの利点と欠点を挙げています。 Limitations and The Good Things about Github Copilot https://blog.hrithwik.me/the-good-and-the-limitations-of-github-copilot 「GitHub Copilot」はMicrosoftが開発するソースコードエディター「Visual Studi
書評『Kaggleで勝つデータ分析の技術』 | Hippocampus's Garden
書評『Kaggleで勝つデータ分析の技術』December 29, 2020 | 5 min read | 1,131 views jabookdata-analysisはじめに 『Kaggleで勝つデータ分析の技術』（門脇大輔, 阪田隆司, 保坂桂, 平松雄司 著，技術評論社，2019年）を読んだので，まとめと感想を書きます． 本書は，Kaggleないしデータ分析コンペに関する書籍としてはおそらく邦訳を含めても日本初で，それまでKaggleのKernelやDiscussion，個人ブログなどに散在していたデータ分析の集合知や暗黙知を一冊にまとめることを試みた野心的な参考書です．分析コンペの経験がない初心者はもちろん，ある程度経験のある人でも知識を体系化したり抜け漏れを発見したりするのに役立つと思われます． 本書に関するブログ記事はすでに多数存在します．著者の一人である門脇氏は自身
ヒューリスティックコンのパラメータチューニングをGCPでやる - threecourse’s blog
AtCoderのヒューリスティックコン（https://atcoder.jp/contests/intro-heuristics）のような短時間のコンペのパラメータチューニングをGCPで行ってみました。 理想のラン環境を求めて - threecourse’s blog のつづきです。 （ソースコードは、敵に塩を送りたくない整理できていないので公開せず、考え方のみまとめています。） 概要 GCPを使って、並列でOptunaによるパラメータチューニングを行う Google Cloud Run（以下Cloud Run）というサービスを使うと、計算時間の短い計算を比較的簡単にスケーリングしてくれる （他のサービスだと、クラスタの構成が面倒だったり、起動時間がかかったりする） 設定と結果 設定は以下のとおりです： Introduction to Heuristics Contest（https://
（前編）囲碁AIのスペシャリスト、山口さんに迫る。#サイエンティストがAIエンジニアになるお話 | HEROZ株式会社
みなさんおはようございますこんにちはこんばんは！🌞🌜本日もHEROZのストーリーへお越しいただきありがとうございます！ HEROZ株式会社で採用担当の「サンペイアヤノ」です。 さて、今回はHEROZのスーパーAIエンジニア「山口祐さん」にお話をお伺いしました！ 山口さんと言えば、2月17日（水）に開催した第1回HEROZエンジニアトークイベント「将棋AIにおける深層強化学習の最新動向をHEROZトップエンジニアが語る」に川島馨さんと一緒に登壇！ HEROZ CTO井口さんがモデレーターを務め、ご参加いただいたエンジニアさんたちにも大いに盛り上がっていただけるイベントが開催できました！ （（イベントの模様は近日公開予定です！😉💪お楽しみに～！）） 皆様にお届けしたい内容があふれていますので今回のインタビューは2部構成の超大作！今回は前編をお届け！山口さんがプログラマーの道を選んだきっ
Nature誌が選ぶ「科学を変革したコンピューター技術10選」
天文学から動物学に至るまで、現代の偉大な科学的発見にはコンピューターが必要不可欠なです。科学誌「Nature」が「科学を変革したコンピューター技術10選」を発表しています。 Ten computer codes that transformed science https://www.nature.com/articles/d41586-021-00075-2 ◆1：プログラミング言語のパイオニア「FORTRAN」 最初期のコンピューターは決してユーザーフレンドリーなものではなく、パンチカードを使用して手作業でコードを入力していました。コードの記述には複雑なプログラミング言語の知識が必要でしたが、1950年代にIBMによって開発されたFORTRANの登場により、プログラミング言語で記述されたプログラムをコンピューターが実際に処理できる言語に容易に変換することが可能になりました。 ◆2：高速
「ITエンジニアのための強化学習理論入門」が発売されます - めもめも
www.amazon.co.jp 表題の書籍が技術評論社より発売されることになりました。執筆にご協力いただいた方々には、あらためてお礼を申し上げます。販売開始に先立って、「はじめに」「目次」「図表サンプル」を掲載させていただきますので、先行予約される方の参考にしていただければと思います。 はじめに 「Q LearningとSARSAの違いを説明してください。」皆さんは、この質問に即答できるでしょうか？ 本書を読めば、自信を持って答えられます！ —— と、謎の宣伝文句（？）から始まりましたが、少しばかり背景を説明しておきましょう。 2015年に『ITエンジニアのための機械学習理論入門』(技術評論社)を出版させていただいた後、驚くほどの勢いで機械学習の入門書が書店にあふれるようになりました。そしてまた、回帰モデルによる数値予測、分類モデルによる画像データの識別など、教師データを用いた機械学習モ
DeepL Another breakthrough in AI translation quality
We are pleased to inform you that we have launched a completely new translation system that represents another quantum leap in translation quality. The neural networks we use are far superior to previous technologies and you can now test and use them free of charge at www.DeepL.com. We already made some headlines in 2017 when we released DeepL Translator, which was superior in quality to translati
わしの思うリッジ回帰(L2正則化)と正則化法。 - Pseudo Theory of Everything
1 はじめに 最近、我々+数名でスパースモデリングという分野を勉強しています。詳細はまた別の記事にて紹介するにして、今回はスパースモデリングの前段階に当たる リッジ回帰(ridge regresion) に脚光を当てます1。 読者には釈迦に説法かもしれませんが、リッジ回帰は L2 正則化とも呼ばれ機械学習の中でも非常にスタンダードな概念の一つになっています。しかし専門的に正則化法を扱ってみて、案外知らなかったことを知れたのでまとめました。 まず、リッジ回帰での損失関数は以下のような式で記述されます。 \begin{align} E = (y - X \vec{w})^2 + \alpha \vec{w}^T \vec{w} \end{align} 上記の損失を最小化するように係数の重みベクトル \(\vec{w}\) を推定します。解析的には \(\vec{w}\) について微分をしたもの
「ITエンジニアのための強化学習理論入門」的な何かのアイデア - めもめも
元ネタ incompleteideas.net ポイント ・学習の過程がステップバイステップで理解できる（目で見える）サンプルを示すことで、「なぜそれでうまく学習できるのか」を理解することを目標とする。 ・アルゴリズムを愚直に実装したコードを示すことで、数式ではなく、コードを通してアルゴリズムを理解する。 Tabular method Multi-arm bandit による導入 MDPの枠組みは一旦無視して、強化学習のポイントとなる「考え方」を理解する ・Exploitation - Exploration のバランスが必要。典型的には ε - greedy を利用する。 ・環境から収集したデータを元に、行動の価値を見積もる価値関数を構成する。 ・データ収取と並行して、価値関数を逐次更新する。 ・逐次更新の方法は、一義的に決まるものではないが、「差分を一定の重みで加えて修正する」という考
機械学習エンジニアのための将棋AI開発入門その2 | やねうら王 公式サイト
前回の続き。将棋AIで最初に大規模機械学習に成功させたBonanzaの開発者である保木さんのインタビューがちょうどYahoo!ニュースのトップ記事として掲載されたところなので、今回はBonanzaの機械学習について数学的な観点から解説してみたいと思います。 Bonanzaの保木さんのインタビュー記事 プロ棋士に迫ったAI「Bonanza」 保木邦仁「将棋を知らないから作れた」 https://news.yahoo.co.jp/feature/1712 BonanzaのGPW発表スライド とは言え、Bonanzaで使われている機械学習の技法は、いまどきの機械学習とは少し毛色が異なるので心の準備が必要です。 まず、保木さんのGPW(ゲームプログラミングワークショップ)での発表スライド、以前はBonanzaの公式サイトからダウンロードできたのですが、Bonanzaの公式サイトがジオシティーズにあ
確率予測とCalibrationについて - 機械学習 Memo φ(・ω・ )
概要 確率予測とCalibration(キャリブレーション)に関する勉強会に参加したので、学んだことの一部と、自分で調べてみたことについてまとめました。 概要 Calibrationとは Calibration Curve Calibrationの方法 Sigmoid / Platt Scale Isotonic Regression 確率予測に使われる評価指標 Brier Score ECE コード 不均衡データに対するCalibration LightGBMにCalibrationは不要か NNにCalibrationは不要か 追記 : Calibrationの検討について 追記 : 発表スライドについて 終わり techplay.jp 勉強会で使われていた言葉を、自分なりの言い方に変えています。 間違いがありましたら、コメントいただけたら嬉しいです。 Calibrationとは 普通
機械学習エンジニアのための将棋AI開発入門その1 | やねうら王 公式サイト
最近、機械学習を勉強している人が増えてきたので、簡単な機械学習ならわかるよといった人たち向けに将棋AIの開発、特に評価関数の設計について数学的な側面から書いていこうかと思います。線形代数と偏微分、連鎖律程度は知っているものとします。 3駒関係 3駒関係はBonanzaで初めて導入された、玉と任意の2駒との関係です。この線形和を評価関数の値として用います。評価関数とは、形勢を数値化して返す数学的な関数だと思ってください。 この3駒関係を俗にKPPと呼びます。King-Piece-Pieceの意味です。将棋の駒は40駒ありますので、{先手玉,後手玉}×残り39駒×残り38駒/2 通りの組み合わせがあります。この組み合わせは1482通りあります。Cをコンビネーション記号とすると、次のようになります。 $$ 2 \times {}_{39}C_{2}= 2 \times \frac{39 \tim
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
tdual(ティーデュアル)@MatrixFlow on Twitter: "👈webエンジニアの職場 👉AIエンジニアの職場 https://t.co/UIXlCJsKFb"
abap34 on Twitter: "試しにcopilotに最近のABCのA問題食わせてみたらAC コード吐いちゃった..... https://t.co/U6gGDTsrjc"
Alex Wang on Twitter: "deep learning be breaking hearts with @weights_biases out there https://t.co/wHVnm9zXco"
最先端自然言語処理ライブラリの最適な選択と有用な利用方法 / pycon-jp-2020
Teppei Kurita on Twitter: "強化学習の式とレイトレーシングにおける光輸送(Light Transport)の方程式が、実は深く関連した積分方程式であることが示されている。 次いで、経路空間をサンプリングしつつ重要度を強化学習するアプローチを提案。 SIGGR… https://t.co/QvknH2BTDB"
tdual(ティーデュアル)@MatrixFlow on Twitter: "うおおおお！素晴らしい。ワイの疑問が載ってた。 自称機械学習の理論わかってるマンは読んだ方が良い。 わしの思うリッジ回帰(L2正則化)と正則化法。 - Pseudo Theory of Everything https://t.co/6Jkfp6NaQ6"
Masaru Mizuochi on Twitter: "家で並んだ友人の顔をずっと見ていたら思いついたので、web会議ツール上で遊べるホッケーつくりました。反響あればソース公開します。ポイントは点を入れられるとキャプチャされた顔をボールにされてしまうところです。 https://t.co/3LUmNV6tFQ"