いろんなバンディットアルゴリズムを理解しよう - Qiita
今回は、何も知らないところからバンディットアルゴリズムを学びました。 シンプルなバンディットアルゴリズムから、各ユーザーごとに最適化するContextual Bandit、順序を最適化するCascading Banditまで解説します。 学んでいて疑問に思ったことを解消しつつ記載しています。 ソースコード https://github.com/birdwatcherYT/bandit 対象読者 バンディットアルゴリズムを理解して実装したい人 ユーザーごとにカスタマイズしたバンディットを理解して実装したい人（Contextual Bandit） 順序を最適化するバンディットを使いたい人（Cascading Bandit） バンディットアルゴリズム バンディットの問題設定を説明します。 スロットマシンN台がある スロットマシンの腕を引くと報酬がもらえる 累積報酬を最大化したい バンディットアル
ChatGPTのコア技術「GPT」をざっくり理解する - Qiita
※本記事はOracleの下記Meetup「Oracle Big Data Jam Session」で実施予定の内容です。 ※セミナー実施済の動画に関しては以下をご参照ください。 本記事の対象者 これから機械学習を利用した開発をしていきたい方 機械学習のトレンド技術を知りたい方 なるべく初歩的な内容から学習したい方 はじめに Transformerの登場以降、著しい技術革新が続くここ数年、特にOpenAI社のChatGPTのサービス開始以降、おびただしい数の技術ブログや記事がインターネット上に存在する中、本記事に目を留めていただいてありがとうございます。 この勉強会では、専門用語や難解な公式を極力排除し、初学者の方々を対象に、「そもそも自然言語の機械学習ってどういうもの？」、「言語モデルって要するに何？」というところからGPTをざっくり理解することを目的としています。従って、本記事に記載のあ
30分で完全理解するTransformerの世界
はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま
「いつの間にか精度が落ちて慌てて直す」──“AI運用あるある”を成功に導く「MLOps」とは
第3次AIブームと言われて久しく、すでにさまざまな企業が画像認識や音声認識、自然言語処理などを生かしたAIサービスを提供するようになった。 AIを実装する機械学習アルゴリズム、特に深層学習は、従来のルールベースなアルゴリズムより高い精度を出せる場合があるのが利点の一つだ。しかし、内部はブラックボックスになりがちで精度改善が難しい場合や、機械学習モデルに学習させるべきデータが適切に整形されていないこともある。 こうした「AI開発」前後の運用を成功に導く取り組みとして、近年「MLOps」（エムエルオプス）という開発手法に注目が集まり始めている。 特集：MLOpsキホンのキ AIベンダーやノーコード／ローコードでのAIモデル作成ツールなどが増え、以前よりはAIを導入しやすい環境になった。しかし、AI導入の“前後”はおろそかになっていないか。開発体制は迅速に回るか。モデル精度はモニタリングできてい
検索アルゴリズム改善における機械学習の活用 〜MLOpsについて〜 - ぐるなびをちょっと良くするエンジニアブログ
はじめに こんにちは。 CX部門 データ・AI戦略室 データ戦略Gの田中です。 ぐるなびには2018年に新卒として入社し、レコメンドエンジンの開発や在庫・予約関連のデータ分析等に携わってきました。 現在は主に検索結果の並び順アルゴリズムの改善を行っています。 私たちのチームではアルゴリズム自体の改善に伴い、MLOps（機械学習の運用改善）にも取り組みました。 今回は、 MLOpsとは どうやって導入したか 導入で何が得られたか についてお話ししていきたいと思います。 検索アルゴリズム改善プロジェクトについて 検索の並び順アルゴリズム改善のプロジェクトが始まったのは約2年前でした。 それまでの並び順は複雑なルールベースで決められていました。 そこで機械学習のモデルを用いてより効果的な並び順を予測し、検索結果の改善・CVRの向上を試みました。 2020年の2月からプロジェクトがスタートし、3月
ソフトウェアエンジニアなら3秒で理解できる NFT 入門 - Okapies' Archive
はじめに NFT って何ですか？ ブロックチェーン上に記録された一意なトークン識別子をその保有者のアドレスと紐付ける情報、およびそれを状態変数として保持するスマートコントラクトのこと。 以上。 え、それだけ？ はい。 「デジタル資産に唯一無二性を付与するインターネット以来の革命」なんじゃないの？ これを読んでください: speakerdeck.com なるほど。ところで、この記事は何？ いま話題の NFT について、NFT の標準仕様である EIP-721 の仕様書と、それを実装しているスマートコントラクトのソースコードから読み解けることを解説する。一般向けの解説とは異なる視点から光を当てることで、ソフトウェアエンジニアに「あ、NFT って単にそういうことだったのか」と理解してもらえるようにすることを狙っている。 また、NFT がソフトウェアとして具体的にどう実装されているかを知ることは、
ディズニーパークのネットワークデータを作ってみた - Qiita
はじめに ダイクストラ法などのグラフアルゴリズムを勉強する際には、実際にプログラムを書いて実行してみることが多いと思います。 このとき地味に困るのが「探索に使うネットワークデータをどうしようか？」ということ。 適当にコスト行列を作成してそのうえで走らせてみてもよいのですが、それだと出てきた経路が本当に最適なのかぱっと見でわからないし、なんだか味気ないなぁ、と個人的には思っていました。見た目で直感的に理解しやすいのがグラフアルゴリズムの良いところなので、どうせなら見た目でわかりやすいネットワークデータを使いたい。 そこで、グラフアルゴリズム勉強用にディズニーシーのネットワークデータを作成してみました。 経路探索を走らせて出力されたKMLをGoogle Earthなどで読み込むとこんなふうに経路線を描画できます。 （下図は「トイ・ストーリー・マニア！」から「レイジングスピリッツ」までの経路をダ
「遺伝的アルゴリズムで最高にエッチな画像を作ろう！」がGoogleに怒られた話｜群青ちきん
「そらとぶあざらしさん」を遊んで頂くと、大体の温度感がご理解いただけるかと思います。 制限がされたページ今年の1月10日に、noteタイトルにもある「遺伝的アルゴリズムで最高にエッチな画像を作ろう！」というページを公開しました。 内容はタイトルの通りです。 ランダムに生成された2枚の画像から「エッチ」な方を選んでいくと、アルゴリズム学習によってだんだんとエッチな画像になっていくというものです。 遺伝的アルゴリズムで最高にエッチな画像を作ろう！ (エッチな画像が見れるとは言っていない) より このページには、筆者のささやかな収入源として、GoogleAdSenseの広告を貼っていました。 GoogleAdSenseとは、大企業であるGoogleが運営している個人クリエイター向けの広告プログラムです。 AdSenseのポリシーとして、「性的に露骨なコンテンツ」(Sexually explici
PHPとPythonとRubyの連想配列のデータ構造が同時期に同じ方針で性能改善されてた話 - hnwの日記
PHPとPythonとRubyの連想配列のデータ構造がそれぞれ4〜5年ほど前に見直され、ベンチマークテストによっては倍以上速くなったということがありました。具体的には以下のバージョンで実装の大変更がありました。 PHP 7.0.0 HashTable高速化 (2015/11) Python 3.6.0 dictobject高速化 (2016/12) Ruby 2.4.0 st_table高速化 (2016/12) これらのデータ構造はユーザーの利用する連想配列だけでなく言語のコアでも利用されているので、言語全体の性能改善に貢献しています1。 スクリプト言語3つが同時期に同じデータ構造の改善に取り組んだだけでも面白い現象ですが、さらに面白いことに各実装の方針は非常に似ています。独立に改善に取り組んだのに同じ結論に至ったとすれば興味深い偶然と言えるでしょう2。 本稿では3言語の連想配列の従来実
プログラミングは楽しくて仕方がない! 世界三大権威の競技プログラミングコンテスト「AtCoder」を運営する高橋直大氏インタビュー
プログラミングは楽しくて仕方がない! 世界三大権威の競技プログラミングコンテスト「AtCoder」を運営する高橋直大氏インタビュー 8月27日(木)、「Codeforces」(ロシア)、「Topcoder」(米国)と並ぶ、世界三大権威の競技プログラミングコンテスト「AtCoder」を運営するAtCoder株式会社の高橋直大社長に、オンラインインタビューを行った。 AtCoderをはじめとする競技プログラミングとは、問題の採点方法が事前に示された上で、全員が同じ問題を解くためコーディングを行う。「実際のプログラミング技術」に基づいて点数が付けられ、獲得した点数で順位が決定する。 一方、中高校生向けに開かれているTech Kids Grand PrixやU-22プログラミング・コンテストなどを代表する一般的なプログラミングコンテストでは、社会的課題に対するアイデアをプログラミングし、その成果物
海外で就職した話｜takusemba
先日、3年半ほど働いたサイバーエージェントを退社しました。来月からはオーストラリアに移住して、現地の企業でソフトウェアエンジニアとして働きます。 あまり技術以外の記事を書くのは得意ではないですが、自分にとって大きな節目なのと、海外での就職を考えてる人に少しでもでも参考になればと思い、自分の就職談を紹介できたらと思います。 入社までの道のり2017年に新卒としてサイバーエージェントに入社し、ABEMAでAndroidエンジニア(もしくは、Streamingエンジニア)としてアプリ開発に携わってました。 元々、海外で働きたい、海外に住みたいという願望があり、入社当時から海外での就職を模索していました。最初の1~2年は、特に海外で働くためのノウハウや知識もなかったので、とりあえずアメリカの知っている企業に片っ端から応募していました。何社からかは返事があり面接まで進むものもあったのですが、VISA
競技プログラミングで解法を思いつくための典型的な考え方 | アルゴリズムロジック
競技プログラミングの問題を解くためには２つのステップがあります。 問題で要求されていることを言い換える知っているアルゴリズムやデータ構造を組み合わせて解く 必要な（知っておくべき）アルゴリズムやデータ構造は色々なところで学ぶことができます。 しかし、「問題の言い換え」や「アルゴリズムを思いつく」というのは、非常に様々なバリエーションがあり、問題をたくさん解かないとなかなか身につきません。 そこで、この記事は以下のことを言語化し、練習のための例題を提示することを目標とします。 問われていることを、計算しやすい同値なことに置き換える方法アルゴリズムを思いつくための考え方競技プログラミングで「典型的」と思われる考え方 ※一部問題のネタバレを含むので注意 ※良く用いられるアルゴリズムやデータ構造については競技プログラミングでの典型アルゴリズムとデータ構造 を参考にして下さい。 入力の大きさ(制約)
実在しない人物の全身画像生成を行う「全身モデル自動生成AI」を開発 | 株式会社データグリッド | DATAGRID Inc.
広告・アパレル領域でのバーチャルモデルとして展開株式会社データグリッド（本社：京都府京都市左京区吉田本町36-1 京都大学国際科学イノベーション棟西館1階、代表取締役社長 岡田侑貴、以下「データグリッド」）はディープラーニングを応用したGAN（敵対的生成ネットワーク）により、従来困難であった高解像度（1024×1024）の実在しない人物の全身画像を自動生成するAIである「全身モデル自動生成AI」を開発いたしました。 データグリッドは2018年6月にアイドル自動生成AIを開発しました。しかし、アイドル自動生成AIでは顔領域のみの画像生成となっており、十分な表現力がありませんでした。そこで、生成された人物の表現力を高めるために、「全身生成」及び「動作生成」の2つの研究開発に取り組んで参りました。高精度の全身生成モデルは先行事例がなく、チャレンジングな研究開発でしたが、この度、高解像度（1024
レコメンドシステム入門 Javascriptで実装する｜es
レコメンド（推薦システム）に関して素晴らしい記事があったので訳してみました。訳に難があるが、そこはご勘弁ください。 プログラム実行してみると理解できると思います。入門者に打って付けの記事です。 以下、本文。 インターネットの世界はレコメンドで溢れていますね。 Amazonのように商品を購入するeコマース・サイト、Facebookのようなソーシャルネットワーク、YoutubeやNetflixのようなビデオ/映画サイトなど。これらのサイトに共通するのは、あなたに新しいものを推薦するために、映画、商品と友人などの過去のデータを使うことです。 この記事では、レコメンド機能がJavaScriptで、どのように動くか簡単に紹介します。推薦システムを実現するための、異なるアプローチも見ていきます。最終的にはアルゴリズムを切り替えただけで、結果を出力できるようにします。映画評論家の小さいデータセットと、M
配牌からアガれるかアガれないか予測する - Qiita
はじめに 趣旨 個人的にディープラーニングや機械学習を学習したいと思い、O'Reilly Japanさんから出版されているゼロから作るDeep Learningを読みました。 しかし、私自身に知識がなく、いまいちピンとこなかったので、簡単なものを作ってみようと考えました。 とはいえ、せっかくなら自分の趣味でもある麻雀に関わるところで作ろうと考えました。 筆者のスペック Python、機械学習ともに初心者 普段はPHPやRubyを使ったWebのお仕事 環境 Python 3.6.0 bottle 0.12.13 heroku 機能概要 作成したアプリは下記になります。 https://python-mahjang.herokuapp.com/index また、ソースコードは下記になります。 https://github.com/naoki85/python_mahjong 配牌と結果のみを学
ディープラーニングのプロジェクトをまとめた『Deep Learning Gallery』 | 100SHIKI
すっきりまとまっていていい感じ。 Deep Learning Galleryでは、最近話題の深層学習に関するプロジェクトをまとめているようだ。 ざっと眺めておくだけでも「へー、こういうことができるのか！」とわかっていいのでは。 もちろん詳細を見ることもできるので興味がある人はさらに踏み込んでいくことができる。 今年はどんなブレイクスルーが生まれるか楽しみですね。
再帰的なアルゴリズムの実例集 - Qiita
再帰的なアルゴリズムの考え方に慣れるためにいくつかの有名な例を集めた。それぞれについてサンプルコードと「問題を小さくする方法」「終了条件」を記している。 注意事項： アルゴリズムの細かい効率よりも、論理の分かりやすさに重点を置いている 問題の前提に沿わない入力（例えば負の整数や小数）のチェックは省いている 再帰的なデータ構造や再帰を除去する方法については扱わない サンプルコードはRubyで書いている 基本的な再帰 階乗 nの階乗とは n! = 1*2*...*n という計算のこと。例えば「n人が一列に並ぶ方法の総数」を表せる。 「1からnまでの整数の積」と言われたらfor文などのループで書きたくなるが、再帰的な計算もできる。
たのしい機械学習 Part1
(原文：Machine Learning is Fun! by Adam Geitgey より許可を得て翻訳) (訳者注：難解な機械学習のコンセプトを平易に説明している素晴らしいブログを見つけ、ぜひ日本の皆さんに伝えたい！と思い文章化しました。共感いただいた方、文章末尾の❤️マークからいいね！お願いします。一緒に機械学習勉強してくれる人も募集中です。=>Email:dai@jenio.co) 機械学習の事を人々が話しているけど、 あなたは言葉の意味はわかっていない。 そんな場面に遭遇した事はありませんか？ 同僚の言葉に相槌を打つのに疲れた。。 そんな状況を変えましょう！ このガイドは機械学習に興味があるけど、 何から勉強したらいいのかわからない人に向けて書かれました。 多くの人がWikipediaを見ると思いますが、 ストレスがたまり、 誰かがレベルの高い説明をしてくれるのを望みますよね？
160924 Deep Learning Tuningathon
[DL輪読会]Diffusion-based Voice Conversion with Fast Maximum Likelihood Samplin...Deep Learning JP
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://utokyo-icepp.github.io/qc-workbook/welcome.html