はじめに 自然言語処理（Natural Language Processing: NLP）の文脈から誕生したTransformerはそのモデルのシンプルさにもかかわらず、大きな成果をあげることに成功しました。そのため、その後NLPにブレイクスルーをもたらしたBERTやGPT-2などのモデルはTransformerをもとにつくられています。現在（2020年）では、DETRなど最新の物体検出モデルにも使われるようになり、Transformerは機械学習を学ぶ上では避けて通ることができないモデル・アイディアであるといえるでしょう。 今回は、近年の最重要モデルといえるTransformerについて発表論文「All you need is attention」を中心に、その誕生背景からモデル概念まで一から解説したいと思います。 なお、今回の内容は以下の二つに大別されます。 ．Transformerが
スピーク（Speak）- 英会話アプリ
職場の同僚にも勧めました！ 時間が経つのが早く、もうspeakのユーザーになって、そろそろ丸2年になります。 私は韓国語ネイティブ(生まれてから)、日本語ネイティブ(結婚してから)ですが、職場はまさにダイバーシティーで、英語で話す場面がほとんどです。 英語アレルギーを克服するために始めたspeak！今はペラペラまでではありませんが、英語でどんな質問をされても恐れずに対応しています。 日本語ユーザーも楽しめることを知ってから、早速同僚にも勧めました！ zoomで学会や発表会を開いてるこのご時世に合わせて、学会が始まる前のスモールトークや、質問をされた時の練習をA Iチューターと練習してるそうです:-) これからもいいコンテンツをたくさんお願いします！来年も契約更新確定です！:-) デベロッパの回答 、 こんにちは、スピークです。 レビューをいただき、ありがとうございます。 日本語でもスピーク
pixivでプロダクトマネージャーをしているmu-koです。 pixivでAMP Storiesを作成し、2019年末にリリースしました。今回はAMP Storiesの概要をご紹介します。 開発者向けの記事は別途公開予定です。 Click here for English version. pixivとは pixivはクリエイターがイラスト・マンガ・小説を投稿し、声援をもらうことができるサービスです。 2019年9月時点で登録ユーザーは4,000万ユーザーを超え、投稿作品数は8,500万作品あります。また、最近は日本以外の国からの登録が増え、今では約70％を占めています。 AMPやAMP Storiesについて AMP（Accelerated Mobile Pages）とは AMPとは、Googleが中心となって作られた、ウェブサイトを高速に表示するためのフレームワークです。 AMPコンテ
スマホ向けブラウザで戻る処理をトリガーにしてフォーム離脱防止処理を作った。 追記 2019/11/11 今日の徒然 あわせてよみたい スマホ向けブラウザで戻る処理をトリガーにしてフォーム離脱防止処理を作った。 なんか、この日の徒然でjavascriptの処理を作るのに苦しんでる旨書いてたじゃないですか？ www.ituki-yu2.net スマホページで戻るボタンを押したときに確認処理をポップアップさせて、フォームを書きかけで離脱しないように防ぐ処理だ。 随分と苦労したが、一応形をつくることができたので、情報共有の意味で公開しておこう。 <html lang="ja"> <head> <title>test page</title> <link href="/bootstrap/css/bootstrap.min.css" rel="stylesheet" async=""> </head
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
自然言語処理の必須知識 Transformer を徹底解説！
2020年注目の技術、AMP Storiesをpixivに実装しました - pixiv inside
スマホ向けブラウザで戻る処理をトリガーにしてフォーム離脱防止処理を作った。 - 超メモ帳（Web式）＠復活