WebAssemblyを用いてBERTモデルをフロントエンドで動かす - OPTiM TECH BLOG
はじめまして。R&Dチーム所属、20.5卒の伊藤です。 普段の業務では自然言語処理と格闘していることが多いです。 今回は自然言語処理モデルとして有名なBERTをWebAssemblyを使用してフロントエンドで動かしてみた話になります。 最近、自然言語処理ライブラリとして普段お世話になっているHugging Face社のTransformersのTokenizerがRustで実装されていることを知り、それならばWebAssemblyにコンパイルして動かせるのではないかと試したみたのがきっかけです。 Tokenizerのみ動かしても実用性に乏しいため、Tokenizerから得られた結果からBERTを用いた推論をブラウザで動作させるまでを行い、備忘録がでら手順をまとめました。 どなたかの参考になれば幸いです。 8/26追記 本記事内のコードを含むリポジトリを公開しました！Dockerを使用してブ
実況タイムラインとトピックモデルを用いたプリキュアのエピソード間の類似度計算 - Qiita
本記事はプリキュアAdvent Calendar 2015の18日目の記事です。なお本日は12/19ですがプリキュアを愛する皆さんなら海より広い心で許してくれるって私、信じてる！ なお、本記事および本実験はWIPのつもりです。 Introduction あのアニメの、あの話とあの話の類似度が計算したい、あるいは類似する話同士でクラスタリングをしたい。そういう時どういう手段があるでしょうか。 一つの手法として、Twitterの実況タイムラインを用いるという事が考えられます。実況タイムラインとは、視聴者がアニメを見ながらその様子や感想をそのままつぶやくものであるため、アニメのエピソードに一対一に対応する、いわばアニメを説明する文書と捉える事ができます。この文書 = アニメ実況タイムライン同士の類似度というのが、エピソード間の類似度の一つの指標として使えるのではないでしょうか。 今回は、この方針
アジャイル設計の本を読んでいる | ゴミ人間.com
単一責任の原則(SRP: Single Responsibility Principle) オープンクローズド原則(OCP: Open-Closed Principle) リスコフの置換原則(LSP: Liskov Substitution Principle) 依存関係逆転の原則(DIP: Dependency Inversion Principle) インターフェース分離の原則(ISP: Interface Segregation Principle) 設計に関するいろいろな本がでているが、基本的にまずこれを守れてない上でそういうものを取り入れようとしても、かえってカオスになるケースのほうが多いのではないかなぁと個人的に感じている。まあ採用しているアーキテクチャなど状況によりけりでしょうけど。とはいえ、ソフトウェアのうまくいっている部分に無理やり、この 5 原則を適用しにかかるのはやめ
コードレビューについての文書を書いていた - imog
色々決めごとをするときは社内にissueなりwikiなり残すのですが、これは外に公開してもいいんじゃない？と思ったので公開します。 今回は「コードレビューの導入する」というやつです なぜコードレビューをするのか 大きく二つの効果があると思っています コードの品質を保つ 一人でコードを書いたときに、それが対応として適切であるかどうかを判断するのは結構難しいです。 基本的には機能を実装するとき、以下の三つについて確認する必要があると考えています。 コードの書き方が適切であるか 解決方法が適切であるか 修正箇所以外の影響への対応は適切であるか 下に行くほど考えるべき領域が広くなっていきます。 領域が広くなるほどに一人で対応できる難易度は上がっていくため、漏れが発生し不具合が起きてしまいます。 特に３に関しては自分が予想だにしていないところに影響を与えるなどありがちです。 これを防ぐためにテストコ
gganimateでバーチャートレースを作って競争心を煽る - 株式会社ホクソエムのブログ
ホクソエムサポーターの輿石です。普段はデータ分析会社で分析業務や社内Rパッケージ開発をはじめ分析環境を整備する仕事をしています。 最近WEB系のメディアで「バーチャートレース(bar chart race )」と呼ばれるぬるぬる動く棒グラフを見ることが増えてきました。興味を惹くという点で優れた面白い可視化だと思います。Rではgganimateパッケージを使うことで簡単にggplot2のグラフをアニメーションにできたので、作成方法を細かい部分含めて紹介します。 なお、本記事ではggplot2の詳細には触れていませんが、詳細は「Rグラフィックスクックブック」がオススメです。なんと本記事が投稿された2019年11月21日は約6年ぶりの改版となる第2版の発売日なようです！6年前は少し面倒だったことも今ではより簡単にできるようになっていたりするので、すでにggplot2が使えるあなたも是非ッ。 Rグ
ワンライン整理法が便利だよ、という話｜MAEDA Takahiro
iPhoneアプリの並べ方、人によってそれぞれこだわりがあると思うが、自分はもう10年くらい「ワンライン整理法」でやっている。自分がオリジネーターではなくて、何かのネット記事で読んだのがきっかけである。 10年使ってみて「やっぱりこれがファイナルアンサーだな」（この言い回しもいずれ通用しなくなる）と思う機会すらないほど当たり前に使っているのだが、今まで他人のホーム画面でこれを採用している人を見たことがない。メジャーではないにしても一つの流派としては確立されているのかと思ったら、「アプリの並べ方」みたいなネット記事にも全然この方法が出てこない。 なので、「ワンライン整理法」を後世に伝えるべく、ここに書いておこうと思う。本当に便利なので、ちょっと試してみてほしい。 やり方はめちゃくちゃ単純。 1 横1列のアプリの並びを1つの「ジャンル」として考える。 2 列の左端にそのジャンルのアプリを集めた
Youngbin Kim et al. 「Serverless Data Analytics with Flint」 - データが主食
ktr89.hateblo.jp に関連して、サーバーレスでビッグデータ処理しているような事例を調べたら、他にも論文が出てきたので読んでみました。 Hadoopクラスターを自前で用意する時代は終わりを迎えていて、AWS LambdaやGoogle Cloud FunctionなどのFunction as a Serviceでビッグデータ処理をするような事例も近いうちに出てくるかもしれません。 arxiv.org Author AuthorのYoungbin KimはLinkedInによるとカナダのWaterloo大学のTeaching Assistantの方のようです。 共著のJimmy Linはhttps://cs.uwaterloo.ca/~jimmylin/によるとWaterloo大学の教授のようです。 彼らの課題感 Ecri Jonas et al.「Occupy the Clou
前処理が単語埋め込みに与える影響 A Comprehensive Analysis of Preprocessing for Word Representation Learning in Affective Tasks
ACL2020 に採択された A Comprehensive Analysis of Preprocessing for Word Representation Learning in Affective Tasks という論文を読んでいます。特に感情認識系のタスクにおいて前処理が単語埋め込みに与える影響を調べ、よく行われる実験設定が本当に正しいのかを検証しています。
ディリクレ過程混合モデルによるクラスタリングの直感的理解（前編） - Fixstars Tech Blog /proc/cpuinfo
このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。 特徴空間上に分布した $n$個のパターン $x_1, x_2, …, x_n$ を、いくつかの塊に分割することを考えます。いくつの塊 (クラスタ) に分割すべきなのか？は分かっていません。このような状況でパターンを適切にクラスタに分割する方法、即ちクラスタリングについて考えます。 ここでは、ディリクレ過程混合モデルによるクラスタリングについて考えてみます。ディリクレ過程混合モデルによるクラスタリングは、事前にクラスタがいくつあるか知らなくても、適切に分割できる優れた方法です。k-means 法などでは、あらかじめクラスタがいくつなのか、指定する必要があります。ただ、ディリクレ過程混合モデルによるクラスタリングは、全体像を捉えるのが難しいです。そこで、この記事では細部を適当に省略しつつ、
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
