タグ

2021年9月20日のブックマーク (7件)

  • PyTorchで日本語BERTによる文章分類&Attentionの可視化を実装してみた - Qiita

    目次 記事はPyTorchを使って自然言語処理 $\times$ DeepLearningをとりあえず実装してみたい、という方向けの入門講座になっております。以下の順番で読み進めていただくとPyTorchを使った自然言語処理の実装方法がなんとなくわかった気になれるかもしれません。 PyTorchを使ってLSTMで文章分類を実装してみた PyTorchを使ってLSTMで文章分類を実装してみた(バッチ化対応ver) PyTorchでSeq2Seqを実装してみた PyTorchでAttention Seq2Seqを実装してみた PyTorchのBidirectional LSTMのoutputの仕様を確認してみた PyTorchでSelf Attentionによる文章分類を実装してみた PyTorchで日語BERTによる文章分類&Attentionの可視化を実装してみた ←イマココ はじめに

    PyTorchで日本語BERTによる文章分類&Attentionの可視化を実装してみた - Qiita
    sh19910711
    sh19910711 2021/09/20
    "先頭トークンのベクトルがどの単語にAttentionしているかを可視化"
  • テクニカルライターが働きながら学ぶ大学院を紹介します - Cybozu Inside Out | サイボウズエンジニアのブログ

    こんにちは。テクニカルコミュニケーションチームの澤井です。 今回はInside Outとしては珍しく、働きながら、仕事に関する知識を大学院で学ぶという活動について紹介したいと思います。ちょっと長いですが、同じようなことを始めたいと思っている方の参考になれば嬉しいです。 ちなみに先日、LINEさんのTechnical Writing Meetupにて、同じテーマでお話をさせていただきました。下記から動画が視聴できますので、興味のある方はぜひご覧ください👀 www.youtube.com 大学院を始めるきっかけ 申し込みから開始まで 授業の内容、先生や生徒の雰囲気 授業の内容 民間のeラーニングと大学の講義の2立て 大学の講義の形式 先生や生徒の雰囲気 先生 生徒 英語でやれるもの? 入学に必要なレベル 卒業に必要なレベル 落差をどう埋める? 個人的に面白かった授業3選 Project M

    テクニカルライターが働きながら学ぶ大学院を紹介します - Cybozu Inside Out | サイボウズエンジニアのブログ
    sh19910711
    sh19910711 2021/09/20
    ストラスブール大学 / "完全オンラインで、生徒が働いていることを前提に作られている / フランスとドイツから受講している人が約半分ほど / tekom Certification: ドイツの民間団体のテクニカルライター向けeラーニング"
  • 実践!固有表現認識 ~Flairを使って最先端の固有表現認識を体験しよう~ - Ahogrammer

    自然言語処理の分野で昔から研究され、実際に使われている技術として固有表現認識があります。固有表現認識は、テキスト中で固有表現が出現する位置を特定し、人名や地名などのラベルを付与するタスクです。情報抽出や質問応答、対話システムなどへの幅広い応用が可能なため、今でも盛んに研究され、使われている技術です。記事では、日語の固有表現認識をFlairと呼ばれるPythonパッケージを使って実現する方法について紹介します。 準備 記事では Flair を使って固有表現認識のモデルを学習させます。Flairは最先端の自然言語処理のモデルを簡単に使い始められる形で提供してくれているパッケージです。その中で提供されている機能として、固有表現認識や品詞タグ付け、文書分類のモデルを学習するための機能があります。使い始めるために、以下のようにしてFlairをインストールしておく必要があります。 $ pip i

    実践!固有表現認識 ~Flairを使って最先端の固有表現認識を体験しよう~ - Ahogrammer
    sh19910711
    sh19910711 2021/09/20
    "今回は、2018年にAkbikらがContextual String Embeddings for Sequence Labelingという論文の中で提案したモデルを実装 / 文字ベースの言語モデルを使って単語分散表現を構築し、それを使ってラベルを予測"
  • Scalaベースのワークフローエンジンcromwellを試してみる - たけぞう瀕死ブログ

    ひょんなことからcromwellというScalaベースのワークフローエンジンの存在を知ったので軽く試してみました。依存関係を見るとAkka、Akka HTTP、Cats、Slickなどが使われているようです。 github.com まずはGitHubのリリースページからcromwell-<version>.jarをダウンロードし、以下のようなシンプルなワークフローファイルを適当なファイル名(ここではhelloworld.wdlとします)で作成しておきます。 workflow myWorkflow { call myTask } task myTask { command { echo "hello world" } output { String out = read_string(stdout()) } } CLIからワークフローを実行してみます。 $ java -jar cromwel

    Scalaベースのワークフローエンジンcromwellを試してみる - たけぞう瀕死ブログ
  • 進捗管理は「遅れ」か「残り」か - 現場のためのソフトウェア開発プロセス - たかのり日記

    久しぶりに記事を書くなぁ。 しばらく忙しかったので、サボってました・・・ そしたら、年が明けてしまったよ。 さて、話は変わって、私はSEPGのリーダとして、いろいろなプロジェクトの進捗を見ることが常です。 そのような中で、 「進捗は何日(もしくは、何人日)遅れ?」 と聞くことは多い。 これは、顧客からも、そのような進捗報告を求められることが多いし、WBS線表では、遅れ日数が進捗を把握する対象となるため。 でも、進捗は、遅れだけ管理していても回復しない、というのが私の感覚。 遅れだけ見ていると、遅れが拡大していることには気づきにくい。 「タスクAは、3日遅れ」という進捗状況ならば、そのタスクは3日経てば完了しているはずだが、多くの場合は完了するまでに3日以上かかる。 そのような場合、「タスクAは、あとどれだけかかかるの?」という質問をすると、3日遅れであっても「5日ぐらい」という回答になるこ

    進捗管理は「遅れ」か「残り」か - 現場のためのソフトウェア開発プロセス - たかのり日記
    sh19910711
    sh19910711 2021/09/20
    "進捗は、遅れだけ管理していても回復しない / 遅れだけ見ていると、遅れが拡大していることには気づきにくい / 「遅れ」は当初の予定から考えるが、「残り」は現在の生産性や進捗具合から考える"
  • 『ゲームセンターあらしと学ぶPython』を読んだ | Colorful Pieces of Game

    実はPythonのとても古いユーザーだった。 僕が2000年ごろからしばらくPoser(というソフトがあるのだ)にハマりにハマっていたとき、Poserが実装していた拡張ツール用の言語がPythonで、またモデラーのメタセコイアにもPythonが採用されていたので、ずっとPythonを使っていたのだ。 そのあとしばらくして使う機会がなくなっていたのだけどオライリーから出版された『退屈なことはPythonにやらせよう』というを読んで、最近のPythonのライブラリの充実ぶりと使い方を知って、Anacondaをインストールして使うようになった。 これがまたVS codeと組み合わせると、実にイロイロ書きやすくて、ちょっとしたツールを書くのにやたらとPythonを使うようになっていた。 excelからナニからともかくpytyonでイロイロできるのである。あまりに便利なもので、ともかくチョコチョコ

    sh19910711
    sh19910711 2021/09/20
    "2000年ごろからしばらくPoser(というソフトがあるのだ)にハマりにハマっていたとき、Poserが実装していた拡張ツール用の言語がPythonで、またモデラーのメタセコイアにもPythonが採用されていた"
  • nginx向けのWebアプリケーションファイアウォールを試す | さくらのナレッジ

    ここで「ゾーン」はリクエスト中で検査対象となった部分を示しており、「ARGS」ならURLに与えられた引数(GETリクエストの引数)を示している(詳しいドキュメント)。また、この例ではidが1000、cscore0がSQL、score0が8となっていることから、IDが「1000」という検出ルールによって「SQL」というスコアが8に設定され、それによってブロックが行われていることが分かる。 NAXSIに対しWAF Testing Frameworkによるテストを実行する さて、続いてはデフォルト設定のNAXSIに対しWAF Testing Frameworkによるテストを実行してみよう。手順としてはnginx+ModSecuriy構成の場合とほぼ同様で、nginx.confにリバースプロクシ設定(「proxy_pass http://localhost:8080/;」)を追加してnginx経由

    nginx向けのWebアプリケーションファイアウォールを試す | さくらのナレッジ
    sh19910711
    sh19910711 2021/09/20
    "NAXSIはModSecurityとは異なり、リクエストを検査した結果に「スコア」を付け、そのスコアがあらかじめ設定した値を上回ったらそのリクエストをブロックする、という仕組み"