kyopecoのブックマーク / 2020年1月25日

kyopeco id:kyopeco

2020年1月25日のブックマーク (5件)

自然言語処理でBERTまでの流れを簡単に紹介 - moriyamaのエンジニアリング備忘録
はじめまして@vimmodeです。普段はMNTSQというリーガルテックの会社で自然言語処理をしています。今回はBERTとBERTまでの流れを簡単に紹介します。自然言語処理で今やデファクトスタンダードとなりつつであるBERT。登場当時はモデルの複雑さに伴う計算環境や計算リソースの確保が難しく気軽に動かせなかったが、ColabやKaggleカーネル環境が整備されたきたおかげで誰でも気軽に使えるようになりました。また、haggingface社が公開したBERTと関連モデルのラッパーライブラリであるtransf ormersによりわずか10行程度でBERTモデルを記述できます。一方、自然言語処理を始めて間もない段階でいきなりBERTを突きつけられても理解の壁が高いと思いますので、今回は数式やコードを使わずにBERTに至るまでの流れを簡単に紹介したいと思います。 ※これらはあくまで私の理解であり
kyopeco 2020/01/25
リンク
グーグルも提供廃止　規制強まる「クッキー」って何？：朝日新聞デジタル
","naka5":"","naka6":"","naka6Sp":"","adcreative72":"\n\n\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
kyopeco 2020/01/25
リンク
より美しいコードを書くことに対する感情を失ってしまったのは衰えか成長か - まいくろ🍣きりみん
昔：感情があった元々ぼくはきれいなコードを書くことへのモチベーションが高かった。プログラマーになったばかりの頃にリーダブルコードを読んで感動したというのもあるし、ちょうどその頃DDD原理主義みたいなものが流行ってて、はてブのITタブにはきれいなコードを書くためのコーディング規約やテクニックに関するブログエントリやLT資料がたくさん流れていた。最初にAndroidの大規模プロジェクトに関わった時は、元々のコードがかなりひどかった(初めてJavaを書く人達だけで書いたとしか思えない、現代ではおおよそあり得ないようなレベル)ため、リファクタリングをすることに非常に意義もやりがいも感じたし、どうせきれいにするのならばと張り切って出来るだけリーダブルなコードを書こうとした。その後チームにgit化の波が訪れ(自分が推進したんだが)PRによるコードレビューなるものもやるようになった。意識が高か
kyopeco 2020/01/25
リンク
通学バス、異常に18分走行　「誘拐される」泣く子ども：朝日新聞デジタル
","naka5":"","naka6":"","naka6Sp":"","adcreative72":"\n\n\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
kyopeco 2020/01/25
リンク
WEB特集 “さとくん”が19人を殺害するまで | NHKニュース
「陽気で明るかった」「教師を目指していた」昔の同級生や幼なじみに、ふと思いをはせることは誰にでもあると思います。『さとくん』もそんな風に友達に思い出される“普通の若者”でした。そんな彼が、どうして19人を殺害した『植松聖被告』になったのか。法廷で明らかにされた友人たちのことばから、その半生を追っていきます。（障害者殺傷事件取材班）今から30年前の平成２年１月20日、小学校の教師の父親と、母親のもとに１人の男の子が生まれました。「聖」と書いて「さとし」と名付けられました。その子はのちに事件の現場となる相模原市緑区の知的障害者施設「津久井やまゆり園」の近くで育ち、幼稚園から中学校まで地元で通いました。３年半前、19人が殺害され、26人が重軽傷を負った事件の裁判。証人尋問が行われた５回目の審理と、弁護士が同級生や元交際相手などの調書を読み上げた６回目と７回目の審理では、植松被告が事件を起
kyopeco 2020/01/25
リンク
- 2020年1月27日
- 2020年1月25日
- 2020年1月22日