36億パラメータの日本語言語モデルを公開しました
LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog こんにちは。 LINEのNLP Foundation Devチームの清野舜と高瀬翔とoverlastです。 LINEでは2020年11月から日本語に特化した大規模言語モデル「HyperCLOVA」の構築と応用に関わる研究開発に取り組んできましたが、この「HyperCLOVA」と並行するかたちで複数の大規模言語モデルの研究開発プロジェクトが進行しています。 今回はそれらの研究開発プロジェクトのうち、我々を含むMassive LM開発ユニットから、日本語言語モデル「japanese-large-lm（ジャパニーズ ラージ エルエム）」をOSSとして公開できる状況になりましたので、本ブログを通じてお伝えすることにしました。 この記事
Introducing Natural Language Search for Podcast Episodes - Spotify Engineering
March 17, 2022 Published by Alexandre Tamborrino, Machine Learning Engineer Beyond term-based Search Until recently, Search at Spotify relied mostly on term matching. For example, if you type the query “electric cars climate impact”, Elasticsearch will return search results that contain everything that has each of those query words in its indexed metadata (like in the title of a podcast episode).
「色鉛筆との自然な会話」はどのように作られているか 日本語に特化した、大規模汎用モデルを搭載したLINEの「HyperCLOVA」
2021年11月10日と11日の2日間、LINE株式会社が主催するエンジニア向け技術カンファレンス「LINE DEVELOPER DAY 2021」がオンラインで開催されました。そこで佐藤敏紀氏が、日本語の大規模汎用モデルを搭載した「HyperCLOVA」について紹介しました。まずはHyperCLOVAとはどういったものなのかについて。 色鉛筆とチャットで会話 佐藤敏紀氏：「日本語に特化した、大規模汎用モデルを搭載した『HyperCLOVA』の現状」という発表をします。よろしくお願いします。 最初に自己紹介をします。私は佐藤敏紀と言います。自然言語処理と検索を専門にしているソフトウェアエンジニアです。以前はLINE CLOVAの日本語のNLUシステムの開発を担当していましたが、2021年からはNLP開発チームのマネージャーをしており、HyperCLOVAの日本語版の開発面に関する責任者もし
AIで「ゲームの面白さ」を改革したい！─スクウェア・エニックス三宅陽一郎とLINE佐藤敏紀が議論 - リクナビNEXTジャーナル
昨今ホットワードとして度々取り沙汰される「AI」。実際の企業や製品の中ではどのように導入や活用が進んでいるのでしょうか。 デジタルゲームにおけるAI技術の開発・研究に従事し、日本デジタルゲーム学会理事でもあるスクウェア・エニックスの三宅陽一郎氏と、スマートスピーカーという急成長する新しい領域でAIの可能性を見出そうとするLINEの佐藤敏紀氏が、各業界でのAI活用と、人間とAIの関係性について議論します。 ＜対談者プロフィール＞ 株式会社スクウェア・エニックス テクノロジー推進部 リードAIリサーチャー 三宅 陽一郎氏 京都大学で数学を専攻、大阪大学大学院理学研究科物理学修士課程、東京大学大学院工学系研究科博士課程を経て、人工知能研究の道へ。 ゲームAI開発者としてデジタルゲームにおける人工知能技術の発展に従事。国際ゲーム開発者協会日本ゲームAI専門部会チェア、日本デジタルゲーム学会理事、芸
サブカルのためのword2vec | BLOG - DeNA Engineering
はじめに AIシステム部AI研究開発グループ アルバイトの五十嵐です。（ @bonprosoft, ポートフォリオ：http://vbcpp.net/about/ ） 現在、東北大学大学院の修士1年で、大学院では（自然言語ではなく）高速な文字列処理アルゴリズムに関する研究を行っています。 私は2017年9月上旬から3週間ほど、アルバイト兼インターンとしてハッカドールチーム内のNLPのタスクに取り組んでいました。 その後はアルバイトとして、期間中にできなかった追加実験と実際の製品への適用に取り組んでいます。 取り組んだタスク 突然ですが、みなさま、ハッカドールはインストールされていますか？ ハッカドールは、主にサブカルチャーに関する記事に特化した、ニュースアプリケーションです。 アプリケーション内のユーザーのクリックや「ホシイ/イラナイ」などのアクションを通して、ハッカドールがユーザーの好み
AIに「Clova、今日の天気は？」を理解させることの面白さ - LINE ENGINEERING
LINEのData Labsに所属している佐藤敏紀（@overlast）です。この記事はLINE Advent Calendar 2017の23日目の記事です。 この記事では、スマートスピーカーで対処を求められる自然文クエリの言い換えがどれほど多様であるかを示し、「スマートスピーカーを実現するための自然言語処理の楽しさ」をお伝えしたいと思います。 はじめに みなさんはスマートスピーカーを家に置いていますか？ 私は自宅のリビングに弊社が販売しているClova FriendsとClova WAVEを置いていますし、それ以外に、Google HomeとAmazon Echo Dotも設置しています。 ちょっと多すぎでしょうか (;^_^A これらのスマートスピーカーは、主に人間の言葉を聞いてその内容に基づいた動作をします。たとえばClova Friendsに「Clova！小町さんに電話して（クロ
LINE、スマートスピーカー「WAVE」今秋発売 1万5000円
LINEは6月15日、クラウドAIプラットフォーム「Clova」を搭載したスマートスピーカー「WAVE」を今秋に発売すると、都内で開いたイベント「LINE CONFERENCE 2017」で発表した。価格は1万5000円（税別）。 WAVEは同社初のスマートスピーカー。「Clova、テレビ消して」などと話し掛けるとテレビを消すなど、家電製品との連携機能を搭載する。対応するメーカーは世界で約2000社。WAVEは日本の住宅環境に合わせて開発しており、本体から5メートルほど離れた位置で話しかけても認識するという。 サービスの中核となるのは「音楽」で、LINE MUSICが提供する約4000万曲の楽曲が聴ける。楽曲名やアーティスト名で曲を指定できるほか、「今日の天気に合わせた音楽をかけて」と話し掛ければ、雰囲気や好みに合った楽曲を流してくれるという。 通常、LINE MUSICを利用するには月額
LINEの音声スピーカ「WAVE」は1万5000円--秋に発売へ
LINEは6月15日、同社が1年に一度開催する大規模カンファレンス「LINE CONFERENCE 2017」にて、音声AIプラットフォーム「Clova」を搭載したスマートスピーカ「WAVE」の価格と発売時期を発表した。 発売は2017年秋ごろを予定しており、価格は1万5000円（税別）。また、いち早く提供すべく一部機能に限定した先行体験版を2017年夏ごろに発売予定。こちらは1万円（税別）と安価だが、正式版の提供と合わせてアップデートを実施。正式版と同様の機能が利用できるという。 WAVEは、同社のAIプラットフォーム「Clova」を搭載したスマートスピーカ。Amazonの「Echo」やAppleの「HomePod」、Googleの「Google Home」などのスマートスピーカと同様、「Clova」と話かけると音声でコミュニケーションでき、「LINEニュース」と連携したニュース・天気情
NEologd Casual Talks | #neologd (2016/04/26 19:00〜)
商用利用自由で無償な自然言語処理資源として定期更新を始めて1年経った NEologd(色々あるのでまとめてNEologdと呼ぶ) について、便利〜、役立つ〜、ありがたい〜、わかる〜などとお声がけ頂く機会が増えありがたいのですが、一体どこでお役に経っているのかよく分からないという現状があります。 Twitterを眺めていると、MeCabのユーザー辞書や、Elasticsearchのkuromoji-neologd・シノニム辞書で解決できる課題について悩んでいるエンジニアさんもこの世に居ることは確実ですが、でも誰がどう悩んでるのか具体的な内容がネット上にはほとんど表出しません。 とある言語資源をどう実サービスで使うのか、実サービスで使える言語資源をどう作るのか、その資源をどうやって維持していくか、すでに公開されている超有益だけどあまり使われていない言語資源はどこにあるのか、言語資源を作るとかい
【コーポレート】データ専門研究開発組織「LINE Data Labs」を新設 | ニュース | LINE株式会社
サービス上での機械学習、人工知能（AI）、大規模データ基盤領域における研究を推進 年内50人規模の組織を目指し、採用を強化 LINE株式会社（本社：東京都渋谷区、代表取締役社長：出澤 剛）は、LINEおよびLINE周辺サービス事業領域におけるデータの分析・研究を行う専門の開発組織として「LINE Data Labs（ライン データラボ）」を新設いたしましたので、お知らせいたします。 「LINE Data Labs」は、これまで各サービス事業領域ごとに存在していたデータチームを統合して新設されたデータ専門研究開発組織です。「LINE Data Labs」の設立により、各サービスの事業領域を超えて、ユーザーの利用動向等のデータを横断的に扱うことが可能になり、より精密なデータ分析や情報フィルタリングを実現し、これまで以上に効率的なデータ・情報活用を目指してまいります。 「LINE Data La
neologd-solr-elasticsearch-synonyms/README.ja.md at master · neologd/neologd-solr-elasticsearch-s...
#TokyoDL、#DSIRNLP あたりの新年会2016 (2016/01/17 11:00〜)
1年前に大江戸温泉物語で新年会をやったときに最高だったので、今年も行くことになりました。 写真は去年の様子です。多分似たような雰囲気では。 同じメンバーだけだと変化が無さすぎなので、気が合う友人や知り合いは来たら良いよな〜と思います。 特に何もしないので、雑に集まって温泉とお酒を楽しみましょう。 注意 温泉も飲み物も食べ物も各自精算ですので、1万円くらい握りしめて来てください。 イベント管理者は泥酔や心肺機能障害による事故については一切の責任を負いません。 体調の良い健康な方のみご参加ください。 想定している参加者 どなたか分からないと何も話せないし戸惑いますので、以下の様な方を想定してます。 イベント管理者と互いにリアルに面識がある友人 or 家族 or 同僚 or 先輩後輩 or 知り合い イベント管理者と研究やOSSで深いつながりがある イベント管理者が主催する勉強会で発表したことが
フリガナを自動入力する - Qiita
名前、ふりがなが連続しているフォームにおいて、ふりがなを自動入力する機能は、よく要求としてあがってきます。 jquery.autoKana.jsがよく使われているようですが、これはキーイベントを拾って、フリガナを作るので、 Google日本語入力やATOKの予測変換 スマフォのフリック入力 などで、ちゃんとキーイベントが発生しないものは、うまくフリガナを作ることができません。 (参考) https://github.com/harisenbon/autokana http://qiita.com/u-chida/items/6c07d558b3f06c9ed8d8 サーバサイドでフリガナを作る ちょっと考えを変えて、サーバサイドで漢字からフリガナを生成するようにしてみます。 MeCabやKuromojiで形態素解析すると、漢字の"読み"も取得できます。 IPA辞書だと人名が弱いので、NEo
PythonでのMeCabを速くするtips - Qiita
ちゃお... Python Advent Calendar 2015 18日目の記事です... Pythonといったらデータサイエンスに強いし、データサイエンスといったら形態素解析が必要になることがあるし、形態素解析といったらMeCabだし――ということで、今回はPythonでのMeCabの処理を少しでも速くする豆知識を共有したいと思います！ parseToNodeを捨てよ parseを使おう MeCabの解析結果を得るにはparseとparseToNodeの2つのメソッドがあります。 わたしはもっぱらparseToNode使ってたのですが、なんか遅いなーって思って、本当に遅いのか確かめるために処理時間測ってみました。現実的な設定でやった方が実用的だと思ったので、今回は夢野久作のドグラマグラから名詞を抽出することにします。 コード import MeCab tagger = MeCab.T
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LINE、スマートスピーカー「WAVE」を今秋発売、1.5万円。スマホの次のAI時代を担う
GitHub - neologd/neologd-solr-elasticsearch-synonyms
おでかけスポット検索のむずかしさ - Holidayを支える検索技術
最近のDeep Learning (NLP) 界隈におけるAttention事情
ログイン - はてな
im2015
