心を読んでテキストに変換する「BrainGPT」が登場、実験の様子がムービーで確認可能
2023年12月10日から16日にかけて行われた機械学習と計算論的神経科学のカンファレンスイベント「NeurIPS」において、シドニー工科大学の研究チームによる「生の脳波を直接言語に翻訳する」という大規模言語モデル「BrainGPT」の論文が注目論文として選出されました。 Portable, non-invasive, mind-reading AI turns thoughts into text | University of Technology Sydney https://www.uts.edu.au/news/tech-design/portable-non-invasive-mind-reading-ai-turns-thoughts-text New Mind-Reading "BrainGPT" Turns Thoughts Into Text On Screen | I
独自の日本語LLM（大規模言語モデル）のバージョン2を一般公開 ―32,000トークン対応の商用利用可能なチャットモデルを提供―
株式会社サイバーエージェント（本社：東京都渋谷区、代表取締役：藤田晋、東証プライム市場：証券コード4751）は、70億パラメータ・32,000トークン対応の日本語LLM（Large Language Model、大規模言語モデル）を公開したことをお知らせいたします。 当社はかねてより日本語LLMの開発に取り組んでおり、2023年5月には国内の自然言語処理技術の発展への寄与を目的とし、「CyberAgentLM」を一般公開しました。その後もLLMに関する研究開発を続け様々なモデルを開発するとともに、当社が提供する「極予測AI」をはじめとするサービスにおいて活用を進めております。
gzipで言語判定 - Qiita
はじめに 以前、UNIXに標準搭載されているライブラリを使って日英の言語判定をしたくなったので、gzipを使った言語判定の実験をしました。 言語判定とは 文が与えられたときにそれがどの言語で書かれているのか判定するタスクです。 他の自然言語処理タスクで使われるコーパスのクリーニングをしたり、言語によって処理を変えたりするのに有用な技術です。 gzip を使った言語判定の仕組み gzip はファイル圧縮に使われるライブラリです。そのため、言語判定タスクに使うと聞いてもピンとこないかもしれません。 gzip はファイルの圧縮に LZ法という手法を用いています。 これは辞書を用いた圧縮法で、ある文字列が繰り返し出現したとき、その文字列の代わりに辞書中の番号を出力することで元の文を短い長さで表すという仕組みです。 その仕組み上、今まで入力された文字列にないようなフレーズを多く含む文に対しては圧縮の
検索するときに『日本人は単語のみ』『英語圏は文章』欲しい結果を出すためのやり方の違い
いもす @imos むしろこれは日本人が今までの検索エンジンに適応しよく訓練された結果。明日の天気を知りたい時に「天気 東京 明日」とか検索すると思うけど、英語圏では “what’s the weather forecast for tomorrow?” とか文章を入れる人も多い。仕組みを考えるなら文章入れるのは驚愕だし、単語入れる方が自然。 twitter.com/koboku_ikuo/st… 2022-09-10 21:47:37 Ikuo Koboku @Koboku_Ikuo 今朝の日経、1面トップ記事。「他国に比べ、日本人は検索もマトモに出来ないから、検索ワードをGoogleが厚めに補ってあげてるんだ」ってローカル戦略が語られてて衝撃受けたの自分だけ？？😭 ・グーグル、検索で国ごとに最適化 nikkei.com/article/DGKKZO… pic.twitter.com/
メタ、「GPT-3並み」の大規模言語モデルを研究者向けに無償提供
メタ（旧フェイスブック）AIラボは、自社開発した大規模言語モデル「OPT」を研究者向けに無償で提供を開始した。オープンAIの「GPT-3」と同じパラメーター数を持つ。同モデルの構築方法や訓練方法の詳細も公開しており、巨大テック企業の取り組みとしては異例だ。 by Will Douglas Heaven2022.05.09 56 11 メタ（旧フェイスブック）AIラボは、オープンAI（OpenAI）の先駆的なニューラル・ネットワーク「GPT-3」の驚くべき能力と有害な欠陥の両方を継承する新しい大規模言語モデル「OPT（Open Pretrained Transformer）」を作成し、研究者向けに提供を開始した。同モデルの構築方法や訓練方法の詳細も公開する。巨大テック企業の取り組みとしては異例のことだ。 「自社の研究を他者が精査できることは、研究にとって重要なことだと強く思っています。他の研
同じ発音なのにまったく意味の違う言葉が存在するのはなぜでしょうか？ 橋（はし）と箸（はし）など、わりと日常的に使う言葉が全く同じ音で構成されていて、コミュニケーション上の無駄も多く発生しているはずなのに、言語が生まれてからこれまでの間に淘汰されずにいるのはなぜですか？ | mond
Read the answer to this question in Mond
13億パラメーターを持つGPT言語モデルをrinnaが公開、日本語に特化
GPTは、人間が使う会話や文章に出てくる単語の確率の組み合わせから次の単語の確率を計算する言語モデルだ。 例えば、「確率（吾輩は猫である）＝確率（吾輩）×確率（は|吾輩）×確率（猫|吾輩,は）×確率（で|吾輩,は,猫）×確率（ある|吾輩,は,猫,で）」のような方法で計算する。この性質を用いて、「吾輩は」という単語を入力したとき、次の単語として確率が高い「猫」を予測できる。 性能は14パープレキシティー 関連記事 2021年の「AI／機械学習」はこうなる！ 5大予測 2020年は、自然言語処理（NLP）のTransformer技術に基づくBERT／GPT-3や、画像生成のディープフェイクが大注目となる一方で、倫理に関する問題がさまざまな方面でくすぶり続けた。2021年の「AI／機械学習」界わいはどう変わっていくのか？ 幾つかの情報源を参考に、5個の予測を行う。 Microsoft、自然言語処
ハイフンに似ている横棒を全て統一するᅳㅡ˗𐆑–᭸‒-─−▬𐄐—━‐‑ー﹣―ｰ﹘－⁃➖⁻！ - Qiita
はじめに これらの横棒、コンピュータにとっては全て違うのですが 見分けがつくでしょうか？ -˗ᅳ᭸‐‑‒–—―⁃⁻−▬─━➖ーㅡ﹘﹣－ｰ𐄐𐆑 郵便番号、住所、電話番号など、横棒が使われているデータを扱うとき、 人が入力したデータや購入したデータであると、同じ記号が使われていないことはよくあることです。 090-1234-5678 090᭸1234᭸5678 090‑1234‑5678 090−1234−5678 これらの電話番号の文字列も phone_no_list = ['090-1234-5678', '090᭸1234᭸5678', '090‑1234‑5678', '090−1234−5678'] # 文字をUnicodeコードポイントに変換 for n in phone_no_list: # 文字列の４番目の横棒の文字コードを見てみる print(n[3], ord(n[3]
シェルスクリプトの代替
要約：決定版はとくにない。 kzys氏のシェルスクリプトを書かないという記事は面白かった。 https://blog.8-p.info/ja/2021/09/15/bash/ シェルスクリプト、ごくたまに書くことはあるが、ほんともう細かい話とかはすべて忘れているし、覚える価値を感じない。いまさら覚える必要のない技術だなと感じる。が、その一方でなかなか代替品がないようなニッチでもある。 自分は必要に応じてPythonかRubyか、といったあたりを使うことが多いが（perlはもう書けなくなった）、なかなかこれという感じには思い至らない。なにがいいんだろうね？という。 前提条件：インタラクティブな環境（REPL）はなくてもいい。そこはもう既存のシェルでいい。自動化したシェルスクリプト的なタスク記述を目標とする。bashの置き換えという意味では「どこにでもインストールされていることを前提にしないと
OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも
非常に精度の高い文章を生成できるため「あまりにも危険過ぎる」と危惧されていた言語モデル「GPT-2」の開発元である「OpenAI」が、次世代文章生成言語モデルの「GPT-3」を用いたAIモデルが利用可能になるAPIを発表しました。これにより、OpenAIのAIモデルを製品に組み込んだり、AIモデルを駆使した新しいアプリケーションを開発したりすることが可能になります。 OpenAI API https://openai.com/blog/openai-api/ OpenAI to sell its headline-grabbing text generator as an API https://thenextweb.com/neural/2020/06/11/openai-to-sell-its-headline-grabbing-text-generator-as-an-api/ Op
何もない所から一瞬で、自然言語処理と係り受け解析をライブコーディングする手品を、LTでやってみた話 - Qiita
要約 超高精度自然言語処理＆係り受け解析を実施するGiNZAがすごくて、 Colaboratoryにより環境構築不要でブラウザだけでサクッと使える。 そのサクッと感を強調すべく、LT（ライトニングトーク）の最中に その場で環境構築＆コードを書いて自然言語処理、 しかも高精度＆高機能ができるよ、という「手品」をやってみた。 一見スゴイが「手品」にはタネがあって・・・。という話をする。 最後まで読むと、以下の二つのノウハウが分かる ・GiNZAで、ゼロから３分で高精度自然言語処理する方法 ・LTでライブコーディングする手品のタネ 背景①： GiNZAすごいっ！ 2019年4月に発表された「GiNZA」という、 日本語自然言語処理オープンソースライブラリを動かしてみたら、 簡単に高精度で（超重要）、係り受けやベクトル化なども含めた、 自然言語処理全般が実施出来たので驚いた。 ご参考： https
多言語対応のゲームUI注意点覚え書き - デザイナー脂肪
こんにちは！ドイツに住んでるUIデザイナーのいまがわ (@i_magawa)です。 この記事は「GameGraphicDesign AdventCalendar 2019」の23日目の記事になります。 自己紹介 現在はフリーでUIの仕事をやりつつ、夫婦や育児に関するマンガを描いたりしています。以前は東京でスマホゲームの開発やってました。 こういう記事も書いてます（宣伝）↓ 何の記事書くの…！？ スマホゲームUIのローカライズ対応について今回は書きたいと思います。 いくつか案件関わった気がしたりしなかったりするのでまとめてみました。あくまで日本っぽいゲームを海外対応するときの注意点です！ また今回参考として「ポケモンマスターズ」のUIをよく載せています。 ポケモンマスターズはなんと驚異の8言語対応…！殺す気か！ちなみに私は一切運営と関係ないただのファンです。 海外対応の目標 英語ネイティブの
oよ、おまえ一体どこから来た……？ “number”の省略形が“No.”なのはなぜなのか - ねとらぼ
私たちは何かを書くとき、往々にして省略を用います。例えば、「1位／1番」すなわち「ナンバーワン」という意味で“No.1”のように書きますよね。 しかしこの“No.”、よく考えてみると不思議です。「ナンバー」と読むはずなのに、英語の“number”には“o”が入っていません。省略するなら“Nu.”なのでは？ oよ、おまえは一体どこから来たんだ……？ そもそもラテン語由来だった！ 実は“No.”は、英語の“number”の省略ではないのです。では省略する前は何だったのかといえば、“numero”。ラテン語で「数において」という意味の単語です。 なるほど、“numero”の中には、確かに“o”が入っています。これにて一件落着……？ なんでそこを取るんだ いやいや、“numero”を省略するなら“Nu.”で良いはずです。どうしてわざわざ最後の文字を取ってしまったのでしょう？ これには、ラテン語の「
マイクロソフトの実験的プロダクト「Blazor」、WebAssemblyで.NETランタイムを実装。WebブラウザでC#など.NETアセンブリをそのまま実行可能に
マイクロソフトの実験的プロダクト「Blazor」、WebAssemblyで.NETランタイムを実装。WebブラウザでC#など.NETアセンブリをそのまま実行可能に マイクロソフトが実験的プロダクトとしてオープンソースで開発している「Blazor」は、WebAssemblyで.NETランタイムを実装することで、Webブラウザの上でC#など.NETテクノロジーによるWebアプリケーションを実現する、Webアプリケーションフレームワークです。 WebAssemblyによってJavaScript以外の言語によるWeb開発が始まる 少し前まで、Webアプリケーションを開発できる言語はJavaScriptだけでした。しかし2010年頃にはJavaScriptの生成をターゲットとするCoffeeScriptが、2012年頃にはTypeScriptが登場し、いわゆるAltScriptによって少しだけ言語の
IBM、音声認識の誤り率でMSの記録更新--「人と同等」レベルには未達と判断
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます この誤り率は、人間が会話中に聞き落とす20単語につき1単語というおおよその率に匹敵する。Microsoftは2016年10月、IBMが2016年に発表していた最高記録である6.9％を破る5.9％という記録を出したが、今回IBMが再び上回った格好だ。 だがIBMは、会話を理解するという点で機械が人間を上回るのはもう少し先になる可能性があると強調している。Microsoftは単語誤り率が5.9％を記録した際に、「ヒューマンパリティ（人間と同程度であること）」に到達したとしていたが、最新の調査によりMicrosoftを祝福するのはまだ早いことがわかったとIBMは述べている。 「われわれはまだシャンパンを開けて祝う段階にはない」とIBMの首席リ
宇宙人の言語を解読するSFパズル『Sethian』がリリース。考古学者となり消滅したコロニーの謎を追え - AUTOMATON
ホーム ニュース 宇宙人の言語を解読するSFパズル『Sethian』がリリース。考古学者となり消滅したコロニーの謎を追え 宇宙人の言語を解読し、姿を消した種族の謎を追うSFパズル『Sethian』が11月10日にリリースされた。開発を担当したのは米国のインディーデベロッパーであるDuang! Games。販売価格は498円、対象プラットフォームはPC/Mac（Steam / itch.io）となっている。 舞台となるのはいまから何千年も先の遠い未来。プレイヤーは惑星「Sethian」に降り立った考古学者として、何世紀も前に惑星から姿を消した生命体の謎を追っていく。謎を解くカギとなるのは「Sethian」の知的生命体が残したコンピューター。この端末は人間の言葉を解さないため、かつて「Sethian」で使われていた未知の言語を解読しながら情報を引き出していく。 「Sethian」の言語は開発者
JUMAN++の形態素解析辞書についてのメモ
黒橋・河原研究室より，新しい日本語形態素解析システムJUMAN++ ver.1.00がリリースされました(2016.9.23)． これは森田一さんらのEMNLP2016の論文の実装です． 配布されているパッケージには，その新しい解析システムだけでなく，新しい形態素解析辞書も含まれています． 以前のJUMAN 7.0に含まれている形態素解析辞書は2012年公開なので，実に4年分の差分が詰まっているわけです． 格フレーム構築の研究の関係で， この形態素解析辞書の動詞まわりの整備を京大在職中に行ったので， どのような変更があるのかを，メモとして少し記します． （なお，このメモにある情報は全て公知の情報に依るものです） JUMAN++の概要 まず，辞書について記す前に，簡単にJUMAN++の概要を述べましょう． JUMAN++という名前から受ける印象は，JUMANを少し改良したものという印象を受け
ネーミングが他の言語ではまずい意味を持っている言葉・名前かどうかを調査できる「WordSafety」
by woodleywonderworks 単語を入力すると、外国語でマズイ意味を持っているかどうかを無料で検索できるのが「WordSafety」です。19の言語から一度に検索することが可能で、新製品や新サービスのネーミングを決める際に役立ちそうなサービスとなっています。 WordSafety.com http://wordsafety.com/ WordSafetyの使い方は非常にシンプルで、調べたい単語を入力して「Check」をクリックするだけ。試しに「gigazine」と入力して検索してみます。 すると検索ボックスの下部に「結果がありません。この単語は使っても大丈夫でしょう」と表示されました。しかし、「世界には6000以上の言語があるので、もしかするとアマゾンのジャングルの奥深くに住む人々にとっては、『gigazine』はまずい意味を持つかもしれません」とも書かれており、WordSa
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大阪から関東の大学に入った頃に「大阪弁出ないね！」ってよく言われたけど日本語学の先生に「母音が脱落しないので大阪だと思ってました」と言われた
https://jp.techcrunch.com/2019/05/20/2019-05-15-googles-translatotron-converts-one-spoken-language-to-another-no-text-involved/
