生成AIによる「慣用表現の『乗っ取り』」と、その根底にある別の問題と - 渋谷駅前で働くデータサイエンティストのブログ
かなり前から「ChatGPTに学術論文を（英語で）書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 （限界助教先生の記事
クックパッドマートの多種多様な商品名から、扱いやすい「食材キーワード」を予測する - クックパッド開発者ブログ
研究開発部の山口 (@altescy) です．今回は最近開発したクックパッドマートの商品の「食材キーワード」を予測する機械学習モデルを紹介します． 商品の食材キーワード予測とは？ クックパッドマートでは日々様々な食材が多くの販売者から出品されています．出品される商品の情報は販売者によって登録されるため，多様な表記が存在します．「じゃがいも」の商品名を例に挙げると，「ジャガイモ」「じゃが芋」といった表記の揺れや，「メークイン」「インカのめざめ」といった品種名が書かれているもの，「農家直送」や「お徳用」のようなキャッチコピーがついたもの，など様々です．一方で，商品の検索や推薦を行う際にはその商品がいったい何なのかを簡潔に表す情報が欲しくなります． そこで登場するのが「食材キーワード」です．商品名や商品説明とは別に，その商品がどんな食材なのかを表すキーワードを設定しておくことで，商品名の表記揺れ
最近ものすごく優秀な修士就活生が増えている→機械翻訳『DeepL』を巧みに使って論文を書いていた「すごい時代が来たな」
くりぷとバイオ@研究×新規事業開発 @cryptobiotech 企業で研究×新規事業開発に励む人 | 修士卒→大手メーカー研究職→Ph.D.取得→新規事業開発職 | 生成AIとDeepTech勉強中 | BiotechとFoodtechが好き | ココナラで院生就活支援→https://t.co/d94kwtA29T | note→ https://t.co/pvmKzQaD1A https://t.co/0FG5b9HSAL くりぷとバイオ@研究×新規事業開発 @cryptobiotech 1st author論文持ってる修士就活生が増えてるようで、それを達成してるM1後輩に話を聞いてみたら「日本語で文章書いて全部DeepL翻訳で英語化→英語化された文章をgoogle翻訳、みらい翻訳で日本語化→違和感ないか確認→指導教官に提出」というプロセスを踏んでるらしい。そりゃ早くなるわけだ。すご
Sentencepiece : ニューラル言語処理向けトークナイザ - Qiita
少し時間が経ってしまいましたが、Sentencepiceというニューラル言語処理向けのトークナイザ・脱トークナイザを公開しました。MeCabやKyTeaといった単語分割ソフトウエアとは趣旨や目的が異なるソフトウェアですので、少し丁寧にSentencepieceの背景、応用、実験結果等をお話したいと思います。 サブワード ニューラル言語処理の中心となる要素技術にLSTM (RNN)があります。テキスト(トークン列)を低次元のベクトルに符号化したり、ベクトルからテキストを復号化したり、その応用範囲は多岐にわたります。ニューラル機械翻訳 (NMT) は、LSTMによる符号化・復号化を組み合わせて翻訳を行います。 ↓↓↓↓↓↓↓ あなたの記事の内容 NMTのアーキテクチャは従来法と大きく異なりますが、入出力はこれまでと同様、なにかしらのトークン列です。どのような列でもよいのですが、慣習的に単語列が
Astghik Hovhannisyan（アスタ） on Twitter: "アルメニア語にはhe/sheの区別はないですが、Google translateで翻訳しようとすると以下のようにジェンダーバイアスが出てきます。 数日前からアルメニア人の中で話題になっていましたが、さっき自分でやってみたらやっぱ… https://t.co/6jGXXQsAm6"
アルメニア語にはhe/sheの区別はないですが、Google translateで翻訳しようとすると以下のようにジェンダーバイアスが出てきます。 数日前からアルメニア人の中で話題になっていましたが、さっき自分でやってみたらやっぱ… https://t.co/6jGXXQsAm6
「自閉症は津軽弁を話さない」この謎に挑んだ心理学者が痛感したこと（プレジデントオンライン） - Yahoo!ニュース
自閉症の子どもは津軽弁を話さない。そんな妻の一言をきっかけに、心理学者の松本敏治氏はことばと心の謎の解明に乗り出した。松本氏は「最初は軽い気持ちで調べていたが、本にまとめるまで十数年がかかった。現場の人々の経験や感覚に目を向けることの大切さを痛感した」という――。 【この記事の画像を見る】 ■「ことばと心の謎」に迫る研究のきっかけ ある日、町の乳幼児健診から帰ってきた心理士の妻が、ビールを飲みながら「自閉症の子どもって津軽弁しゃべんねっきゃ(話さないよねぇ)」と言ってきました。 障害児心理を研究する私は、「それは自閉症(自閉スペクトラム症:ASD)の独特の話し方のせいだよ」と初めは静かに説明してやりました。しかし妻は、話し方とかではなく方言を話さないのだと譲りません。 やり取りするうちに喧嘩になり2、3日は口を利いてくれませんでした。こちらも長年、その道の研究職であるつもりでしたから、たと
GPT-3の衝撃 - ディープラーニングブログ
この1週間はGPT-3のユースケースの広さに驚かされる毎日でした． シリコンバレーでは話題騒然ですが日本ではほとんど話題になっていないので，勢いで書くことにしました． GPT-3はOpenAIが開発した言語生成モデルです．名前の由来であるGenerative Pretrained Transformerの通り，自然言語処理で広く使われるTransformerモデルを言語生成タスクで事前学習しています． 先月申請すれば誰でもGPT-3を利用できるOpenAI APIが発表され，様々な業種の開発者によって驚くべきデモンストレーションがいくつも公開されています． 特に話し言葉からJSXやReactのコードを生成するデモは著名なベンチャーキャピタルから注目を集め，誇大広告気味だと警鐘を鳴らす事態に発展しています． This is mind blowing. With GPT-3, I built
AIはハチ=米津玄師を見破れるか ? -J-popアーティストの歌詞を分析してみた- - Qiita
はじめに 一年前にこんな記事を書きました。未だにちょくちょくいいねを頂いているので、自然言語処理の練習を兼ねて久しぶりに遊んでみた系の記事を投稿しようと思います。 やったこと 歌詞データのクローリング Mecabによる分かち書き tf-idfによるベクトル化 ベクトル化した歌詞によるアーティストのクラスタリングとUMAPでの可視化 (おまけ) fastTextでハチ=米津玄師を見分けられるのか? 分析にはJupyter Labを用いました。 歌詞データ 今回用いる歌詞データについて説明します。 クローリングで取得 先立って歌詞データのクローリングをしました。とある人気アーティスト順に歌詞を取得できるサイトより、45人のJ-popアーティストにつき、最大50曲分の歌詞を取得しCSVに保存しました。 実際にクローリングに用いたコードを公開するのもどうかと思うので、ここでは割愛します。。。Bea
すげー！！！AIの今北産業、超優秀！！！
AIが長文を3行ぐらいにギュッとまとめてくれるエンジン「IMAKITA」を使ってみた - GIGAZINE http://b.hatena.ne.jp/entry/s/gigazine.net/news/20181211-imakita/IMAKITA Document Squeezer https://www.qhapaq.org/imakita/ AIで長文を要約してくれるWebサービスが話題だったから、この増田を入れてみた。 その結果がこれ。 Summary of the Documentラーメンをすすって食べる人のことが大嫌いです。 そもそも時代をさかのぼっても、蕎麦などの麺類以外は音を立てずに食べるのが常識です。 もう時代は変わって音をたてて食べる人のほうが少なくなってきてることに気がついてほしいです。 音をたてないように気をつけて食べてでる音は仕方ないと思っています。 音をたて
長尾真（情報工学者）新井紀子（数学者）｜INFORIUM｜NTTデータ
人間を理解し、人工知能をさらに先へ。 情報処理学で多大な功績を残した長尾真氏と 「ロボットは東大に入れるか」プロジェクトで人間の能力に注目するようになった 国立情報学研究所の新井紀子教授が、 AI技術の発展にはこれから何が必要になるのか、徹底討論しました。 人間の知能を支えるもの新井 私が「ロボットは東大に入れるか」というプロジェクト(※1)を始めたときに人工知能学、特に言語処理の方面から「何でこんな役に立たないことをするのか」という批判的なご意見を受けました。そんな中、長尾先生が「それは今やるのはなかなか面白かろう」と、言語処理学会の記念大会などに私を講師として呼んでくださったのが印象に残っています。 長尾 でも、それから4～5年のうちに東ロボをおやめになった。「もうちょっとやったら面白いところまで展開するのでは」と思っていたので、それが残念です。 新井 いえ、まだプロジェクトはやめてい
津軽弁の会話 ＡＩで文字化に成功 青森 | NHKニュース
青森県西部の津軽地方で使われている方言「津軽弁」について、弘前大学と東北電力の研究グループが、独特の言い回しなどをＡＩ＝人工知能に繰り返し覚えさせることで、会話のやり取りをほぼ正確に文字で表示することに成功したと発表しました。 それによりますと、研究ではまず、東北電力のコールセンターで録音された１０とおりの会話を、鰺ヶ沢町に住む２０代から７０代の男女１２人にそれぞれ津軽弁で読んでもらいました。そして、そのやり取りをすべて録音したうえでＡＩに読み込ませ、文字にしました。 当初は変換ミスが多く、正しく文字に変換できたのは７６％程度でしたが、誤った部分を修正し独特の言い回しなどを繰り返し覚えさせるうちに、およそ９４％まで精度が高まったということです。 弘前大学と東北電力は引き続き精度を高めていくとともに、標準語への変換にも取り組むことにしています。研究に当たっている弘前大学の柏倉幾郎副学長は「さ
自閉症はなぜ方言ではなく共通語を話すのかーHSPの脳機能との違いを考察する | いつも空が見えるから
「自閉症の子どもって津軽弁しゃべんねっきゃ(話さないよねぇ)」 妻のこの一言で始まった研究は思わぬ展開を示すこととなりました。 …調査をすればするほど湧いてくる課題、考えれば考えるほど解けない疑問と向き合った結果、方言というローカリティそのものと考えていた問題が、私たちをASDのことばの謎へと誘っていきました。(p246-247) 自閉スペクトラム症(ASD)の人たちは方言を話さない? 弘前大学の松本敏治先生のこの不思議な研究について知ったのは、2015年のニュース報道でした。 本当だろうかと怪訝に思いつつも、身の回りのアスペルガーの人たちを思い浮かべると、たしかにあまり方言を使わないことに気づきました。 それ以来、この不思議な研究のことはずっと頭の片隅に残っていたのですが、なんと今年になって、一冊の本自閉症は津軽弁を話さない 自閉スペクトラム症のことばの謎を読み解くにまとめて出版されたの
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大規模言語モデルの開発
【のべりすと淫夢】ウリ狂MODと糞土方MOD配布のお知らせ
子供の言語獲得と機械の言語獲得