かなり前から「ChatGPTに学術論文を（英語で）書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 （限界助教先生の記事

リンク くらげバンチ 沖縄で好きになった子が方言すぎてツラすぎる - 空えぐみ / 第72話 なんくるないさー(なんとかなる) | くらげバンチ 俺・中村照秋は、沖縄に転校し、好きな人も出来たが、喜屋武さん(好きな人)の方言が分からない。好きな人の方言を通訳してくれる比嘉さんには、いつも助けられてばかりいる…。 南の島でちょっぴり変わった異文化恋愛スタート‼ https://www.youtube.com/watch?v=zD_sLwFb1uM 方言PV公開中！サイン色紙プレゼントも！詳しくは動画概要蘭をチェック

ことラボ　りょ @KotoLaboRyo 「Naomi って名前、海外でたまに見るけど日本人っぽいな〜」と思ってたら逆だった。 オリジナルがユダヤ・キリスト教系の国の名前で、大正ごろに日本に輸入されたっぽい。 2023-09-22 17:57:14 ことラボ　りょ @KotoLaboRyo 実際、谷崎潤一郎の『痴人の愛』(1924)では、「ナオミ」という女性を、主人公が「名前がハイカラ」と評している。 今ではそんな感覚は薄れているような気がするが、どうだろうか。 2023-09-22 17:57:34

今日はわりとシンプルかつ、日本のゲーマーのみなさんが気になる話をしようと思います。 ズバリ、Steamで遊びたいゲームに日本語対応してもらう方法とは!? 自分の遊びたいゲームが日本語に対応していなくて、悔しい気持ちになったことはありませんか？ そんなみなさまに朗報、以下の3つを心掛ければ日本語に対応してくれる可能性は上がります。 遊びたいゲームがあったらウィッシュリスト登録をする Steamのゲームのページを友達にシェアする 発売済のゲームなら購入する これだけです。この積み重ねがスタジオや開発者の日本語への意識を変えます。私自身、マーケターとして多くのゲームに関わっていて実際に開発現場にもいますが、現場の感覚としてこれは間違いありません。 発売済みゲームの購入はハードルが高いかもしれませんが、ウィッシュリスト登録だけでも効果があります。 なぜなら、Steamに登録しているスタジオは、ダッ

Tatsuya Amano @tatsuya_amano 英語が母語でない研究者はどれ程の不利益を被っているのでしょうか。日本を含む８か国での調査によって、論文読解・執筆・出版、発表準備や国際学会参加を行う際に、英語ネイティブ話者に比べて非ネイティブは非常に大きな時間や労力を費やしていることを定量化しました。 doi.org/10.1371/journa… pic.twitter.com/88KfiBFPN9 2023-07-19 05:40:26 リンク journals.plos.org The manifold costs of being a non-native English speaker in science This study reveals that non-native English speakers, especially early in their care

導入　本当に革命的な技術なのか? 「君たちはどう生きるか」で驚いている間にすごい論文が世界の話題を掻っ攫っていた。 その名も「ReLORA」簡単に言えば、「事前学習にLoRAを使う」というものである。 これは本当に革命的な発見かもしれないので、僕の仮説も含めて丁寧に説明する。 まず、大前提として、「LoRA」という技術について LoRAは、「Low Rank Adaptation(日本語で言うとすれば低階適応)」という技術で、これまでは主にファインチューニングに使われてきた。 ファインチューニングとは、あらかじめ学習されたニューラルネットワークに対して追加で学習させ、概念を強調させたり新しく覚えさせたりする。 たとえば、僕の顔でStableDiffusionをファインチューニングすれば、僕みたいな顔の絵がどんどん出てくる。 言語モデルにおけるLoRAも同様で、新しい概念や「こういうやりとり

Valveは月次恒例の「Steamハードウェア＆ソフトウェア 調査」の2023年6月版を公開。その中で日本語がブラジルポルトガル語に次ぐ6位であるとして、Redditなどで注目を集めている。 「Steamハードウェア＆ソフトウェア 調査」は、Valveが毎月公開している調査だ。Steamクライアントを利用するユーザーの中から、調査を承諾したユーザーからデータを収集。OSのバージョンや使っているグラフィックボードなど、さまざまな環境情報が調査され、その統計が毎月公開されているわけだ。 2023年6月のデータにおいても、多彩なデータが開示。その中で言語情報を見てみると、日本語の使用率が2.82%と大きく上昇していることがわかる。前月比0.71%増であり、言語使用率としてはドイツ語とフランス語を上回っている。 日本語ユーザーの割合は、ここ数年で上昇傾向にある。たとえば、2022年3月の日本語ユー

自然言語処理周りの処理を担うNatural Languageフレームワークのアップデートについて解説してくれているWWDC23の「Explore Natural Language multilingual models」というセッションを見たメモ。 Natural Language関連のセッションとしてはWWDC20以来の実に3年ぶり。 概要をざっくりいうと「多言語の BERT embedding をサポートしました」という話。 （以下、引用表記と画像は基本的に "Explore Natural Language multilingual models" セッションより引用） 埋め込み（embedding）とは何かLLMの隆盛もあり、自然言語処理を専門としていない人でも "embedding" という単語は耳にしたことがあるかもしれない。セッションではまずはここの解説があった。 In th

フガクラ @fugakura 怖ぇー、chat gpt使ってたら「視覴」という見慣れない言葉を吐き出したので検索したところ、ヒットするサイトがほとんど直近日付のAI出力された文章だった これっていわばAIのハルシネーションが生み出した存在しない単語なのでは…？ pic.twitter.com/TVXWcNlVWh 2023-06-08 08:51:02

え？日本語ってこんなに前のめりな言葉やったんか！ 『会話の科学 あなたはなぜ「え?」と言ってしまうのか』 言語がどのように生まれたかに興味を持つ人は多いのではないか。なによりも人間を人間たらしめている大きな理由のひとつは言語なのだから、当然のことだろう。すこし前に書評を書いた『言語はこうして生まれる：「即興する脳」とジェスチャーゲーム』は、そのあたりを論じた本である。 周囲の人に何かを伝えるために言語が生まれた。最初から単語、ましてや文法があった訳ではない。まずはジェスチャーゲームのようなものから言語の体系が生まれてきたのではないかというのが、『言語はこうして生まれる』の内容だ。すべての言語に共通する「普遍文法」を理解する能力が遺伝的に備わっているという、あのチョムスキーの「生成文法」理論に真っ向から刃向かう考えで、たいそう面白かった。 言語の「自然発生」を考えれば、この説の方が正しそうで

「私はどちらかというと癒し系で、あまり強い言葉は使わないようにしています。でも、ちょっと今回は強めに申し上げざるを得ないかな、一石を投じなければいけないかなと思い、覚悟を決めて、あえて申し上げました。事前に職員に『こういうことを言うよ』と告げたら、皆さんびっくりしていました。インターネットやICT（通信技術を活用したコミュニケーション）、テクノロジーについて物を言えば、とかく『生意気だ』などと批判されやすいですから」 平井知事が初当選したのは2007年だ。デジタル施策には当初から熱心だった。 鳥取県の人口は53万9190人（2023年4月1日時点）と都道府県で最も少ない。職員数も少なく、「効率よく仕事をして、働き方改革も行いたいと考えてきました。だからAIを活用したオフィス・オートメーション化に取り組んできました」と平井知事は語る。 議会や会議の議事録の自動作成はもうかなり前から行っている

昨年末から急激に話題を呼んだChatGPT、その内部的なバージョンアップであるGPT-3.5とGPT-4はいずれもMicrosoftから強力な支援を受けた米OpenAIという企業が独占的に提供する大規模言語モデル（LLM）だ。 それに呼応するかのように、Meta社からはLLaMA（ラマ）がリリースされ、LLaMAをChatGPTとの1万3千回の会話データで微調整したAlpaca（アルパカ）、AlpacaをShareGPT（GPTとの会話を有志がオープンにしたもの）のデータで微調整したVicuna（ビクーニャ）といった派生モデルが次々と登場した。 しかし、LLaMAはMeta社の意向により「アカデミック用途限定」という縛りがある。またGPTの出力にはOpenAIの利用規定で「GPTの出力結果を元にGPTに対抗できる強力なAIを作ってはいけない」という制約があるため、AlpacaもVicuna

「言語とはジェスチャーゲームのようなものだ」という画期的な見方を提示して話題になっている『言語はこうして生まれる　「即興する脳」とジェスチャーゲーム』。同書に刺激を受けたライムスターの宇多丸さんが、日本語ラップの先駆けであるいとうせいこうさんと対談。コミュニケーション論から日本語の歴史、フリースタイルラップと言語の変化などを縦横に語り合った。 会話の主導権は「聞く側」に？ 宇多丸　この本を読んだ時、いとうさんと話したいと思ったんです。 いとう　うん。言語というと、ある言葉の「A」というイメージをそのまま運んで、相手がそれを受け取るという風に思ってしまう。でも、実際のコミュニケーションはそんなことはなくて、実は短波放送みたいにすごく雑多なノイズだらけの音の中から正しい歌詞を見出すみたいな作業をしているわけだよね。 宇多丸　そうです。さぐりさぐりで、なんとか工夫しながら、ジェスチャーゲームのよ

GPT-3.5世代のオープンな言語モデルを調べてみました。 本稿では以下の特徴をもって「GPT-3.5世代」の言語モデルと定義しました。 ChatGPT等（text-davinci-003、gpt-3.5-turbo）の登場した2022年11月以降に登場 GPT-3と同様にテキスト生成ができる言語モデル GPT-3（text-davinci-003等）を主なベンチマークにしたり、学習に利用したりしている 「オープンな言語モデル」としていますが、本稿では以下いずれかを満たしていればオープンな言語モデルとします。一般的なオープンソース・ソフトウェアの定義等とは少し異なります。 学習済モデルが公開されている 学習データと学習用ソースコードが公開されており、学習済モデルの再現が可能である GPT-3.5世代のオープンな言語モデルの特徴 本稿で紹介するGPT-3.5世代のモデルには、以下のような特徴

【（4月8日）記事を分かりやすく整頓しました。以前のバージョンはこちらから。】 ・「私」という漢字はかつては「和多志」であったのにGHQによって「私」になった ・「乾杯」という言葉はかつては「弥栄」で、GHQは「弥栄」の言霊をおそれて「完敗」を想起させる「乾杯」になった ・「気」は本来は「氣」であり、エネルギーが広がる「米」だったのに「〆る」にGHQによって替えられた ・「漢字」は「神運字」だった などなど、これらは一部で流布しているスピリチュアルな言霊信仰ともいえる漢字や単語に対する認識の一例で、GHQという外敵によって本来あったであろう日本や日本人が歪められたという疑似的な「かつての日本」の復古運動の流れともいえるでしょう。で、この運動というか、ネット上で使用する人が近年見る頻度が高くなったと思われ、それ自体はSNSなどによる可視性、拡散性と似非知識によるバズ狙い、また反ワクチンなどの

はじめに 私はレトロデザインが好きです。 しかし、仮名遣いが「美しゐ」となっていたりして、もったいない、と思うことがあります。（当時も歴史的仮名遣いが厳格に用いられていたわけではありませんが、「美しゐ」と書く人はいないでしょう。） そこで、レトロデザインのために近代（明治～昭和初期）の日本語についてここにまとめることにしました。 自分の勉強のためという意味もありますが、デザインの際の一助となれば幸いです。書いてみてから思いましたが、デザイン以外の時代考証にも有用かもしれませんし、単純に「旧字体」のことを知りたい人も読める記事になっています。 一気に書き上げるのは難しいと考え、少しずつ、連載のような形式で書き進めようと思います。 さて、最初のテーマの中心は「旧字体」です。 目次の表示／非表示 はじめに 旧字体とは 戦前の漢字の形は多様すぎる 活字の状況 現在の漢和辞典でも「旧字体」は一定では

ホーム > 映画ニュース > 2023年2月1日 > 大ヒット映画「RRR」話題の名字幕「ナートゥをご存じか」は、なぜ「ご存じか」だったのか？　翻訳した2人に聞いてきた 大ヒット映画「RRR」話題の名字幕「ナートゥをご存じか」は、なぜ「ご存じか」だったのか？　翻訳した2人に聞いてきた 2023年2月1日 07:00 「Do you know “Naatu”？」　この英語を、あなたならどのように訳すだろうか？ 日本をふくむ世界中で驚異的なヒットを記録している「RRR」（S・S・ラージャマウリ監督作）で、あえて注目してほしいのが、アクションでも物語でもなく“日本語字幕”。SNSを中心に、ファンから「字幕が美しくて力強い」など熱心な称賛が集まっている。 なかでも際立った人気を博すのが、本記事冒頭のセリフだ。字幕では「“ナートゥ”をご存じか？」と訳されており、「知っているか」や「知らんだろう」では

昔から私は「わかりやすい文章」を書きたいと考えている。文章を書くコストは大きいが、それを「わかりやすくする」コストは比較的に小さい。わずかな時間を惜しんで、わかりにくいままの文章を出すべきではない。 （もちろん、わかりやすく書いても、それを読んだ人が正しく理解するとは限らない。曲解されることは常にある。しかし、それを盾に、「わかりにくい文章」を書くことを正当化してはいけない）。 私が現在、「わかりやすい文章」を書く上で気にしていることは、論理構造と音読である。後者も語りたいことはたくさんあるのだが、長くなるので別の機会にする。今回は、論理構造を明確にするためのツールとして、Google翻訳を使うことを提案する。 「わかりやすい文章の書き方」は既に多数存在するのだが文章をわかりやすく書くことは、昔から必要とされていた。書籍も多数存在する。世の中で推奨されているのは、例えば、以下の書籍である。

越谷オサム @koshigaya_osamu 体言止めについて人から指導を受けたことはないけれど、三点リーダを多用する著者についてある編集者さんが噴き上がっていたのは覚えている。 曰く「表現力のない人ほど『……』を多用して、ありもしない行間を読ませようとするんですよおおぉぉ!!」 勢いに圧されて「ﾊｲ……………………」となった。 2023-01-06 19:09:48 越谷オサム @koshigaya_osamu （こしがや・おさむ）作家。2004年、『ボーナス・トラック』（創元推理文庫）で第16回日本ファンタジーノベル大賞優秀賞を受賞しデビュー。 最新刊『たんぽぽ球場の決戦』（幻冬舎）発売中。