近況令和6年能登半島地震とガザ人道危機が痛ましかったので、それぞれに1万円ずつ募金した。 ブルガリアのブルマーについて以前調べたけれどヒットしなかった気がするな。そう思いつつ、「училищен час по физическо възпитание 1970」、つまり「体育の授業 1970年」と検索したところ、次のサイトがヒットした。 https://uchiteli.bg/interesting/chasovete-po-fizichesko-vyzpitanie-prez-80-te-godini/2508 明確にブルマー姿の女の子が確認できる。そして、時期は1980年代と書かれている。 記事にはこんなことが書いてある。 Девойките с черно или синьо трико и бяла тениска. 翻訳するとこうなる。 黒か青のレオタードに白のTシャツを着た女の
わからない言葉に出会ったら、すぐに辞書を引く 井上陽介氏（以下、井上）：この本（『頭のいい人が話す前に考えていること』）を読んでいて言葉の大切さをとても感じました。 例えば品質と言っても、この「品質」の意味合いをどこまで突っ込んで自分なりに理解できるのか。「品質という言葉1つとっても「A社とB社とC社ではまったくとらえ方が違うよね」ということを、しっかりとらえていく必要性があるなと思っていました。 言語化の中で、言葉を再定義していく力とか、名前がないものにあえて名前をつけることもトレーニングしていくといいのではないか、という提案もあったかなと思っています。語彙力と言うのか、言葉力と言うのか、言語化力を高めていくためには何をしていくといいんでしょうか？ 安達裕哉氏（以下、安達）：語彙には2つあるなと思っています。これは私の師匠の教えそのまんまなんですが、1つは「ちゃんと辞書を引け」ということ
特定の書籍を「有害」だとみなして書籍の発禁(発売・頒布禁止)処分を下す動きは急増しており、アメリカ図書館協会によると、毎年倍近いペースで学校や公共図書館での本の禁止や制限が行われた件数が増加しているとのこと。ノースカロライナ大学グリーンズボロ校で識字能力について研究するゲイ・アイビー氏は、特定の種類の本に若者が害を受ける心配はなく、むしろそのような本に若者が触れることにメリットが多くあることを指摘しています。 How teens benefit from being able to read ‘disturbing’ books that some want to ban https://theconversation.com/how-teens-benefit-from-being-able-to-read-disturbing-books-that-some-want-to-ban-2
1月13日、台湾では総統選と立法院選（国会選挙）の投開票がおこなわれた。総統選は頼清徳が勝利、いっぽうで小選挙区比例代表並立制（ただし日本のような重複立候補はなし）をとる立法院選は、与党が比例得票では上回ったものの、小選挙区で取りこぼしが多数。民主進歩党（民進党）51議席、中国国民党（国民党）52議席、台湾民衆党（民衆党）8議席と、議会で与野党が逆転した。なお、小選挙区などで選出された無所属2人を除き、国会は上記の3党で独占された形である。 そんな結果を受けつつ、私は比例代表における各党（今回は16政党が参加）の順位と得票率を眺めていた。議席に届かなかった比例第4位は、得票数で主要3党に大きく水を開けられたものの、前回の選挙では3議席を得ていた時代力量だ。だが、それに続く第5位に「小欧盟」という見慣れない党名があった。しかも、政党のロゴマークが限りなくゆるい。なんだこれ。 小民参政欧巴桑聯
こんにちは、ラボで研究開発をしたりプロトタイプを作っている藤本(X(Twitter))です。ABEJAアドベントカレンダー2023の21日目の記事です。ここ近年、生成AIの勢いが凄いです。最近は一夜明けたら世界が変わっているみたいなことがしょっちゅう起きています。そんな状況なので、なかなか世の中についていくのが難しいのではないかと思います。そこで今回は、これまでに色々と出てきた生成モデルを振り返りつつ、ひたすら思いつく限りColabで動かしまくってみる企画をやってみようかと思います。流石に全部Colabで動かすのは大変でした・・・。 まずは言語を対象として日本語モデルを含む様々なモデルを対象に推論実験を行います。続いて高速化の実験、更にSFTによるInstructionチューニングや、RLHFもやってみます。最後に、ソースコード生成もやってみましょう。次に、画像を対象として、言語同様に色々
ELYZA-Japanese-Llama-2-7b ELYZA-Japanese-Llama-2-7bは、ELYZAが公開した日本語に特化したLLMです。 公開されたのは以下のモデルです。 ELYZA-japanese-Llama-2-7bELYZA-japanese-Llama-2-7b-fastELYZA-japanese-Llama-2-7b-instructELYZA-japanese-Llama-2-7b-fast-instruct instruct：instruction tuningによって追加学習されたモデル。 fast：日本語の語彙の追加によって処理を高速化したモデル。 モデルの概要 ELYZA-japanese-Llama-2-7bはLlama2をベースとして日本語処理の性能を向上させるために追加学習したモデルです。英語で学習済みのLLMの言語能力を引き継ぐことで、少な
ちくま学芸文庫刊行書目一覧 最新版｜かるめら
2024年6月30日時点での既刊のちくま学芸文庫全2,053点（セット版を除く）をあげた。 文庫の整理番号順に従って表記（一部変更あり）した。 「♾️」マークはMath&Scienceシリーズ（青背）を示す。 人名表記の揺れ（例「シモーヌ・ヴェイユ」と「シモーヌ・ヴェーユ」）は訳者に従い、統一はせずそのままにした。 編者、訳者は一部を除き割愛し、編著者が3人以上に及ぶ場合は代表者1人の名前のみ記した。 Math&Scienceシリーズのみの刊行書目一覧はこちら。 浅田彰『ヘルメスの音楽』 赤坂憲雄『異人論序説』 赤坂憲雄『王と天皇』 赤坂憲雄『排除の現象学』 赤坂憲雄『遠野/物語考』 赤坂憲雄『象徴天皇という物語』 赤坂憲雄『柳田国男を読む』 天沢退二郎『宮沢賢治の彼方へ』 飛鳥井雅道『明治大帝』 E・アウエルバッハ『ミメーシス［上］ ヨーロッパ文学における現実描写』 E・アウエルバッハ『
産業技術総合研究所と東京工業大学の研究チームは12月19日、日本語に強い大規模言語モデル（LLM）「Swallow」を公開した。米Metaが開発したLLM「Llama 2シリーズ」をベースに日本語能力を改善させたもの。ライセンスは「LLAMA 2 Community License」で、研究や商業目的で利用できる。 今回公開したのは、パラメータ数が70億（7B）、130億（13B）、700億（70B）のモデル3種類。Llama 2シリーズが持つ高い言語処理能力を維持しながら日本語能力を強化することを目指した。 このため、AIモデルに日本語の文字や単語などの語彙を追加し、新たに開発した日本語データで継続事前学習（学習済みのLLMに対して追加で事前学習を行う手法で、異なる言語などで言語モデルを活用するときに使われる）を行った。結果、日本語に関するベンチマークデータで、全モデルがベースモデルより
2月23日（金）☔ 今日もひっそりキャンプです⛺✨ ベランダにて【業務スーパー】の【バターチキンカレー】を食す🔥 2月23日（金）☔ 今日もひっそりキャンプです⛺✨ ベランダにて【業務スーパー】の【バターチキンカレー】を食す🔥 【ひっそりキャンプ】とは⛺🔥 そんなアナタにオススメ(●´ω｀●)⛺🔥 今日はこんなです👇 調理だ🔥 完成だ✨ 実食だ🔥 まとめ⛺ 今日使った道具はこちら👇 【ひっそりキャンプ】とは⛺🔥 ひっそりキャンプ、略して、ひそキャン⛺ キャンプって楽しいですよね(*'ω'*)✨ 自然と一体化して、美味しいものを食べたり飲んだり😋✨ ああ✨自然の中でリフレッシュした～い⛺🔥✨ でも、この世はトカク忙しい💨 『仕事が忙しくてキャンプに行けないヨ💦』 「メンドイから外へ出かけたくない💦」 なんていう方も多いのでは(/・ω・)/ そんなアナタにオススメ(
エンジニアは一生勉強と世に言うが、べつにこれは所謂エンジニアに限ったことでもない。人間として生きている以上は日々が勉強の連続で、毎日何かを理解して、憶えて、その繰り返しだ。 だから、日常のレベルではドキュメントを探したりチュートリアルを見たり教科書を読んで理解することの繰り返しをやっている。 では、何をもって理解したとみなせばよいのか？意外とこれは難しい。よく言われるのが「自分の言葉で説明できたら理解していると言える」というようなものだ。『数学ガール』にも、たしか似たような事が書かれていた気がするが、記憶の彼方だ。 しかしながら、自分の言葉で一から説明しようとすると、その言葉すらも自分の言葉ではないことに気付いていく。Kubernatesを説明するためにはコンテナの語彙が必要だ。しかしコンテナの語彙をも自分の言葉で説明するなら、無間地獄に落ちていくだけだ。そうなると自分が何を説明したかった
大島育宙｜『宮藤官九郎論』（前半）「クドカンと長瀬智也と阿部サダヲ」 - あしたメディア by BIGLOBE
金曜ドラマ『不適切にもほどがある！』（2024年1月期TBS系・毎週金曜よる10時）が面白い。1986年から2024年に事故的にタイムスリップしてきたダメ親父・小川市郎（阿部サダヲ）が昭和の価値観を振り回しながら令和の価値観と衝突していくドラマだ。「せっかく人権が尊重されるようになった令和を『息苦しい』と揶揄する昭和礼賛ドラマだ」という批判も見かけるが、私にはそうは思えない。宮藤官九郎という脚本家が、自身のキャリアを賭けて首を洗って差し出しているような作品ではないか。6話まで放送された時点でドラマ全体の真価は見えないが、少なくとも今言える宮藤官九郎論をまとめていく。 「大人しくない」純子が指摘する令和の課題 6話で池田成志扮する「エモケン」という脚本家が登場する。1963年7月19日生まれで年は違えど宮藤と同じ誕生日、さらには構成作家出身という出自まで同じだ。代表作は『池袋ウエストゲートパ
「英語を書き取るだけのディクテーションなんて意味ない？」 「そもそもディクテーションってどうやるの？」 ディクテーション（Dictation）とは、英語を聞いて書き取りをする英語学習法のひとつです。 リスニング力をはじめ、総合的な英語力を効率よく高める効果が期待できます。 その一方で、間違ったやり方をしてしまうと、ただ時間ばかりかかり、たいした成果もないまま挫折する人が多い勉強法でもあるのです。 そこでこの記事では、正しいディクテーションのやり方や、挫折しないために気をつけたいポイントを紹介します。 ディクテーションに初めて取り組む、という初心者の方でも活用できるおすすめの教材も紹介していきますので、ぜひチェックしてみて下さい。 正しく、そして楽しんでディクテーションにチャレンジしてみましょう！ 執筆者：Lin 小4までアメリカの現地校に通い、帰国後は「英語はネイティブ並みでしょう？」とい
「徒桜」にみる「VTuberと鑑賞者の物語的アイデンティティの相互変容」（『VTuberの哲学』）の表現、あるいはVTuberの死・卒業・新ビジュアルについて。 - Myrmecoleon in Paradoxical Library. はてな新館
「徒桜」パンフレットと『VTuberの哲学』 「徒桜」（あだざくら）は2024年3月17日に東京・板橋にある「プラネアール 板橋学校スタジオ」で開催されたイベントである。 passmarket.yahoo.co.jp 「堰代ミコ 生誕記念イベント」と銘打っているとおり、ななしいんく所属のVTuber・堰代ミコの3月5日の誕生日を記念したななしいんく主催のイベントで、いわゆるVTuberの生誕リアイベである。VTuberでは年に一度の誕生日にライブやトークイベント、特別なライブ配信などを行うことが多いが、堰代ミコが2024年のそれとして行ったものと言える。 「プラネアール 板橋学校スタジオ」は「学校」をテーマにした撮影スタジオで、3階建ての施設内に教室・職員室・校長室・保健室・部室といった学校内の部屋を模した空間がコンパクトな動線で用意されている。 www.planear.co.jp 「プラ
なんでも岸田の話につなげる政治豚一匹Vとは関係ない鯖なのになんでもホロライブの話に繋げるバチャ豚三匹のうちいまだに潤羽るしあに夢中の真正一匹女レイヤーへのセクハラしか語彙がないおっさん二人女女間でも下ネタ言いまくる顔と宗教以外劣化久本雅美みたいな露出狂女レイヤー二人愚痴鯖で前職の悪口言いまくってる元運輸業のおっさん一人なんでこんな奴らの介護しなきゃいけんの？ 俺はゲームの話がしたいわけであってメンタルヘルス板の雑談スレを求めてるわけじゃないんですがね でも俺のやってるゲームはここ以外のコミュニティないんだよなつらい
はじめに 最近Command R+が界隈を賑わせています。 その賑わいの中でも「Command R+の日本語の応答速度が速い。」という声を良く聞きます。(半分以上X経由なので、よく聞くというよりも良く見るが近いですが、) そこで今回はCommand R+の日本語の応答速度が本当に速いのか、なぜ速いのかについてトークナイザー観点で述べたいと思います。 応答速度とトークナイザーの関係及びCommand R+のトークンナイザー まず前提として、入力あたりのトークン数が少なければ少ないほど応答時間が短くなります。よってトークナイザーは応答速度に大いに関係します。 詳しくは以下の記事で解説しています。少しだけ述べるとトークン数縮小に伴う語彙数増加によるEmbedding層肥大化による速度遅延<<トークン数増加による速度遅延となっています。ELYZAのfastのモデルが速い理由の一つもこの理由です。
継続事前学習による金融ドメイン特化LLMの構築の検証 - Preferred Networks Research & Development
この記事は、金融チームエンジニアの今城(@imos)と金融チームリサーチャーの平野(@_mhirano)による寄稿です。 概要 本稿では、ドメインに特化したLLMの構築の一環として、金融ドメイン特化のLLMの構築の検証を行いました。継続事前学習によるドメイン知識の獲得を模索し、特定のドメイン向けに専用のパラメータ数が多い高性能なLLMを提供を可能にすることを目指します。 実験では、nekomata-14bとPFNで構築した金融に特化したデータセットを用いて、継続事前学習を実施しました。 継続事前学習の結果として、金融ベンチマーク性能が向上することが確認できました。 出力の差としては、Instruction Tuningを施していないため、大きな差は見られないものの、一定の差が見られるケースもありました。 継続事前学習後のモデルは、https://huggingface.co/pfnet/n
インターネットとウッチャンナンチャンと日記猿人と日記才人とテキスト庵と私（インターネット老人会 Advent Calendar 2023 18日目） - Really Saying Something
この記事は、インターネット老人会 Advent Calendar 2023の18日目の記事です。 インターネット老人会 Advent Calendar 2023 - Adventar 老人会なのでたっぷり自分の昔話をします。 インターネットとの出会い（1996年） 私とインターネットの出会いは学生時代。大学の計算センターでインターネットに関する授業を受け、HTMLを教わり、「日本の新着情報」（NTT）や「ディレクトリ型」のWebサイト（ヤフーなど）を知り、fjの存在も知り（ちょっとしか触らなかった）、自分の「ホームページ」を作る課題が出た、というのが長きにわたるネットとの付き合いの幕開けでした。 ホームページといってもせいぜい自己紹介を書いて写真や画像素材を載せ、marqeeやblinkやcenterタグを駆使したWeb0.3みたいなものでしたが、自分の手でWebページを作ったり変えたり消
Megatron-LMとGKEで作るMixtral 8x7Bを語彙拡張継続事前学習 Part1 ~学習コードとモデルの先行公開~ - ABEJA Tech Blog
こんにちは！ABEJAでデータサイエンティストをしている大谷です。 ABEJAは国立研究開発法人新エネルギー・産業技術総合開発機構（以下「NEDO」）が公募した「ポスト5G情報通信システム基盤強化研究開発事業／ポスト5G情報通信システムの開発」に当社提案の「LLMの社会実装に向けた特化型モデルの元となる汎化的LLM」が採択されたことを受け、LLMの事前学習を実施しました。 以降、本LLMプロジェクトをGENIAC（Generative AI Accelerator Challenge）と表記します。 開発内容は表題の通り、Mistral社のMIxtral 8x7Bをベースにした日本語の語彙拡張版継続事前学習です。弊社が調べた限り、Megatron-LMでMixtralモデルを継続事前学習するソースコードは2024年4月12日時点（執筆時）では存在していません。 GENIACの計算資源提供の
著者Lindsey Ellefson - Lifehacker US [原文]翻訳遠藤康子（ガリレオ） 2024.10.01 lastupdate 定評のある学習法は豊富にあります。自分がどのようなタイプの学習者で、知識をどうやって身につけるのが得意なのかによって、選択肢はさまざまです。 あまり話題にあがることはありませんが、新しい情報や知識が書かれた文書を批判的に読み進められるよう助けてくれる学習法として「THIEVES」があります。 進学して人生の新たなステージへと踏み出すとき、あるいは、仕事で新しい知識を大量に学ばなくてはならないときなどに、ぜひ活用してみてください。 THIEVESメソッドとはオハイオ州にあるケント州立大学などの大学が推奨する「THIEVESメソッド」は、文書を批判的に考えながら読み進めることを目的とした読書法です。 THIEVESという名前は、読む対象のコンテンツ
現代社会を取り巻く環境はますます複雑になっており、もはや個人で生活や社会に関するあらゆる専門的な情報を網羅することは不可能です。そのため、信頼できる専門家が発信する情報を適切に取り入れることが重要ですが、中には専門家をかたって注目を集めることで利益を得る「模倣者」もいます。本物の専門家と模倣者を区別する方法について、元諜報機関勤務でブロガーのシェーン・パリッシュ氏が、自身の著書「Clear Thinking: Turning Ordinary Moments into Extraordinary Results(クリアな思考：平凡な瞬間を非凡な結果に変える方法)」から抜粋して解説しています。 Experts vs. Imitators https://fs.blog/experts-vs-imitators/ 流行している感染症や政府の経済政策などこの世のありとあらゆる事柄について、インタ
昨日公開された GPT-4o は性能だけでなく処理速度の点からも注目を集めています。その速度に寄与しているのは、モデルの処理速度の改善だけでなく、日本語処理の改善も大きく関わっていると考えられます。 実際、OpenAIのサイトによれば、日本語は平均して 1.4 倍の効率で（1.4倍少ないトークンで）表せるようになったとされています。 これは、GPT-4o が GPT-4 に比べて日本語をより 語彙 (vocabulary) に含むようになったからです。語彙とは LLM における自然言語の処理の最小単位で、1つの語彙が1つの数値トークンに変換され、それがモデルに突っ込まれるという仕組みです。 ところで、GPT-4o では 『風吹けば名無し』 という文字列を 1 つの語彙として扱うのをご存知でしょうか。 このツイートで紹介されているように、GPT-4o では、ネットで多数出現するこういったフレ
*1 *2 ● 1月10日のスポーツ紙朝刊、八代亜紀の訃報が、まるで阪神優勝の勢いで特大の色刷り活字の見出しの乱れ打ちと共に右へならえ、横並びの潔さで躍っていました。 ああ、それほどまでに、本邦スポーツ紙の想定読者層にとっての八代亜紀、いや、より丁寧に言うなら、八代亜紀に代表されるような「うた」の記憶は、いずれ十人十色、それぞれのお好みのままに散りばめられたプロ野球の贔屓球団の優勝沙汰と同等ほどに大事だったということであり、そしてスポーツ紙各社とも、世間一般その他おおぜいの心映えを相手の稼業としての矜持と共に、その手ざわりを輪郭確かに未だくっきりと持っていたということなのでしょう、令和6年、来年は昭和百年を迎えるといういまのこの時期この時代、この情報環境においても、なお。 こういう有名なよく知られた、それも芸能人が亡くなると、メディアの舞台に追悼企画がたくさん出る。テレビはもちろん、新聞や
文明が花開いた明治時代は、どのようなスポットが人気だったのだろう。 今回は、116年前のガイドブックを使って熱海の観光をしてみよう。 実際に回って見えてきたのは、熱海が今でも人気の理由だった。 熱海、人を楽しませようとする熱量がすごい。 ※この散策は2023年2月に行ったものです。 116年前に書かれた観光の本 以前、伊豆について書かれている「明治時代のガイドブック」を見つけた。 誰でも読むことができる。ありがとうインターネット。 これを使って伊東の街を観光したところ、違った時代の人と一緒に歩いているような普通の観光で味わえない体験ができた。 dailyportalz.jpとなると再びやってみたくなるもの。お次は、伊東と同じように温泉町で有名な熱海に行ってみよう。 印刷していざ出発！ 熱海といえば温泉 『伊豆新誌』の熱海の章は、このような文章から始まっている。 いきなり「温泉」が出てきた。
そもそも日本人が英語の、特に会話ができない最大の原因は母語の日本語が語彙から音韻から文法構造まであらゆる面で英語からかけ離れてるのが大きいからね トルコのトルコ語学校行くと日本人はかなり短期間でべらべら喋るのにヨーロッパやアメリカから来た連中はいつまでももごもごしてる
レトロニムの言語学？｜asaokitan
みんな大好きレトロニムこんにちは！「1記事/年」未満の超スローペースの更新で定評がある私のnoteなのですが、今回は 言語学な人々 Advent Calendar 2023 に参加させてもらうことにしました！ネタはたくさんある（のになぜ「1記事/年」未満なのか）（苦）（1日が48日あれば毎日記事を上げられるのですが…）（ん、それだと1〜2ヶ月に1記事くらいは上げられる計算にならない？）（苦）ので、迷いましたが、「レトロニムの言語学？」で行ってみたいと思います！ちなみに上の画像はDALL·E 3さんによるレトロニムのイメージです。 レトロニムという用語はわりと人口に膾炙していると思います。Wikipedia にも例がいっぱい挙げてありますね。Twitter でもレトロニムネタはわりと「言語クラスタ」などの狭い領域にとどまらず、ものすごくバズる、という印象があります。いくつかご紹介。 知人の古
ソフトウェアエンジニアリングにおいて大切なのは、人間のことをのぞけば名付けだと思っている。言葉がなければ世界は混沌としたままだけど、そこに名前をもたらすことがものごとを切り分け、ひとつの秩序をもった視点をつくる。この秩序は唯一絶対のものではなくて、なんらかの意志によって導かれたものである。ソフトウェアはあくまでも現実の抽象だから、問題をどういう視点で見るか、という軸があるわけだ。そういう意味では人間のことではある。 適切につけられた名前は、そのことによって他のものとの自然な境界を与えられていて、その他の名付けと一貫性を持っている。そういう名前は既存の名付けの体系になじむので、同じ言葉を使う人々のあいだに受けいられれて、共通のコンテキストに追加される。そして次第に暗黙のものになっていく。 たとえばユーザのフォローがあるSNSのようなウェブサービスをつくるときに、QueueとかBrokerみた
■ 本企画の記事一覧です（週１回更新、全７回） ●提言｜川上康則 学校管理職に気づいて欲しいのは「学校が子どもに合わせる時代」になったこと ●提言｜児童精神科医が指摘！ 発達障害の子どもと不登校の関係は？ ●提言｜木村泰子 ｢困っている子が困らなくなる学校」をつくる ●提言｜赤坂真二 今、学校がすべきなのは学級経営のUD化 ●提言｜授業づくりのポイントはUDL×「個別最適な学び｣ ●提言｜中邑賢龍 学習障害の子どもの見つけ方とICT支援 ●先進校レポート｜翔和学園 ギフテッド教育の課題とは？（本記事） 2015年からギフテッド教育に取り組む 翔和学園には、小中学部、高等部、大学部があり、小中学部はフリースクール、高等部は民間の教育機関として位置づけられ、大学部は、18歳以上の支援を必要とする若者向けの障害福祉サービスを提供しています。この学園に通うのは、ADHD（注意欠陥・多動性障害） と
1970年から2020年の間にリリースされたのべ1万2000曲もの英語のラップやカントリー、ポップスなどの歌詞を分析したところ、より新しくなるにつれて曲の中で使われる単語の数が減り、歌詞がシンプルになりつつあることや、同じ歌詞が繰り返されることが多くなっているとの研究結果が示されています。 Song lyrics have become simpler and more repetitive over the last five decades | Scientific Reports https://www.nature.com/articles/s41598-024-55742-x Music: Song lyrics have become simpler and mo | EurekAlert! https://www.eurekalert.org/news-releases/10
RIG is 何？RAG の妹？DataGemma の論文を翻訳しながら RIG を読み解く〜①まずは翻訳〜 - Qiita
RIG is 何？RAG の妹？DataGemma の論文を翻訳しながら RIG を読み解く〜①まずは翻訳〜RigragDataGemma DataGemma がリリースされました。外部情報を使ってハルシネーションを抑止する手法として RAG が有名ですが、Datagemma では RAG だけではなく RIG という手法も提案・利用していました。 RIG というのがよくわからなかったので論文を読みました。そしてそのときの翻訳を残します。 RIG が一体なんなのかはそのうち… 論文の原本はこちら 注) RIG の Retrieval Interleaved Generation は勝手に検索交互生成としました。 以下原文を LLM の助けを借りながら翻訳したもの 要旨 大規模言語モデル（LLM）は、数値や統計データ、あるいは時事的な事実に関連するクエリに応答する際、事実に反する情報を生成し
5月27日をめどに、呉座勇一さんとの新刊『教養としての文明論』が書店に並びます。Amazonでも予約の受付が始まりました！ 表紙案は最終調整中につき、 多少異同あるかもタイトルの通り、ずばりコンセプトは「文明論の復権」。 中世史家と、（元）近現代史家の2人による対談形式で、以下の5冊の「文明史の名著」を読み解きながら、現代世界の課題を考えています。 第1章 梅棹忠夫『文明の生態史観』 「ヨーロッパ vs ユーラシア」は宿命なのか 第2章 宮崎市定『東洋的近世』 GAFAの資本主義は世界を「中国化」する 第3章 井筒俊彦『イスラーム文化』 「滅びない信仰」の源泉は天皇制も同じ？ 第4章 高坂正堯『文明が衰亡するとき』 冷戦期から「トランプ」を予見したリアリズム 第5章 丸谷才一『忠臣蔵とは何か』 事前に「革命」の芽を摘むＪエンタメの起源 目次よりなぜ、近日はむしろ「悪口」のようになってしまっ
LLMにまつわる"評価"を整理する
「LLMの評価」というフレーズを見て、どんなことを思い浮かべるでしょうか？ おそらく大半はLLMモデル自体の評価のことを思い浮かべると思います。新しいモデルが出てきた時に𝕏で見かける「GPT-4o のMMLUベンチマークは89%!」みたいなアレ。 ですが、プロダクト開発にLLMを使っている人の間では、プロンプト等が十分な品質を出しているかの確認などにも評価という言葉を使っていることは多いのではないかと思います。 うまい具合に後者を区別するためにいい感じの呼び名を付与したい気持ちがあるのですが、英語圏での例を見てみるとシンプルに"Evals"と呼んでることもあれば Evaluating LLM System Evaluating LLM-based Applications などなど表現の仕方は様々になっています。 そしてそのプロダクト開発文脈での評価も、実態としてはオフライン評価やオンラ
はてなーが文章力など論ずること自体が草
だってはてなの人達って概ね読み書き苦手じゃね？ ブクマカも増田も。 https://anond.hatelabo.jp/20240220182530 １．読解力がマジで無い人cinefuk 「さすが暇空さん、文章力もすごい！それに引き換えアンチの連中は文章力というものをわかっていない」 「暇空本は家族と回し読みしています」 暇 増田 出版 2024/02/20 この人とか本当に読解力が無いってことを自覚したほうがいい。 悪口で言ってるんじゃなくて本当に無い。 まともな読解力のある人なら元増田の文ぐらいなら一目パッとでニュアンスを掴む。 あこれは文章力についての自説を開陳して「ボクすごい」と言うための文だなと。 元増田自身もそこを少しも隠してねーし。 「隙あらば自分語り」と言うより全編自分語りをしていて、 暇空は自分語りのダシに使われてるだけ。最初と最後にしか出てこない。 どうせ文読めない奴
バンザイ、ネガティブ思考同盟。 - ココからのブログ
自分なんて、それほどたいそうな人間ではないと、心から思っている。 でもこの頃、それが、自分の中で、ネガティブな意味ではなくなってきた。 誰だって少しは長所があって、私も一生懸命生きているつもりなので、 少しくらいは自分を褒めてあげたいが、 世の中に出ると、いかに自分が大したことがない馬鹿か、50代の今、ちゃんと理解することが出来た。 やらかして、人に助けてもらったり、優しい言葉をかけてもらうたびに、人間は周りに助けられて生活しているというのが、よくわかる。 最近は、それを実感している。 人は、本当に親切だし、優しい。 そして、それはネットで知り合った友にも、当てはまる。 コミュニティの中で、相手の様子を気にかけて、言葉を掛け合うことは、毎日の楽しみであり、様々な価値観や、知恵や、新たな知識や、時には知らなかった言葉の使い方など、学べることが多い。 誰にでも思いやりのある言葉をかける人生の先
このこだわり、変態すぎる。超期待タイトル『ゼンレスゾーンゼロ』をいち早く遊んでみたけど、紹介したいことが多すぎて逆に困る
もう余計な前置きは不要だと思うので、サッサと本題に入りましょう。 βテストに参加できなかった人も、なんとなく『ゼンレスゾーンゼロ』に期待してる人も、ぜひ最後までお楽しみください。「新エリー都」に、レッツゴー！ 文／ジスマロック 編集／実存 ※今回プレイした『ゼンレスゾーンゼロ』は、プレビュー用の体験版です。実際のリリース版とは一部の仕様などが異なる可能性があります。 アメコミ風のストーリー演出、最高すぎる…… とはいえ、いきなり「『ゼンレスゾーンゼロ』は、こんなゲームだ！」とざっくり説明されてもサッパリわからない方もいると思うので、ある程度ストーリーに沿いつつ、どんなゲームなのか紹介していきましょう。 まず、この世界は「ホロウ」という名の超自然災害によって壊滅しかけたらしいです。1行目で世界が滅んだ。しかし今作の舞台となる「新エリー都」は、ホロウ災害への対抗策と資源を手に入れたことにより逆
仕事で、他の人が書いた日本語文章をレビューをする機会がある。 複数の人に同じようなレビューコメントを書いているので、私が普段気にしていることをまとめてみる。 総合すると、「読み手に親切にしようね」という身も蓋もないアドバイスになる。親切さがあれば自然と、ここで書くようなポイントを直したくなる......と主張するつもりはない。やはりプラクティス的に身に着けておくのが手っ取り早いだろう。 きちんとした日本語文章を書くときに気を付けていること 文章を構成するコンポーネントを「語」「文」「文章」のレベルで分けながら、それぞれのレベルで気になるポイントを挙げていく。 語レベル 一単語レベルで書き直すことが多いポイントを挙げる。 同じ助詞の連続を避ける 「～の～の～のhogehoge」や「～て～て」を避けたい。同じ語が連続すると読みのリズムが悪くなったり、意味が不明瞭になったりするからだ。 なお、助
英英辞典の使い方
英語学習中の自分は、英英辞典の使い方がわからなかった。 そういう人は多いと思う。英英辞典の解説を丸暗記しようとしても覚えられない、1つの単語に途方もない時間がかかる。 でも最近勉強をしていて、解決策を見つけることができた。 簡単な英語は和訳せずに読めるが、なおかつ英英辞典を使うのをあきらめた人はこれを見て、実践して欲しい。 理解とはまず、理解とは**「知っている言葉に言い換えられる」ということだ。 そして、知っているとは、イメージで想起できること。体験したこと。 なので、英英辞典に書かれている「take」や「food」などの中1レベルの単語は「知っている」必要がある。 実際の英英辞典の使いかたまず、英英辞典で「言い換えられる言葉」を探す。 そのためにまず、調べた言葉が動詞か名詞か区別する必要がある。 例として、nourishmentという単語を上げてみたい。 nourishmentを調べる
現代文、古文、漢文は同時に学べ現代文、古文、漢文を含めた国語の目的は、「現代の文章が理解できるようになること」。この1つだけです。 古文の勉強は、古文が読めるようになることが目的ではありません。 漢文の勉強も、漢文が読めるようになることが目的ではないのです。 （18ページより） 「でも、古文と漢文は、現代文と関係がないのでは？」と思われるかもしれませんが、古文と漢文は、現代の言葉と密接なつながりがあるというのです。 例えば、「決着をつける」「結論を出す」という意味で「けりをつける」という表現があります。 この「けり」は、「キック」という意味の「蹴り」ではありません。 古文の文章によく登場する助動詞「けり」なのです。 古文では、「なりにけり」のように、言葉の終わりに「けり」を付けて「文の終わり」を示します。そこから「けりをつける」で「文章の終わりをつける」という意味になり、転じて「決着をつけ
＜語彙教材を自作できるChatGPT、四六時中練習に付き合ってくれる発音改善アプリELSASpeakほか、スマートに英語力を引き上げるためのAI学習ツールとその活用術を紹介＞ AIの進化は英語学習の世界にも革命的な変化をもたらしている。単語の暗記、発音矯正など特定のニーズに特化した「スペシャリスト型」の学習ツールから、ChatGPTのように工夫次第で活用法が無限に広がる「万能型」まで、さまざまな選択肢の中から自分に合った学び方をカスタマイズして効率よく英語力を引き上げよう。 単語 単語学習は単調で三日坊主に終わりがち......というハードルを乗り越えるべく、隙間時間にスマホで効率よく学べるAIアプリが多数登場している。例えば、エストニア生まれのDropsは1日5分という手軽な時間設定が特徴。スタイリッシュなイラストと単語を結び付けるクイズ形式、スワイプ操作だけでさくさく進むテンポのよさな
この筆者が英語バイリンガルであることの根拠を述べる。ただし法言語学的な根拠はなく単なる自分の直感である。 観点は音韻と語・構文。 スタンザ（音韻）英語にはスタンザという韻律がある。文の末尾の韻が揃うとカッコイイというものだ。自分はあまり詳しくはない。 だがたとえばシェイクスピアならABAB CDCD EFEF GGという，四行連×3 + 二行連×1による形式のようなものがある。 漢詩の五言絶句や俳句あるいはラップのようなものだ。詳しい人はむしろ教えてほしい。 韻を踏むと麻雀で和了したときのように気持ちがいいし，文がシピッと引き締まり，正統性が出る。 元増田の文は「AAA BBB CC DD XY EE」というスタンザが含まれる。三行連×2 + 一行×2 + 二行連×3だろうか。 これでソネット（14行詩）と呼ばれるものになる。それを見てみよう。 XYは特にスタンザではない。 AAAブクマカ
中村 (@nrryuya_jp) です。先月末を持って、東京大学工学部を中退しました。高卒です。現在はLayerXというスタートアップのAI・LLM事業部担当執行役員・事業責任者をしています。 東大にはたしか3年生から完全に行かなくなってしまい、それからもう7年以上は経過しています。ずっと休学と留年を組み合わせて学籍だけ残っていました。が、ようやく正式に退学になりました。 スタートアップ界隈では、「大学なんて無駄だから行かなくて良い」という声が結構あるように思います。一方、実際に中退した人は意外と少ない気がします。LayerXにも中退や休学をしているメンバーもいて、たまにそういった悩みの相談を受けることもあるので、個人的な体験を書いてみます。また、高校生などでそもそも大学への進学を迷っている人向けにも一つのサンプルを提供できればと思います。 （注: 個人的なバイアスに溢れている記事です。）
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ブルガリアのブルマー、台湾とルーマニア、手塚漫画と少女漫画
言語化がうまくなるために「語彙力」を増やす方法とは 頭のいい人がやっている“思考法”と知性の磨き方
発禁本を規制せず若者に触れさせることで良い効果がいくつも生まれるという研究結果
台湾選挙のやさしいせかい…比例区の得票第5位「おばさん連盟」の静かな野望 | 文春オンライン
色々な生成AIモデルをColabで動かして今年を振り返る - ABEJA Tech Blog
日本語LLMにおけるトークナイザーの重要性 | データアナリティクスラボ
日本語に強い大規模言語モデル「Swallow」 産総研と東工大が公開 事前学習用の日本語データに工夫
😋美味しいキャンプ料理の調理体験🔥 #ひそキャン #キャンプ - 鯉釣り🐟うり坊とまさる君の涙日記⭐
何かを理解するためには借り物の言葉でもいい - Lambdaカクテル
英語のディクテーションとは？リスニング力強化に効果的なやり方とおすすめ教材を紹介
discordとかいう劣化2ちゃんねるをもう辞めたい
Command R+はトークナイザーもすごかった - Qiita
体系的な知識を学びたいときに役立つ「THIEVES」学習法 | ライフハッカー・ジャパン
本物の「専門家」と受け売りの知識を披露するだけの「模倣者」を区別する方法とは？
【風吹けば名無し】GPT-4o が獲得した日本語の語彙を調べる
八代亜紀「うたに感情を込めない｣、のこと - king-biscuit WORKS
明治時代のガイドブックで熱海観光すると、熱海が今人気な理由がわかった - 足跡を辿る
そもそも日本人が英語の、特に会話ができない最大の原因は母語の日本語が..
固有名詞をつけるとき - 詩と創作・思索のひろば
先進校レポート｜翔和学園 ギフテッド教育の課題とは？ 【発達障害8.8%をどう受け止めるか #7】 | みんなの教育技術
「ストリーミング配信の成長によって音楽の歌詞は50年前よりもシンプルになり繰り返しが多くなっている」との研究結果が示される
呉座勇一さんとの新刊の「おわりに」を公開します。｜Yonaha Jun
きちんとした日本語文章を書くときに気を付けていること - ナンモワカランアザラシ
「文章の読解力」をいまから最短で身につけるベストな勉強法は？ | ライフハッカー・ジャパン
ChatGPTだけじゃない！ 英語学習にもAIフル活用、目的別の最適ツールは？
この筆者が英語バイリンガルであることの根拠を述べる。ただし法言語学的..
東京大学工学部を中退しました｜中村 龍矢 | LayerX 部門執行役員 AI・LLM事業部長