先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学
エンジニア・データ分析職の方々にお薦めしたい、LLM時代に不可欠な教養が身に付くテキスト3選 - 渋谷駅前で働くデータサイエンティストのブログ
（『IT Text 自然語処理の基礎』より） 3ヶ月ほど前に空前のLLMブームについて概観する記事を書きましたが、それ以降も世間のLLMに対する狂騒ぶりは収まるどころかますます拍車がかかるという有様で、あまつさえ僕自身の仕事における日常業務にもじわじわと影響が及びつつあり、今後も良きにつけ悪しきにつけLLMと共生し続ける必要がありそうだと感じている今日この頃です。 そんな猫も杓子もLLMに群がるが如き空前のブームを受けて、エンジニアやデータ分析職の方々の中には「LLMに興味はあるんだけど世の中にあまりにも多くのLLM関連コンテンツが溢れ返っていて何から手をつけたら良いのか分からない」という向きもあるように見受けられます。そこで、僕も断じてLLM以下生成AIの専門家などではないのですが、個人的に「このテキストを読めばLLM時代を生き抜くことが出来そうだ」と感じた書籍を、全くの独断と偏見で3冊
文章生成AI 利活用 ガイドライン Version 2.0 令和6年（2024年）4月 東京都デジタルサービス局 2 はじめに このガイドラインは、東京都で初めてとなる文章生成AI の利活用ガイドラインです。 ChatGPTをはじめとする文章生成AIは、都職員の業務 のあり方を大きく変革する可能性を秘めている一方、 様々なリスクも指摘されています。このため、業務での 活用にあたり期待する効果を得るためには、その特性を よく理解し、正しく利用することが重要です。 東京都では、デジタルサービス局に検討プロジェクト チームを設置して、文章生成AIの利活用について議論を 重ね、令和5年８月、検討の成果をガイドライン （Version 1.0）としてまとめ、文章生成AIの全庁利用 を開始しました。 その後、10月に利用状況についてアンケートを行った ところ、活用事例やプロンプト例を求める声が多かった
地方の母子家庭出身の女が東大で博士号を取るまで
生活保護博士号ニキとか授業料値上げの報道とかに触発された。 残念ながら、いわゆる理解のある彼くん要素がある。 長いと思ったら一番最後だけ読んでくれるとうれしい。 東大に入れたのは単純にペーパーテストがめちゃくちゃできたからだが、目指すようになったのは模試の結果を見た高校の教師が勧めてくれたことがきっかけ。たぶん高2の春。 それから東大を意識するようになって、現国の問題で毎回おもしろい文章読めて最高〜、図書館で出典探して著者経歴を見ると東大出身者多いな〜、東大に行けばこういうおもしろい考えにもっと出会えるのかな？？ぐらいの浅い動機で東大を第一志望にし始めた。 金のことはあんまり考えてなかった。 高校は私立だったが奨学生として学費は全額免除してもらっていた上に(その条件で入学した)、民間団体が県民対象でやっていた給付型奨学金も支給されていた。 学力も授業だけで問題なかったので予備校に通う必要も
【最高】仙台のタクシーで「一番おいしい店へ連れてって」ってお願いしてみた結果 → 「どうせ牛タンだろ」とか思っててすみませんでした!!!
» 【最高】仙台のタクシーで「一番おいしい店へ連れてって」ってお願いしてみた結果 → 「どうせ牛タンだろ」とか思っててすみませんでした!!! 特集 【最高】仙台のタクシーで「一番おいしい店へ連れてって」ってお願いしてみた結果 → 「どうせ牛タンだろ」とか思っててすみませんでした!!! 亀沢郁奈 2024年1月17日 地元をよく知るタクシー運転手さんにオススメのお店を紹介してもらうシリーズ。真冬の仙台へやってきたのだが、今回ばかりはさすがの私も、牛タン屋へ連れて行かれる覚悟を決めていた。だって仙台といえば、牛タン以外は考えにくいもんなぁ。 が……ちょっと思いもよらない理由で、牛タンにありつくことが困難と判明。その結果、私は牛タンの100倍くらい味わい深い体験をすることになったのである。ここに記すことは仙台旅行の有益な立ち回りなので、みんな絶対にマネしてほしい!!! ・仙台駅周辺 混みすぎ問題
ゲーム作りとかCGとかに関わる数学(初歩)① 今回HIKKYさんのアドベントカレンダーに投稿するにあたって、別の温めてたネタはあったんですが諸事情により封印してしまったので、何か別のテーマにしようと考えました。 で、色々考えたのですが、特に思いつかなかったのでCG数学の初歩的な話をしようかなと思います。実際VKetCloudの中でも基本的な数学は必ず使われてますし。 あと「ゲームメーカーズ」さんの記事でも取り上げていただいた、僕のCEDEC+KYUSHU2023の数学のお話がやたらとウケがよかったため、数学の話で行くことにしました。 で最初に書いておくと、書きたかったことの半分もかけていません。 時間の都合上と、あと数式と頭が多すぎるのか、このドキュメントの編集が何度も落ちるからです。 と言うわけで、今回は概要と三角関数とベクトルの話だけにします。 あとは年末年始休みの間にでも続きを書きま
科学的発見が誇張→曲解→誤解→蔓延するメカニズムの図解と簡単で効果抜群の2つの対策｜ふろむだ@分裂勘違い君劇場
科学的発見が私たちに届くまでの伝言ゲームで、さまざまな誇張・曲解・誤解が注入されています。 いったい、どうやったら、この伝言ゲームに勝ち、信用できる科学的発見と、地雷とを見分けることができるのでしょうか？ 『Science Fictions』という本がその参考になります。 この本は、アメリカのamazonで306人に評価され、☆4.6という高評価。 世界最大の書評サイトgoodreadsでは1925人に評価され、☆4.39という高評価。 日本のamazonでは31人に評価され、☆4.0と、中程度の評価(翻訳は良い)です。 この記事では、この本を元に、以下の２つの視点から、この問題と、その解決策を検討します。 〔問題の把握〕 科学的発見の流通システムにおいて、いかにして、発見が誇張され、曲解され、誤解され、流通し、最終的に私たち一般人がそれを信じてしまうのか、その全体像を把握する。 〔解決策
ものすごい円安が進んでいるのでハワイの物価をチェックしてきました。 私が行ったのは今年の ３月末から４月始めの 1週間。 その頃も「30年ぶりの円安！」と騒がれていましたが、それでも報道レートは 154円ほど。いまよりはマシなレートでした。 ではまず食べ物の値段から。 ビーチバーのカクテル。Tip不要のテイクアウト店で 2人分 3412円、ってことは 1杯 1700円以上！ ちゃっちい使い捨てコップに入ってこの値段。なにげに高いですよね。 ランチに食べたマグロとアボガドのポキ丼。2人分なのでこれをふたつ頼んで 9267円、Tip込み。 しかもたいしておいしくない。初日のランチだったので「えっ、これが 1万円？」と、かなりビビった。 この食事のあと、友人とは「いちいち円換算するのはやめよう！」「アメリカドルで考えよう！」と申し合わせました。 翌朝の朝食。パンケーキとエッグベネディクト+飲み物
» 【ホント？】代官山駅前がまるで廃墟のようだと聞いたので実際に行ってみた結果…複雑な気持ちになった 特集 90年代後半、若者達の憧れスポットだった代官山。 オシャレなセレクトショップにカフェ、有名ブランドの路面店などが立ち並び、ファッション雑誌では代官山特集がしょっちゅう組まれていた。 マガジンハウスの雑誌・Olive（オリーブ）の熱心な読者だった私にとっても、代官山はまさに憧れの街……。その代官山がまるで廃墟のようになっているとSNSやwebニュースで話題になっている。代官山はもうオワコンの街だ、みたいな言い草までされている。 あの代官山が、廃墟に……!? 朽ち果てたセレクトショップやカフェを想像し、衝撃を受けた私はオリーブ少女魂を引っさげて、代官山へとすっとんで行ったのだが……。 ・金曜の昼下がりの代官山 秋晴れの気持ちのいい天気の金曜。代官山へと私は降り立った。 代官山駅の改札の真
｢グー･チョキ･パー｣で最初に出すべきはこれだ…統計学が解明｢じゃんけんの勝率が高まる｣指のかたち 学生が延べ1万1567回のジャンケンをしてわかった勝利の法則
じゃんけんで勝率を高める方法はあるか。データ分析・活用コンサルタントのサトウマイさんは「あるジャンケンに関する研究では、『グー』を出す確率が35.0％、『チョキ』を出す確率が31.7％、『パー』を出す確率は33.3％と、最もグーが多かった。心理学的には『人間は警戒心を持つと、拳を握る傾向がある』という説のほか、『チョキはグーやパーと比べて出しにくい』という説もある。こちらからじゃんけんを仕掛けるときは『最初はグー』という掛け声をスピードアップし、こうしたクセをより出やすくさせるといいだろう」という――。 ※本稿は、サトウマイ『はじめての統計学 レジの行列が早く進むのは、どっち⁉』（総合法令出版）の一部を再編集したものです。 人間のクセからみるじゃんけんの統計的な必勝法 運に関するゲームで、私たちの一番身近にあるのは「じゃんけん」ではないでしょうか？ 手だけを使って、3種類の手の出し方（グー
Udemyで夏のビッグセール開催！ 話題の生成系AIからプロダクトマネジメントまで、新たな得意分野を見つけよう - はてなニュース
※夏のビッグセール、およびキャンペーンは終了しました。ご応募ありがとうございました。なお、Udemyの講座修了者を対象とした「学習応援キャンペーン」は9月30日まで実施中です。 オンライン学習プラットフォーム「Udemy」では、2023年8月22日（火）から夏のビッグセールを開催します。対象の講座が1,200円から購入可能と、なかなかチャレンジできなかった新しい領域を学習するにはとってもお得なチャンス。 今回のセール対象講座から、ChatGPTやMidjourneyといった話題の生成系AI、その基礎となる大規模言語モデル（LLM）の入門や実装を扱う講座といった人気のトピックに加えて、アプリケーション開発やプロジェクトマネジメント、さらには英語学習など、ステップアップを目指すITエンジニアにオススメの中級から上級の講座もピックアップして紹介します。 Udemyで勉強を始めたいけれど、いろいろ
この記事で使用している画像は、公式の github から引用したものです。今回、あまりにも数が多いため引用リンクは省略しています。一部、自身で撮影したものもあります。 ファイル Recent Files ★★★ 最近開いたファイルの一覧を表示してくれるプラグイン。何故これがデフォルトで無いのかがよくわからない。絶対に入れておきたい。 Auto Template Trigger ★★★ 新しいノートを作成する際にテンプレートを選択して挿入できるプラグイン。ノートを書く敷居を下げてくれるので重要。 Quick Explorer ★★★ エクスプローラー機能を強化するプラグイン。ノートが増えてくると非常に便利。 Tag Wrangler ★★★ Tag pane から rename や merge などができるようになるプラグイン。 Quick Switcher++ ★★ ファイル移動のプラグイ
2024年版：独断と偏見で選ぶ、データ分析職の方々にお薦めしたいホットトピックス＆定番の書籍リスト - 渋谷駅前で働くデータサイエンティストのブログ
毎年四の五の言いながら書いている推薦書籍リスト記事ですが、何だかんだで今年も書くことにしました。なお昨年度版の記事を上にリンクしておきましたので、以前のバージョンを読まれたい方はそちらをお読みください。 今回のバージョンでは、趣向をちょっと変えて「定番」と「注目分野」というように分けました。何故こうしたかというと、平たく言って 「初級＆中級向け」推薦書籍リストは定番化していて毎年あまり変更点がない 逆に直近のホットトピックスに関するテキストは毎年入れ替わりが激し過ぎて網羅しづらい という課題があり、特に2点目についてはあまりにもデータサイエンス関連書籍の新規刊行が多過ぎる＆僕自身がその流れについていけておらず完全に浦島太郎状態ですので、万人向けに等しくウケるようなリストを作るのは今回をもって完全に諦めたというのが実態です。 その上で、前回まで踏襲されていた定番書籍リストはバルクで提示すると
Hafa Adai!!*1 6月中旬、夏至のちょっと前にグアムに行ってきました。コロナ禍以降これまで全く海外に行っておらず、また昨年5月にDVT（深部静脈血栓症）に罹ってから*2は飛行機にすら乗っていなかったので、その両方を今回ようやく解禁したという次第です。 行き先をグアムにした理由は幾つかあるんですが、1つ目は飛行機で4時間未満しかかからず「海外としては極めて近い」ということ。2つ目は時差が1時間しかないということ。3つ目は「南の島でゆっくりしたかった」ということ。1・2番目は主にDVT*3を慮った結果なんですが、3番目に関しては10年前にも行ったサイパンでも良かったんですよね。ただ、サイパンは今でも直行便が少なく不便なのに対して、グアムの方が直行便が多くて尚且つ我が家ではまだ行ったことがなかったので、今回はグアムを選んだのでした。 ということで、我が家としては事前に期待した以上にグア
2023年7月5日、名古屋港統一ターミナルシステム（NUTS / Nagoya United Terminal System）でシステム障害が発生しており、システムを管理する名古屋港湾協会は障害原因がランサムウエアによるものと公表しました。ここでは関連する情報をまとめます。 ランサムウエアによる国内初の物流影響事例か システム障害が起きたのは名古屋港湾協会が管理する名古屋港統一ターミナルシステム(NUTS)。名古屋港の5つのターミナル（飛鳥ふ頭北、NCB、飛鳥ふ頭南、TCB、鍋田ふ頭）と集中管理ゲート、荷役機器、NACCS、NUTS-Webをネットワークでつなぎ、船からの積み下ろし、プランニング、コンテナ保管、搬出入、ヤード作業、保税管理を行うシステム。*1 NUTSは1999年に導入されこれまで大きな障害が起きたことがなく、また2022年8月からシステム移行が行われ2023年1月に新シス
著者： にたないけん 自室、スタジオ、ライブハウス、時にはそこらの公園や道端など、街のあらゆる場所で生まれ続ける音楽たち。この連載では、各地で活動するミュージシャンの「街」をテーマにしたエッセイとプレイリストをお届けします。 ◆◆◆ けたたましい踏切の音を聞きながら電車の通過を待っていると、隣にいる母と男児の会話が耳に飛び込んでくる。 『ちゅっちゅは電車大好きだね』 『うん』 『今度また電車乗ろっか？』 『うん、電車ね、乗るのも好きだし、降りるのも好き！』 踏切が開いて人々が歩き出す。 ちょうどその瞬間、ホームと線路に、この世のすべてを浄化するような夕陽が差し込んできて、僕はさんざん悩んでいた引っ越しをやめることを決意する。 やっぱり立石に住みたい。 「この街は僕のもの」 岸田繁の歌がファンファーレのように脳内で鳴りまくっている。 もう一度言おう。 このまま立石で暮らしたい。 芯からそう決
写真・文: 児玉雨子 NEWoMANがCIALと東急ホテル（横浜エクセルホテル東急）だったころ 地元というのは何をもってそう定義されるのだろうか。横浜市に長らく住んでいたが、幼稚園から都内の学校に通っていたので、実家の近所に昔からの同級生はいないし、「横浜市歌」も歌えないし、市内の公立中学校に給食がないこともつい最近知った。 さらに親はそれぞれ西日本出身で、親戚の中で私はひとり「東京の子」であった。都内の学校に通っていたといっても23区外の町田市にある学校だったから、その「東京の子」という言葉も、ボウリングやジムのレンタルシューズみたいに、ま、ぴったりじゃないけど気にしなければ慣れるか、といったふうに甘んじて受け入れてきた。もういちいち東京じゃなくて横浜だと訂正するのも面倒だった。 かといって横浜を地元と呼ぶことにも少し後ろめたさも感じる。エッセイの仕事（この原稿もそう）で地元の話をしてほ
【河口湖】例のローソンと黒い幕は、実際のところどうなっているのか？ これがリアルな状況 江川資具 2024年5月28日 しばらく前から、河口湖駅近くのローソン周辺が話題だ。ローソンの背後に富士山がそびえ立つ、映え写真のスポットとして海外でバズった場所である。 同じ写真を撮りたい観光客が殺到して問題が生じた結果、対策として向かいの歩道に目隠しのための黒い幕が設置されることに。 ぶっちゃけ “例の黒い幕” だけで何のことか通じるだろう。様々な意見が飛び交っているが、実際のところ幕の設置後の現場はどうなっているのか？ 気になったので見に行くことに。 ・河口湖 というわけで、ひさしぶりに河口湖までやって来た。 改札を出ると、駅舎内は観光客でいっぱいだった。登山装備っぽいものを持った人もいる。富士山目当てだろうか。 駅前のロータリーも、バスかタクシー関連と思しき行列で混雑している。 聞こえてくる言語
こんにちは！株式会社 ABEJA で ABEJA Platform 開発を行っている坂井（@Yagami360）です。世間では ChatGPT などの大規模言語モデル（LLM）による対話型 AI が盛り上がってますね。クオリティーも凄いし AI 業界以外でも盛り上がってると嬉しいですよね。この数年で一段と AI の社会実装が業界以外の人にも目に見える形で進んできたなあと実感しております。 自分は普段業務では ABEJA Platform という AI プロダクトやその周辺プロダクトのバックエンド開発とフロントエンド開発をやっているのですが、AI 業界所属していながら ChatGPT などの LLM 全然追いかけれていない状態になっちゃてて自責の念にかられているので、このブログ執筆という良い機会に ChatGPT の仕組みについて調べてみました。 本記事の対象読者としては、以下のようになりま
» 2000円でスタバのドリンク飲み放題！ 京王プラザホテルの47階が楽園すぎた!! ただし注意点も… 特集 みんな大好きスターバックス。新作が出ればほぼ漏れなく話題を呼び、週末都心の店舗はどこもいっぱい、行列ができるのももはや当たり前となっている。そんなスタバの飲み物を税込2000円で飲み放題できる場所があった！ 東京・新宿の京王プラザホテルの47階、地上170メートルの最高のロケーションでカフェラテやカプチーノを飲みまくれるぞ～！ ただし注意点も……。 ・宿泊なしでも利用可 京王プラザホテルは2024年3月15日、本館47階に多目的利用可能なスペースの「SKY PLAZA IBASHO」をオープンした。ここは宿泊客だけでなく、外来客も利用可能となっている。 フロアには高層階専用の高速エレベーターで向かう。スペースは6つのゾーンに区分けされていて「ラウンジゾーン」、電源・USBポートを備
【混乱】隅田川花火に過去最多103万人殺到！破壊行為、柵越え、救急搬送も[2023/07/29 23:30] 29日、4年ぶりに開催された「隅田川花火大会」。過去最多の103万人が訪れました。これは秋田県や香川県の人口を上回る数です。 花火会場最寄りの「浅草駅」の構内は、人でごった返し、出口を出られない状態になっていました。 打ち上げ開始の2時間半前。地上では… （菅野富美リポート） 「午後5時の浅草駅前なのですが、すでに多くの人で歩くのが困難ですね。なかなか前に進まない状況です」 俯瞰で見るとこの大混雑。 （仁科健吾リポート） 「歩道が人でごった返しています。全く動けていません。警察官が誘導していますが、ほとんど前へ進みません」 日本全国のみならず世界から観覧客が駆けつけました。 ■熾烈な“場所取り”争い 打ち上げ開始1時間前。歩道にはレジャーシートを持った大勢の人が何かを待っています。
築地にあふれるインバウンド客。先日、そんな外国人旅行者をかき分けながら歩いていたら、お茶碗みたいな海鮮丼が3000円とかで販売されていた。インバウン丼ってマジであるんだ……。 しかし、疑問を抱くことなくそれを食べる外国人旅行者たち。そこでふとこう思った。「インバウンド客は豊田（とよだ）に行った方が良いのではないか」と──。 ・愛知県の豊田ではない 豊田と言っても愛知県の豊田（とよた）市ではない。東京都日野市にあるJR中央線豊田（とよだ）駅だ。新宿からの電車の乗車時間はどちらも約30分。ほぼ同じである。むしろ、乗り換えが無い分、外国人にとっては豊田の方が行きやすいとも言えるかもしれない。青梅方面行きにさえ乗らなければ。 小高い丘のようになっているJR豊田駅。中央線から見える西東京の景色は真の東京の街並みという感じであり、そこも築地にはない味と言える。 ・豊田に行くべき理由その1 そんなJR豊
PDFを見返すと独習を始めた頃の線形代数のノートはほとんど殴り書きで、単に計算用紙としてノートを使っています。微分積分に入ると少しはましになってきますが、頭に入れたい概念の定義や定理の証明を何度も書き直したりしています。また独習ですから間違った理解を正しいと思い込んだまま証明を書いて、分かったつもりになっている箇所も少なからずありそうです。とまれ上記の表に挙げた各書籍に曲がりなりにも取り組んだことを示す、書証のつもりでノートを晒しました。 余談ですが、使用したノートは、PLUS の品番 NO-204GS (A4 G罫 5mm方眼 40枚) という方眼ノートです。また筆記用具は当初シャープペンシルを使っていましたが、「オイラーの贈物」からは万年筆に替えました。プラチナ#3776センチュリーUEF(超極細字)を使っています。 1.3 私について 本記事の作者であり学び直しをした本人である私は、
生成AI以後
生成AI以後 2023.09.21 Updated by Ryo Shimizu on September 21, 2023, 10:05 am JST 生成AIが「民主化」されたと言えるのは、昨年8月24日のStableDiffusionの公開を起点として良いだろう。 StableDiffusionは破格の性能のAIを、誰でも買える程度のコンピューティングパワーのコンピュータで、自由に改造して使うことができると言う意味で、真の民主化を達成した。 それから一年が経過して、昨年末にはChatGPTが注目を集め、現在では単に「AI」と言えば生成AIを指すようになった。 生成AIであるかそうでないかの違いは、その構造というよりも扱う情報量の違いでしかない。 AIが扱うデータは全て行列の集合の集合(またはその集合)、これをテンソルと呼ぶが、あるテンソルを入力したときに別のテンソルに変換するというも
はじめに この記事では、巷で「この技術によりGPUが不要になるかもしれない、NVIDIAなどの半導体関係の株価が...」と話題になっている、BitNet b1.58についての論文を丁寧に解説します。このMicrosoftが先日発表したBitNet b1.58はそのエネルギー効率の凄まじさから2024年初めの大きな技術改革となるかもしれません！！ 筆者の見解 関する論文解説に入る前に、この技術に関する私の個人的な意見を述べたいと思います。 1bitの技術を用いることで達成されたその驚異的なエネルギー効率の高さは、既存の大規模言語モデル（LLM）とは一線を画しています。この技術が今後のAI技術の発展にどのように影響を与えるかについては以降の発表がとても楽しみです。 一方で、「GPUが不要になるかもしれない」という意見に関しては、ある程度の限定的な視点からの意見と言えます。BitNet b1.5
Ruby コミュニティから「レオ (Leo)」の愛称で親しまれる Leonard Chin が 2023 年 10 月にアンドパッドに hsbt のリファラルで入社しました。今回はそのリファラルの模様と、レオのようなシニアエンジニアがどのように企業研究を行い、転職先企業を決定したのか、 10 数年来の友人である hsbt がその過程をインタビューしました！ Leonard Chin @lchin オーストラリア出身、日本在住歴 20 年の Rubyist。旧時代の RubyKaigi でテキストでの擬似同時通訳を担当。 Asakusa.rb 休眠会員。クックパッド株式会社に 10 年在籍し、 2023 年にアンドパッドに転職ならぬ “転パッド” を決める。hsbt 柴田 博志 hsbt フルタイム Ruby コミッタとしてアンドパッドに入社。 Ruby, RubyGems, Bundler
６年ぶりに台湾に行ってきた。
今年に入ってからクソ忙しかった仕事の方が一段落したので、１週間ほど休暇をとって台湾に行ってきた。 以前台湾にいったのは６年前、最後の海外旅行は４年前。 コロナで３年の間、旅行もままならなくなって、今年に入って落ち着いてからも国内旅行に留まっていた。 いい歳した独り身のおっさんなので「海外旅行なんぞしてる場合か」という気持ちもあったし、国内旅行も高松、郡上八幡、秩父と行って十分楽しめたので、億劫な準備が必要な海外旅行までする必要あるのかと思ったけど、コロナの間で英語学習を初めて、2年半でフィリピン人講師とも多少の日常会話はできるようになったし、今行かないともう海外に出なくなるかもしれないなと思ったので、思い切って行くことにした。 結果的には予想外のやらかしでトラブったりもしたけど、行って良かった。 旅程は 羽田→台北→高雄（2泊）→台北（2泊）→上海→（トランジット）→成田 4泊5日。 台湾
大規模言語モデルのFine-tuningによるドメイン知識獲得の検討 - Preferred Networks Research & Development
本記事は、2023年夏季インターンシッププログラムで勤務された竹田悠哉さんによる寄稿です。 はじめに 2023年度のPFN夏季インターンに参加した、東京大学大学院工学系研究科の竹田悠哉と申します。学部では画像生成の研究をしていましたが、技術の社会実装をより俯瞰的に学びたいと思い、現在は技術経営戦略学専攻で教育工学の研究をしています。 インターンでは「機械学習技術の社会実装」をテーマに、LLM（Large Language Model）にドメイン知識を習得させることに取り組みました。様々な設定において、主に英語で学習されたモデルであるLLaMA2に対して日本語のデータでのFine-tuningを行い、LoRAやInstruction Tuning、ドメイン知識の習得に関する知見を得ることができたと思います。本記事では、そこで利用した技術の紹介と、日本語におけるドメイン知識の習得に関する実験、
ラーメン屋の行列に並んでいた。 京都の自宅へ遊びにきた母が 「ラーメン食べとうて、しゃあない」 と、眼をかっ広げて言うのである。 母はたまに、そういう猛烈な天啓が下る。 車いすなので、こぢんまりした店にはひとりでフラッと入れないからだ。 ならば、どうしても食べさせたいラーメンがある！京都の名店！ 麺屋猪一！ いつ来ても行列で、ミシュランにも載り、外国のお客でごった返してる。 おっ。 本店近くの“離れ”なら、今日は20分ぐらいで入れそう。 天啓！！！ というわけで、並んだ。 待ってる間に、メニュー表を見る。 「１４００円！？！？！？！！」 ビビった。 2年前に初めて食べたときは、９００円。 昨年は、１０００円だったのに。 つ、強気ィ！ 原材料の高騰で値上げするのは、まあめずらしくもないけど、なかなかにウッとなる金額である。 観光で来た人、それも外国からなら、ぜんぜん出せるか。そっか。え〜〜〜
Googleが「AudioPaLM」を発表しました。AudioPaLMはテキストベースの言語モデルである「PaLM 2」と音声ベースの言語モデルである「AudioLM」を統合したマルチモーダルアーキテクチャであり、テキストと音声を処理・生成し、音声認識や音声翻訳などのアプリケーションに利用できるとのことです。 [2306.12925] AudioPaLM: A Large Language Model That Can Speak and Listen https://doi.org/10.48550/arXiv.2306.12925 AudioPaLM https://google-research.github.io/seanet/audiopalm/examples/ AudioPaLMは、AudioLMから話す速さ、声の強さ、高さ、沈黙、イントネーションなどのパラ言語情報を保持する
【ネタバレなし予習】『オッペンハイマー』を取り巻く9人の物理学者：交錯する理想が描いた未来 | Fan's Voice | ファンズボイス
【ネタバレなし予習】『オッペンハイマー』を取り巻く9人の物理学者：交錯する理想が描いた未来 Joshua Connolly 多事多難な激動の時代に生を受けたロバート・オッペンハイマーという男について語ること、描くという行為一般は、それが如何なる媒体であったとしても結局は「何について語らないか」という制作上の選択の連続に集約される行為に他ならない。それが映画であれば、尚更のことであろう。クリストファー・ノーラン監督『オッペンハイマー』は上映時間にして180分と、映画作品としては相当に贅沢な構成を許されている作品として映ることだろうが、オッペンハイマーの半生を語る上では十分と判断するには程遠いくらい、彼の生涯は多体系の相互作用の極致と言えるほどに複雑で多岐に渡る出来事で満ちていた。 『オッペンハイマー』が我々観客に語りかける3時間の物語は、僅か一瞬のことでしかないが、逆に言えばそれは、オッペン
【JS体操】第2問「画像の横長具合を比較しよう」〜正攻法＆ハック部門の解説〜 - KAYAC engineers' blog
こんにちは！ カヤック面白プロデュース事業部のおばらです。 普段は受託案件のデザイン・フロントエンド開発などを担当しています。 さて、『JS体操』第2問 いかがでしたか？ 今回初めての方々 第1問に引き続きの方々 複数のアプローチで何通りも回答してくださった方々 普段業務で JavaScript をバリバリ書いているであろう方々 JavaScript を学んでいる学生の方々 などたくさんの方々が挑戦してくださいました。 とても嬉しいです。ありがとうございます！ 『JS体操』とは？ 『JS体操』とはカヤックが主催する JavaScript のコードゴルフ大会です。 もともとは社内の勉強会として始めた施策です。 その詳細は以下のブログ記事を御覧ください！ techblog.kayac.com 第2問の詳細はこちら https://hubspot.kayac.com/js-taiso-002 も
エルサレムの中心部で異様な衝突が起こった。カフェのウェイトレスたちが店の前に並び、シャツをめくり上げてブラを見せている。彼女たちが対峙しているのは、ユダヤ教超正統派の衣装をまとった男たちの大群だが、後ろ向きでなにか叫んでいる。 この衝突が現在のイスラエルを象徴する光景だという。その理由とは──。 ブラ見せカウンター エルサレム中心部にあるビーガンでLGBT歓迎のカフェ「バステト」は、土曜日に軽食をとりたい住人たちにとってのオアシスだ。土曜日はユダヤ教の安息日であり、街の営みの大半が休止するからだ。 だが、バステトが青いテーブルを歩道に並べるその通りを毎週、ユダヤ教超正統派の男たちが行列して、いつものように通り過ぎていく。なかには最高級の毛皮帽子と金のローブをまとった者もいる。彼らはカフェが休息の日を冒瀆していることへの不快感を示しているのだ。 「シャボス！」と彼らは連呼する。イディッシュ語
お好み焼き店に「常連客が入れない！」 外国人観光客急増で苦渋の決断 ついに県民限定の入店規制 広島（テレビ新広島） - Yahoo!ニュース
外国人観光客が増加し観光業界が潤う一方、増えすぎる観光客に対応しきれなくなる飲食店もあります。その実態を取材しました。 たくさんのスーツケースが並ぶＪＲ広島駅…。笑顔を見せる外国人やカフェの前でくつろぐ外国人の姿もあります。コロナ禍前のインバウンド需要に復活しつつある県内…。 お好み焼き店では… 【加藤キャスター】 「至る所に英語での案内が書かれていますし、こちらでは音声案内で英語のアナウンスが流れています。行列もすごいですね…お店の外にまでズラリと並んでいるがみなさんインバウンドのお客さんですね」 【お店のスタッフ】「あ～ソーリー予約はできない」 【お店のスタッフ】「Ｈｏｗｍａｎｙ？」「２人、待って下さい」 外国人客が一組帰ったと思えば、次に訪れる客も外国人と、様々な国の言語が飛び交う店内…。 【お好み焼き・鉄板焼き「もみじ亭」藤原 良太 店長】 「きょうはめちゃくちゃいろいろなところか
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
Transformerという手法は必ずしも万能でも効率的でもない。 むしろTransformerは非効率的だというのが一般的な見解だ。しかし、Transformerには実績があり、実績という壁の前には多少(かどうかわからないが)の非効率は無視される。 他にもHyenaなどもっと効率的と思われる手法が提案されているが、そうした提案の一つがRWKVである。 そもそもなぜTransformerが必要になったかというと、それまで言語モデルに用いられていたRNN(Recurrent Neural Network)は並列処理が難しかったからだ。並列処理が難しい理由は簡単で、言葉というのは過去から未来へ向かって一方向に進むからである。 言語モデルは全て「この文章に続く単語は何か」を予測し、それを連鎖的に繰り返していくが、RNNは単語をひとつひとつ選んでいかないと次の単語を原理的に予測できない。 これを並
» 【え？】海外のカレー好きが「ここが最強。後で俺に感謝するぞ」とオススメするチェーンに行ってみた結果 特集 インドカレーとも欧風カレーとも違う日本のカレー。トロみともったりしたコクのあるその味が、近年、ジャパニーズカレーとして海外でブームを起こしているらしい。そんなジャパニーズカレーについて英語圏最大のネット掲示板Redditで「東京でどの店がオススメ？」的な話題が投稿されていた。 荻窪の『トマト』や神保町の『ボンディ』など知る人ぞ知る店があがる一方、いくつかチェーン店の名前も。その中で「ここが最強。後で俺に感謝するぞ」とまで言われているチェーンを発見したのだが……え？ そこっスか!? ・ココ壱より好き 私（中澤）が驚いたのは、その店のカレーが美味しくないとかそういうことではない。むしろ、ウマイと思う。ただ、その辺にありすぎて最強とか考えたことがなかったのである。 しかし、「ココ壱より好
PRESS RELEASE 2024年5月10日 東京工業大学 東北大学 富士通株式会社 理化学研究所 名古屋大学 株式会社サイバーエージェント Kotoba Technolgies Inc. スーパーコンピュータ「富岳」で学習した大規模言語モデル「Fugaku-LLM」を公開 日本語能力に長け、研究・ビジネス利用にも期待 要点 日本の計算機技術を用いて開発した日本語能力に優れた大規模言語モデルを公開 スーパーコンピュータ「富岳」の性能を最大限に活用した分散並列学習を実現 AI基盤モデルを科学研究に活用する「AI for Science」など革新的な研究やビジネスにつながる 概要 東京工業大学 学術国際情報センターの横田理央教授の研究チームと東北大学 大学院情報科学研究科の坂口慶祐准教授、富士通株式会社 人工知能研究所の白幡晃一シニアプロジェクトディレクター、理化学研究所 のMohamed
「浅い会話しかできない人」と「深い対話ができる人」の決定的な違いとは？
すごい傾聴 多くの企業で「1 on 1」が導入されるなど、職場での「コミュニケーション」を深めることが求められています。そのためには、マネジャーが「傾聴力」を磨くことが不可欠と言われますが、これが難しいのが現実。「傾聴」しているつもりだけれど、部下が表面的な話に終始したり、話が全然深まらなかったりしがちで、その沈黙を埋めるためにマネジャーがしゃべることで、部下がしらけきってしまう……。そんなマネジャーの悩みを受け止めてきた企業研修講師の小倉広氏が、心理学・心理療法の知見を踏まえながら、部下が心を開いてくれる「傾聴」の仕方を解説したのが『すごい傾聴』（ダイヤモンド社）という書籍。本連載では、同書から抜粋・編集しながら、現場で使える「傾聴スキル」を紹介してまいります。 バックナンバー一覧 多くの企業で「1on1」が導入されるなど、職場での「コミュニケーション」を深めることが求められています。そ
やっと行けた！創業１３５年 歴史を感じる”カッツ・デリカテッセン”で 絶品！超巨大 パストラミサンドにカブりつく♪ NY滞在中 Lower East Side Ｂ級グルメに大満足！ - 独りぼっちのお気楽マイル道 ANA SFC 思想”たまには贅沢もいいじゃない？”
DELICATESSEN (デリカテッセン) とは？ PASTRAMI (パストラミ)とは？ KATZ’S DELICATESSEN (カッツ・デリカテッセン) の歴史 NY最終日 ロウワー・イースト・サイド に行ってみよう！ 地下鉄でダウンタウンへ (Ave A/E Houston St) KATZ’S DELICATESSEN (カッツ・デリカテッセン) KATZ’S DELICATESSENの注文方法 ド迫力！パストラミサンド 歴史を感じる店内には135年分の著名人写真が… エルビスプレスリー～歴代大統領まで！ カッツ・デリカテッセン まとめ おきなわ彩発見NEXT 11月1～再受付開始 DELICATESSEN (デリカテッセン) とは？ 今回の記事内では 聞きなれないワードが並びますので…予め 少し予備知識を。 日本国内でも お持ち帰りの専門店等を「デリ」と呼んだりしますが、まさ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大学で読んだ情報科学関連の教科書 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
文章生成AI利活用に関するガイドライン.pdf
ゲーム作りとかCGとかに関わる数学(初歩)① - Qiita
ハワイの物価 in 2024 - Chikirinの日記
【ホント？】代官山駅前がまるで廃墟のようだと聞いたので実際に行ってみた結果…複雑な気持ちになった
【Obsidian】2023 年でオススメのプラグイン 66 選
グアムに行ってきました - 渋谷駅前で働くデータサイエンティストのブログ
ランサムウエアによる名古屋港のシステム障害についてまとめてみた - piyolog
京成立石 変わりゆく街並み、エンドロールの続き｜街と音楽 - SUUMOタウン
完成されない横浜駅と、そこにあった断想｜文・児玉雨子 - SUUMOタウン
【河口湖】例のローソンと黒い幕は、実際のところどうなっているのか？ これがリアルな状況
ChatGPT の仕組みを理解する（前編） - ABEJA Tech Blog
2000円でスタバのドリンク飲み放題！ 京王プラザホテルの47階が楽園すぎた!! ただし注意点も…
【混乱】隅田川花火に過去最多103万人殺到！破壊行為、柵越え、救急搬送も
築地行ってる場合じゃねえ！ インバウンド客は「豊田」に行くべき5つの理由
50代になってから始めた数学の学び直しを振り返り、独習ノートを晒します。
【論文丁寧解説】BitNet b1.58とは一体何者なのか - Qiita
レオのリファラル入社エピソード ～シニアエンジニアの転職の進め方 | ANDPAD_Engineers
魂をこめた料理と、命をけずる料理はちがう｜岸田奈美｜NamiKishida
Googleが音声から「テキストと音声の両方」に翻訳できる大規模言語モデル「AudioPaLM」を発表
ユダヤ教超正統派デモにウェイトレスがブラ見せ反撃する理由 | イスラエルのユダヤ系内部で激化する宗教と世俗の衝突
アリの行列のなぞ「伏線回収」 小1から10年かけ、高校生が研究：朝日新聞デジタル
これは衝撃!1.5Bで超高性能LLM!RWKV-5-World-v2｜shi3z
【え？】海外のカレー好きが「ここが最強。後で俺に感謝するぞ」とオススメするチェーンに行ってみた結果
スーパーコンピュータ「富岳」で学習した大規模言語モデル「Fugaku-LLM」を公開 : 富士通