GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニングに必要なデータの数やトレーニング中に使用するメモリの量も増加し、トレーニングのコストが大きく増加してしまいます。そんな中、メモリの消費量を激減させつつ少ないデータでトレーニングできる手法「QLoRA」が登場しました。 [2305.14314] QLoRA: Efficient Finetuning of Quantized LLMs https://arxiv.org/abs/2305.14314 artidoro/qlora: QLoRA: Efficient Finetuning of Quantized LLMs https://github.com/art

日英エロゲ女性翻訳者による翻訳tipsがおもしろい https://twitter.com/merumeruchann/status/1663878494336458753?s=20 3. Choose your words wisely; AKA consider what is SEXY "Wriggling" is a pretty standard translation of 藻掻く but in English it's associated with worms. WORMS! 🪱 "Undulating" is much nicer. e.g. A pussy doesn't wriggle, it undulates or ripples, or it convulses around his cock. A woman doesn't wriggle her hips

ふくのうみ @umi_sousaku (2/2) #ふじと南極のなかまたち からの再掲です。 単行本が上下巻で出ています。 こんな感じで南極に行くフネとヒトたちがペンギンやアザラシに出会ったり出会わなかったりわちゃわちゃしている本です。 pic.twitter.com/9WbkU22JuY 2023-05-29 08:37:00

私は今も『ガンパレード・マーチ』の企画説明会のことを思い出しては、一人で笑う時があります。社長よりも誰よりも偉そうな芝村が、人の魂をPSの上に出現させると宣言したときの会議場の沈黙と静寂を、私はハッキリと、覚えています。 『電撃ガンパレード・マーチ』 スタッフコメントより 2000年、9月28日。そんな初代プレイステーションの最末期、まさに「人の魂をPSの上に出現させた」タイトルがあった。その名も『高機動幻想 ガンパレード・マーチ』（以下、『ガンパレ』）。 熊本を舞台に、謎の生命体「幻獣」との戦いに動員される学生の姿を描くシミュレーションでありながら、特筆すべきはその「自由度の高さ」。 ものすごく端的に言えば、「生き残りさえすればゲーム中は何をやってもいい」という全く制限を感じさせない自由度の高さに加え、AIによって制御された「人間味のあるNPC」も、その学園生活と独自のゲーム体験を彩る。

植物のタンパク質にレーザーで刺激を与え、その結果起こるプロセスをX線で捉えることによって、科学者らは光合成反応に未知の段階が存在することを発見した。画像はX線で透視したハグマノキの葉。（IMAGE BY NICK VEASEY, SCIENCE PHOTO LIBRARY） 光合成は地球の生命にとって不可欠だ。生態系の基礎をになう植物は、これによって自らの栄養を得ている。しかし、光合成がどのような仕組みで行われているのかについては、まだ正確にはわかっていない。 今回、ふたつの新たな実験によって、光合成の中でも特に難しい反応のひとつである水の分解における謎の一端が明らかになった。 水の分子が分解されると、酸素が空気中に放出される。「われわれ全員が依存している、あらゆる高等生物にとって不可欠な酸素は、まさに光合成の副産物なのです」と語るのは、米ローレンス・バークレー国立研究所の化学者で、ひとつ

こんにちは！　管理栄養士の北嶋佳奈です。 今日ご紹介するのは、脂質もカロリーも抑えつつ、タンパク質が摂れるカレーのレシピ。ひき肉の代わりに豆腐を使った「くずし豆腐のトマトキーマカレー風」です。しかも、電子レンジだけで仕上げる超お手軽レシピ。フライパンに油を引いて、肉と野菜を炒めて……　という工程が丸々カットできるので、洗い物もラクなんです。 豆腐は木綿豆腐を使います。木綿豆腐は絹ごし豆腐と比べて水っぽさが少なく、食感もしっかり。ひき肉を入れなくても食べごたえが出せますよ。水切りは短時間でOKです。 ちなみに、商品にもよりますが、100g中のタンパク質は木綿豆腐が7.0gに対し、絹ごし豆腐は5.3g（※）と、木綿は絹ごしよりタンパク質が多く含まれています。 ※出典：日本食品標準成分表2020年版（八訂） 北嶋佳奈の「レンチン豆腐のトマトキーマカレー風」 【材料】（2人分） 木綿豆腐　200g

曽山一寿賞、受賞作完全公開！ 曽山一寿賞 1月15日～4月13日の約3ヶ月間募集して、500作品を超える応募が殺到した「曽山一寿賞」！ 曽山先生自身が審査員をつとめ全作品を読むことや、「登場キャラは2キャラまで」という特殊なルールが話題を呼び、SNSを中心に大盛り上がりとなった！ そんな曽山一寿賞の全受賞作品を公開開始！珠玉の投稿作をぜひ読んでくれ！

Learn prompt engineering best practices for application development Discover new ways to use LLMs, including how to build your own custom chatbot In ChatGPT Prompt Engineering for Developers, you will learn how to use a large language model (LLM) to quickly build new and powerful applications.  Using the OpenAI API, you’ll be able to quickly build capabilities that learn to innovate and create val

「DemonCrawl」、昨年の大みそかぐらいに買ってめっちゃドハマり。 ゲームとしてはマインスイーパにRPG要素を入れて、その他大量のギミックを入れたローグライトスタイルである。 マインスイーパの地雷をモンスターに見立て、モンスターをなるべく避けて、または積極的にモンスターを討伐しながらアイテムを拾い、ショップを利用し、その他いろいろなものをうまく使いながらステージを進んでいく。 ジャンル的にはSlay the Spireの流れにあるデッキビルディングゲームがジャンルとしては一番近いと思います！ 体力制にすることによって、（少なくとも序盤は）ミスしても即死することもなく、武器や防具を含めて前900種類ものアイテムや、RPGでいう職業にあたる「マスタリ」、善悪いろいろな種類のあるNPC、ステージルールを追加するMODなど過剰なほどの要素を毎回うまい具合に活用したり対処したりしながら進んでい

エンジニアとして経験を積んでいくと、「技術に深く潜っていくこと」と「開発をうまく進めること」はイコールではないとぼんやりと感じ、モヤモヤする時があります。「Meets Professional #5」のゲストは、『エンジニアリング組織論への招待』の広木大地氏。モヤモヤの原因となる「不確実性」への向き合い方について語りました。全3回。2回目は、「悩んでいる状態」と「考えている状態」の違いについて。前回はこちら。 体重計に乗る・テストを受ける・締め切り直前の仕事に取り掛かる…これらに向き合う時に生まれる感情は？ 広木大地氏：仕事や今までの人生の場面で、どうすると不確実性、ファクトなどに向き合っていけるのかをイメージするのにちょうどいい例を2つ挙げると、1つが「体重計に乗る」、もう1つが「テストを受ける」です。 自分自身がダイエットしようと思っている時に体重計に乗ることは、事実と向き合うことなの

「効果音への深い愛を世の人々に伝えたい」そう語るのは、効果音職人のジョアンナ・ファン。「ゴッド・オブ・ウォー」などのプレイステーションのゲームに効果音をつけている。実物通りに音を録音して効果音が作られているのではない。様々なアイテムを活用して映像を音で彩っていく様子に目が釘付けだ。 WIRED JAPAN チャンネル登録はこちら▶︎▶︎http://bit.ly/WIREDjpYouTube WIRED JAPAN：https://wired.jp WIRED.jp Twitter：https://twitter.com/wired_jp WIRED.jp Facebook：https://www.facebook.com/WIRED.jp WIRED.jp Instagram：https://www.instagram.com/wired_jp/ WIRED.jp Tik

ここは技術的なことを書くって言いながら突然ネギの話でなんのことかという感じですが「ネギをおいしく食べる技術」ってことで、本旨からは外れてないので大丈夫です。 それに年間で17kg以上は葱を食べてるし料理人ではないけど葱の話を書く義務があると思う、たぶん。 年間25kgで計算すると人の14倍ぐらいの葱を食べることになるし過去実績の17kg/年でも人の10倍も食べてることになる https://t.co/jwyVxoIumR pic.twitter.com/p1uCShjnou— ネコ物質(9b)₁₆ (@azumakuniyuki) November 25, 2022 葱ダシとは？ 葱ダシ 白葱を細かく切って本だし(とかそれに類する出汁の粉末)を混ぜて、細かく切った大葉も混ぜたもの。正式な呼び名が分からないのでとりあえず「葱ダシ」と呼んでいます。 事の発端 夏の楽しみ「山形のだし」 茄子と胡

何十年も探し求められた「アインシュタイン」のタイルがついに発見されたそうだ。 それは13の辺を持つジグソーパズルのような図形で、どれだけ並べても、絶対に同じパターンが繰り返されることはない。 数学の世界で「非周期的モノタイル」と呼ばれるこの形状の発見は、数学の歴史の革新的発見（ブレイクスルー）と称されている。 この図形の不思議さとすごさ、面白さを説明していこう。 非周期的タイルとは何か？ 「アインシュタイン」とは言っても、あの天才物理学者アルベルト・アインシュタインのことではない。ドイツ語で「1つの石」のことで、つまりは1枚のタイルであることを意味するものだ。 これについて、発見者の1人であるカナダ、ウォータールー大学のクレイグ・カプラン教授は、「私たちは史上初の本物の”非周期的モノタイル”を紹介しています」と声明で述べている。 「非周期的タイル」とは何か？ それは平面を隙間なく、かつ重な

一番好きな酒を飲むシチュエーションはキッチンで料理しながら飲む酒、将来的には妻と一緒に飲む酒こそが至高と言いたいid:haretarasakeです。誰か結婚してください。 久しぶりの投稿では御座いますが私は日々、相も変わらず酔っ払って料理はしております。先週末は暇だったんで飲みながらつくりおきやってまして、奇跡的に写真撮影にも成功しておりまたので駆け足とはなりますが僭越ながら紹介させていただきます。 ・豆もやしの塩ナムル 豆もやしってなんでこんなに🐴いんですかね。 こいつを2,3分テキトーに 茹でましょう。茹で上がったらザルに揚げ、 塩鶏がらスープニンニクチューブごま油味の素を和えましたら 豆もやしの🐴いやつ完成です。これは近所の焼肉屋の美味いやつを模倣したんですけど中々気に入ってて簡単なんで定期的に作るやつですね。 ・タケノコ土佐煮 春はたけのこ。なんて戯言を清少納言も言うてたとか言

あるメタファーの空間において二つのメタファーの対比(B)についてGPT4に列挙(1)させ、それからその対比を抽象化(2)させる。その後、抽象化した対比を異なるドメインに応用して具体化(3)させた

こんにちは！逆瀬川 ( @gyakuse ) です！ きょうは発表があったばかりのChatGPT Pluginについて紹介していきたいと思います。 ChatGPT Pluginとは かんたんに言ってしまうと、ChatGPTの能力を拡張するためのプラグインです。よくわかりませんね。 わかりやすくいうと、 「来週の土日に旅行いきたいんだけど2万円以下で適当にいいとこ見繕って予約しといて」 「ｱｲﾖｰ」 みたいなことができるやつです。 もちろんこれらはChatGPTのAPIを用いてもできましたが、これを容易に実現する手段として提供されました。 BingGPT (正式名称New Bing) のように検索して回答してくれたり、会社の文章群をもとに質問回答してくれたり、 商品を注文してくれるなどのアクションを行う機能が追加された、と理解しておくとよさそうです。 これはまだWaitlistであり、今後公

2024年1月に書いた最新の記事はこちら 2018年10月にこのようなサービスをリリースしました。 友達と旅行などに行った時に発生するお金の貸し借りで「誰が誰に何円返せばいいんだっけ？」という問題をシンプルに解決してくれるWebアプリです。「調整さん」みたいに即席でグループページを作成して、そこに立替え履歴を登録しておけば、最も簡単な清算方法を計算してくれます。 当時、新卒2年目くらいで、会社の同期と初めてリリースした個人開発サービスです。 途中コロナで大打撃を喰らったのですが、ここ1年くらいは徐々に回復し始め、サービスリリースから約4年で月間30万ユーザーを達成することができました。 (👆2022年3月あたりから過去30日のユーザー数推移) 自分で言うのもアレですが、MAU30万は個人開発サービスではかなり当たっている方かなと思うので、ユーザー数が伸びなかったリリース当時、どういうこと

「ChatGPT」のような生成系AIを高速化するサーバー向けGPUをNVIDIAが発表 ライター：米田 聡 GTC 2023の基調講演に登場したJensen Huang氏 2023年3月21日，NVIDIAが主催する恒例のGPU技術関連イベント「GTC 2023」がスタートした。3月22日に行われた同社CEOであるJensen Huang（ジェンスン・フアン）氏の基調講演では，さまざまな新しいAI関連製品やサービスが発表となった。 本稿では，基調講演の一部から，ゲーマーでも知っておく価値がありそうなものにしぼって概要を紹介したい。 計算機リソグラフィ分野に大躍進をもたらす「cuLitho」 NVIDIAは自社で工場を持たない，いわゆるファブレスの半導体メーカーである。ただ，ファブレスといっても半導体の製造技術と無関係でいられるわけではない。とくにGPUは，最先端の製造技術を用いる複雑で大規

ChatGPTから効率よく知識を得られた。 と自分では思っていても、それがウソ知識であることは、よくあります。 そこで、なるたけChatGPTのウソに騙されないようにする方法について書きました。 たとえば、今、僕はガリア戦争(紀元前58～50年)を舞台にしたSF娯楽小説の戦闘シーンを書いているのだけど、ローマ兵の剣の刃渡りの長さがわからないと戦闘シーンの駆け引きの描写がリアルにならないし、挿絵も描けない(プロの方にカラー挿絵を描いてもらうことになっている)。 そこで、以下のようにChatGPT(GPT4)に聞いてみた。 ガリア戦争に従軍したローマ兵の剣の刃渡りはどれくらいの長さでしたか？ ChatGPT(GPT4)の回答は以下の通り： ガリア戦争に従軍したローマ兵は、主にグラディウスと呼ばれる剣を使用していました。グラディウスの刃渡りはおおよそ45センチメートルから60センチメートル（約1