LLMのファインチューニングで何ができて、何ができないのかまとめました。 1. LLMのファインチューニングLLMのファインチューニングの目的は、「特定のアプリケーションのニーズとデータに基づいて、モデルの出力の品質を向上させること」にあります。 OpenAIのドキュメントには、次のように記述されています。 ファインチューニングは、プロンプトに収まるよりも多くの例で学習することで、Few-Shot学習を改善します。一度モデルをファインチューニングすれば、プロンプトにそれほど多くの例を提供する必要がなくなります。これにより、コストを削減し、低レイテンシのリクエストを可能にします。 しかし実際には、それよりもかなり複雑です。 LLMには「大量のデータを投げれば自動的に解決する」ような創発的な特性があるため、ファインチューニングもそのように機能すると人々は考えていますが、必ずしもそうではありませ

AWSジャパンは8月28日までに、日本オリジナルの学習コンテンツ「AWS基礎100本ノック」を、オンライン学習サービス「Skill Builder」で公開した。非IT領域の担当者や学生向けの映像コンテンツで、Amazonのアカウントがあれば無料で視聴できる。 講義は全10パート（計2時間40分ほど）で、AWSを中心にクラウドサービスに関する基礎用語を解説。その上で、AWSに関する最新動向の調べ方も紹介する。例えば「リージョン」や「アベイラビリティゾーン」といったクラウド用語に加え、AWSの活用事例がどこで見られるかなどを説明している。 Skill Builderは無料プランで600以上の学習コンテンツなどを利用できる学習サービス。有料サブスクリプション（月額29ドル）では無料版の内容に加え、AWSの資格試験の模擬試験などが受けられる。 関連記事 ITに自信がなくてもOK　AWSの基礎がわか

コンテンツ管理システム(CMS)として知られるWordPressが、「究極のセキュリティと永続性を求める人向け」として、新たに「100年プラン」を発表しました。その名前の通り、100年にわたってデジタルコンテンツを守っていってくれるプランだとのことです。 The 100-Year Plan on WordPress.com https://wordpress.com/100-year/ Introducing the 100-Year Plan: Secure Your Online Legacy for a Century – WordPress.com News https://wordpress.com/blog/2023/08/25/introducing-the-100-year-plan/ ドメインは最も価値のあるデジタル資産であるということで、100年プランでは、まるまる1世

ブログで本を紹介し続けて早10年。 ついに雑誌でも紹介することになった。 週刊プレイボーイでの連載が始まる。 連載の内容 週刊プレイボーイで署名コラムを持つことになった。タイトルは「書評ブロガー・骨しゃぶりの『〇〇の文化史』ぜんぶ読む」である。その名の通り、毎回『〇〇の文化史』というタイトルの本を1冊取り上げ、それで何か書くというものだ。記念すべき第一回は『尻叩きの文化史』を取り上げる。 図説　尻叩きの文化史 作者:ジャン・フェクサス原書房Amazon コラム名の「ぜんぶ読む」について、引っかかっる人もいるかもしれない。「そんなこと本当にできるのか」と。安心してほしい。大変さは俺が一番良く分かっている。この連載を始めるにあたり、「ネタになりそうな『〇〇の文化史』本リスト」を渡されている。現在、これに登録されている本は223冊。しかもリストは伸び続けている。ぜんぶ読み終える前に、連載が終わる

Metaは、コードもしくは自然言語によるプロンプトから、コードの生成およびコードに関する自然言語の説明を生成できる大規模言語モデル「Code Llama」を公開しました。 Code Llamaは、先月（2023年7月）にMetaが発表した大規模言語モデル「Llama 2」をベースに、コードに特化したデータセットでさらに訓練したバージョンだと説明されています。 対応するプログラミング言語はPython、C++、Java、PHP、JavaScript、Typescript、C#、Bashなどを始めとする主要な言語。 GPUで処理できるサイズやPython特化のモデルも Code Llamaは3つのサイズ、7B、13B、34Bが提供されています。 7Bモデルは1つのGPUで処理できる一方で、34Bモデルは最善の結果を返し、より良いコーディング支援を可能にする能力があります。 一方、7Bおよび13

・（ALPS処理水の）海洋放出はせざるを得ないと思う ・処理水の安全性は科学的に示されているし、第三者機関(IAEA)にもお墨付きを得ているのに、なぜ騒ぐの？ ・処理水の放出反対を言い続けている人は、何か他の代替案はあるの？ ・処理水の放出反対活動をするよりも、風評を起こさないような活動をして力を貸していただけないか？ ・自然災害は防げないけども、風評被害は未然に防げるよね。 ・風評が起こっ“たら”、等のたられば論で未来の不安を煽ることが新たな風評に繋がるであろうことにまだ気づかない？ ・福島だけの問題ではなく、日本国全体の問題だと思う。だからこそ、みんなで手を取り合って前向きな発信しませんか？ ・ふくしまの魚は「常磐もの」(じょうばんもの)と呼ばれており、最高に美味いです。 ・東日本大震災直後は、福島沖で漁ができなかったので我々鮮魚店は、福島“以外”の魚を売るほかありませんでしたが、その

文部科学省は、ChatGPTを用いて「英語で話す力の底上げを目指す」としましたが、この方針はナンセンスです。自分が書いた文章をChatGPTに添削してもらい、それを暗記する方式をとるべきです。 英語を「話す」ではなく「聞く」ことが重要 文部科学省は、中学高校の英語教育において、ChatGPTを用いて「日本の生徒が苦手とする英語で話す力の底上げを目指す」という方針を発表しました。 私は、この方針はナンセンスだと思っています。

みなさんSREしてますか？ サービスなどの品質を維持していくために切っても切り離せないSREですが、 日本でもSREという言葉が定着しつつあるかと思います。 このSREについて書いていきたいと思います。 SRE NextのCFP忘れてたのでその代わりに・・ SREってインフラですよね？ 非常によくあるケース、というか多分ほとんどがこうなっていると思います。 もちろん会社としてインフラのことを指しても問題はありませんが、 SREとはどういうものなのか、正しく認識して今一度現状を振り返ることで さらに良い活動に繋がることが多いと思います。 なんのこっちゃ、という方も多いかもしれません。 SREはエラーバジェットなどの話が必ず出てきますので、 モニタリングや監視などが必ずセットにはなっていきます。 ですが、この部分が強調されているのかどうしてもインフラエンジニアでしょ、 というのが定着している場

筋力トレーニング（筋トレ）は1日3秒間でも、週3回以上のペースでやると効果がある-。西九州大リハビリテーション学部の中村雅俊准教授（理学療法学）らのグループが、こんな研究成果をまとめた。中村氏は「筋トレの効果が出る最低ラインが分かった。ハードルが高いと感じている人や高齢者が始めるきっかけになれば」とし、日常生活に簡単な筋トレを取り入れることを勧めている。 中村氏が2022年3月まで講師をしていた新潟医療福祉大と、オーストラリアのエディスコーワン大による共同研究。中村氏が責任研究者を務めている。二つの論文が22年2月と今年7月に海外の科学雑誌に掲載された。 研究では、運動をしていない男女の学生らが1日3秒間の筋トレを週5日、4週間続けた。ダンベルを持って肘を曲げ伸ばす運動のように、上腕に負荷をかけながら肘を伸ばす「伸張性筋収縮」をしたグループに最も効果が表れ、筋力が平均で11・5％増えた。負

※2023/09/12追記 2023/09/11にアップデートパッチが配信されてゲームバランスが変更されたり知らない人が多すぎるターゲットアシストの仕様が公式サイトで説明されるようになりました。本記事はそれ以前の時期にキレた感想なので、今読んでも現在のゲームプレイとは一致しない可能性があります。 やりました。ARMORED CORE™ VI FIRES OF RUBICON™を…… www.armoredcore.net およそ10年ぶりとなるアーマード・コアシリーズの最新作。個人的にもアーマード・コアは2からⅤまでそこそこ長く付き合ってきたシリーズなので思い入れはあり、発売から二日間わーっと遊んでとりあえず一周したので感想をしたためます。 先に言っておくと割とキレ散らかしているので本作を楽しんでいる人の気分を害してしまう可能性があります。でもインターネットでいくらバズってるタイトルでも、

プロジェクトでの進捗確認ミーティングもありますが、進捗を聞くだけに終始してしまいます。「働くこと」にもう少し視野を広げて、いろいろ聞いてみることがあります。1on1です。進捗確認MTGとは別の事柄を聞けます。以前は、1on1で質問される側でしたが、最近は1on1で質問をする側になったので、気づきをメモしておきます。 1on1の目的 1on1の目的は、（私の場合は）「心理的サポートをすること」です。別の言い方をすると、「働くことを通じて自己実現ができそうか/できているかを念頭に置き、会話を通して、精神面や志向についてプラスを大きく、マイナスを小さくするように働きかけること」です。 その上で、①働き方仕事内容の確認、②不安心配事の検知・助言、③成長・改善の意識付けという3つの観点から、プラス面、マイナス面を把握し、プラスを大きくマイナスを小さく働きかけます。 また、1on1をするときの基本的な

Reviewed by @azu #44 給料―あなたの価値はまだ上がるを読んだ。 原著はFair Pay: How to Get a Raise, Close the Wage Gap, and Build Stronger Businessesという書籍。 日本語のタイトルは給与交渉の話(個人)に見えるけど、実際に面白かった部分は報酬哲学や公平な給与をどう実現するかという話(組織)だった感覚がある。 なので、読んだ後に原著がFair Payというタイトルだったのみて納得した。 給料はあなたの価値なのかと合わせて読むと面白い本だと思う。 透明性が上がると結果的に格差は減ることが知られているが、透明性だけでは説明力が足りないなーと前から思ってた。 この本ではそこに"誠意ある給与(Pay Sincerity)"という概念を出していた。この概念の話が良かった。 賃金を増加させた時の試算 アメリ

こんにちは。ユアマイスターでプロダクトマネージャーをしています、稲垣といいます。 最近、業務でChatGPTを使いまくっているのですが、ちょっと個人的に感動する使い方を見つけたので紹介します（既に知ってるぞ！という方、すいません）。 プロダクト開発において、業務フローって必要になること多いですよね。でも書くの大変。Draw.ioとかFigmaとか便利なツールも出てるけど、それでも大変。 さあ、下記のようにプロンプトを書いてみましょう。 一般的な受注業務の業務フロー図を作りたいです。Mermaid Markdown形式で出力してください。 # 制約条件 - 「・」「?」は使用しないでください ChatGPTの出力結果のこれをコピーして、 Notionに貼りましょう（「コードブロック」を選択してください）。 「コード」を選ぶこの領域にペーストするすると・・・。 うおおおおお。 業務フローが自動

こあたん🇦🇺こあらの学校 @KoalaEnglish180 英語を楽しく学べるイラストや漫画をオーストラリアから毎日お届け｜英語で苦労した自分だからこそ分かる英語学習者が知りたいポイントをシンプルに分かりやすく発信｜20歳まで日本から出たことがなくても海外で働ける｜「世界中どこでも楽しく生きられる」を目指しています🐨 instagram.com/koalaenglish18…