タグ

2023年10月26日のブックマーク (6件)

  • LLMのプロンプト技術まとめ - Qiita

    現在,34個掲載(一部執筆途中) Xのアカウント@fuyu_quantでも技術系の投稿をしているのでよかったらフォローしてください! はじめに 今回はすぐに使えそうなプロンプトの工夫やフレームワークについて有名なものをまとめました.LMの出力の精度向上に役立てられればと思います. 論文があるものについてはarXivに最初に投稿された順番で掲載しています. 論文で精度向上が確認されているのは英語での検証がほとんどであるため,日語で改善されるかは分かりません. 全てのLLM(GPT-4,Llama2,...)で精度が改善するとは限りません. ※記事に誤り等ありましたらご指摘いただけますと幸いです. 以下の記事では敵対的プロンプト技術をまとめています! 目次 Zero-shot prompting Few-shot prompting 2021年〜 Generated Knowledge Pr

    LLMのプロンプト技術まとめ - Qiita
  • NASA、「熱に弱い」アルミでロケットノズルを試作–3Dプリントで成形

    アルミニウムは他の金属に比べて重量あたりの強度が高く、ロケットノズルの軽量化が可能だ。これはつまり、深宇宙により多くのペイロードを運べることを意味する。一方、「極端な熱」に対する耐性が低く、溶接中に割れる場合もあるため、これまでロケットエンジンの部品には使用されてこなかった。 一方、今回のノズルは、3Dプリントの1つである反応性積層造形 (RAMFIRE)技術を採用。アルミニウムの粉末をレーザー照射部分に吹き込み溶融・積層させることでノズルを成形した。従来のノズルは1000もの部品数が必要だったが、同ノズルは単一部品であるため、製造時間を大幅に短縮できるという。また、冷却機構を組み込み、極端な熱に耐えられるようにした。 NASAはこれらの新しい製造技術をテストするために、コロラド州のElementum 3D、およびサウスダコタ州のRPM Innovations(RPMI)と提携した。 NA

  • LLMに非線形的な思考を与えてCoTを上回る性能を引き出す手法『IEP』と実行プロンプト CoTと組合せでさらに強力になる場合も | AIDB

    CoTの特徴と単一で使用する際の限界 Chain-of-Thought(CoT)は、LLMに推論能力を付与するための一般的な手法です。CoTは線形的な(直線的な)推論を実行させます。簡単に言うと「Aが真ならばBが真」といった形の推論を行わせることが多いです。 CoTは、問題解決の過程を一連のステップに分解し、それぞれのステップで特定の推論を行わせます。例えば、「雨が降っているなら、傘を持つべきだ」というような線形的な推論がCoTの一例です。質問応答(QA)タスクなどでよく使用されます。 しかし、このアプローチにはいくつかの問題点があります。 誤差の伝播 CoTは一つの思考のステップが次のステップに影響を与えるという連鎖的な構造を持っています。そのため、中間のステップで生じたわずかな誤差が、連鎖全体に伝播してしまう可能性があります。 CoTの中間ステップの評価は困難であり、最終的な答えだけが

    LLMに非線形的な思考を与えてCoTを上回る性能を引き出す手法『IEP』と実行プロンプト CoTと組合せでさらに強力になる場合も | AIDB
  • 神経系と骨格系を統合した最先端の“ロボット義手”を着けた初の成功例となる女性、体験談を語る |Pen Online

    神経系と骨格系を統合した最先端の“ロボット義手”を着けた初の成功例となる女性、体験談を語る Product +Future 2023.10.25 文:美矢川ゆき スウェーデン人のカリンさん(50歳)は、20年前に農作業中の事故で右手を失った。2019年から、神経系と骨格系を統合したロボット義手を装着。Science Roboticsに発表によると、このロボット義手の使用を開始して以来、カリンさんは、手を失う前に行っていた作業の80%をこなせるようになったことが証明された。この手術が行われてから数年経つが、その成功例ということで、いま注目を集めている。 ロボット義手と出合う前は、カリンさんは幻肢痛に何年も耐え、安らぐことがなかったそうだ。幻肢痛とは、失われた手があるように感じ、その幻の手が激しい痛みを感じる現象だ。「常に肉挽き機に手を突っ込んでいるような痛みでストレスがたまり、さまざまな鎮痛

    神経系と骨格系を統合した最先端の“ロボット義手”を着けた初の成功例となる女性、体験談を語る |Pen Online
  • 太陽系46億年の謎へ 研究者も驚いた「リュウグウ」のできた場所(伊藤 元雄)

    「はやぶさ2」の持ち帰った小惑星「リュウグウ」試料分析。これまでも、さまざまな発見が報告されていますが、この記事では「Phase-2キュレーション高知チーム」代表の伊藤元雄さんに、試料分析から見えた「リュウグウの生まれた場所」、そして「太陽系の起源」についてお話を聞きます。 伊藤さんの所属する海洋研究開発機構(JAMSTEC)超先鋭研究開発部門 高知コア研究所は、世界からさまざまな研究者が訪れる最先端の分析機器を運用する研究所です。これらの機器をもとに、リュウグウ、そして太陽系の謎に迫っていきます。 ーー伊藤さんは、JAMSTECに入る前はNASA(アメリカ航空宇宙局)でお仕事をされていました。もともと宇宙の研究にご興味がおありだったのでしょうか。 小学生のときは、アニメや映画の影響もあって、宇宙飛行士になりたかったんです。大学では物理化学を専攻して、肺胞という医学寄りのテーマに取り組みま

    太陽系46億年の謎へ 研究者も驚いた「リュウグウ」のできた場所(伊藤 元雄)
  • Stability AI Japan、最高水準の日本語言語モデル2種を公開

    Stability AI Japanは10月25日、日語タスクを用いた性能評価でトップクラスの性能を示す日語向け大規模言語モデル(LLM)「Japanese Stable LM 3B-4E1T(およそ30億パラメーター)」と「Japanese Stable LM Gamma 7B(およそ70億パラメーター)」を商用利用可能な「Apache 2.0」ライセンスでリリースした。 英語モデルをベースに継続事前学習 今回発表されたモデルは同社が2023年8月に公開した「Japanese Stable LM Alpha」シリーズと異なり、もともと英語モデルとして制作・公開された「Stable LM 3B-4E1T」「Mistral-7B-v0.1」をベースに、日語を主としたデータを用いて更に事前学習を実行した継続事前学習(Continued Pretraining)と呼ばれるアプローチで日

    Stability AI Japan、最高水準の日本語言語モデル2種を公開