2024年9月17日のブックマーク (3件)

  • 生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文(生成AIクローズアップ) | テクノエッジ TechnoEdge

    2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless(シームレス)を運営し、執筆しています。 1週間の気になる生成AI技術・研究をピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル(LLM)は自身が出力する「幻覚」(ハルシネーション)からは避けられない現象を指摘した論文「LLMs Will Always Hallucinate, and We Need to Live With This」に注目します。幻覚とは、事実と異なる出力をLLMが実行してしまう現象を指します。 この研究では、LLMの幻覚が単なる偶発的なエラーではなく、これらのシステムに内在する避けられない特性であると主張しています。研究者らは、幻覚がLLMの根的な数学的・論理的

    生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文(生成AIクローズアップ) | テクノエッジ TechnoEdge
    shikixyx
    shikixyx 2024/09/17
  • なぜエンジニアのあなたの質問は伝わらないのか? - Qiita

    はじめに 包み隠さずオープンに伝えると、投稿主は質問が全然上手ではありません。 多分、この記事を読んでいる皆さんの方が何倍も上手です。 ということで記事は以上です(冗談です) こちらでは誰よりも質問下手だった投稿主が試行錯誤した結果、導き出した良い質問・悪い質問それぞれの共通点や法則性を提唱します(単なる一般論でしたらすみません) あなたの質問はなぜ伝わらないのか 結論? それは、あなたの質問に愛がないからです。 というのは半分冗談として(笑)、よくありそうな悩みを以下に記載します。 拙い文章ですが、皆さんのお役に立てれば幸いです。 テクニックに走ることによる弊害 「をたくさん読んだり、質問フォーマットで文章を丁寧に書いてみたけど、全然伝わらない!」 生成AIに聞いてみたりしたら、たとえばこんな答えが返ってくると思います。 Q. 私はエンジニアなのですが、質問はなぜ伝わらないのでしょう

    なぜエンジニアのあなたの質問は伝わらないのか? - Qiita
    shikixyx
    shikixyx 2024/09/17
  • エンジニアとして働く中で気づけた大切だと思うこと - Qiita

    はじめに 自分がIT業界に携わって5年ほどが経過しました。 この5年間、SIerからフリーランスエンジニアに転身し、様々なプロジェクトに参加する中で、数々の失敗と成功を経験しました。特に心構えやマインドの部分で多くを学ぶことができました。 未熟だった自分を振り返って、今では改善できた点が多くあると思います。同じ失敗を繰り返さないように、自分の経験が少しでも役立てば幸いです。 また、気付きを与えてくれた方々にこの場を借りて感謝します。 感謝を忘れない 進捗報告やコードレビュー、質問対応など、感謝の気持ちを忘れないようにしています。感謝は、コミュニケーションを円滑にし、相手の意欲を引き出す力があると思います。 たとえば、昔の自分はバグ報告を受けるとろくに文章も読まず「影響範囲は? 再現する条件は? 原因は? 解決策は?」などと質問攻めにしてしまっていました。 報告しただけなのに色んなことを聞か

    エンジニアとして働く中で気づけた大切だと思うこと - Qiita
    shikixyx
    shikixyx 2024/09/17