タグ

2023年4月28日のブックマーク (1件)

  • ChatGPTに「言っても良いことと悪いこと」を教えるツール NVIDIAがオープンソースコードで公開

    NVIDIAは2023年4月25日(米国時間)、ジェネレーティブAI(生成系AI)の正確性や適切性、文脈の整合性、安全性の確保を支援するツール「NeMo Guardrails」をオープンソースで公開した。同社は「ソフトウェア開発者がジェネレーティブAIアプリケーションを指導し、軌道に乗った優れたテキストの応答を作成するのに役立つ」としている。 「全てのLLMで動作するようにした」 多くの産業で、これからのAIアプリケーションを支えるエンジンである大規模言語モデル(LLM)とそれを使ったサービスの採用が進んでいる。NeMo Guardrailsには、そういったテキスト生成型AIアプリケーションを安全に利用するために必要なコードやドキュメントがまとめられている。 NVIDIAは「OpenAIの『ChatGPT』をはじめとする全てのLLMで動作するように設計した」と説明している。数行のコードを追

    ChatGPTに「言っても良いことと悪いこと」を教えるツール NVIDIAがオープンソースコードで公開
    sunny-spot-sketch
    sunny-spot-sketch 2023/04/28
    ゆくゆくはAI自身が、ガードレールを守るべきときと、乗り越えても問題ないときを判断できるようになったらいいなあ。