AIモデルが学習した有害知識を忘れさせる新たな手法。情報漏洩の抑止に期待

[WildWideWeb]

「有害」とは何かがこの記事では分からない。それだと特定の価値観の注入あるいは排除と実質変わらないのでは？といった類の問いに答えることなく研究室の技術次第で世論が形成されていくようにも思えてしまう。

[rna]

↓「有害」云々はユースケースの話で技術としては「特定の知識だけを選択的に忘れさせる技術」でしょ。有害の定義は関係ないしもちろん悪用も可能かと。

[misshiki]

“北陸先端科学技術大学院大学の研究グループは、大規模言語モデル(LLM)が学習した有害な知識を消去する新たな手法「Adaptive RMU」を発表した。”

[kizimuna06]

１・２の・・・ポカン！

[aox]

かわいそう

[otologie]

人間が恋をするのもこういう誤認だと思うけどな。同一性を保つというのが課題だけど。

[bean_hero]

有害知識＝不都合な真実、というケースも多かろう（謎