Anthropic、「Claude」に会話終了機能を導入--乱用や悪用など危険な会話を遮断

Anthropicは米国時間8月16日、同社のチャットボット「Claude」に、一部のユーザーによる悪用や乱用に対して会話を終了できる新機能を導入したと発表した。この機能は「Claude Opus 4/Opus 4.1」に統合されている。 Anthropicによれば、Claudeが会話を終了するのは、「複数回にわたる話題転換の試みにもかかわらず、生産的な対話の見込みが完全に失われた極端なケース」に限られるという。つまり、通常の利用においては、たとえ議論の分かれる話題であっても、この機能が発動することはほとんどなく、ほとんどのユーザーには影響がないとされている。 重要なのは、Claudeが会話を終了する対象に、自傷や他者への危害の恐れがあると判断されたユーザーは含まれないという点である。 この機能の目的はユーザーの安全性向上ではなく、むしろAIモデル自身の保護にある。 Claudeに会話終了