『ライザのアトリエ』チャットAIアプリ『RyzaChat:AI』運営元、「利用規約の範囲でライザと会話して」と注意喚起。さっそくの“禁止行為”横行を受けてか - AUTOMATON

『ライザのアトリエ』チャットAIアプリ『RyzaChat:AI』運営元、「利用規約の範囲でライザと会話して」と注意喚起。さっそくの“禁止行為”横行を受けてか デベロッパーのSpiralAIは8月27日、『RyzaChat:AI ライザと創るあなただけのひと夏の夢物語』（以下、RyzaChat:AI）について「利用規約に違反する行為への対応とお願いについて」と題する記事を公式Xアカウントにて投稿。一部ユーザーの利用方法に関して、注意喚起をおこなっている。 本作は、RPG『ライザのアトリエ 1〜3』の世界を舞台に、「話すだけ」で旅・調合・戦闘までを楽しめる、フリーシナリオ型のAIチャット形式RPGだ。コーエーテクモゲームスよりライセンスを受けて開発された。決められたシナリオはなく、『ライザのアトリエ』シリーズの主人公であるライザとの会話を通じて物語を紡いでいくことが可能。「RPGモード」の進行

[mojimojikun]

該当されると思うXのポストを見かけたので見てみた(聞いてみた)んだけど、いろんなこと考えるんだなぁエロを原動力としたときの人類は凄いなぁと感心することしきりだった。いやはやすごい

[gewaa]

学習元の声優さんに対する重大な人権侵害になりえると思う。卑猥なセリフを喋らされることまで同意してなかったなら大問題。勝手にAV化されるディープフェイクと同じと言えば茶化して笑い話にできないと分かるだろ。

[yu_kawa]

コンプラ的に声明は出すけど営業資料ではこんなん織り込み済みでしょとしか

[sevenspice]

でもそこまでやる人達ほどトークンを大量に消費するだろうから重課金者なのだろうな。

[iphone]

試行錯誤にトークンを費やしてくれる上客だし、SNS投稿だって下心に財布を緩ませた客を流し込んでくれる。注意はただのポーズでしょ。想定外なハズもない。/ なお、ライザのガードは堅い。私の予算では崩せなかった。

[ajisu]

ライザになんJ語喋らせてる人がいるって聞いて笑った。

[yogasa]

そういうのターゲットにして課金してもらうつもりだったんじゃ無いんか

[damedom]

リバースエンジニアリングは論外として、脱獄的なことをしてエロに走る奴がいるのを想定してなくてガードもしてないというのは普通に想像力なさすぎでは…？となる

[asahiufo]

当該ユーザーの努力がすごくて研究レベルに見えた。

[nilab]

なんでできるの？(；´∀｀)「プロンプトインジェクション、すなわち送信するメッセージの内容を工夫することで、本来制限されているはずの応答を無理やりライザから引き出すような操作が一部のユーザーによって」

[wdnsdy]

開き直って「何を言わせてもOK（ただし動画や音声をネットに貼るな。見つけ次第厳正に対処）」にすればいいのに。表に出されなければキャラ毀損にもならんし個人使用の範囲内だから、何でもありにして金を取ってやれ

[nack1024]

アホか

[anon-c]

この状況ではしばらくは時期尚早として大手は続かないよね。もったいないなぁ。

[shigeoka]

技術対応はするけど完璧には無理なので、規約で縛って酷い場合は人力対処。はままある。

[proverb]

ライザに飯食わせまくって体重120kgにして船に乗ろうとしたら体重超過で乗船拒否されたみたいなシナリオあって笑った。クラウディアを蝋人形にするやつも好き。

[nori__3]

むしろそこぐらいしか目的はないのではという気もするが…

[ignis09]

この状況が想定外ならライザってそもそもユーザーのスケベ心に乗っかったIPなのに見通しが甘すぎると思うし、ある程度想定内だけど祭りになってるから一応釘刺しとくか…のポーズなのかなとも思っちゃう。

[ustar]

わからんけど無理に規約違反を続けて関係者の気分を大きく害した上でもしサービス終わったら誰も幸せにならんよなと思う

[sekiryo]

AIライザがハックされ卑猥な台詞も言わされ印象が悪くなるしこれやられるとなると追従する会社は無いだろ→AI対魔忍なら下がるイメージも無いし問題ないのでは？　お前ら対魔忍をなんだと思っ…正確な認知だな。

[kotoyama]

ライザのアトリエは好きなゲームだから悲しい。コエテクの人気ゲーム、人気キャラクターなんだからもっと大事に扱ってほしかった

[hiroyuki1983]

そりゃ声優がいる手前こう言っとかないと駄目だからな。誰が金払って天気の話すんだよ！ってことは運営も分かってるから

[pondelion232]

脱獄してるんか

[pikopikopan]

声優さんが気の毒過ぎる。あまりにも酷いユーザーは警告からのＢＡＮしたらいいのに

[w_bonbon]

バニーガーデン「いい事思いついた」

[Rautie]

いや、イメージ図があんなにすけべなふとももを露出してる絵を使ってるからそう言うのはある程度許容してるもんだと思われてもしょうがないのでは？それくらいすけべなふとももをしてるよ？

[corux]

アトリエ自体は次の作品に入ってライザはもうゲスト以外で出ないだろうし。/ 声優さんは演技と自分を切り離せるタイプならいいね。またはそういうタイプだと思ってたけどダメだったときに止められる契約だとよいね

[ymskhtn]

AIチャット全般の課題であるどう規制回避するかを有料デバッガーしてくれるわけだし表向きには言えないけど有難い側面もありそう

[lavandin]

錬金術士で錬金術をやるなよ…

[tigercaffe]

（自分で生成したダーナちゃんのCGを鑑みながら）…まあ、こういうのは程々にするのが一番重要なんだぞ。うん。/ダーナちゃんAIチャットができたら重課金者で済むかな俺…。

[collectedseptember]

蒸留してローカルにライザコピーを作ろうとしている人もいるとか

[InkuLockRoc9]

あまりにもひどいと垢バン措置とか訴訟沙汰とかもでてくるのかな

[gnoname]

作品としてはエロしか魅力無いのにシリーズ1売れたはずなのにOW化やASMR化やアトリエIP自体の質を下げる売り方は迷走してるなぁ

[kazyee]

公序良俗に反することを（チャットAI側で）技術的に禁止していたら、ユーザーが（偶然ではなく意図を持って）プロンプトの工夫で言わせることは"技術的制限を回避する行為"に該当するのではということか。

[torish]

おさわりのないキャバクラ？

[sumomo-kun]

「学生へのレポート課題のなかに白文字でプロンプトを入れておく」とかならわかるけど、単に会話を工夫するだけのことを「プロンプトインジェクション」と呼ぶのは疑問があるな。別に何もインジェクトしてないだろ。

[versatile]

X検索してみるか

[nibo-c]

え？そういう連中から金吸い上げる商売だと思ってた。

[hatebu_admin]

試してみれば分かるけど、試行錯誤も含めて全部会話トークンを消費するので言うほど簡単ではないというかTRPGのGM能力が求められるはマジ。しかしLLMに対してはLLMで対抗できるので人類の叡智バトルやね

[hanninyasu]

Xで見たけどこんな事続くならコンテンツのイメージ棄損されるし声優もこういうサービスに自身の声を使わせる契約にサインしないだろう。「おもろw」とか反応してるのは中学生か高校生かな。

[b9rantan8]

「バナナが好き♥」ぐらいでも俺なら喜ぶよ。俺もライザを調教してこよう！