高木浩光＠自宅の日記 - 知財検討会にまで及ぶAI規制の混迷──処遇AIと生成AIを混ぜると、全部壊れる

■ 知財検討会にまで及ぶAI規制の混迷──処遇AIと生成AIを混ぜると、全部壊れる Twitterで、12月12日の「AI時代の知的財産権検討会（第10回）」の配布資料「AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル型コード（仮称）（案）」が、これはひどいと話題になっているのが流れてきたので、読んでみたところ、色々言いたいことが思い浮かんだ。本来ならば論文で指摘するべき話だが、他に先に書かないといけないことばかりで、いつになったらできるかわからない。今動いている話なので、急ぎここに記す必要があるが、書くのが面倒なので、生成AIに書かせた。自分で書けばぐちぐちと悩みながら2、3日かけるところだが、もはや生成AIのおかげで、気づいてから半日で完成だ。（どういうプロンプトで書かせたかは末尾に開示しておく。） 関係者の皆さんには読んでほしい。方向付けさえすれば自然にここま

[ogawat1968]

“いま起きている混乱は、規制の「強さ」の問題ではない。規制の「カテゴリ誤り」の問題である。 処遇AI、生成AI、製品AIを区別すれば、それぞれの不満が同時に解ける。”

[everybodyelse]

プロンプトの書き方がすごく参考になる

[shiju_kago]

かなりの工数がかりそうな作業量なのに"ご飯食べながらであっという間だった"なのか……

[proto_jp]

“さて、どのようなプロンプトでこれらを書かせたかであるが、もういちいち掲載するのも面倒だが、開示しておこう。”

[suzuki_kuzilla]

処遇AI、生成AIと製品AIの3種でMECEになるのかよくわからなかった。

[fashi]

「残念ながらChatGPTは、日本語ブログを上手に書くことができないようです。Claudeさんならうまく書けるでしょう」

[Windfola]

痛烈だなあ／生成・処遇・製品以外のAIは概ね業務アプリケーションの一種だから既存の使用者責任で賄えるし、新たな規制の俎上に上げる理由があまりないかと。医療系AIは薬機法の方で検討中。

[xorzx]

”書くのが面倒なので、生成AIに書かせた。自分で書けばぐちぐちと悩みながら2、3日かけるところだが、もはや生成AIのおかげで、気づいてから半日で完成だ。”　AIを使いこなす実例ですね。勉強になる

[BoiledEgg]

記事本体もだがプロンプトの書き方もおもろい。こうやって使えたらいいな

[azumi_s]

この辺の整理が必要なのは強く感じるんだよな。

[soyokazeZZ]

“ …という形にすると、反論耐性が一気に上がります。”

[IGA-OS]

分かりやすい

[murashit]

処遇／生成／製品の分類わかりやすいな

[Insite]

「AIに詳しいけど利害関係のない人」という人があまりいないのが問題。趣味でやってる人くらい？

[natumeuashi]

フィジカルAI（製品AI）については、旧来の自動車や家電などで手垢がつくほど取り組んできた分野なので、官僚も仕事しやすかったんだろう。

[ihirokyx]

“（どういうプロンプトで書かせたかは末尾に開示しておく。）”

[mayumayu_nimolove]

この記事をChatGPTで作るまでの過程が書かれてて参考になる

[dltlt]

LLMs は人の評価や（自律運転など）製品制御も可能。人を欺いたり攻撃に使えてしまうとシステミックリスクがあるから、ガードレールの話にもなる。高木さんの言う「生成AI」はSDやMJの話か？（知財検討会のログは未読）

[kalmalogy]

プロンプトこんな感じなのか

[gcyn]

『日本が「EU整合」を唱えるなら、輸入すべきはキーワードではない。輸入すべきは「区別」である』

[tyosuke2011]

規制しなかったらかなりカオスになる

[yoshi-na]

生成過程（プロンプト）を後で読む

[harapon1012]

処遇AI, 生成AI, 製品AIと書いているが，やはりAIという言葉がよくないという結論でしかないと思う．やはり統計的機械学習の時代の語彙に戻したほうがいいのでは

[fujii_yuji]

AI生成の長文をここまで「読ませる」の、いんたーねっつ技巧者すぎるんだよな…

[airj12]

記事そのものと生成AIの使い方と一粒で2度美味しい、こういう使い方だと音声入力したくなる

[fhvbwx]

"真意は「俺の話を聞けよ」ですが、まあそうは書かないで。委員の先生方も知ってる人多いしね。"まだここまでは読み取れないか。

[tondol]

生成AIを組み合わせて文章を書かせる事例、普通に参考になる

[o_mega]

EUのAI規制対象を処遇AIと表現したのはいいな

[misshiki]

処遇AI（人への扱いを決めるAI）・生成AI（コンテンツを作るAI）・製品AI（物理制御するAI） の区別が曖昧だと規制全体が壊れてしまう、と。

[spark64]

後半のように、自動でAI同士対話していい感じに仕上げてくれたらいいのにね。/ 規制も良いがGDPR的な権利周りを整備してくれないもんかね

[guaranteedforall]

AIの種類で分けてるっていうより、必要な当局規制3種類で分けてる感じ

[raitu]

処遇AIの定義が独特すぎて、更に生成AIと製品AI(組み込みソフト)以外が処遇AIに含まれるとされてもうーん

[ktakeda47]

クロスレビュー

[suekunhello]

めっちゃわかる。

[cielonlon]

実際的な生成AIの活用法としたい。内容には、クソデカため息で同意。。。

[dickbruna]

プロンプト、これはもうゼミだね。知で知を磨く珠玉の問答。

[hatebu_ai]

正確な意味を示しているかどうかはぶっ飛ばすと、以前はシステムという単語で語られていたものがAIと括られている感じがするよね／結局ブラックボックスはブラックボックスなので、それを色分けする意味はあるのか？

[eagleyama]

混ぜるな危険はよくわかるが、もともとAIライクな文章だったためか違和感ゼロ

[natu3kan]

直接学習してなくても、他のデータから既存の作品を再発明してしまうケースはありうるし、大量の学習データの交配の逆算は困難で盗作判断が難しいケースありそう。要素が有限なら被らない方が難しい。人の声の様に

[xlc]

申し訳ないが関係者が理解できる文章にはなっていないと思う。「混ぜるな危険」ならまず「どう違うのか」を説明すべき。「混ぜるな危険」の部分は皆わかるはず。