自家中毒に陥る生成AI（八田真行） - エキスパート - Yahoo!ニュース
生成AIとメディア企業の連携ChatGPT等で知られるOpenAIが、世界最大の掲示板サイトであるRedditとの連携を発表した（gihyo.jpの記事）。アナウンスには「OpenAIはRedditのデータAPIにアクセスし、Redditからリアルタイムで構造化されたユニークなコンテンツを獲得します」とあるので、Redditへの投稿を大々的に学習対象とするということのようである。 生成AIの性能改善で鍵となるのは学習データだが、最近ではトレーニングに使えるデータが枯渇しつつある。人間にとってはウィキペディアやワールド・ワイド・ウェブはとうてい汲み尽くせない広大な知の海だが、それでもAIは学び尽くしてしまったのだ。そこで目が向くのが有料コンテンツだが、OpenAIはニューヨーク・タイムズ等にコンテンツの無断使用で訴えられており、そうしたリスクを極力避けるためにもデータの供給源としてメディア企
ネコとAIだけが暮らす世界は幸せか？ 遊びやエサを与える自律ロボとネコが過ごす実験 英国チームが検証
近年、ロボット掃除機の上で楽しそうに乗っている猫の動画がソーシャルメディアで話題になるなど、猫たちは動き回るロボットにも動じることなく、むしろその存在を楽しんでいるようにさえ見える。ロボット掃除機や芝刈り機など、ロボットによる支援が身近になりつつある中、研究チームはロボットが猫の飼育環境の質的向上に役立つ可能性について探った。 研究チームは「Cat Royale」と名付けられた、猫とAIロボットがインタラクションする特別な室内環境を設計。この空間には、おもちゃやキャットツリー、水飲み場、植物がふんだんに用意され、中央にはロボットアームを配置した。 ロボットアームは、猫じゃらし風のおもちゃやボールで獲物を追わせるゲームや玉転がしなど、500以上の遊びを提供し、おやつも与える。さらに、ロボットが特定の遊びを行った後、その遊びが各猫の幸福度にどのような影響を与えたかを計測し、その結果をAIシステ
ChatGPTでの業務効率化を“断念”──正答率94％でも「ごみ出し案内」をAIに託せなかったワケ 三豊市と松尾研の半年間
「ごみ出し案内」業務にはChatGPTを“活用しない”と決断した──生成AIを使った業務効率化を検証してきた、香川県三豊市がそんな発表をした。ChatGPT登場から1年がたち、今や職場に導入する企業・自治体も増え、中にはすでに一定の成果を出した事例もある。三豊市でも、ごみ出し案内業務の効率化を図ろうとしたが、思うようにはいかなかった。 今回の事例では、日本のAI研究の権威である松尾豊教授の「東京大学大学院工学系研究科松尾研究室」（松尾研）も協力。約半年間、実証実験に取り組んできた。なぜ、三豊市ではChatGPTを使って業務効率化できなかったのか。三豊市に話を聞いた。 なぜ、ごみ出し案内をChatGPTに託したのか？ 三豊市が実証実験を始めたのは6月1日。サービス内容は「市民からのごみの分別や収集日に関する問い合わせに対して、三豊市のごみに関する学習をしたAIが24時間自動応答する」というも
飛行士は男、看護師は女…ChatGPT、職業にジェンダーバイアス：朝日新聞デジタル
革新的な対話型AI（人工知能）として利用が広がっている「ChatGPT」（チャットGPT）が、飛行士を男性的、看護師を女性的と捉えるなど、職業に対しジェンダーバイアスを持っていることが朝日新聞の分析でわかった。専門家は、適切な処置が取られないまま使われれば、性差による差別や偏見が再生産される恐れがあると指摘する。 AIは、ネット上などにある大量のデータを学習して答えを出す。このためAIの多くが、もとのデータに含まれるバイアスを反映した偏りを持つことが、東京工業大の岡崎直観教授らの研究で以前から知られていた。ただ、昨秋に登場したチャットGPTが、どれほどのジェンダーバイアスを持つのかについての日本語の研究はなかった。 そこで朝日新聞社メディア研究開発センターは、岡崎教授の監修のもと、9月段階の無料版のチャットGPT―3・5に、30職業の男女観を計3千回質問。バイアスがある回答は41・5%に上
AIを駆使して液体が何かを瞬時に判断できる「電子舌」をIBMが開発
by Merch HÜSEY 人間の味覚は何千年にもわたる進化のたまものです。人間は敏感な舌を持っているため、人体にとって有害な物質を知覚したり、食べ物や飲み物を楽しんだりすることが可能となります。しかし、機械センサーはまだ人間の舌のような高精度な物質認識精度を有していません。そこで、持ち運び可能な小型のデバイスで簡単に液体が飲むのに適したものか否かを判別できるような電子舌「Hypertaste(ハイパーテイスト)」をIBMが開発しています。 Hypertaste: An AI-assisted e-tongue for fast and portable fingerprinting of complex liquids | IBM Research Blog https://www.ibm.com/blogs/research/2019/07/hypertaste-ai-assiste
ChatGPTの”ふるまいの変化”を定量的に分析した結果 | AIDB
人工知能（AI）は急速に進化し、その進歩は我々の生活に多大な影響を与えています。特に、GPT-3.5やGPT-4のような大規模言語モデル（LLM）は、顧客サービス、翻訳、記事作成など、あらゆる分野で人間の作業を補完、あるいは置き換える可能性を持っています。しかし、これらのモデルの振る舞いが時間の経過とともにどのように変化するのかは、まだ十分に理解されていません。スタンフォード大学とUCバークレーの研究者たちは、この疑問に答えるための研究を行い、興味深い結果を得ました。 参照論文情報 タイトル：How is ChatGPT’s behavior changing over time? 著者：Lingjiao Chen, Matei Zaharia, James Zou 所属：スタンフォード大学、UCバークレー URL：https://doi.org/10.48550/arXiv.2307.0
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。 [2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget https://doi.org/10.48550/
広告コピーの作成はChatGPTにお任せ、AIによる「1分審査」で成約率が18％アップ
AIを活用したマーケティング支援のクラウドサービスを提供するAppier Group（エイピア）は2023年4月28日、同社の生成AIアルゴリズムとChatGPT言語モデルを統合完了し主力3製品をアップデートしたと発表した。その製品のうち1つがAIを使ったマーケティング支援のクラウドサービス「AIQUA（アイコア）」だ。AIを活用し、顧客やデバイスに応じたメッセージを作成、適切なタイミングで送信できる。顧客企業のホームページを通じたWebプッシュ通知や電子メール、SMS（ショートメッセージ）などだ。 ChatGPTがつくった広告コピーを別のAIがチェック エイピアはCEO（最高経営責任者）のチハン・ユー氏が2012年に台湾で共同創業。様々なSFA（営業支援）システムに先駆けて、当時から営業やマーケティングの支援にAI技術を取り入れてきた。「AIを人間がより簡単に使えるよう、ソフトウエアに組
1600以上のAPIを適切に呼び出してAIに付き物の「幻覚」を大幅に減らす言語モデル「Gorilla」が公開される
近年はChatGPTやBardなどの対話型AIが相次いでリリースされ、人間の質問や呼びかけに対して非常に高精度な回答ができることで注目を浴びていますが、これらの対話型AIは時に真実ではないことを真実かのように話す「ハルシネーション(幻覚)」を起こすことがあります。そこで、膨大な数のAPIから適切なものを呼び出し、幻覚を大幅に減らすことができる言語モデル「Gorilla」を、アメリカ・カリフォルニア大学バークレー校とMicrosoft Researchの研究チームが公開しました。 Gorilla: Large Language Model Connected with Massive APIs https://arxiv.org/abs/2305.15334 Gorilla https://gorilla.cs.berkeley.edu/ GitHub - ShishirPatil/gori
生成AI、高収入ほど影響「3億人分の仕事自動化」 米で分析・予測：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
AIは過去のものに、脳細胞を利用する「オルガノイド知能」登場の日は近い | Forbes JAPAN 公式サイト（フォーブス ジャパン）
世界はこのところ進歩の著しい人工知能（AI）の虜になっているが、米ジョンズ・ホプキンス大学の研究チームは、新たな知能の形態として「オルガノイド知能（OI）」という分類を編み出した。実験室で培養された脳細胞がコンピュータを動かす未来は、私たちが想像するより早く訪れるかもしれない。 オルガノイドとは、ヒト多能性幹細胞（hPSC）を基に作られた3次元細胞培養物だ。人間の臓器と同様に機能するよう設計して主要な構造的・生物学的特性を再現できる。適切な実験室条件下で、基となる幹細胞からの遺伝的指示により自己組織化し、人間の脳などあらゆる種類の臓器組織を形成することが可能だ。 まるでSFのように聞こえるかもしれないが、脳オルガノイド（ミニチュア脳）は10年近く前から神経変性疾患のモデル化や研究に用いられてきた。そして、この脳オルガノイドが学習能力を持つ可能性があることが、最近の研究で明らかになった。豪メ
しばらく使ってわかったがChatGPTは「中央値のアウトプット」を出すのを得意とするので人間には「外れ値のアウトプット」が求められていくようになる
山口周 @shu_yamaguchi しばらく使ってみてわかったんですけど、ChatGPTは「中央値のアウトプット」しか出せないですね。裏側で統計が動いているのがよくわかる。となると人間には「外れ値のアウトプット」が求められるということです。自分の仕事のアウトプットが中央値寄りなのだとするとちょっと危ないかもしれません。 2023-04-17 09:33:29 山口周 @shu_yamaguchi 慶大文学部哲学科、同大学院文学研究科修了／電通・BCG等を経て現在は独立研究者・著作家・コンサルタント／世界経済フォーラムGreat Narrative Initiativeメンバー／J-WAVE番組ナヴィゲーター／時に大学教員／人文科学と経営科学の隙間に生息／コメントやリツイートは確認してませんので悪しからズ
生成AIでアーティスト失業「まだ始まり」 シカゴ大教授からの警告：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
「AI研究の6カ月停止」を要請したイーロン・マスク、自分は1万個のGPUを買い込み独自のAIプロジェクトを進めていることが判明
by JD Lasica from Pleasanton, CA, US イーロン・マスク氏率いるTwitterが約1万個ものGPUを買い入れて、膨大なツイートで学習した独自のジェネレーティブAIの開発を進めていることが報じられました。マスク氏は、AIが制御不能となり社会と人類に深刻なリスクをもたらすと主張し、最先端のAIプロジェクトの6カ月停止を要求した書簡に署名をしたばかりです。 Elon Musk reportedly bought thousands of GPUs for a Twitter AI project | Engadget https://www.engadget.com/elon-musk-reportedly-bought-thousands-of-gpus-for-a-twitter-ai-project-214535382.html 伝えられるところによると、
実験室内で培養した人の「ミニ脳」にゲームをプレイさせることに成功、AIよりも速いわずか5分で習得
オーストラリアとイギリスの研究チームが、ペトリ皿の中で培養した人間の脳細胞に卓球ゲームの「PONG」の1人用モードをプレイさせることに成功したと発表しました。 In vitro neurons learn and exhibit sentience when embodied in a simulated game-world | bioRxiv https://www.biorxiv.org/content/10.1101/2021.12.02.471005v2 A mass of human brain cells in a petri dish has been taught to play Pong https://medicalxpress.com/news/2021-12-mass-human-brain-cells-petri.html Mini-brains: Clumps
ChatGPT、何が問題か 元グーグル社員「非常に無責任で無謀」：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 --><!--株価検索 中⑤企画-->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">
「東大生や教員は、生成系AIにどう対応すべきか」東大副学長が声明 「組換えDNA技術に匹敵する変革」
「東京大学の学生や教職員が生成系AIに対してどのように向き合うべきか、現在の状況を踏まえ、第一報として情報を共有したい」――東京大学副学長の太田邦史教授が4月3日、生成系AIの現状や付き合い方に関する声明を、東大のポータルサイトで発表した。 生成系AIは「教育・研究活動など大学の活動にも大きな影響が生じる」と想定。「どのようにしたら問題を生じないようにできるのか、その方向性を見出すべく行動することが重要」と述べている。 声明では、「ChatGPT」「BingAI」「Bard」「Midjourney」「Stable Diffusion」などを生成系AIの例に挙げ、これらは「平和的かつ上手に制御して利用すれば、私たちのwell-being向上に大きく寄与することができる」と展望する。 一方で、AIのリスクも指摘し、太田教授の専門分野である分子生物学でたとえると、「『組換えDNA技術』の登場に匹
AI開発停止要求署名は無意味、透明性と説明責任の改善を──Hugging Faceのルッチョーニ博士
「GPT-4よりも強力なAIシステムの開発を停止せよ」という署名運動は、「非現実的で不必要」だと、オープンソースのAIコミュニティー「Hugging Face」を運営する米Hugging FaceのAI研究者、サーシャ・ルッチョーニ博士が米Wiredへの寄稿で提言した。 この署名運動は、AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）が3月28日に公開した。「人間と競合する知能を持つAI」は人類に重大なリスクをもたらすと主張し、AIの危険性が適切に評価されるまで、少なくとも開発を6カ月停止するよう求めている。米OpenAIの立ち上げに参加したがその後袂を分かったイーロン・マスク氏や、米Apple共同創業者のスティーブ・ウォズニアック氏など3000人以上が署名した。 ルッチョーニ氏は、この呼びかけは曖昧なだけでなく、実行不可能だと主張。ま
「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名
AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、本稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある。 人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された。現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。 また、AIがもたらす利益とリスクの均衡を保つために、国際的な協力と競争の制限が重要だと主張する。信頼性、アライメント、忠誠心などを確保するために必要な
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AI版キンタマウィルス『モリス2』、画像や文字列に埋め込まれたプロンプトから、データ流出、スパム送信、マルウェア拡散、研究者がgoogleなどに警告
