GoogleのAI「Gemini」が質問したユーザーに突然「死んでください」と発言 - ライブドアニュース
2024年11月18日 11時21分 リンクをコピーする by ライブドアニュース編集部 ざっくり言うと Googleの対話型AI「Gemini」が攻撃的な返答をする事例が発生したという 課題をめぐり質問した大学院生に突然「死んでください」などと答えたそう 広報担当者は「この応答は我々のポリシーに違反する」と説明している Googleの対話型AI「」が、課題について質問をした大学院生に対して突然「死んでください」といった攻撃的な返答をするという事例が発生しました。大学院生の家族がRedditに投稿して発覚し、その後さまざまなメディアでも報じられています。 Gemini - Challenges and Solutions for Aging Adults https://gemini.google.com/share/6d141b742a13 Google AI chatbot respo
生成AIは「本当に不愉快」――「Procreate」のCEOが、生成AIを製品に一切搭載しないと表明
「生成AIは私たちの未来ではない」――iPad用イラスト制作アプリ「Procreate」を手掛ける豪Savage Interactiveが、生成AIに対するメッセージを公表。同社のジェームズ・クーダCEOは、公式アカウントが投稿した動画の中で「Procreateの製品に生成AIを取り入れません」と明言した。 クーダ氏は「皆様に生成AIについてよく聞かれます」とし、「個人的に生成AIは本当に不愉快です。いまこの業界で起きていることも、アーティストに与えているさまざまな痛みも納得いかないです」と、生成AIに反対の立場を表明。「この物語がどこへ向かうのか、どのように終わるのかは正確には分かりませんが、人間の創造性をサポートする正しい道へと進んでいると思います」と述べた。 投稿は本国と日本語の公式アカウントで投稿されており、Xユーザーからは「開発者のスタンスをはっきり表明してくれるのはユーザーにと
物議を醸した「顔写真から自閉症を判別するアプリ」 医療分野でのAI活用に求められる倫理観を考える
8月3日、技術者向け情報共有サービス「Qiita」に、「顔写真から自閉症を判別してみた」というエントリが載った（現在は削除済み）。タイトルの通り、顔写真から自閉症を判別するWebアプリを開発したという内容だった。 これは、AIプロダクトの開発などを手掛けるのアイデミー（東京都千代田区）が提供するオンラインプログラミングスクール「Aidemy Premium」の受講者が公開したもの。このスクールが提供する講座の受講修了要件を満たすためとして、機械学習技術を使ってアプリを開発し、その開発の過程などをまとめていたのだ。 しかしエントリが公開されると、すぐさまネット上で疑問の声が上がった。「倫理的にアウト」や「就職活動で利用されたりしたらこわい」「他人の顔写真を勝手に食わせて『こいつやっぱり自閉症だって』と言いふらすといった差別的な使われ方をされかねない」など、差別を助長するような使い方ができるの
生成AI検索エンジンのPerplexityはクローラーを防ぐ「robots.txt」を無視してウェブサイトから情報を抜き出している
Perplexityは生成AIを利用した検索エンジンであり、ユーザーの質問に対してAIが直接回答を生成できるほか、ユーザーのプロンプトに基づいたウェブページを生成する「Pages」という機能を提供しています。そんなPerplexityが、検索エンジンやAIトレーニングなどのボット(クローラー)を制御するテキストファイル「robots.txt」の指示を無視し、管理者がPerplexityの巡回を禁止したウェブサイトにもアクセスしていることが判明しました。 Perplexity AI Is Lying about Their User Agent • Robb Knight https://rknight.me/blog/perplexity-ai-is-lying-about-its-user-agent/ GoogleやBingなどの検索エンジンやChatGPTをはじめとする生成AIは、ク
ローマ教皇、ＡＩ規制の推進呼びかけ「最終的には使用禁止が急務」「いかなる機械も人間の命を奪うことを選んではならない」
【読売新聞】 【バーリ（イタリア南部）＝倉茂由美子】ローマ教皇フランシスコは１４日、先進７か国首脳会議（Ｇ７サミット）に歴代教皇で初めて出席した。人工知能（ＡＩ）に関する議論の場で、ＡＩの利用や開発に関する倫理について基調講演を行い
OpenAI内紛劇の背後に「21世紀の優生思想」、EAコミュニティとe/accの危険性：朝日新聞GLOBE＋
2023年11月17日から5日間にわたり、「ChatGPT」の開発元として世界的に注目される米国のAI（人工知能）開発組織OpenAIの内紛劇が世界を騒がせた。関連して「EA」「e/acc」という見慣れない用語がネットを飛び交った。これらは、主に英語圏のテクノロジー業界で流行している「思想」を指す言葉だ。内紛劇の背後にある「思想」を見ていくと、そこにテクノロジー業界にはびこる「気分」あるいは「マインドセット」の危うさが潜んでいる。 CEOの突然の解任と復帰、理事会の再編劇 背後に「思想」対立？ まずOpenAI内紛劇を簡単に「おさらい」しておこう。 OpenAIの理事会は11月17日にサム・アルトマンCEO（最高経営責任者）を解任。ところがわずか5日後、11月22日にアルトマンはCEOとして復帰すると発表された。 ただしアルトマンは理事の地位は失い、また自分の行動について独立した調査を受け
生成AIの「キラキラしない」未来に期待する理由
生成AIブームは軍事分野にも影響を与え、スタートアップは活況を呈している。だが、人間の生命に直接関わるような用途よりも、もっと退屈でつまらない仕事でAIを使うべきだ。 by Melissa Heikkilä2023.09.20 11 6 この記事は米国版ニュースレターを一部再編集したものです。 先日掲載した、戦争における人工知能（AI）の厄介な倫理に関するこの記事は、夏季休暇から仕事に戻った私の血圧を再び上昇させる気付け薬になった。 アーサー・ホランド・ミッチェルは、戦争と軍によるAIツールの使用増加に関する複雑で微妙な倫理的問題を見事に分析している。AIが致命的な失敗を犯したり、紛争で悪用される可能性はいくらでもあり、そのような事態を防ぐための現実的なルールはまだ存在しないようだ。この記事は、物事が誤った方向に進んだとしても、人々に責任を負わせることがいかに少ないかを物語っている。 私は
生成系AI技術の活用に関する提言
私たち日本俳優連合は、俳優・声優の権利を守るため、60年前から活動してまいりました。今般、Artificial Inteligence、いわゆるAI技術、機械学習という新たな技術が開発され、世界中で議論を起こしていることは皆様ご存じの通りです。私たち実演家としても、新しい技術の進化による人間社会の発展は望ましいことであると考えます。 ただその一方で、この新しい技術が私たち実演家の、表現の模倣・盗用を安易に促し、職域を侵害する恐れがあるのではと危惧しております。つきまして、私たち日本俳優連合として、以下５つの提言を行い、業界内でのガイドライン作り、国としての法律制定、ひいては国際的な枠組みでのルール構築を切に望みます。 国内外での意見交換を活発に行うとともに、EUによるAIACTの考え方に大いに賛同し、これを参考にしたガイドラインの策定を行う 学習素材は著作者が許可を与えたもののみを使用可能
ＡＩ規制、ウィキペディア型モデル想定＝チャットＧＰＴ開発企業
［２２日 ロイター］ - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した米スタートアップ企業オープンＡＩのグレッグ・ブロックマン社長は２２日、世界的なＡＩ規制の在り方の１つとして、オンライン百科事典の「ウィキペディア」に似たモデルを想定していることを明らかにした。ゴールドマン・サックス・グループが主催したイベントでの発言。 ブロックマン氏は、このモデルではウィキペディアのように、人々の多様な意見を合体させて合意形成に持って行く必要があると指摘。「われわれはシリコンバレーの思考様式にとどまっているわけではない。民主的な意思決定について考え始めている」と語った。 オープンＡＩが２２日のブログに投稿した内容によると、ブロックマン氏は世界各国が協調してＡＩの安全な開発の道筋を確保するという展開についても議論しているもようだ。 ブロックマン氏とオープンＡＩは、国際原子力機関（ＩＡＥＡ）のような組
『AIで人類絶滅のリスクは現実』アルトマンやハサビス、ヒントンら専門家が共同声明 | テクノエッジ TechnoEdge
Tech Journalist. Editor at large @TechnoEdgeJP テクノエッジ主筆 / ファウンダー / 火元 AIが及ぼすリスクの軽減を目指す非営利団体 Center for AI Safety (CAIS)が、AI専門家や各界著名人による共同声明『Statement on AI Risk』(AIの危険性についての声明)を公表しました。 声明はわずか22語の極めて簡潔な内容です。 Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war. 仮訳すれば「AIによる人類絶滅の危険性を軽減することは、他の社会的規模リスク、たとえばパンデミックや核
思い通りのコンテンツを生成できるAIが不正研究を加速 - 小林啓倫｜論座アーカイブ
思い通りのコンテンツを生成できるAIが不正研究を加速 ディープフェイクを見破るためにかかりすぎるコスト 小林啓倫 経営コンサルタント 20世紀初頭のこと。英イーストサセックスのピルトダウンにおいて、アマチュア考古学者のチャールズ・ドーソンがいくつかの化石人骨を発見した。彼は大英博物館のアーサー・スミス・ウッドワード卿と共に発掘・研究を続け、1912年、これらは新種の原始人類の化石で画期的な発見であるとして発表した。いわゆる「ピルトダウン人」である。 結論から言えば、このピルトダウン人は真っ赤な嘘で、数々の証拠も捏造されたものだった。人間やオラウータンの骨を加工し、さらに着色や摩耗といった処理をほどこすことで、それらしい「化石」を作り上げていたのだ。ピルトダウン人事件は研究不正の代表的な例、またもっとも大胆な例のひとつとして、現在でもよく知られている。 しかしドーソンらの主張が明確に嘘と判定
「悪いやつをAIで予測する」のがなぜいけないか - yhara.jp
「この人、家賃を滞納しそう？」AIが予測 入居審査を45分→16分に - ITmedia NEWS いやーこれはまずい。この件に限らず、「悪いやつをAIで予測する」というのはすなわち 「あなたに似た人が悪いことをしたので、あなたも悪い人と見なします」 ということだからだ。 レストランのランプ たとえばこんな例を考えてみよう。ある街でレストランが強盗に襲われる事件が相次いだ。これを防ぐため、レストランの入口に防犯カメラを設置することにした。このカメラはAIで犯罪者の顔を学習していて、「犯罪を犯しそう」な人間を検知してくれるのだ。 もちろん検知するといってもサイレンが鳴ったりするわけじゃない。あくまで「犯しそう」なだけで、まだ犯罪を犯したわけではないからね。でもキッチンに置いてある赤いランプがピカピカ光って、「要注意人物」が来たことはわかるようになっている。ああこれで安心だ。 …さて、これは本
AIを人類にとって有益なものとして扱うために必要なこととは？
人工知能(AI)が当たり前のようにさまざまなテクノロジーに応用されるようになった時代に、人間の専門知識を守るために必要なことをまとめた書籍「New Laws of Robotics: Defending Human Expertise in the Age of AI(新しいロボット法：AI時代に人間の専門知識を守るために)」を著したフランク・パスカル氏が、ロボットやAIといった最先端の技術を人類に有益に活用するための提言を行っています。 Pando: Why we must democratize AI to invest in human prosperity, with Frank Pasquale https://pando.com/2021/01/05/why-we-must-democratize-AI-invest-human-prosperity-with-Frank-Pa
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「現状、人間はこの技術を制御しきれない」。読売新聞とNTTが生成AIのあり方に共同提言 
沈黙するAI、沈黙しない生命 | DISTANCE.media
壁のためのAIと卵のためのAI