生成AIに｢無限に抜け出せない催眠術｣をかけた結果...
生成AIに｢無限に抜け出せない催眠術｣をかけた結果...2023.08.15 08:0063,285 Mack DeGeurin -Gizmodo US- ［原文］ （ R.Mitsubori ） AIもダークサイドに落ちる。 IBMのセキュリティ研究者は、OpenAIのChatGPTやGoogleのBardといった有名な大規模言語モデルに対し｢催眠術をかける｣ことに成功したと発表しました。 催眠術にかかった生成AIは｢機密の財務情報を漏らしなさい｣とおすすめしたり、悪意のあるコードを生成したり、ユーザーに｢身代金を払いなさい｣と促したり、さらにはドライバーに｢赤信号を無視して突っ切りましょう｣とアドバイスするなど、間違ったことばかり言うようになってしまいました。 わざと誤った回答を生成するような｢ゲーム｣ 研究者チームはOpenAIのGPTモデルやGoogleのBardなどのモデルに対し
「制御不能なAI開発競争」の一時停止を求める公開書簡に偽の署名者が多数まぎれていたことが判明、AI研究者からは書簡への反論が続出
「AIの開発競争が制御不能になり社会に重大な悪影響をもたらす」としてAI開発を停止するよう求め、イーロン・マスク氏やスティーブ・ウォズニアック氏など多数の著名人が署名をしたという公開書簡に、中国の習近平主席を始めとする偽の署名が複数あったことが報じられました。AI研究者からは、公開書簡を作成した非営利団体・Future of Life Instituteの主張には誇張された非現実的な点があるとして、書簡の理念に異論を唱える声が上がっています。 The Open Letter to Stop 'Dangerous' AI Race Is a Huge Mes https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-mess 人工知能の倫理的開発を目的に設立された非営利
GPT-3を使って自分だけのAIアシスタントを作る第一歩 - Taste of Tech Topics
皆さんこんにちは。健康診断の結果がちょっと気になる年齢になってきたSsk1029Takashiです。 GPT-3を扱ってチャットボット作ってみる記事の第2弾になります。 第1弾のこちらもぜひご覧ください。 acro-engineer.hatenablog.com 前回は質問応答システムとしてGPT-3を活用しましたが、今回はAIアシスタントとしてGPT-3を活用してみます。 AIアシスタントとは何かというと、Google Homeのように命令を入力すると、それに沿った処理を実行してくれるシステムを指します。 ChatGPTとの違いは命令の結果は必ずしも文章生成だけではないということです。 ChatGPTでは文字列を入れて、要求に沿った文字列を返します。 対して、AIアシスタントでは、カレンダーに予定を入力したり、アラームを設定したりなど、具体的なタスクを実行します。 この記事では、前回に続
ChatGPTをオープンソースで再現、わずか1.6GBのGPUメモリですぐに使用でき7.73倍高速なトレーニングが可能
OpenAIの対話型AI「ChatGPT」は史上最も急速な成長で「月間1億ユーザー」をわずか2カ月で達成するなど、大いに注目を集めています。それに伴い、GoogleがChatGPTのライバルとなる会話型AI「Bard」を発表したり、中国企業が続々とChatGPT風AIを開発していると報道されている一方で、OpenAIはChatGPTのコードを公開していないためChatGPTを効果的に複製することは難しくなっています。AIのディープラーニングトレーニングを最適化するオープンソースプラットフォームのColossal-AIが、ChatGPTトレーニングプロセスをわずか1.6ギガバイトのGPUメモリで7.73倍高速なトレーニングに再現したと告知し、オープンソースで公開しています。 Open-source replication of ChatGPT implementation process!
Engadget | Technology News & Reviews
How to watch Polaris Dawn astronauts attempt the first commercial spacewalk
人間VSコンピュータオセロ 衝撃の6戦全敗から20年、元世界チャンピオン村上健さんに聞いた「負けた後に見えてきたもの」 （ねとらぼ） - Yahoo!ニュース
人間VSコンピュータオセロ 衝撃の6戦全敗から20年、元世界チャンピオン村上健さんに聞いた「負けた後に見えてきたもの」 2017年、人間は2つの知的ゲームでコンピュータに決定的な敗北を喫しました。 囲碁の世界レーティング1位の柯潔（カ・ケツ）九段が、米Google傘下DeepMindの囲碁AI「AlphaGo」との3番勝負で3戦全敗。 【村上さんと最強ソフト「ロジステロ」との対局結果】 さらに将棋の佐藤天彦名人が、第2期電王戦二番勝負で将棋AI「PONANZA（ポナンザ）」に、先手番・後手番ともに敗れました。 急激に進歩するAIにより生活が激変するといわれる21世紀。2045年、あるいはそれを上回る速度で、人間の知能をAIが決定的に上回る「シンギュラリティ」が来るともいわれ、人間の存在価値すら問われ始めている昨今において、衝撃的な出来事でした。 そのちょうど20年前の1997年。囲碁と将棋
「AIが進化し過ぎてワケわかんない時代」は、すぐやってくる！｜シンギュラリティ・ビジネス｜齋藤和紀
今年5月の刊行以来、「おもしろい」「一気に読める」「これからの時代をわかりやすくイメージできる」「ＡＩ入門としてベスト」とご好評をいただいている『シンギュラリティ・ビジネス――ＡＩ時代に勝ち残る企業と人の条件』。 著者の齋藤和紀さんが、さる7月1日、「ロンドンブーツ1号2号 田村淳のNewsCLUB」（文化放送）にゲスト出演しました。「俺、シンギュラリティを全然理解してないです」と言いながら即座にポイントをつかんで次々とナイスな質問を繰り出す淳さん、弁護士の篠田恵里香さん（アディーレ法律事務所）、メディア初登場で「ものすごく緊張しています」と言いながら、パーソナリティお二人の質問に落ち着いてさわやかに応じる齋藤さんの、楽しいトークの模様を、3回にわたってお届けします。 ＊ ＊ ＊ シンギュラリティとは、科学技術が進化しすぎて、訳が分からなくなること?! 淳 「今週のすごい人」、本日のゲスト
米国から恐れられた日本のIT技術、AIの死角に着目 世界をリードする東京大学は「知の死角」とどう向き合っているか | JBpress (ジェイビープレス)
クラウドコンピューティングとビッグデータが北京に集結。写真は中国インターネット大会で展示された世界最速の電気自動車。7.1秒で速度200キロに達することができ、最高時速は323キロ（2017年7月12日撮影）。(c)CNS/陳暁根 〔AFPBB News〕 報道でAIとかIoTといった文字を見ない日はほとんどありません。いったい今回の「AIブーム」何が特徴的で何に気をつける必要があるか、もっと本質をついた解説があってもよいように思います。 そこで、私たち東京大学のグループが「知の死角」と呼んでいる問題に照準を合わせ、どのような対策が有効化を検討してみたいと思います。 初めに、五神真総長の言葉を引用して、ポイントを抜き出してみたいと思います。 ブラックボックスAIの恐怖 「近年AI技術の中で注目されている機械学習や深層学習の相当部分は、ベイズ統計という確率統計理論に依拠したもので、従来の技術
AIが人類を超える意味——カーツワイルの予言 - Yahoo!ニュース
発明家にして未来学者、コンピュータ・エンジニアでもあり、実業家。現在、グーグルで技術部門のディレクターの一人であるレイ・カーツワイル氏は、人類がテクノロジーを取り入れることで近い将来、次の段階へ進化すると言う。人類を超えた存在（ポスト・ヒューマン）とは、どのようなものなのか。そこで見える世界は、天国か地獄か、それとも変わらぬ日常か――。インタビューはサンフランシスコ郊外、カーツワイルが創設者の一人である教育機関「シンギュラリティ大学」内の図書室で行われた。（インタビュー・吉成真由美／Yahoo!ニュース 特集編集部） レイ・カーツワイル：1948年ニューヨーク生まれ。マサチューセッツ工科大学卒業。発明家、未来学者。2012年より、生涯初の会社勤めとなるグーグル社で、技術部門のディレクターの一人として活躍。シンセサイザー「Kurzweil K250」、文章音声読み上げマシンなどを発明。レメル
ＡＩ新時代、奪われるヒトの仕事 執筆・接客代替、弁護士ですら置き換わる？ （SankeiBiz） - Yahoo!ニュース
米グーグルが開発した人工知能（ＡＩ）「アルファ碁」が今年３月、「世界最高の棋士」の一人とされる韓国のプロ囲碁棋士を破り、世界を震撼（しんかん）させた。日進月歩で進化するＡＩによる技術革新は企業の経済活動、そして働き方にどのような変化をもたらすのか。ＡＩ新時代は果たして、われわれにとって脅威なのか希望なのかを探った。 週末を控えた米東海岸の事務機器メーカー。オフィスのパソコンに向かう営業担当者に、１通の電子メールが届いた。「フランクへ。君は今週、２件で４万２５５０ドルの契約をとって、２６社の潜在顧客と接触したね。素晴らしい成績だ。でも、まだ年間ノルマの達成ペースからは遅れているよ」 上司からの厳しい指摘にも見えるメールだが、“送り主”は人間ではない。米ノースカロライナ州のＩＴ企業、オートメーテッド・インサイツが開発した人工知能（ＡＩ）「ワードスミス」が、自動で作成した社員の管理・評価書だ
【ＡＩ新時代（２）】「ヒトラーは間違っていない！」 学習環境で「悪のＡＩ」育つ可能性も 人間が譲れぬ「一線」とは…（1/2ページ）
【ＡＩ新時代（２）】「ヒトラーは間違っていない！」 学習環境で「悪のＡＩ」育つ可能性も 人間が譲れぬ「一線」とは… 「お父さん、３００万円貸して」。ある日、高齢男性のもとにかかってきた遠方に住む息子らしき声の電話。男性も当初は振り込め詐欺を警戒する。だが声は息子そのもの。話も弾み、次第に男性の警戒心は解かれ…。 膨大なデータから機械が学ぶディープラーニング（深層学習）が実現する時代。はこだて未来大（函館市）の松原仁教授は、人工知能（ＡＩ）によるこんな犯罪も絵空事ではないと警告する。 松原教授が自ら会長を務める人工知能学会に倫理委員会を設置したのは平成２６年。倫理委では高度なＡＩが将来的に犯罪に使われるリスクも洗い出す。「実際、会話を合わせる研究は進んでいる。音声の再現技術もかなりの段階にある。機械の性能が増せば悪用されたときの影響は大きい」 □ □ □ 悪用の危険性を想起させる出来事はすで
Googleで開発中の人工知能が綴ったポエムがキモいと話題に
By Victoria Nevland Googleではディープラーニングを使って自然な言語を話すAI(人工知能)の開発が進められているのですが、その研究の中で実際に綴られたポエムが独特の雰囲気を持ち、ちょっと気味悪くすらあると話題になっています。 “I want to talk to you”: See the creepy, romantic poetry that came out of a Google AI system — Quartz http://qz.com/682814/i-want-to-talk-to-you-see-the-creepy-romantic-poetry-that-came-out-of-a-google-ai-system/ AIによって生成されたポエムの一例がコレ。それっぽく読むとなんとなく雰囲気がありますが、実際にはかなりシュールな内容になって
人工知能に関する10の誤解、説明します
ロボットが背中から撃ってくる…とかじゃないんです。 コンピューターは20年前にチェスチャンピオンを負かしましたが、｢囲碁は無理｣なんて言われ続けてきました。でもついに先日、グーグルのAlphaGoが現代最高の囲碁棋士、李セドル氏を下し、人工知能（AI）の進化を世界に見せつけました。AIが人間を超える運命の時がますます間近に感じられています。でもそれが実際どんな事態を引き起こすのか、どんな意味を持つのかはまだあまり理解されていません。 スペースXの共同創業者、イーロン・マスク氏はAIが殺人を犯すかもしれないと警告し、賛否両論を呼び起こしました。AIが人間にもたらすメリットを考えると、そのリスクはますます厄介です。でもたしかに他の発明と違い、AIには人類を変化させ、破壊させる可能性すらあるんです。 AIの脅威と可能性をちゃんと理解するのは簡単じゃありませんが、コンピューター科学者や神経科学者な
セックス用ロボットがまもなく現実のものに、実現に向けた課題とは？
映画「her／世界でひとつの彼女」や「エクス・マキナ」では、人間が人工知能(AI)に恋をする物語が描かれました。映画の中だけにとどまらず、現実的にAIを搭載したセックス用ロボットの実現が迫りつつあるとして、コラムニストのRose Eveleth氏がBBC Futureに寄稿しています。 Episode 02: Love At First Bot | Flash Forward http://www.flashforwardpod.com/2016/02/09/episode-02-love-at-first-bot/ BBC - Future - The truth about sex robots http://www.bbc.com/future/story/20160209-the-truth-about-sex-robots 人工知能技術は年を追うごとに進歩していて、Rose Ev
博士が愛したクラウド上の「ワトソン」 がん医療を変える？〈ＡＥＲＡ〉 （dot.） - Yahoo!ニュース
人のゲノム（遺伝子）研究が、がん治療を変えつつある。異常なゲノムを見つけ出し、その変異に応じた薬を患者に届ける「個別化医療」への挑戦だ。 2013年初頭、東京大学医科学研究所ヒトゲノム解析センターの宮野悟センター長は、片思いに胸を焦がしていた。お相手は、対話が知的で洞察力に富み、たゆまぬ向上心も魅力だ。気にかかったのは、ユーモアに欠けるところくらい──。 宮野さんが心ひかれたその“人”の名は「ワトソン」。米IBMが開発した最新のコンピューターシステムである。 「ひと目見て、これは、がん研究に使えるなと思ったんです」 ワトソンの実体は、人間が日常会話で使う自然言語を理解するクラウド上のソフトウェアだ。単に自然言語を扱えるだけでなく、導いた答えが妥当かどうか自ら検証し、学習していく。 したがって学習するデータをアレンジすれば、さまざまな専門知識を持ったワトソンを生み出せる。宮野さんが
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「FF」最新版に導入された人工知能の実力 ゲームのAIから見える未来
TechCrunch | Startup and Technology News
人工知能が描いた「レンブラントの新作」
いま、人工知能は「Google検索」を大きく変えようとしている
「囲碁の謎」を解いたグーグルの超知能は、人工知能の進化を10年早めた