陰謀論を撒き散らすボットネットにどう対抗する？陰謀論に染まった人の洗脳を解くAI反論ボットの可能性 【生成AI事件簿】陰謀論ボットと反論ボットが入り乱れる時代に何を信じるのか？ | JBpress (ジェイビープレス)
新型コロナウイルスのパンデミックでは、特定のワクチンについて、人類滅亡を目的とした生物兵器だとする陰謀論が広がった（写真：AP/アフロ） ChatGPTをはじめとした生成AIの登場によって、ボットネットによる陰謀論の拡散が深刻な問題になっている。この問題に対処するため、陰謀論に反論する反論チャットボットの研究も進みつつある。この反論チャットボット、陰謀論を信じている人にどこまで効果的なのだろうか。（小林 啓倫：経営コンサルタント） 陰謀論を拡散するチャットボット 「ハバナ症候群」という奇病がある。これは主に、世界各地に駐在している米国の外交官が発症を報告しているもので（この病名も、キューバの首都ハバナの外交官が最初に症状を訴えたことに由来している）、頭痛や嘔吐といった症状が出ることが確認されている。 2023年に米国政府の機関が「敵対的な外国勢力によるものである可能性は非常に低い」との見解
生成AIも安全運転！ 注目を集める「LLM用のガードレール」とは何か AIの事故を防ぐために企業がすべきこと
生成AIも安全運転！ 注目を集める「LLM用のガードレール」とは何か AIの事故を防ぐために企業がすべきこと：小林啓倫のエマージング・テクノロジー論考（1/3 ページ） この世に自動車というものがなかったとして、それがいま急に発明されたとしよう。発明されたのは自動車だけで、道路も、交通ルールも、教習所も存在していない。そんな世界で自動車から歩行者の命を守るためには、何が必要になるだろうか？ もちろん交通ルールや自動車メーカーに対する規制などを整備して、自動車が正しく使われる社会を整えていかなければならないが、それには時間がかかる。目の前の事故を防ぐためには、物理的に事故を防ぐ、より正確に言えば「自動車が歩行者にぶつからないようにする」仕組みがすぐに必要だろう。そんな仕組みの一つが「ガードレール」だ。 単にガードレールと言うと、フェンスや手すりのようなものまで含まれるが、ここで言っているのは
トランプ対ハリスでも深まる懸念、ネットにあふれるフェイク・コンテンツから選挙を守るには……？ 【生成AI事件簿】大規模調査で判明、選挙になると真実よりも党派性を優先してしまう有権者の思考回路 | JBpress (ジェイビープレス)
選挙における生成AIの不正利用に各国の政府は神経をとがらせている。 ネットにはフェイク・コンテンツがあふれかえっているが、それを見極めるのは困難だ。 果たして、フェイク・コンテンツに騙されないために、有権者は何をすればいいのだろうか。 （小林 啓倫：経営コンサルタント） ついに生じ始めた生成AIによる選挙への悪影響 今年は世界各国で主要な選挙が行われるため、各国の政府が選挙における生成AIの不正利用に神経をとがらせている。 たとえば、米国土安全保障省の一組織で、サイバーセキュリティ関連の対応を行っているCISA（Cybersecurity and Infrastructure Security Agency）は、このテーマを扱ったレポートを今年1月に発表している。 同レポートは、いま生成AIの普及と悪用により、選挙関連のセキュリティや整合性が脅かされる可能性が大きく増大しつつあると主張。具
プロンプトに対するClaude回答が全くのデタラメ……「嘘」をつくときほど説得力を増す生成AIの厄介な能力 【生成AI事件簿】人間には回避困難な生成AIのハルシネーション、回答が腹落ちする内容であればあるほど危険 | JBpress (ジェイビープレス)
「822年に日本で起きた騒乱は？」と尋ねてみたところ、返ってきたのがこの答えだ。822年に起きたのは「承和の変」で、それが平安時代初期の政変であり、当時の天皇だった淳和天皇と、その弟である嵯峨上皇との権力闘争であることが詳しく記されている。 誤解を招かないうちにはっきりさせておくが、この回答はまったくのデタラメだ。生成AIが事実ではないことをさも事実であるかのように回答してしまう現象、いわゆる「ハルシネーション（幻覚）」が起きているのである。 まず承和の変だが、起きたのは822年ではなく842年だ。似ていると言えば似ているのでおしいのだが、それでも20年の開きがあり、当然テストであれば0点の回答となる。 また、承和の変の内容についても記述に誤りがある。筆者は日本史にまったく詳しくないため、コトバンクの記載を参照したところ、これは公卿で当時の権力者だった藤原良房が計画したとも言われる策略で、
人はなぜSNS上の陰謀論を信じてしまうのか？最新研究が解き明かした「真実性錯誤効果」とボットネットの真のリスク 【生成AI事件簿】繰り返される情報に触れていると、真実だと思うだけでなく、人に共有したくなる | JBpress (ジェイビープレス)
英サウスポートで起きた騒乱の背景には、SNSで流布された誤情報の存在がある。 人はなぜ、デマや陰謀論を容易に信じてしまうのか。 正しい知識を持っていても逃れられない「真実性錯誤効果」とは。 （小林 啓倫：経営コンサルタント） 今年8月上旬、英国の各地で「過去10年以上経験したことのない最悪の騒乱」とBBCが表現したほどの暴動事件が起きた。 BBCの報道によれば、7月29日、イングランド北西部の町サウスポートにおいて、ダンス教室に来ていた3人の女の子が刺されて亡くなるという痛ましい事件が発生した。 容疑者はアクセル・ムガンワ・ルダクバナという17歳の少年で、英ウェールズの都市カーディフに生まれ、事件当時はランカシャーのバンクス村に居住していたそうだ。 当初、17歳という年齢を理由に、彼の氏名は公表されていなかった（ウェールズ生まれの人物だということは報じられていたようだ）。 すると、SNS上
The AI Risk Repository
What are the risks from Artificial Intelligence?A comprehensive living database of over 700 AI risks categorized by their cause and risk domain. The AI Risk Repository has three parts: The AI Risk Database captures 700+ risks extracted from 43 existing frameworks, with quotes and page numbers.The Causal Taxonomy of AI Risks classifies how, when, and why these risks occur.The Domain Taxonomy of AI
物議を醸した「顔写真から自閉症を判別するアプリ」 医療分野でのAI活用に求められる倫理観を考える
8月3日、技術者向け情報共有サービス「Qiita」に、「顔写真から自閉症を判別してみた」というエントリが載った（現在は削除済み）。タイトルの通り、顔写真から自閉症を判別するWebアプリを開発したという内容だった。 これは、AIプロダクトの開発などを手掛けるのアイデミー（東京都千代田区）が提供するオンラインプログラミングスクール「Aidemy Premium」の受講者が公開したもの。このスクールが提供する講座の受講修了要件を満たすためとして、機械学習技術を使ってアプリを開発し、その開発の過程などをまとめていたのだ。 しかしエントリが公開されると、すぐさまネット上で疑問の声が上がった。「倫理的にアウト」や「就職活動で利用されたりしたらこわい」「他人の顔写真を勝手に食わせて『こいつやっぱり自閉症だって』と言いふらすといった差別的な使われ方をされかねない」など、差別を助長するような使い方ができるの
「無課金おじさん」じゃない方、金メダルの人について | あきゅらぼ Accu-Labo
右が、突如として世界的有名人となったユスフ・ディケチ（トルコ）。しかしこの記事においてメインで取り上げるのは、左のダミル・ミケッツ（セルビア）です。※NHK見逃し配信よりキャプチャ 突如として湧き上がったエアピストルの大ブーム。パリ五輪の10mピストル男女混合、ゴールドメダルマッチに出場したユスフ・ディケチ（トルコ）が格好いい！というのがきっかけとなりました。話題となったのはそのスタイルです。もともとピストル撃ちが、大仰な射撃ジャケットを着込んでいるライフル射手に比べて軽装に見えるのは当然としても、他のピストル撃ちと比べても「ごく普通の、そこらへんにいそうな格好」で、しかも年齢が51歳、ロマンスグレーの渋い風貌！ 他のほとんどの競技で出てくるのは、当然ですけれどいかにもアスリートっぽい若者ばかりです。そんな中にあんな渋いおじさんが出てきてしかもメダリストにまでなったんですから、とにかく新鮮
AI開発に黄色信号？ 市場急成長で“学習用データ枯渇”の懸念 解決策といわれる「合成データ」とは何か
生成AIの普及が続く現在、ある調査によれば、2024年のAIの市場規模は全世界で1840億ドル（約28兆円）に達すると見られている。さらに市場の拡大は続き、30年までに8267億ドル（約127兆円）となる見込みだ。 しかし、そんな生成AIの快進撃の裏側では、AIの普及・進化に必要な学習用データが枯渇する懸念があるという。 その解決策として期待されているのが「合成データ」（synthetic data）と呼ばれるものだ。 合成データとは何か？ まず合成データとは何か、なぜそれが注目されているかについて見て行こう。GPU分野のトップランナーである米NVIDIAは、公式ブログ上で合成データを次のように定義している。 合成データとは、コンピュータ・シミュレーションやアルゴリズムが、現実世界のデータの代替として生成する注釈付き情報のことである。別の言い方をすれば、合成データは、現実世界から収集された
コモドドラゴンの歯に鉄の「コーティング」、歯の摩耗遅らせる 新研究
「コモドドラゴン」はインドネシアの固有種で世界最大級のトカゲだ/Charlotte Ellis/Zoological Society of London ロンドン（ＣＮＮ） インドネシアの固有種で世界最大級のトカゲ「コモドドラゴン」の歯は獲物を引き裂きやすいよう鉄のコーティングで覆われていることがわかった。新たな研究が２４日、ネイチャー・エコロジー・アンド・エボリューションで発表された。 研究によれば、金属は歯の先端やのこぎり状の歯の先に集中しており、オレンジ色に染まっている。 英キングス・カレッジ・ロンドンの講師で歯の生命科学が専門のアーロン・レブランク氏が率いる研究チームは高度な画像化技術と化学分析を使ってコモドドラゴンの歯を調べた。 レブランク氏はＣＮＮの取材に対し、研究チームは、鉄が薄いコーティングの中に集中しており、それが切れ味を保つ保護層として機能していることを発見したと語った
FTXの破綻によって約1兆円の顧客資産を消滅させたサム・バンクマン＝フリードが魅了された「効果的利他主義」と目指した理想の社会とは?
当代随一の売れっ子ノンフィクション作家マイケル・ルイスの新作『1兆円を盗んだ男 仮想通貨帝国FTXの崩壊』（小林啓倫訳／日本経済新聞出版）は、暗号資産の取引所FTXを創業し、人類史上最速で資産100億ドル（約1兆6000億円:1ドル＝160円で計算）を超える大富豪になったサム・バンクマン＝フリードの栄光と没落を描いている。 「1兆円を盗んだ男」という邦題は、FTXの破綻によって87億ドル（約1兆円:当時のレート、1ドル＝115円で計算）の顧客資産が返済不能になったことからつけられた（その後、かなりの割合で返済が進んだようだ）。原題は“Going Infinite; The Rise and Fall of a New Tycoon（無限を目指す 新たな大君の栄光と没落）”。 サム・バンクマン＝フリードとは、どういう人物なのか? 一流のノンフィクションは「正しい場所」にいることから生まれるが
人間はなぜ「生成AI」に「意識がある」かのように感じてしまうのか…過剰な愛着や恐れを抱かないため「AIとの適切な距離感」（小林 啓倫） @moneygendai
生成AIを使う際には、「ハルシネーション（幻覚）」に注意が必要だと言われる。これは生成AIに何らかの質問をした際、そのAIが事実ではないことを、あたかも事実であるかのように回答してしまう現象を指す。まるでAIが幻覚を見ているかのように感じられるので「ハルシネーション」というわけだ。 ただ別の意味でも、生成AIを使うときには「ハルシネーション」に注意しなければならないようだ。それは人間の側が、まるで生成AIに意識があるかのように感じてしまうという「幻覚」のリスクだ。 生成AIに「意識」を感じる人々 ChatGPTのようなチャットボット型の生成AIを使っているとき、「意識」を感じるということはないだろうか？たとえば期待しているような答えがなかなか返ってこないとき、「こいつわざと指示に従わないようにしているんじゃ？」と感じたり、あるいは丁寧な返答をされたとき、「私が優しく接したから反応が良かった
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
The Air Force Is Researching a ‘MAD.AI’ That Would Adapt Drones to New Environments
https://www.ncsl.org/technology-and-communication/artificial-intelligence-2024-legislation
CogVideoX-5B - a Hugging Face Space by THUDM
コロナ関連投稿の45％がボットによる投稿だった…いつの間にか「噓の記憶」を植え付けられる「ＳＦのような世界」が現実に（小林 啓倫） @moneygendai
https://chatgpt.com/search
Haiper - AI Video Generator
Olympic AI Agenda
EU、見逃せない各国規制 イタリアは競争法でMeta調査 - 日経デジタルガバナンス
