キヤノン・ニコン・ソニーが写真にデジタル署名を埋め込むカメラ技術を開発中、AIが生成した精巧な偽物と写真を区別するのに役立つ可能性あり
AI技術の発展によって、実写と見分けが付かない精巧な画像を作成できるようになりました。しかし、画像生成AIで作成した精巧な画像は偽情報の拡散に用いられる可能性があるため、画像生成AIによって生成した画像とカメラで撮影した本物の写真を正確に見分ける技術の開発が求められています。新たに、キヤノン・ニコン・ソニーといったカメラメーカーが写真に「実写であることを証明するデジタル署名」を埋め込む技術を開発していることが報じられています。 ニコンやソニー、「AI偽画像」防ぐカメラ 電子署名で - 日本経済新聞 https://www.nikkei.com/article/DGXZQOUC21C520R21C23A2000000/ Nikon, Sony and Canon fight AI fakes with new camera tech - Nikkei Asia https://asia.ni
AIが生成したフェイクニュースを掲載するウェブサイトが半年で1000％以上に爆増している
ChatGPTやBardなどの高性能なAIは人間と見分けが付かないような文章を生成できますが、生成する内容が事実であるとは限らず、悪意を持った誰かがフェイクニュースを生成させることもできます。そんなAI生成フェイクニュースを掲載するウェブサイトが2023年5月以降で1000％以上に急増し、政治や戦争、自然災害に関するデマがこれまでになく拡散しやすい状況になっていると報じられました。 Tracking AI-enabled Misinformation: Over 600 ‘Unreliable AI-Generated News’ Websites (and Counting), Plus the Top False Narratives Generated by Artificial Intelligence Tools - NewsGuard https://www.newsguard
生成AIの文章やコード、論文が“事実か”チェックする技術 米Meta含む研究者らが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 中国の上海交通大学やMeta AIなどに所属する研究者らが発表した論文「FacTool: Factuality Detection in Generative AI ? A Tool Augmented Framework for Multi-Task and Multi-Domain Scenarios」は、ChatGPTなどの大規模言語モデル（LLM）が生成したテキストの事実誤認を検出するためのフレームワークを提案した研究報告である。「知識ベースのQ」「コード生成」「数学の問題解決」「科学文献のレビュー執筆」の4つのタスクをサポートして
AIが生成したテキストが事実なのか確認する手法「FacTool」が登場 | AIDB
AIが情報を生成する能力は日々進化していますが、その一方で生成された情報の事実性を確認することは難しくなっています。そこで、この問題を解決するための新たなツールが開発されました。それが「FacTool」です。この記事では、FacToolの概要とその特徴、そしてどのように事実性を検証するのかについて詳しく解説します。 参照論文情報 タイトル：FacTool: Factuality Detection in Generative AI — A Tool Augmented Framework for Multi-Task and Multi-Domain Scenarios 著者：I-Chun Chern, Steffi Chern, Shiqi Chen, Weizhe Yuan, Kehua Feng, Chunting Zhou, Junxian He, Graham Neubig, P
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIや人間が書いた文章の真偽を判定するAIツール「LLMファクトチェッカー」のWebアプリケーション版が無償公開
深刻化する“偽情報”問題に事業者はどう取り組むか、「自由な言論」と「対策」を両立させる論点をまとめた報告書のポイント Twitterやヤフーも参加する「ディスインフォメーション対策フォーラム」が発表
