生成AIによる「慣用表現の『乗っ取り』」と、その根底にある別の問題と - 渋谷駅前で働くデータサイエンティストのブログ
かなり前から「ChatGPTに学術論文を（英語で）書かせると"delve"のような普段使わないような単語が多く使われるのでバレやすい」という話がSNS以下各所で頻繁に噂されていたんですが*1、最近になってこの件について面白いpreprintが発表されていたのを知りました。それがこちらです。 もう読んで字の如しで「ChatGPTが登場して以来学術論文に使われる単語のレパートリーが劇的に変わってしまった」というのを、実際に具体的なデータに基づいて示した論文です。割と短めの読みやすい論文であることと、先述したようにSNSでは頻繁に噂されていた推測を明確化したということもあり、折角ですのでこのブログで簡単に紹介してみようと思います。 Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。「delve」「realm」「utilize」あたり。 （限界助教先生の記事
高性能チャットボット「ChatGPT」を支える“劣悪な労働搾取”を米誌がスクープ | 時給は最高2ドル。残虐な動画を検閲し続ける…
トラウマを残した「労働搾取」 米「タイム」誌がテクノロジー業界の闇を暴き、大きな話題になっている。 問題となっているのは、高い文章生成能力が注目される、AI搭載チャットボットの「ChatGPT」。その生みの親であるAI企業「オープンAI」がパートナー企業を通じ、時給2ドル以下でケニア人労働者を雇っていたことがわかったのだ。 オープンAIはマイクロソフトから100億ドルの出資を受ける可能性が報じられるほど、いまもっとも注目されている企業だ。いったい何が起きているのか。 オープンAIが外注先として依頼していたのは、米サンフランシスコに拠点を置くサマ社。同社はケニアやウガンダ、インドの人材を雇い、グーグルやメタ、マイクロソフトなどの顧客向けに、有害なネット情報を選別する「データのラベリング作業」を実施していたという。 ケニア人の労働者たちは、データのラベリング作業の過程で、処刑や性的虐待など極め
「AI学習禁止」を表明しても、現行の法律では対応できない？技術と著作物の今後について議論盛り上がる
SmokingWOLF@片道勇者2開発中/ゲーム開発者 @WO_LF 「AI学習禁止」がトレンドに入っててすごい時代の風を感じる （※「自分のイラストを学習データに使わないで」という話題。個人のイラスト複数枚を入力することで画風をまねた顔イラスト画像を生成できるサービスが今日リリースされた影響） SF小説もびっくりのとんでもない世の中になってきた。 2022-08-29 22:21:26 おねねちゃん @OneneChan ぐああああｯｯｯ！！！悪用対策ｯｯｯ！！！！！！！転載禁止ｯｯｯ！！！自作発言✕ｯｯｯ！！！トレパク✕ｯｯｯ！！！！ …………AI学習禁止ｯｯｯ！！？？！？(𝗻𝗲𝘄) ｷﾞｬｧｧｧｧｧｧｧｧｧｧｧｧめんどくせえ""""ぇぇえええッヅッ！！！！！！！！！！！！！！！！！！""""" pic.twitter.com/82NGOLoRTD 2022-08-29 18:5
その個人情報はうそか本当か、AIが判定 4種類のうそのつき方が明らかに
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 ブリストル大学、Youtility、キングス・カレッジ・ロンドン、ソーレン・プライブッシュ氏による英国の研究チームが発表した「Truth or Dare」は、オンライン上で入力された個人情報が真実なのか虚偽なのかを予測する、機械学習を用いたシステムだ。 結果は、827人を対象にした映画の割引券アンケートにおいて、約89％の精度で真偽判定できた。また、ユーザーは真実を隠すため、主に4つの方法を用いてプライバシーを保護することが分かった。 近年、オンライン上で個人情報を求められるケースが往々にしてある。これらデータは、企業側である処理者において、サービスのパーソナライズ、製品開発、ターゲット広
「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象
欧州議会が2021年10月6日に、法執行機関が顔認証技術や犯罪を予見する技術を使用することを禁止するよう求める決議を採択したと発表しました。欧州議会が人工知能(AI)を用いた捜査の禁止に乗り出した背景には、アルゴリズムの偏りにより差別が助長されることへの懸念があります。 Use of artificial intelligence by the police: MEPs oppose mass surveillance | News | European Parliament https://www.europarl.europa.eu/news/en/press-room/20210930IPR13925/use-of-artificial-intelligence-by-the-police-meps-oppose-mass-surveillance European Parliame
Shuji Sado (佐渡 秀治) on Twitter: "ふむ、やっと見つけた。スウェーデンのとある学校で出席確認のために顔認識の実証実験が行われたがその実験自体がGDPR違反で制裁金をくらった事例。実験は生徒の同意の下で実施されたが、データ主体である生徒と学校間の権力不均衡に鑑みて同意… https://t.co/kdFqRaluS8"
ふむ、やっと見つけた。スウェーデンのとある学校で出席確認のために顔認識の実証実験が行われたがその実験自体がGDPR違反で制裁金をくらった事例。実験は生徒の同意の下で実施されたが、データ主体である生徒と学校間の権力不均衡に鑑みて同意… https://t.co/kdFqRaluS8
「駅で出所者を顔認識」とりやめ JR東「社会的合意まだ得られず」：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
【独自】駅の防犯対策、顔認識カメラで登録者を検知…出所者の一部も対象に（読売新聞オンライン） - Yahoo!ニュース
ＪＲ東日本が７月から、顔認識カメラを使って、刑務所からの出所者と仮出所者の一部を駅構内などで検知する防犯対策を実施していることが、わかった。必要に応じて手荷物検査を行うとしている。刑期を終えた人らの行動が監視、制限される可能性があり、議論を呼びそうだ。 【写真】盗撮行為に悪用されることが多い、消しゴムやＵＳＢを模した小型カメラ ＪＲ東や関係者によると、検知の対象は、〈１〉過去にＪＲ東の駅構内などで重大犯罪を犯し、服役した人（出所者や仮出所者）〈２〉指名手配中の容疑者〈３〉うろつくなどの不審な行動をとった人。 ＪＲ東は、これらの対象者の顔情報をデータベースに登録。主要１１０駅や変電所などにはネットワーク化されたカメラ８３５０台が設置されており、映った人の顔情報と登録された顔情報を自動照合する。実際に使用するカメラの台数は公表されていない。
「悪いやつをAIで予測する」のがなぜいけないか - yhara.jp
「この人、家賃を滞納しそう？」AIが予測 入居審査を45分→16分に - ITmedia NEWS いやーこれはまずい。この件に限らず、「悪いやつをAIで予測する」というのはすなわち 「あなたに似た人が悪いことをしたので、あなたも悪い人と見なします」 ということだからだ。 レストランのランプ たとえばこんな例を考えてみよう。ある街でレストランが強盗に襲われる事件が相次いだ。これを防ぐため、レストランの入口に防犯カメラを設置することにした。このカメラはAIで犯罪者の顔を学習していて、「犯罪を犯しそう」な人間を検知してくれるのだ。 もちろん検知するといってもサイレンが鳴ったりするわけじゃない。あくまで「犯しそう」なだけで、まだ犯罪を犯したわけではないからね。でもキッチンに置いてある赤いランプがピカピカ光って、「要注意人物」が来たことはわかるようになっている。ああこれで安心だ。 …さて、これは本
Twitterが「AIの差別」を認めた理由とは
ツイッターの投稿写真から自動でサムネイル（縮小）画像を切り出すAIは、黒人よりも白人、男性よりも女性を優先する「バイアス」が確認された――。 ツイッターは、そんな調査結果を明らかにした。 ツイッターのサムネイル表示に「差別」がある、とのユーザーによる指摘が昨年秋から相次ぎ、炎上。ツイッターが調査に乗り出していた。 AIによる画像認識には、これまでも人種、性別による認識の精度の違いが指摘されてきた。AIを使った監視カメラの精度の問題から、米国で黒人が誤認逮捕される事件も複数起きている。 ツイッターは今回の調査結果によって、AIによる画像トリミングには「構造的な格差があった」と述べ、システムは廃棄。すでにモバイルアプリでは5月から、ユーザーが投稿する画像のまま、トリミングせずに掲載する機能を、実装しているという。 自動トリミングとは、AIによる画像の「編集」作業だ。 ツイッターが今回の検証でた
ＮＴＴドコモと富士通が共同展開、「顔データなしで不審者検知」 の仕組み ニュースイッチ by 日刊工業新聞社
【事故の未然防止】 「事前の顔データ登録がなくても、危険な行動をする可能性を数値化できる。未知のトラブルを未然に防止可能だ」―。ＮＴＴドコモ５Ｇ・ＩｏＴビジネス部の織田敦先進ソリューション第一担当課長は、富士通と共同で展開する「不審者検知ソリューション」の特徴をこう説明する。 同ソリューションは、人の行動や動作を映像から分析・数値化し、不審な行動を起こす可能性のある人物を検知する。「不審者に多い（身体の）振動パターンがある」（織田担当課長）といい、解析所要時間は２―３秒。不審な行動を検知した場合、その旨を警備員が持つタブレット端末に知らせる。検知された場所に警備員が駆けつけるなどすれば、犯罪や事故の未然防止につながる。 【顔認証と競合】 セキュリティー関連製品市場には、既に顔認証技術を活用したシステムが存在する。だが、こうしたシステムでは、犯罪歴を持つ人物の顔をあらかじめ登録しておく必要が
ＥＵ、初のＡＩ規制案 公共空間の顔認証「原則禁止」：時事ドットコム
ＥＵ、初のＡＩ規制案 公共空間の顔認証「原則禁止」 2021年04月21日22時05分 欧州連合（ＥＵ）欧州委員会のフォンデアライエン委員長（ＥＰＡ時事） 【ブリュッセル時事】欧州連合（ＥＵ）欧州委員会は２１日、人工知能（ＡＩ）の利用に関するＥＵ初の規制案を発表した。「監視社会」への懸念を払拭（ふっしょく）し、ＡＩ活用を促進するため、市民の権利保護や不正阻止のルールを整備。特に顔認証をはじめとする生体認証技術は、公共空間における警察などによる法執行目的での利用を原則禁止する。 政府の個人情報管理はどこまでなら許せるか、今こそ考えよう【怒れるガバナンス】 規制に違反すれば最大で３０００万ユーロ（約３９億円）か、企業なら全世界売上高の最大６％のいずれか高い方が制裁金として科される。 国際 コメントをする
続・続・国産ブラウザアプリSmoozはあなたの閲覧情報をすべて外部送信している
この記事は過去2回にわたる検証記事の続きとなります。 国産ブラウザアプリSmoozはあなたの閲覧情報をすべて外部送信している 続・国産ブラウザアプリSmoozはあなたの閲覧情報をすべて外部送信している 前回の記事では、おすすめ記事機能を有効にしていると、Smoozがユーザーの閲覧しているURL情報を送信してしまうことについて解説しました。 ユーザーID、URLと共に送信されているbc、bt、bdという項目の内容がわからないままでしたが、これもユーザーの情報であるはずだと思い、調査を続けてきました。 ▼これがおすすめ記事のために送信される内容 （この内容は記事の最後にテキスト情報としても掲載しておきます） URL情報に関連するもので 『c、t、d』 と呼ばれそうなものは何か。 ・cのデータ量は飛び抜けて多い ・cとdは一致が見られることがある ・一部が一致しながらもcのほうが長かったりもする
米グーグル、AI倫理専門の黒人研究者の解雇に従業員ら反発
米グーグルのロゴ。ベルギー・ブリュッセルで（2020年2月14日撮影、資料写真）。(c)Kenzo TRIBOUILLARD / AFP 【12月5日 AFP】米グーグル（Google）の従業員ら1000人以上は4日、人工知能（AI）の倫理を専門とする黒人研究者を同社が解雇したことについて、理由の説明を求めた。 ティムニット・ゲブル（Timnit Gebru）氏は今週ツイッター（Twitter）に、辞職願が受理されたとグーグル側から通告されたと投稿。自身は辞職の申し出をしていないと主張している。 ゲブル氏はこれに先立ち、会社から論文の撤回を求められたとのメールを社内グループに送っていた。同氏は会社からの解雇通知だとするメッセージをツイートし、そこには「昨夜あなたがグループの非管理職に送ったメールのある部分は、グーグルのマネジャーに期待されていることと矛盾する振る舞いが反映されている」と書か
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://twitter.com/tanosensei/status/1616373220080521216
『Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】』へのコメント
Google従業員が労働組合結成 利益優先を批判 - 日本経済新聞
2021年、インターネットとITは大きな転換期へ イノベーションから規制、倫理の時代に 〜Google、Facebookへの大型訴訟が示すもの〜 
Engadget | Technology News & Reviews
グーグルがAIの倫理を専門とする研究者を解雇、業界に広がる波紋の理由