本連載について AIの社会的影響について考え始めたのは、8年ほど前。当時は「ブームだしちょっと考えてみよう」というつもりだったが、社会的の関心は落ち着くどころかどんどん大きくなっていき、私自身も考え続けることになった。いまでは、AI関連の新聞記事に目を通すのが日課になってしまった。 「AIと社会」に関してどんな論点があり、何を知っておくとよいのか。すでに膨大な文献があるのは承知しているが、自分なりの考えを文章にしておきたい。「AIと社会」思考整理ノートと題した、2～3回の連載をやってみる*1。 第1回は、AIがもたらす「問題」について考える。 Vol.1：AI問題のタクソノミー AIと社会の関係、とりわけその負の側面に関する議論は、たいてい「問題の列挙」から始まる。人工知能（AI）という用語でくくられる技術範囲は広く、大規模言語モデルや強化学習など技術の範囲に絞っても、その応用範囲が広く、

!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function(){n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '14

人工知能規制、資本主義批判、民主主義再考 2023.05.22 Updated by yomoyomo on May 22, 2023, 18:58 pm JST 先週、米上院の公聴会に召喚されたOpenAIのサム・アルトマンCEOが、「AIに規制は必要」と発言したことが話題になりました。ディープラーニング分野に多大な貢献をしたAI研究の第一人者であるジェフリー・ヒントンが、Googleを退社して「AIは人類の脅威になる」と警鐘を鳴らすのと合わせ、今のAIを巡る報道には不安をかきたてる浮足立った空気があります。 冷静に考えれば、AI開発を免許制にすべきという規制を求めるサム・アルトマンの発言は、オープンソースによるコモディティ化を牽制しながら、市場で優位性を確保したところで規制を求めるルールメイキング戦略の定石に沿ったもので、要は現状の優位性の定着が目的であり、驚くところはありません。 た

こんにちは。「リーダブルコード」を先月読破して、感銘を受けた弁護士の人です。 なにに感銘を受けたかというと、「エンジニアが高級言語を効率的にコーディングするための工夫」は、契約という言語をコーディングするために援用できることがとても多いということです。 例えば、リーダブルコードは「関数には空虚な名前（tmpとかretvalとか）でなく、エンティティの実体に即した名前をつけよう！」と提案しています。 これめっちゃわかります！！！なぜなら、契約言語では当事者というクラスの表現のために「甲」「乙」という定義を未だに使います。そして、甲と乙を逆に書いてしまったままReviewを通過することが実際によくあります。オライリーさんには激怒されるでしょう。 しかし、よく考えると高級言語と契約言語が似ているのは当然だと思うようになりました。それは、どちらも「一定のインプットを入れると、必ず一定のアウトプット

2月13日に発生した福島県、宮城県の地震を受け、14日に行われた官房長官記者会見の中継映像を改ざんした画像がTwitter上で当時出回っていました。ここでは関連する情報をまとめます。 切り取ったテレビ映像を改ざんか フェイク画像 誤解を誘発…ＡＩで改変　判別難しく 福島、宮城の地震直後、ツイッターに投稿された加藤官房長官の記者会見の画像が、 何者かによって改ざんされたものであることが、読売新聞の取材でわかりました。 連載［虚実のはざま］ pic.twitter.com/umWygQTdJH— 読売新聞大阪社会部 (@osaka_syakai) 2021年4月12日 改ざんされたとみられるのは2月13日の福島、宮城両県で発生した最大震度6強（M7.3）の地震を受け、2月14日に行われた官房長官記者会見の中継シーン。 問題の改ざん画像は記者会見中継で笑みを浮かべた表情の官房長官のシーンを切り取

「福祉手当の不正受給」の危険度が高い人物を、AI を使って予測し、洗い出す――このAI が“人権侵害”に当たるとして、差し止めを命じる判決が出された。 オランダ・ハーグの裁判所が５日、政府がAIシステムで行っている福祉手当の「不正受給者」洗い出しのための危険度予測が、欧州人権条約に違反しているとして、使用停止を命じる判決を出した。 裁判には国連の人権専門家も加わり、その人権侵害をめぐる議論は国際的な注目を集めた。 ＡＩによる行政や司法手続きなどの「自動化」は、幅広い分野で普及し始めている。 だが、その仕組みや効果が不透明な一方で、人権侵害への批判、特に貧困層やマイノリティへのダメージにつながる、との疑問の声も高まっている。 米国では、刑事被告の保釈手続きで、再犯危険度を予測するＡＩシステムが広く採用されている。 だが人権団体の調査によると、高止まりが指摘される勾留件数が、AIシステム導入に

優れた料理人はお客さんが育てると言うことばがあります。料理を食べるお客さんが、それがほんとにうまいかどうかわからないと、料理人のレベルも上がらないということです。 実はAIにもそれと同じような面があります。 AIがわからない人にAIを渡しても、AIの真価は発揮できないということです。 今回は、汚染された水道管を発見することができるAI（機械学習による予測モデル）をせっかく開発したにもかかわらず、結局使われなくなってしまい、そのせいで問題の水道管が今でも取り替えられず、多くの人の命が危険にさらされていると言う、アメリカのミシガン州のフリントという町で起こった話を紹介したいと思います。 以下、要約。 --- How a Feel-Good AI Story Went Wrong in Flint - Link アメリカのミシガン州にフリントという、かつてはアメリカの自動車産業の繁栄とともに栄え

2018/5/9 追記 寄稿連載「植田かもめの『いま世界にいる本たち』」でも本書を取り上げました！ 翻訳版「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」が2018/6/13に発売！ Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy コンピュータは人を差別するだろうか？ 本書"Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy"（'数学'破壊兵器：ビッグデータはいかに不平等を助長し民主主義を脅かすか）は、人間の主観に頼らず客観的で中立的な分析を目指したはずのデータ活用に潜む罠を提起する。 データサイエンティストである著者のキャシー・オニー