学習データに最適化されすぎて本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張
機械学習における過学習(過剰適合／オーバーフィッティング)とは、AIが学習データのみに最適化されてしまい、未知のデータに対する予測能力が低くなってしまうという現象です。そんな過学習と同様の現象が機械学習分野だけでなく社会全体のさまざまな場面でも発生していると、Google傘下の人工知能研究所・Google Brainの研究者であり近年の画像生成AIに広く用いられている「拡散モデル」の論文執筆者でもあるJascha Sohl-Dickstein氏が主張しています。 Too much efficiency makes everything worse: overfitting and the strong version of Goodhart’s law | Jascha’s blog https://sohl-dickstein.github.io/2022/11/06/strong-Go
車許容する社会指摘増田(以下、車増田)氏の言いたいことは 人命第一を謳う..
車許容する社会指摘増田(以下、車増田)氏の言いたいことは 人命第一を謳うこの社会で便利だという理由で人が死ぬ原因となる車(装置)を許容するのはおかしい、という話かと思いますが もう少しこの表現を抽象化させると 大多数の利便性を優先して、人命軽視を許容しているのではないか、という話になると思います。 一旦この解釈が正しいとすると ブコメに多くあったメリットデメリットの話は若干回答がずれている、というかあまり良い回答ではないでしょう。 実はこの話、科学技術を世に出す際に倫理的に何が求められるのか、という話でもあり、 大学で科学技術と倫理(技術者倫理)という教養として習う範囲でもあります。 と言うわけで、ここでは科学技術と倫理の観点からなぜ許容されるのか話をしていこうと思います。 メリットデメリット論のまずさと、本題に入るまえにブコメで多くされていた メリットが大きいからリスクが許容される、つま
エイリアンが地球に来ないのはなぜ？→あんな酸素とかいう猛毒ガスに包まれた星に生物なんかいませんわと思われてるのでは
ベルカ宇宙軍 @noradjapan Belka Space Command 情報収集とそれを纏めるのが好きな人です。ASD/ADHD 趣味は模型作り、ゲーム（KSP、MSFS2020、DCSworld） DEFCON 3 pixiv.net/users/11149757 ベルカ宇宙軍 @noradjapan エイリアンが地球に来ない理由 「猛毒の酸素で満たされた惑星に生命が誕生する可能性はない。」 「酸素の星は高度な知的生命体は誕生しない」 「酸素は危ない。」 2021-12-06 21:48:05 リンク レタスクラブ かつては"猛毒"だった!? 「酸素」と生物の祖先 誰かに話したくなる地球の雑学(20） - レタスクラブ 日本の裏側は本当にブラジル!? フグが自分の毒で死なないのはなぜ？ きっと誰かに話したくなる理系のウンチクを、『人類なら知っておきたい 地球の雑学』から1日1本お.
「AIは人間を超える」なんて、本気で信じているんですか？（西垣 通,千葉 雅也） @gendai_biz
AIが人間を超える知性をもつ、AIで多くの人の仕事が奪われるーーそんな議論が盛んになって数年。空前の「AIブーム」は、どんな結末を迎えるのか？ 一部の人が夢見る「シンギュラリティ」はやってくるのか？ こうした過熱に「待った」をかけるのは、情報学者の西垣通氏だ。元エンジニアでコンピュータに精通した氏は、なぜ「AIは人間を超えない」と考えるのか。そこにはカンタン・メイヤスー、マルクス・ガブリエルなど気鋭の哲学者が提唱する、最先端の哲学が関係していた。 今回、メイヤスーの主著『有限性の後で』の翻訳でも知られる、哲学者・立命館大学准教授の千葉雅也氏と西垣氏の対談が実現。科学者さえ気づいていない「AIの限界」を存分に語り尽くす。 AIブームは、これで3回目 千葉：西垣先生の新著『AI原論』では、「思弁的実在論」と銘打って、僕も訳者の一人であるメイヤスー1の『有限性の後で』という本を、かなり大々的に議
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
