AIを信頼するには、それがオープンで透明性がないといけない。以上。

以下の文章は、Heather Meeker による To trust AI, it must be open and transparent. Period. の日本語訳である。 機械学習は昔からずっと存在していた。しかし、2022年の終わり頃になって、ディープラーニングや大規模言語モデルが状況を変え始め、世間の目に入りだした。そして人々は、「我々はオープンソースソフトウェアを愛しているのだから、AI もオープンソースにしよう」と考え始めた。 だけど、オープンソース AI ってなんだろう？ まだ分からない、というのが答えになる。 機械学習モデルはソフトウェアではない。ソフトウェアは、私のような人間によって書かれる。機械学習モデルは訓練される。モデルは、人間によって与えられた入力データを基に、自動的に自己学習を行う。プログラマがコンピュータプログラムを修正したいと思えば、何が必要かは明らかだ

[sho]

我々は人を信頼するが、それは人間がオープンソースだからではない。AIとの違いはなんだろう?

[lamrongol]

"オープンソース AI ってなんだろう？ まだ分からない、というのが答えになる""まずは、AI を信頼できないといけない""何かが「オープンソース」であるには、ある包括的な本質を持つ必要がある。それは透明性だ"

[takahashim]

“透明性のない AI は――大きな可能性があるのに、信用できないために行き詰っているテクノロジーである――クリプトと同じ道を辿る危険がある” 唐突なCrypt批判が（原文通りですが）

[DecoyMaker]

AIに対してどんなテストをしたかを公開・検証可能にすることで信頼性は上がる、のか?

[gfx]

これなんだよな。

[hinonono]

オープンソースの本質は透明性ではない。他人のデータまで見れはしない。Microsoftはバックドアが無いことの確認のため各国政府にソースコードへのアクセスを許しているが、それは透明性であってオープンソースではない