暴走するアルゴリズム、ウィーナーの危惧 - Zerobase Journal

金融の世界ではマシン同士の取引が「暴走」した事例が知られています。今後、多くの分野でマシン間通信が導入されていきますが、同様のリスクをはらんでいると言えます。これは単にリスクの量的な問題であるだけでなく、統治の問題としても考えるべきではないかと思います。 Wired日本版に「暴走するアルゴリズム」というシリーズがありました。 アルゴリズムはあまりにわれわれの金融システムに浸透しているので、もはや市場はそれなしには機能しなくなってしまっている。（...） だが最悪の場合、それは不可解でコントロール不能のフィードバックのループとなる。これらのアルゴリズムは、ひとつひとつは容易にコントロールできるものなのだが、ひとたび互いに作用し合うようになると、予測不能な振る舞いを─売買を誘導するためのシステムを破壊しかねないようなコンピューターの対話を引き起こしかねないのだ。（...） 今日ではこれらの唐突

[kkbt2]

「マシン同士が「対話」することで物事を自動処理するネットワーク・システムが、全体としては予測不可能な複雑系として「暴走」する」「それを引き起こすのがマシンの場合と、人間の場合とで、どちらがいいか」