ナイジェリア鉄道に5ドル払った朝――AIによって新しい種類のバグが誕生しているのではないか

Google Walletの支払い履歴画面。「Nigerian Railway Corporation」という支払い先に注目。 定期的にやっておくべきなのがサブスクリプションの棚卸しである。 その日、まだ午前中のこと。私は、自分のGoogle Walletの支払い履歴を確認していた。そこで見つけたのが、まったく身に覚えのない5ドルの支払いだった。請求元は、「Nigerian Railway Corporation」とある。 な？ 検索してみると、ナイジェリア鉄道公社である。 私はナイジェリアに行ったことがない。というよりも、アフリカ大陸に一度も行ったことがない。ましてやナイジェリアの鉄道に乗ったことなどないのだが……。 Nigerian Railway Corporationの公式ページ。1898年以来、112年以上の歴史を持ち1067mmのケープゲージの独自設計の線路システムを運営。最初

[strawberryhunter]

不確かなものを変にいじらないでもらいたいものだな。Googleのエンジニアはなぜうまく行くと思ったのだろう。

[tsubame_nanami]

AIではないが、昔iD決済で行動圏外にある自販機での利用通知があって、カード会社に返金を申請する最中、「これ、利用日も金額もいつも使う自販機だ」となったことを思い出した。自販機側の名称変更未済らしかった

[turanukimaru]

Google が Railway Corporation の ID とかを持ってるわけがないので、Railway Corporation 側が Google と API 上のやり取りがあった時に Nigerian を名乗ったか、ドメインしか連携してないなら名称のほうはググるかAIで補完したのかも。

[kyahi227]

「Railway Corporation」というクラウド会社があるが、そこへの支払い履歴がGoogle Wallet上で「Nigerian Railway Corporation」と表示されていた理由がAIのハルシネーションではないかという記事

[theblackcoffee]

怖すぎるなあ。AIを使った補完のつもりが勝手に書き換えということだろうか。

[gogatsu26]

“なぜ、Google Walletは、クラウドホスティングの「Railway Corporation」をアフリカの鉄道公社「Nigerian Railway Corporation」に書き換えて、支払い履歴にならべたのか。しかも、月ごとに表記が違っていたりするのか？”