「過学習で差別」はデタラメ？、問題ツイート受けAIの公平性を専門家が議論
「このシンポジウムを企画したのは、ある『AI研究者』の差別発言がきっかけだった」。Preferred Networks（PFN）の丸山宏フェローはシンポジウム冒頭でこのように語った。 日本の人工知能（AI）関連の研究会3団体は2020年1月9日、「機械学習と公平性に関するシンポジウム」を開催した。AI技術やAI倫理の専門家が登壇し、AIの活用が人の差別につながるリスクと回避策について議論を交わした。聴衆の過半は企業からの参加者だった。 主催したのは人工知能学会 倫理委員会、日本ソフトウェア科学会 機械学習工学研究会、電子情報通信学会の「情報論的学習理論と機械学習研究会」である。 開催のきっかけになったのは、東京大学大学院情報学環・学際情報学府の特任准教授を務めていたAI研究者の大沢昇平氏が19年11月に投稿したツイートである。 同氏が経営するAIスタートアップの人材採用方針について「中国人
《日経Robotics》AIトップ国際会議では何が起きているか
2019年12月8～14日にカナダ・バンクーバーで開催された国際学会NeurIPS（2017年まではNIPS）はAIのトップ会議の1つである。筆者はNeurIPSには2017年から3年連続で参加しており、NeurIPS2019にも参加してきた（この記事は参加最終日に書かれている）。 今回はNeurIPSとはどのような学会なのか、学会では実際何が行われているのか、参加することにどのようなメリットがあるのか、どのような研究が評価され、どのようなトレンドがみられるのかについて紹介していく。 急拡大するNeurIPS まず、NeurIPSについて説明する。機械学習のトップ国際会議としてはNeurIPSに加えて、それと双璧をなすICML、深層学習専門の新しいICLRなどがある。全科学分野のジャーナルのインパクト（h5-index）によるランキングでNeurIPSは27位であり、10位の画像認識のCV
苦悩するグーグル、自社サービスに「説明可能AI」を組み込んだ事情
「我々は『人工知能（AI）の基本理念』に従ったAIの構築に努めている。（その理念に沿って）人間がAIの挙動を理解するのに役立つ『説明可能なAI（Explainable AI）』を導入できることをうれしく思う」。米グーグルのトレイシー・フレイ（Tracy Frey） クラウドAI戦略ディレクターは同社ブログでこう表明した。 グーグルは2019年11月に、クラウド型AIサービスの一部に説明可能AIの機能を加えたと明らかにした。機械学習モデルの出力について、入力データの各要素がどれくらい寄与したのかを算出して表示できる。このサマリー情報を通じ、ユーザーはAIがなぜその判断を下したのか、理由を理解できる。
［独自記事］新システム稼働初日に足利銀のATMを止めた意外なロジックが判明
足利銀行で2020年1月6日、ATMが停止するトラブルが発生した。同日夜に復旧作業を進め、1月7日は午前7時のATM利用開始時刻から正常に稼働している。 このほど、トラブルが起こった原因が日経 xTECHの取材で明らかになった。2019年末から2020年初にかけて切り替え作業を進めていた新しい勘定系システムのプログラムにバグがあった。 記帳のページめくりにバグ トラブルは、磁気型のキャッシュカードと通帳の両方をATMで使い、通帳に記帳する際にページめくりが発生するケースで起こった。ATMは通帳を取り込んだまま停止し、上部や画面に取引中止のメッセージを出した。こうなるとATMを手動で復旧するしかない。 IC型のキャッシュカードと通帳を使ったATM取引では問題は生じなかった。ただ混乱を避けるため、足利銀行は1月6日の午前10時からATMでの通帳利用を全面的に取りやめ、窓口対応に切り替えていた。
2020年は「あの職業」がいよいよ不要に？AIの進化を新春大予測
2020年は「AIの民主化」が一段と進む。ユーザー企業はデータサイエンティストを抱えなくても、クラウド事業者が提供する「AIアプリケーション」を利用したり、「自動化されたAI開発技術」を使ったりするだけでAIのメリットを享受できるようになる。 背景にあるの2020年に起こる2つの変化だ。1つはAI（人工知能）を巡る大手クラウド事業者の競争が、ハードウエアなどの「プラットフォーム」からアプリケーションへと移る変化だ。AI技術を使って何ができるかをユーザー企業が考える時代は終わり、課題解決に向けて誰でも使える「ソリューション」を作り込んで提供する事業者がAI市場で優位に立つ。 もう1つがAIの開発技術の変化だ。人間が「教師データ」を与えなくても、AI自身が人間に頼らずに次々と学んで賢くなる機械学習手法が普及する。 顧客対応をAIが自動化 「顧客のビジネス課題を機械学習でどう解決するかが、我々に
通信障害が発生したら、真っ先に「アルミ製LANケーブル」を疑うべき理由
企業のネットワークで通信障害が発生──。その原因には様々なものが考えられるが、意外なところにも原因が潜んでいると最近の取材で分かった。今回はそれを紹介しよう。 LANケーブルは8本の心線で作られている。心線は2本ずつより合わせてあるため、より対線と呼ばれている。心線を構成する導体は電気抵抗の低い銅でできており、ここをイーサネットのデータ信号が流れる。 ところが、導体の表面だけが銅製で、内部がアルミニウムでできているLANケーブルが市場に出回っている。このLANケーブルは「CCAケーブル」「銅クラッドアルミケーブル」などと呼ばれている。 わざわざ導体内部をアルミニウムにするのは、銅よりもアルミニウムの価格が安いからだ。また、アルミニウムのほうが軽いというメリットもある。だが、このCCAケーブルが通信障害の原因になるのだ。
2020年の正月三が日は「他行ATM」での取引に制限、全銀協などが注意呼びかけ
全国銀行協会（全銀協）と金融機関各社は、2019年12月31日深夜～2020年1月4日未明にATMの利用に制限が生じるとして注意を呼びかけている。金融機関各社をまたぐ取引を中継する、NTTデータの「統合ATMスイッチングサービス」がメンテナンスを実施するためだ。 メンテナンス期間は一部を除き、統合ATMスイッチングサービスを介した他行ATMでの預け入れや引き出し、残高照会などができなくなる。また、他行宛ての振り込みでは銀行名・支店名・口座番号に加え、受取人の口座名義を手動入力する必要がある。 メンテナンス期間中も、統合ATMスイッチングサービスを介さない取引は影響を受けない。このため各金融機関の自行内ATMを使った取引は通常通りできる。このほか金融機関によってはコンビニATM、ゆうちょ銀行のATMなどを利用できる場合もある。 全銀協によると、メンテナンスは新年直前の12月31日の午後11時
可視化だけでは意味が無い、アイシン精機が「説明可能AI」の構築に挑む理由
トヨタグループの主要部品メーカーであるアイシン精機は2019年10月、カナダの人工知能（AI）スタートアップ、エレメントAI（Element.AI）と共同開発プロジェクトを始めた。目標は、AIが自ら判断の根拠を説明する「説明可能なAI（Explainable AI）」の開発だ。 エレメントAIは起業家のジャン＝フランソワ・ガニエ（Jean-Francois Gagné）氏と、AI研究の第一人者であるヨシュア・ベンジオ（Yoshua Bengio）氏がカナダのモントリオールで創業したスタートアップ企業だ。説明可能AIを研究する専門チームを有する。 アイシン精機 技術企画・統括部の名取直毅CP（Chief Project General Manager）は、エレメントAIとの協業で「2019年度には説明可能AIのPoC（概念実証）を、2020年度には本稼働を目指したい」と意気込む。 きっかけは
深層学習の国際学会「NeurIPS」リポート、日本勢で目立っていたのはあの団体
AI（人工知能）分野の有力な国際学会である「NeurIPS」が2019年12月8日から1週間にわたりカナダで開催された。9185件の投稿論文のうち、約15％の1428件のみが採択される狭き門だ。全体の約1割を米グーグル（Google）とその傘下企業が占める一方で、日本の企業や団体の存在感も着実に上がっている。 NeurIPSはカナダ・バンクーバーのダウンタウンにあるバンクーバーコンベンションセンターで開催された。初日は展示、2日目から論文の発表や招待講演、6日目、7日目は分野ごとのワークショップやコンペティションが繰り広げられた。 今年で33回目となるNeurIPSは「Neural Information Processing Systems」の頭文字を取ったもので、脳の神経回路を情報処理で実現することを目的とした学会である。2017年まではNIPSと略していたが、2018年から「神経」を
この世はプログラミング言語の戦国時代、乱戦のさなか「赤丸急上昇」の言語とは
RedMonkは過去7年間のランキングの推移グラフも出していて、これを見てもTypeScriptの飛躍は目覚ましいものがある。何しろランキング20位以内に初めて登場したのが2017年1月の調査で、それから3年足らずで10位に食い込んだ。 TypeScriptに限らず順位の変動は大きい。2013年以降ではClojure、Go、Swift、TypeScript、Kotlinが新たにトップ20位にランクインした。トップ20入りはしていないけれどRust、Julia、Elixirなどが控えている。逆にCoffeeScriptやGroovyのように、2013年ごろは20位内にランクインして勢いがあったが最近はパッとしない言語もある。 RedMonkの調査結果を見ると、2015年から新しい言語が登場したり順位が入れ替わったりする頻度が激しくなっている。2015年はGoが初めてトップ20位のランキング入
AIは「説明可能」でも説明責任を果たせない、リクナビ問題で見えた本質
リクルートキャリアが就活生の内定辞退率を予測したデータを企業に有償で提供していた問題で、2019年12月4日に個人情報保護委員会は「リクナビDMPフォロー」を利用していたトヨタ自動車や三菱商事など37社に行政指導したと発表した。利用企業が「辞退率の予測」という目的を就活生に知らせずにリクルートキャリアと個人情報をやり取りしたのが、個人情報保護法違反の疑いがあるとした。 厚生労働省も利用企業らに行政指導しており、リクナビ問題は一応の決着を見た。ただし決着したのは個人情報保護法など法律上の問題のみであり、企業のデータ活用のあり方を問う問題は未解明のままだ。脱法行為がなければ内定辞退率を算出してもよいのだろうか。辞退率の算出にはAI（人工知能）を利用したとする。では、人の将来を左右するような判断にAI活用はどこまで許されるのだろうか。 これはリクナビ問題にとどまらず、今後のデータ活用、AI活用に
「33自治体のデータがIaaSから消失」、日本電子計算がシステム障害の詳細明かす
日本電子計算は2019年12月16日、自治体向けIaaS「Jip-Base」を利用中の自治体でシステム障害が発生している問題について記者会見を開き、山田英司社長が「大変申し訳なく思っている」と謝罪した。同社によると、15％のデータはIaaS内のバックアップも見つからず、単独での復旧が不可能。残りの70％は復旧、15％は復旧作業中であることが明らかとなった。 これまで「50自治体」としていたのは、正確には47自治体と、6の広域事務組合や図書館であることも説明された。バックアップが見つからない15％には、このうち33自治体のデータが含まれるという。システム構成も一部が明らかにされ、仮想環境で1318の仮想OSが稼働していたことが判明した。 日本電子計算は復旧作業に当たって、IaaS内からOSやアプリケーション、業務データを含む仮想環境のイメージデータを復旧したり、イメージデータを同社のバックア
「別クラウドで再構築」、10日目突入の50自治体システム障害に進展
2019年12月4日に日本電子計算の自治体向けIaaS「Jip-Base」および、それを利用していた50自治体でシステム障害が発生した問題で2019年12月13日、複数の自治体が本番環境とは別のクラウド環境によるシステムの再構築を進めていることが分かった。 その一つである大阪府和泉市は、「現在はバックアップ用システムで稼働しているが処理能力に限界があるため、業務に支障が出ている。12月14日の土曜日に作業をして、週明けの12月16日から再開できる見込み」とコメントした。 千葉県浦安市や愛知県東浦町も同様に別クラウド上での再構築の検討を始めており、例えば浦安市ではまだ再開できていない要介護認定などの介護保険業務システムを別クラウドで再構築する方向で進めている。いずれの自治体も「日本電子計算に本番環境とは別のクラウドの領域を用意してもらい、そこに業務システムを立て直す」（和泉市）という。日本電
12億件の個人情報が流出、大規模トラブルなのに誰も謝らない理由
著名なセキュリティーリサーチャーのpiyokango氏が注目のシステムトラブルをピックアップ。今週の注目ネタは…。 2019年11月下旬に発生したトラブルを3件取り上げる。最初は12億件もの個人情報が公開されていたトラブルである。 検索エンジンの設定ミスが原因か（11月22日） 大量の個人情報が公開されるトラブルが世界中で相次いでいる。その多くは全文検索エンジン「Elasticsearch」の設定ミスに起因するとみられる。Elasticsearchはオープンソースの検索エンジン。多くのサーバーで利用されている。 そんな中、2人のセキュリティー研究者が、Elasticsearchを運用するあるサーバーで約12億件の個人情報が公開されていたと発表した。サイバー脅威インテリジェンスを提供する米データバイパー（Data Viper）のブログで明らかにした。 12億件は重複を排除した件数で、個人情報
リクナビ問題を防ぐ「秘密計算」、データ時代の本命技術を知る
企業が機械学習といった人工知能（AI）を活用するにはデータが重要だ。より良いサービスを提供するにはより多くのデータを収集する必要がある。多数の企業がデータを秘匿したまま持ち寄って個人のプライバシーの侵害を抑制しつつ活用できる技術が普及しそうだ。 多数の企業がデータを持ち寄ったり、一部の大企業がデータを戦略的に収集したりして新たな事業を始める動きは世界中で活発になっている。企業がデータを持ち寄って分析した最近の典型例は「リクナビ問題」だった。 リクナビ問題では、リクルートキャリアが就職情報サイト「リクナビ」を利用して就職活動をしている学生のサイト閲覧・行動履歴と、契約企業が保有する前年度の内定辞退者らの個人データを基に内定辞退の指標を販売していた。リクルートキャリアが学生らの同意を得ることなく個人データを契約企業である第三者に提供していたことや、十分な説明をせずに契約企業から委託を受けて扱っ
50自治体システム障害続報、不具合は米デルのストレージで発生
2019年12月4日に発生した50自治体のシステム障害について2019年12月10日、不具合を起こした日本電子計算がIaaS「Jip-Base」で利用していたのは米デルテクノロジーズ（Dell Technologies）のストレージ装置「Dell EMC Unity 500」であることが分かった。 日本電子計算によると、このストレージ装置の特定のバージョンのファームウエアを使い、さらに高速に読み書きするための並列処理機能を使う条件がそろったときに不具合が発生したと見ている。不具合を解消するためにストレージメーカーからの修正ファームウエアを適用したが、12月10日午前11時時点で復旧には至っていない。 日本電子計算の広報担当者は、「データの一部は読み書きできるようになったが、いまだに読み書きできない部分も発生している」とコメントした。修正ファームウエアを適用したのになぜ読み書きできないデータ
自分の頭で考えない文系は、実力を詐称する理系のエンジニアにだまされる
このコラムでは、私が2019年秋期の「基本情報技術者試験」を10月20日に受けたことを何度か書いている。この試験に関してSNSで興味深い書き込みを見つけた。内容は「3問目に『隣接行列』という未知の概念が出てきて、文系学生は驚いたのではないか」というものだ。 これを見て、私は意外に思った。問3は、午前試験の80問の中では易しい部類に入ると思っていたからだ。 私も隣接行列という言葉は知らなかった。しかし、問題文の下にある図を見れば「ノード同士が隣り合っているかどうかを表現する行列」であることはすぐに理解できる。意味さえ分かれば、正解を選ぶのは簡単だ。 この書き込みで引っかかったのは、「文系学生」という表現だ。文系学生が驚くということは、裏を返せば理系学生なら驚かないということだろう。 たしかに、文系学生は知らない技術用語が出てくるとギョッとするだろうし、理系学生ならたとえ言葉を知らなくても、私
120年ぶり民法改正へ、システム開発費「高騰」のリスク
約120年ぶりに債権法を抜本的に見直した改正民法の施行が、約4カ月後の2020年4月1日に迫っている。改正によりIT業界で新たな火種となりそうなのが、ITベンダーが納品した情報システムに対して、ユーザー企業が無償改修や賠償を請求できる期間が実質的に延長される点だ。大手ITベンダーや業界団体は対応に乗り出しているが、システム開発費が「高騰」するリスクをはらんでいる。 改正民法は2017年に国会で成立した。売買やサービスなどの「契約」に関するルールを定めた債権法を約120年ぶりに抜本的に見直す。建築業界と並んで大きな影響を受けるのがIT業界だ。ITベンダーとユーザー企業それぞれで対応が必要になる。 最長10年間、ユーザー企業は無償対応の請求が可能に ユーザー企業とITベンダーが交わすシステム開発の契約形態は大きく2つある。ITベンダーが成果物に対する完成義務を負う「請負」と、ユーザー企業が設計
公取委が「クッキー規制」？Webプライバシー問題はなぜ再燃したのか
「『個人情報等の活用促進』をテーマにした小委員会を自民党内に立ち上げられないか、と働きかけている」。自民党に所属する山田太郎参議院議員はこう明かした。個人情報を含むパーソナルデータの積極的な活用を議論する場を作りたいという。 山田議員が動くきっかけになったのは、Webサイトを訪問したユーザーの情報をブラウザーに一時保存する機能「Cookie（クッキー）」の利用が規制されるのでは、というネット上の議論だったという。朝日新聞が2019年10月29日付で報じた「『クッキー』情報収集、公取委規制へ」などの記事を機に、「欧州のように、いちいちCookie利用の同意を求めるようになるのか」「ネット広告が終わる」など懸念の声が相次いだ。 この「Cookie規制」は突然出てきた話ではない。公正取引委員会はGAFA（米グーグル、米アップル、米フェイスブック、米アマゾン・ドット・コム）といった巨大IT企業を独
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
京都市が基幹系刷新で2度目の失敗、2020年1月の予定だった稼働時期が「未定」に
