画期的な新技術がAI経由で流出 敏腕開発者のプロンプト入力ミス
企業はAI（人工知能）とどう関わり、そのリスクをどう理解すべきか。スポーツ用品メーカーのシューズ開発担当者の仮想ストーリーから、データの権利の尊重と堅牢（けんろう）性にかかわるリスクについて学ぶ。 本連載は、架空のストーリーを通じて、企業がAI（人工知能）リスクのわなにはまる様子を紹介し、それぞれのケースでリスクを軽減する策を考察する。第3回は業務への利用を許可された生成AIの助けを借りて社内プレゼン資料を作った結果、虎の子の新技術をすべて失った企業のストーリーです。なお、あくまで架空のストーリーであり、登場する企業・団体や人物は実在しません。（編集部） スポーツ用品メーカーで開発担当のマリナ。マリナが手がけて2年前に発売したランニングシューズはユーザーから大好評で会社を代表する売れ筋商品になっています。今はこの商品を改良した新製品のために、フランスにある大学と画期的な新技術を使ったアウト
生成AIを悪用するワーム セキュリティー研究者が警鐘
生成AI（人工知能）を搭載したシステムを狙って情報を窃取し、生成AIを悪用して自らを拡散するワームが今後登場する恐れがある。セキュリティー研究者が2024年3月、実際にそのようなワームを開発したとの論文を発表した。生成AIにシステム権限を与えすぎないといった対処が必要だ。 生成AIを悪用するワーム「Morris II（モリスツー）」を開発して、機密データの窃取やマルウエアの拡散を可能にしたとの論文を2024年3月に発表したのは、米コーネル大学やイスラエル工科大学などの研究者だ。ワームとは自分自身をコピーして拡散するマルウエアの一種だ。 Morris IIは「生成AIエージェント」へ攻撃を仕掛ける。生成AIエージェントはChatGPTやGeminiといった生成AIモデル（基盤モデルや大規模言語モデルなどとも呼ばれる）と連係し、人間に代わって自律的にタスクを処理するシステムである。 論文は生成
クラウドで動く生成AIアプリ、MicrosoftとGoogleが合計6種類もの開発ツール
大手プラットフォーマーが2024年5月から6月にかけて発表した生成AI（人工知能）に関する施策を比較しながら紹介する本特集。第3回は米Microsoft（マイクロソフト）と米Google（グーグル）が発表した、クラウドで稼働する生成AIに関する取り組みを紹介しよう。 本特集の第1回、第2回で取り上げたように、大手プラットフォーマーは生成AIの新しい選択肢として「オンデバイス」に力を入れ始めている。クラウドで推論を行うクラウドLLM（大規模言語モデル）ではなく、スマートフォンやパソコンなどのデバイス上で稼働するオンデバイスSLM（小規模言語モデル）を使う。 もっともオンデバイスSLMは、クラウドLLMを単純に置き換える存在にはならない。オンデバイスSLMはプロンプトを入力してから結果が表示されるまでのレイテンシー（遅延）が低い一方、モデルのパラメーター数が少ないため、性能ではクラウドLLMに
Googleが渋いセキュリティー新技術、「クッキー泥棒」対策の決め手になるか
米Google（グーグル）といえば、生成AI（人工知能）やクラウドサービスで派手な技術を打ち出す印象が強い。ただサイバーセキュリティー分野では、派手さはないが実用的な技術やサービスをしばしば発表していて、筆者はひそかに楽しみにしている。以前にも「グーグルがオープンソースソフトウエア（OSS）にお墨付きを与える」という渋いサービスを取り上げたことがある。 そんなグーグルが2024年4月2日（米国時間）、また渋いセキュリティーの新技術を発表した。同社が「デバイス・バウンド・セッション・クレデンシャルズ（DBSC）」と呼ぶ技術である。まだあまり注目されていないが、「クッキー泥棒」ともいうべきサイバー攻撃への対策の決め手になる技術かもしれない。そう感じ、サイバーセキュリティーの専門家に取材することにした。 「ログインできるクッキー」が狙われている クッキー泥棒とは、ユーザーのWebブラウザーに保存
「顔」を盗むiPhoneマルウエア出現、ディープフェイクで銀行口座に不正アクセス
生成AI（人工知能）などを悪用した「ディープフェイク」が大きな脅威になっている。その1つが「顔交換」。自分の顔を他人の顔にすげ替えた動画や画像を生成する。無料あるいは安価なツールやサービスが出回り、誰でも簡単に試せる状況になっている。 顔交換の悪用方法の1つが、生体認証の回避である。顔交換で他人になりすまし、顔認証をパスして不正にログインする。セキュリティー企業の英iProov（アイプルーブ）によると、顔交換を悪用したサイバー攻撃が2023年後半に急増。2023年前半と後半を比べると、報告件数が8倍以上になったという。 顔交換を実現するには、なりすましたい相手の顔情報を盗む必要がある。そのために開発されたと思われるマルウエアを、シンガポールのセキュリティー企業Group-IB（グループIB）が2024年2月15日（現地時間、以下同）に報告した。 Androidスマホ版（Android版）と
「“いんちき”な手法が人を育てる」、登大遊氏がサイバー立国へ異色の提言
日経クロステック EXPO 2021の5日目の2021年10月15日には、NTT東日本ビジネス開発本部特殊局の登大遊氏が「世界に普及可能な日本発のサイバー技術の造り方」と題した講演を行った。今回、2021年10月7日に発売した『日経テクノロジー展望2022 世界を変える100の技術』（日経BP）の出版記念として登氏を招いた。 登氏は、筑波大学の学生だった2003年に情報処理推進機構（IPA）の「未踏ソフトウェア創造事業」で、スーパークリエータ認定を受けた人物。NTT東日本のほかにも、筑波大学産学連携准教授、ソフトイーサ代表取締役、IPA産業サイバーセキュリティセンターサイバー技術研究室室長などの肩書を持つ異色のエンジニアだ。2020年4月にNTT東日本に入社するやいなや、わずか2週間で「シン・テレワークシステム」を作り上げて無償提供を開始するなど「天才プログラマー」との評価も高い。 そんな
車両サイバー対策でシェア1割へ、トレンドマイクロの知見生かす
トレンドマイクロの100％出資会社であるVicOneは2023年9月、日本法人を設立し本社機能を台湾から日本に移すと発表した。トレンドマイクロのセキュリティーシステムに関する知見を生かしながら、日本を拠点に自動車セキュリティー事業の拡大を図る。 VicOneの最高経営責任者（CEO）であるMax Cheng（マックス・チェン）氏は「今後、自動車の設計段階からセキュリティーを考える重要性が増してくる」と指摘する（図1）。その上で、「日本独自のシステムに対応することで日本企業との連携をより一層強化し、そこから欧州や米国にも展開していく」とした。2026年までに世界で10％のシェア獲得を狙う。 日本に本社機能を移設した理由として、親会社であるトレンドマイクロの本社が東京にあることを挙げた。自動車産業を取り巻くエコシステムは各国で異なるが、「トレンドマイクロの事業で構造を熟知している日本を拠点する
「京大生でもx＝x＋1が分からない」、喜多教授が明かすPython教育の実態
プログラミング言語「Python」の大規模イベント「PyCon APAC 2023」が2023年10月27日と28日の2日間にわたって開催された。1日目に行われた京都大学国際高等教育院の喜多一教授による基調講演を中心に、イベントの内容をリポートする。 PyCon APAC 2023は、1日目の基調講演「Why University Teachers Wrote a Python Textbook？」で幕を開けた。京都大学でPythonを使ったプログラミング教育を担当している喜多教授が、その実態について英語で講演した。 喜多教授は、主に大学1年生向けの教養教育の一環として、Pythonを使ったプログラミングコースを2018年に始めた。そのための教科書をつくり、2019年に公開した。誰でも無償でPDFをダウンロードできる。教科書は毎年改訂しているが、一般向けに公開したのは2019年版と2021
トレンドマイクロ系VicOneが日本移設、自動車セキュリティーでシェア10%へ
トレンドマイクロの100%出資会社であるVicOneは2023年9月26日、日本法人を設立し本社機能を台湾から日本に移すと発表した。トレンドマイクロのセキュリティーシステムに関する知見を生かしながら、日本を拠点に自動車セキュリティー事業の拡大を図る。 VicOneの最高経営責任者（CEO）であるMax Cheng（マックス・チェン）氏は「今後、自動車の設計段階からセキュリティーを考える重要性が増してくる」と指摘する。その上で、「日本独自のシステムに対応することで日本企業との連携をより一層強化し、そこから欧州や米国にも展開していく」とした。2026年までに世界で10%のシェア獲得を狙う。 日本に本社機能を移設した理由として、親会社であるトレンドマイクロの本社が東京にあることが挙げられるという。自動車産業を取り巻くエコシステムは各国で異なるが、「トレンドマイクロの事業で構造を熟知している日本を
MSが国内拠点で生成AIを提供、政府採用に不可欠な「機密情報」の取り扱いで先手
米Microsoft（マイクロソフト）は2023年7月27日、生成AI（人工知能）の機能を法人向けに提供する「Azure OpenAI Service」を、日本国内の拠点で提供開始したと明らかにした。狙いは政府が生成AIを本格活用する際に求められるであろう要件を、先手を打って満たすことだ。 政府は生成AIを業務で本格利用するための要件をまだ具体的に示してはいない。本格導入の時期も未定で、2023年秋以降と見られる。ただし、政府へのAI政策の提言案をまとめている自民党は「（サービスを提供する）データセンターは日本になければならない」（平将明衆議院議員）などの意見を集約しており、それに沿うマイクロソフトの取り組みを評価した。 政府利用の要件を議論した自民党の「AIの進化と実装に関するプロジェクトチーム（PT）」の会合。日本マイクロソフトの担当者も出席し日本での体制を説明した。 国会答弁の案や行
国交省の河川監視カメラ337台が停止、IoT端末なのに無防備で運用
2023年1月中旬、国土交通省が199台の河川監視カメラの運用を停止した。監視カメラに対する不正アクセスの疑いが生じたためだ。その後、同じ事業者が設置したカメラを含め、合計337台を停止した。カメラに外部からアクセスするためのパスワードが初期状態のままであり、通信ポートのアクセス制限も未設定など、セキュリティー運用に不備があった。 「国土交通省所管の簡易型河川監視カメラにつきまして、システムのメンテナンスを行うため、令和5年3月1日からしばらくの間、提供を停止いたします」――。 国土交通省は2023年3月1日、同省が運営するWebサイト「川の防災情報」で、一部の河川監視カメラ画像の提供を停止すると発表した。同サイトでは国交省が設置したカメラやセンサーなどから、全国の河川の水位計のデータや河川監視カメラが撮影した画像などをリアルタイムで確認できる。 国交省が設置した河川監視カメラは全国で約1
生成AIに強いメタがChatGPT対抗サービスを提供できない、謎の理由が判明
生成AI（人工知能）の世界では、米OpenAI（オープンAI）と米Microsoft（マイクロソフト）による連合と米Google（グーグル）が頂上決戦を繰り広げているが、続く3番手を挙げるとすれば米Meta（メタ）だろう。 米Amazon Web Services（アマゾン・ウェブ・サービス）やスタートアップなど、生成AIや大規模言語モデル（LLM）のサービスを提供する企業は他にも存在するのだが、生成AIやLLMの開発力ではメタが抜きん出ているためだ。 メタの技術力の高さを示す象徴が、同社が公開する生成AIやLLMのオープンソースだ。 メタが2023年2月に事前学習済みのLLMである「LLaMA（ラマ）」をオープンソースとして公開したことで、数多くの「ChatGPTクローン」が登場したことは、以前の本コラムでも紹介した通りだ。 その後もメタは強力な能力を備えた「すごいAI」を相次ぎオープン
高度な検出不能マルウエアを数時間で生成、研究者はChatGPTをどうだましたのか
話題の生成AI（人工知能）チャットボット「ChatGPT」。質問に答えるだけでなく、プログラムコードなども生成してくれる。このため登場以来、「マルウエアの生成」といったサイバー攻撃への悪用が懸念されている。 対策として、ChatGPTにはコンテンツフィルター機能が実装されている。悪用目的と思われるプロンプト（質問や要求）は拒否する。 例えば「ウイルス対策ソフトに検出されないマルウエアを生成して」などと要求すると、「私たちは、倫理的・法的に正しい行動を促進することを目的としています。そのため、ウイルス対策ソフトに検出されないマルウエアを生成する方法を提供することはできません」などと説教されてしまう。 だが実際には、ChatGPTを使ったマルウエアの生成例が相次いで報告されている。ChatGPTをだまして、まっとうなプログラムだと思わせるのがポイントのようだ。 2023年4月上旬には、米国のセ
トヨタが29万人分の個人情報漏洩の可能性、ソースコードがGitHub上で公開状態に ほか
トヨタ自動車は2022年10月7日、テレマティクスサービス「T-Connect」の契約者29万6019人分の個人情報が漏洩した可能性があると発表した。同サービスのソースコードの一部が、ソースコード共有サービス「GitHub」上に誤って公開され、T-Connectのデータを格納するサーバーにアクセスできる状態になっていた。 漏洩した可能性があるのはメールアドレスと顧客管理番号である。現時点で不正利用は確認されていないという。氏名や電話番号、クレジットカードなどの情報については漏洩の可能性はなく、T-Connectサービス自体への影響もないとしている。 原因は、T-ConnectのWebサイトの開発を委託した企業が、データサーバーへのアクセスキーを含むソースコードを、誤って公開設定のままGitHubにアップロードしたこと。2017年12月から2022年9月15日までアップロードされていた。 当
巧妙化が進むショートカット悪用の手口
米マイクロソフトは2022年2月、メールなどのインターネット経由で入手されたOfficeファイルのVBA▼マクロ機能をデフォルトでブロック▼する方針を発表した。攻撃者はこれまで侵入の手がかりによく使っていた手口が封じられたわけだ。当然、別の手口を模索することになる。その1つが、今回紹介するWindowsのショートカットファイル（LNKファイル）の悪用である。こうしたマルウエアを「LNKマルウエア」と呼ぶ。 LNKマルウエアとは、ユーザーがダブルクリックするとそれ自身が不正な挙動を示すLNKファイルや、他のマルウエアに感染させる仕組みを備えるLNKファイルを指す。LNKファイルは、Windowsのエクスプローラーで拡張子を表示するように設定しても拡張子が表示されない▼。アイコンも簡単に変更でき、ユーザーはあまり警戒しない。一方でリンク先▼にスクリプトやコマンドを記述できるため、攻撃に悪用しや
独学でも教えてもらってもダメ、プログラミングができない本当の理由
今はプログラミングができないけれども、ゆくゆくはできるようになりたい。そう思っている人は多いだろう。そうした人が知りたいのは「独学でプログラミングができるようになるのか」ということではないだろうか。 こうしたことを考えているのは、「独学コンピューターサイエンティスト Pythonで学ぶアルゴリズムとデータ構造」（日経BP発行）という書籍を読み始めたからだ。著者のコーリー・アルソフ氏は、大学の政治学科を卒業し、独学でプログラミングを学んで職業プログラマーになったという。前著の「独学プログラマー Python言語の基本から仕事のやり方まで」（日経BP発行）は、そうした経験を通して同氏が得たプログラミングの知識をまとめたもの。そうした知識の中から、特にアルゴリズムやデータ構造といったコンピューターサイエンスに焦点を当てて解説したのが本書だ。 もっとも同氏がいう「独学」は、大学でコンピューターサイ
NECがネットワーク機器の真正性を可視化するソフト、まずシスコ製品が対象
NECは2022年9月9日、ネットワーク機器を対象に、メーカーの設計・製造段階から意図せず改変されていないことを指す「真正性」を可視化するソフトウエアの販売を始めたと発表した。工場出荷時に加えて、システム構築や運用の段階でも、ネットワーク機器の真正性を確かめられるようにする。顧客企業はサプライチェーン全体でサイバーリスクを検知しやすくなるという。 NECは2020年から、シスコシステムズの不正検知技術とNECのブロックチェーン技術を組み合わせ、工場出荷時にシスコのネットワーク機器の真正性を管理する取り組みを進めてきた。新たに販売を始めた「NECサプライチェーンセキュリティマネジメント for ネットワーク」は、システム構築やソフトウエアの更新・追加、システム増設・保守、機器の撤去・廃棄まで管理のフェーズを広げた。 まずNEC経由で提供するシスコのネットワーク機器を管理対象にする。対象機器は
「Flightradar24」、民間機ロシア迂回をきっかけに注目度アップ
「NOBLY（ノブリー）」はネットから話題のキーワードを抽出し、それぞれの盛り上がり度合いを指標化する日本経済新聞社発の新ツール。独自のアルゴリズムを使い、その時点まではあまり一般には知られていないが、何らかの理由で急に注目を集めたキーワードをあぶり出せる。 本コラムはNOBLYが見つけ出した急上昇キーワードから「Flightradar24（フライトレーダー24）」をピックアップ。その意味や注目を浴びた経緯を解説する。 2022年3月の月次集計で上位になったのが1124位のFlightradar24だ。1124位というと一見高い順位ではないが、Wikipedia日本語版の記事本数が130万本超なので、上位0.1％以内に当たる。2月にロシアがウクライナに侵攻してから注目が高まった。民間機がウクライナやロシアの領空を避けて通ったことがメディアやSNSで話題となり、その情報源としてFlightr
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大手ITの生成AI競争 次は「オンデバイス」
AWSが14個のセキュリティー機能を一気に発表、「ゼロトラストの次」語る
