ブックマーク / www.itmedia.co.jp (25)

  • Google、AIの“幻覚”に対処する「DataGemma」をオープンモデルでリリース

    Googleは9月13日(現地時間)、LLMが不正確な回答を出してしまういわゆる幻覚(ハルシネーション)を軽減するためのAIモデル「DataGemma」を発表した。オープンモデルとしてHugging Faceで公開した。 Gemmaは、Googleが今年2月にオープンモデルとして発表した「Gemini」の軽量版LLM。DataGemmaは、このGemmaのオープンモデルファミリーをベースに、Googleが構築した「Data Commons」の信頼できるデータを使って回答する。 Data Commonsは、数十万の統計変数にわたる2400億を超えるデータポイントを含む、公開されているナレッジグラフだ。データは、国連(UN)、世界保健機関(WHO)、疾病予防管理センター(CDC)、国勢調査局などの“信頼できる”組織から取得されたもの。 DataGemmaは、Data Commonsの信頼でき

    Google、AIの“幻覚”に対処する「DataGemma」をオープンモデルでリリース
    yoshikie
    yoshikie 2024/09/15
  • ChatGPTに重要な情報を送っても安全か? 自治体のネットワーク分離モデルから考える

    こんにちは。川口弘行です。私が自治体のデジタル化に関わる際には、個人としての川口弘行だけでなく、川口弘行合同会社という法人の立場も持っています。自分のフルネームを会社名にするというのは、他の人には理解されにくいようで、「え? これは個人事業ですか?」と尋ねられることもあります。 この会社名にした理由のひとつが、kawaguchi.com というドメイン名です。今から30年ほど前にこのドメインを取得して以来、ずっと使い続けています。取得した当時の日は、電話回線のダイヤルアップでインターネットに接続していました。国内の個人向けプロバイダーは数えるほどしかなく、このドメイン取得は米国のエージェントを通じて行いました。 インターネットが社会の基盤になるとは、想像もしていなかった時代の話です。 さて、昔話はこの辺にして「自治体における生成AIの利活用」について考えてみましょう。前回の記事「プロンプ

    ChatGPTに重要な情報を送っても安全か? 自治体のネットワーク分離モデルから考える
    yoshikie
    yoshikie 2024/08/23
    組織で使うなら確実に学習に利用させないためにもChatGPT TeamやEnterprise使うべきだと思うんだが、そこに言及がなくて「すべての人のためにモデルを改善する」をオフにしましょう、となってて「?」となる
  • あなたの会社でも起こりかねない? “安易な標的型攻撃メール訓練”によるトラブルを避けるポイント

    あなたの会社でも起こりかねない? “安易な標的型攻撃メール訓練”によるトラブルを避けるポイント(1/4 ページ) ITプラットフォームやネットワーク機器の脆弱性を悪用して侵入するランサムウェアの被害が話題だが、一方で、“人”の脆弱性を突く手法も後を絶たない。典型例が、実在する人物をかたった偽メールだ。 個人向けには金融機関やECサイトをかたったフィッシングメールが横行しているし、ビジネスの場でも、実在する取引先などを装ってやりとりし、多額の金銭を巻き上げる「BEC」、そして悪意あるソフトウェアをインストールさせてリモートから操作し、機密情報などを盗み取る「標的型攻撃」のリスクがある。 こうした手口には、明らかに不自然な日語で書かれた稚拙なものから、実在する人物の名前を使い、過去のメールのやりとりをなぞって送られてくる巧妙なものまで、さまざまなパターンがある。メールのフィルタリングや「SP

    あなたの会社でも起こりかねない? “安易な標的型攻撃メール訓練”によるトラブルを避けるポイント
    yoshikie
    yoshikie 2024/08/19
  • 高機能フォトグラメトリーソフトが“無料”に Epic Games、「RealityCapture 1.4」公開

    米Epic Gamesは4月23日(現地時間)、複数の画像やレーザースキャンデータをもとに、現実空間を3D空間上に構築するフォトグラメトリー(写真測量)ソフト「RealityCapture 1.4」を公開した。以前のバージョンからプラン体系を刷新、年間収益が100万ドルを超えない個人・法人なら無料で使えるようになった。 RealityCaptureは、Windows向けのハイエンドフォトグラメトリーソフトで、画像やレーザースキャンデータをもとに、仮想現実シーン、テクスチャ付き3Dメッシュ、正射投影、地理参照マップなどを自動作成できる。もともとCapturing Realityという企業が提供していたツールだったが、2021年3月にEpic Gamesが買収している。 価格は、過去12カ月間の収益が100万ドル未満の個人および中小企業、教育機関、学生であれば無料で利用可能。年間の総収益が10

    高機能フォトグラメトリーソフトが“無料”に Epic Games、「RealityCapture 1.4」公開
    yoshikie
    yoshikie 2024/04/27
    “RealityCapture”
  • Stability AI、テキスト→動画の「Stable Video Diffusion」をGitHubで公開

    Stability AI、テキスト→動画の「Stable Video Diffusion」をGitHubで公開 Stability AIは、テキストから動画を生成するAIモデル「Stable Video Diffusion」のリサーチプレビュー版をGitHubで公開した。テキスト入力のためのWebツールを入手するにはウェイティングリストに登録する必要がある。

    Stability AI、テキスト→動画の「Stable Video Diffusion」をGitHubで公開
    yoshikie
    yoshikie 2023/11/22
  • 「医師VTuber」「弁護士VTuber」「美容師VTuber」など、にじさんじ運営企業が募集 「スーパーエリートライバーオーディション」実施

    「医師VTuber」「弁護士VTuber」「美容師VTuber」など、にじさんじ運営企業が募集 「スーパーエリートライバーオーディション」実施 VTuberグループ「にじさんじ」を運営するANYCOLORは、タレント育成プロジェクト「バーチャル・タレント・アカデミー」(VTA)内で、「VTAスーパーエリートライバーオーディション」を開催すると発表した。

    「医師VTuber」「弁護士VTuber」「美容師VTuber」など、にじさんじ運営企業が募集 「スーパーエリートライバーオーディション」実施
    yoshikie
    yoshikie 2023/11/20
    健屋(医療従事者であることを明かしており、医師免許持ってると思われる)やリゼ(法律に強く法学部出てると言われている)、社築(元SE)、とかすでにいろんな人材抱えてるのにな、にじさんじ
  • 東大の「教員向けChatGPT講座」無料公開 「多くの教員が困るだろう」から

    ChatGPTの基からその構造、教育利用を検討する際の注意点、具体的な活用法などを解説した講座。 「教育機関などの勉強会、研修などでご活用ください」と呼び掛けており、利用の際に事前の連絡は不要という。 関連記事 「東大生や教員は、生成系AIにどう対応すべきか」東大副学長が声明 「組換えDNA技術に匹敵する変革」 「東京大学の学生や教職員が生成系AIに対してどのように向き合うべきか」――東京大学副学長の太田邦史教授が声明。 「GPT-4」搭載ChatGPT東大入試数学を解かせてみた GPT-3.5との回答の違い、点数は? AIチャットbot「ChatGPT」「新しいBing」に、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。それぞれの反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。 東大松尾教授が答え

    東大の「教員向けChatGPT講座」無料公開 「多くの教員が困るだろう」から
    yoshikie
    yoshikie 2023/06/01
  • ChatGPTで個人情報漏えい OpenAIが原因と対策を説明

    OpenAIは3月24日(現地時間)、20日にChatGPTを短時間オフラインにした理由を説明した。ユーザーに別のユーザーの氏名、メールアドレス、住所、クレジットカード番号の下4桁、カードの有効期限が表示される問題があったためオフラインにし、バグを修正したという。 個人情報が漏えいしたのは、有料版「ChatGPT Plus」の会員の約1.2%で、影響を受けた可能性のある全員に連絡したという。 この問題と同時に、一部のユーザーに別のユーザーのチャット履歴が表示されてしまう問題も発生していた。 ChatGPTのチャット履歴は、画面の左側にあるサイドバーに表示され、クリックするとチャットの続きを再開できるようになっている。このサイドバーに他人のプロンプトが表示されていた。 OpenAIによると、バグは修正され、「数時間分を除いて、チャット履歴を復元できた」という。 チャット履歴と個人データが他

    ChatGPTで個人情報漏えい OpenAIが原因と対策を説明
    yoshikie
    yoshikie 2023/03/25
  • にじさんじVTuber、WBC実況で不適切ツイート 「頭か身体に投げちゃえば」 運営が謝罪、謹慎処分に

    バーチャルYouTuber(VTuber)グループ「にじさんじ」を運営するANYCOLOR(東京都港区)は3月23日、所属VTuberの「郡道美玲」さんがTwitter上で野球に関する不適切な投稿をしたとして謝罪した。同社は「配信者としての自覚を欠く由々しき問題」と指摘。郡道さんには当面の間謹慎処分を科した。

    にじさんじVTuber、WBC実況で不適切ツイート 「頭か身体に投げちゃえば」 運営が謝罪、謹慎処分に
    yoshikie
    yoshikie 2023/03/24
    これだけだと大げさな処置に思えるけど、この人はたびたび問題発言をしているので積もり積もっての処置ということ(運営のコメントでもそう書いてある)。際どい発言でウケを取ろうとする人なので運営は扱いづらそう
  • 注目集める「AIコスプレイヤー」の作り方を調べてみたら、“無規制地帯”が見つかった イラスト生成のダークサイド

    2月17日、「AIコスプレイヤー」というワードがTwitterトレンドに入った。話題のAIイラスト生成技術で作られた実在しないコスプレイヤーのイラストをインフルエンサーが拡散。写実的な画風やセクシーさも相まって「もう人間はいらないのでは」「コスプレと関係ない」などと賛否両論の声が出ている。 実際に画像を見てみると、確かにセクシーかつ、一瞬写真と見間違えるようなクオリティーだ。よく見るとおかしな点はあるが、ぱっと見はよくあるグラビアアイドルやモデルの写真とそっくりに感じる。 果たして、どうやって作ったんだろう──そう思って作り方を調べてみたところ、記者のような文系・非ITエンジニアでも似たようなものが生成できそうなことが分かった。一方で、その生成過程にはインモラルな“無規制地帯”が関わっていることも見えてきた。 AIコスプレイヤーの作り方 必要なのは…… そもそも話題のAIコスプレイヤーはど

    注目集める「AIコスプレイヤー」の作り方を調べてみたら、“無規制地帯”が見つかった イラスト生成のダークサイド
    yoshikie
    yoshikie 2023/02/18
    Civitaiは割とマジでヤバいので、遠からず問題になるだろうなとは思っている。実在の有名人の実写絵生成できるモデルとか平気で置いてあるからな。
  • それでも「PPAP」を使い続ける国内企業はどのくらい? 有害と知りつつ使う企業も、そのワケは

    Innovative Tech: このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: @shiropen2 東京大学空間情報科学研究センター、大阪公立大学大学院情報学研究科、東京大学大学院情報理工学系研究科ソーシャルICT研究センター、株式会社国際電気通信基礎技術研究所に所属する研究者らは「日国内におけるメールセキュリティに関する実態把握」の研究報告を発表した。 パスワード付き圧縮ファイルを添付したメールとそのパスワードを書いたメールを別々に送るセキュリティ対策手法(通称:PPAP)において、脆弱性が高いにもかかわらずまだ使い続けている有無や理由、脆弱性の認識はあるかなどの質問を組織344社に行い、分析した研究報告である。 取引先や顧客など社外の相手とファ

    それでも「PPAP」を使い続ける国内企業はどのくらい? 有害と知りつつ使う企業も、そのワケは
    yoshikie
    yoshikie 2023/02/06
    誰にとっても有効な明確な解決策がないのがPPAP対策の問題。比較的楽な代替策だと結局パスワード別送する運用の場合も多く、すると「PPAP解消されていないじゃないか!」と吹き上がる輩がいる。管理者も楽ではない
  • AIでイラストを“トレパク”? 既存画像から再生成する「i2i」機能を巡る法解釈

    2022年夏から大きく注目を集めているイラスト生成AI。その機能の一つに「i2i」(image to image)という手法がある。これは参考画像を入力すると、AIが似た構図のイラストを生成する機能だ。使い方次第では便利だが、定期的に「i2i機能を使って“トレパク”をしている人がいる」としてTwitterなどで問題になっている。 この問題について、骨董通り法律事務所(東京都港区)の代表を務める福井健策弁護士が1月25日、Twitterで「ユーザーが元絵を知っている場合は、著作権侵害が成立する可能性が高い」との見解を示した。判断のポイントは、元作品への依拠の有無だという。福井弁護士に詳細を聞いた。 イラスト生成AIユーザーも問題視する「i2i」 i2i機能を使うと、自分で書いた落書きやラフスケッチ、資料写真などを入力してイラストを生成できる。アイデアを膨らませたり、作画作業の補助として使った

    AIでイラストを“トレパク”? 既存画像から再生成する「i2i」機能を巡る法解釈
    yoshikie
    yoshikie 2023/01/26
    AI絵界隈もi2iばっかり目の敵にするけど、正直ローカルでどんな画像食わせたか分からない「カスタム」モデルの方が闇は深いと思っている。danbooru食わせてるとかのレベルじゃなく裏で著作権侵害しまくってるはず
  • 総務省、“クラウド設定ミス”対策のガイドライン公開 パブリックコメント反映し完全版に

    新しいガイドラインの公開に伴い、SaaSなどを提供する上で必要な情報開示指針をまとめた「ASP・SaaSの安全・信頼性に係る情報開示指針(ASP・SaaS編)」も内容を改めた。設定ミスに関するガイドラインに合わせて一部改定したという。 関連記事 総務省が“クラウド設定ミス”対策のガイドライン公開 まずは素案、パブコメも募集 総務省が、クラウドサービスの設定ミスがもたらすリスクやその対策などをまとめたガイドラインの素案を公開した。クラウドサービスの設定ミスに起因する情報漏えいの多発を受けて作成したという。 総務省、「AIを活用したSaaS」の情報開示指針を策定 AIの精度など106項目 総務省が、クラウドサービスの提供に当たっての情報開示指針にAIを活用したSaaSやASPに関する項目を追加した。AIを活用したクラウドサービスが増加傾向にあることから新たに策定したという。 データセンター新設

    総務省、“クラウド設定ミス”対策のガイドライン公開 パブリックコメント反映し完全版に
    yoshikie
    yoshikie 2022/11/01
  • 世界初? 画像生成AIを使ったVTuber事務所が登場 イラストは全てAI 7人がデビューへ

    ミーチューは2014年2月にZIGの社名で設立。かつてVTuberプロダクション「OPEN BETA」を運営していた。21年6月にミーチューへと社名を変更し、ファンコミュニティープラットフォーム「Mechu」を提供している。Mechuは、VTuberのファンクラブの他、JR東日と共同で鉄道ファン向けの「撮り鉄コミュニティ」などにも利用されている。 関連記事 議事録をWebサイトで誤公開 個人情報含む約2000件が外部スタッフのミスで流出 クリエイター向けファンコミュニティーサービスを提供するミーチューは、外部スタッフのミスにより、個人情報が書かれた社内の議事録1962件を、公式Webサイト上で誤って公開していたと発表した。 JR東「撮り鉄コミュニティ」好調な滑り出し あえてイメージの悪い言葉を使った理由は? JR東日が11月10日に開設した「撮り鉄コミュニティ」が、登録開始から1日で3

    世界初? 画像生成AIを使ったVTuber事務所が登場 イラストは全てAI 7人がデビューへ
    yoshikie
    yoshikie 2022/10/31
    いまさら深層学習がAIと言われることに文句付けてる人がいるの面白い。あれがAIではないというならこの世にはまだAIはない
  • アイティメディア、PPAPは添付ファイル遮断 取引先に「全面廃止」を告知

    Webメディアを展開するアイティメディア(東京都千代田区)は4月25日、パスワード付き圧縮ファイルを添付したメールとパスワードを別々に送るいわゆる“PPAP”について、メールに添付したパスワード付き圧縮ファイルは全て自動削除すると発表した。情報セキュリティ対策を強化の一環として、取引先に理解を求めている。 パスワード付き圧縮ファイルは、ファイルが暗号化されているためメール受信時のマルウェアのチェックが極めて困難と指摘。5月16日午後1時以降、送信するメールや受信したメールに暗号化された圧縮ファイルが添付されていた場合は、文を残して全ての添付ファイルを自動で削除する。 PPAPは「Password付き圧縮ファイルを送ります、Passwordを送ります、Aん号化、Protocol」の略。近年ではマルウェア「Emotet」の拡散に使われるなどの問題から官民で廃止の動きが出ている。アイティメディ

    アイティメディア、PPAPは添付ファイル遮断 取引先に「全面廃止」を告知
    yoshikie
    yoshikie 2022/04/27
    運用を指す言葉だったのに、いつの間にかパス付きZip自体をPPAPと呼ぶようになってきていて、だいぶズレてきてる感がある。「PPAPなんてやめろ!」という人が一体何を本当はやめてほしいのか結構曖昧だったりする
  • 「ウマ娘」緊急メンテ入り イベント報酬を勘違いか 「10万サークルポイント」トレンド入り

    スマートフォンゲームウマ娘 プリティーダービー」を運営するCygamesは4月5日、緊急メンテナンスの実施を発表した。イベント報酬の「サポートポイント」と間違えて「サークルポイント」を10万ポイント配布したためとみられる。 直近のイベント「みんなでトップウマドルプロジェクト」の報酬だった「サポートポイント10万」と間違えて「サークルポイント10万」を配布した。直後からネット上では「運営の勘違い、結構ヤバい」「価値が全然違う」などと話題に。Twitterでは「サークルポイント10万」など関連ワードがトレンド上位を占めた。 サークルポイントはゲーム内でのサークル活動で入手できるポイント。ポイントを使うとSSRサポートカードの上限解放(能力アップ)が可能になるが、1日に100ポイント程度しか稼げない。 ゲームは5日正午過ぎに緊急メンテナンスに入り、午後2時時点でも再開していない。Cygames

    「ウマ娘」緊急メンテ入り イベント報酬を勘違いか 「10万サークルポイント」トレンド入り
    yoshikie
    yoshikie 2022/04/05
    サークルポイントは1日稼げる量に限度があり、普通だいたい100P〜多くて200Pくらい。つまり1か月で多くて6000ptくらいしか稼げない。それを一気に10万ポイント配ってしまった、と書くとヤバさが伝わるだろうか
  • メタップス、不正アクセスやられ放題 最大46万件のカード番号やセキュリティコード流出か バックドアやSQLインジェクションの痕跡見つかる

    クレジットカード決済基盤を提供するメタップスペイメント(東京都港区)は2月28日、同社のデータベースから最大で46万件のクレジットカード番号、有効期限、セキュリティコードなどが流出したと発表した。サーバへの不正ログイン、SQLインジェクション、バックドアの設置などさまざまな攻撃を受けていたことが調査で分かった。 流出した恐れがあるのは2021年8月2日から22年1月25日までに決済で使われたクレジットカードの番号、有効期限、セキュリティコードなど46万395件、21年5月6日から22年1月25日までに実行された決済情報593件、加盟店情報38件。「実際に流出した情報を特定できない」(メタップスペイメント)ため、数値は考えられる最大値という。 同社は21年12月14日に、サービスの提携先からクレジットカードの不正利用が懸念されているとの連絡を受け調査を開始。22年1月中に、外部からデータベー

    メタップス、不正アクセスやられ放題 最大46万件のカード番号やセキュリティコード流出か バックドアやSQLインジェクションの痕跡見つかる
    yoshikie
    yoshikie 2022/03/01
    PCIDSS認証取ってたみたいだけど、この状態で取れるとなると認証の意味とは、、、となってしまうな
  • マルウェア感染経路で「Discord」「OneDrive」突出――セキュリティ会社が警鐘

    マルウェア感染経路で「Discord」「OneDrive」突出――セキュリティ会社が警鐘:“PPAP”廃止の余波か(1/2 ページ) セキュリティソフトなどを開発するデジタルアーツ(東京都千代田区)は1月17日、パスワード付きZIPファイルとパスワードを同じ経路で送信する方法(いわゆるPPAP)の代替手段として利用が進むファイル共有サービスが、マルウェアの感染経路になっているとするレポートを発表した。特にゲームプレイヤー向けのチャットサービス「Discord」と、米マイクロソフトのクラウドサービス「OneDrive」を使った手法が突出しているとして、警鐘を鳴らしている。 レポートによると、マルウェアを仕込んだファイルを2サービス上にアップロード。生成されたURLからファイルをユーザーにダウンロードさせ、感染させる手法だという。セキュリティ関係者による悪性URL共有プロジェクト「URLhau

    マルウェア感染経路で「Discord」「OneDrive」突出――セキュリティ会社が警鐘
    yoshikie
    yoshikie 2022/01/18
    結局、経路で防ぐのは限界があるのでエンドポイントで対策する必要がある、という当たり前の話かなと。そもそもPPAP対策=Zip添付拒否、って風潮に違和感がある。PPAPの問題の本質は負荷高いのに意味のない運用だと思う
  • ニコニコ動画、ストレージをオンプレから変更 運用コストを9割削減

    KADOKAWAグループが、ニコニコ動画で使うストレージをオンプレミスのストレージから米RSTOR社の「RSTOR」に変更することが12月10日、分かった。現行の体制から運用コストを9割削減できる見込みという。 ニコニコ動画では既存のストレージにJavaScriptCSSで制作したコンテンツ、ユーザーのアイコン画像、ログデータなどのサイズの小さいデータを億単位で保存しているという。 RSTOR社の販売代理店を務めるTwoFive(東京都中央区)によると、多くのクラウドストレージサービスでは、データの保存容量に加え、データの転送容量に対しても利用料が発生。ニコニコ動画のように、転送量が多い場合はコストがかさむという。データ転送では利用料が発生しないRSTORを採用することで、現行ストレージに比べ運用コストを10分の1に押さえられるとしている。 従来のシステムでは、大量のデータを一度に処理す

    ニコニコ動画、ストレージをオンプレから変更 運用コストを9割削減
    yoshikie
    yoshikie 2020/12/10
    あまりに安すぎて、ほんとに今のビジネルモデルでやっていけるのか気になる。利用量が増えたら問題が顕在化するんでは。
  • Slack、MicrosoftをEUに提訴 「TeamsのOffice 365バンドルは独禁法違反」

    ビジネス向けコラボレーションツール「Slack」を手掛ける米Slack Technologiesは7月22日(現地時間)、欧州連合(EU)の執行機関である欧州委員会に米Microsoftを独禁法違反で提訴したと発表した。 MicrosoftSlackと競合するコラボレーションサービスの「Teams」を「Office 365」にバンドルするのは独禁法に違反するとSlackは主張した。市場を支配するOffice製品にTeamsをバンドルすることで数百万人のユーザーにインストールを強要し、このサービスの当のコストを顧客から隠しているという。 Teams自体はOffice 365に含まれるのでOffice 365ユーザーは無料で使えるが、「Slackは企業のソフトウェア予算の2%程度しか必要としないが、MicrosoftのOffice製品は100%要求する」とSlackは主張する。 「Micr

    Slack、MicrosoftをEUに提訴 「TeamsのOffice 365バンドルは独禁法違反」
    yoshikie
    yoshikie 2020/07/24
    「SlackがWeb屋のおもちゃ」とか言ってる人本気なんだろうか。本気で運用し倒してるところを知らないんだろうな。それでこんな強い言葉でバカにするなんて憐れみすら感じる