タグ

GIZMODOとDeepSeekに関するmohnoのブックマーク (2)

  • DeepSeek、素直すぎて研究機関による安全テストに全部不合格

    DeepSeek、素直すぎて研究機関による安全テストに全部不合格2025.02.07 16:0072,664 AJ Dellinger - Gizmodo US [原文] ( そうこ ) AI市場を牽引してきたアメリカAI企業株を一気にぶち下げた、中国のバケモノAI「DeepSeek」。世界が今最も注目する存在と言っても過言ではありません。が、セキュリティを不安視する声もあがっています。 テスト全落ちCiscoの研究チームが、DeepSeekのAIモデルDeepSeek R1を調査。AI使用において危険・有害だと思われる攻撃的テスト50を実施したところ、そのすべてでしっかりと罠にひっかかってしまいました。そのひっかかり度100%! この手のテスト受けたメインどころの大規模言語モデルの中で、最もひっかかっています。つまり、安全性が低いということ。 Cisco研究チームが使用したのは、言語モ

    DeepSeek、素直すぎて研究機関による安全テストに全部不合格
    mohno
    mohno 2025/02/07
    「AI使用において危険・有害だと思われる攻撃的テスト50を実施したところ、そのすべてでしっかりと罠にひっかかってしまいました」「MetaのLlama 3.1も不正解率(ひっかり率)が96%と高い。OpenAIのo1モデルは25%ほど」
  • DeepSeekの成功は必然。ビッグテックがやりたくないことをやった

    DeepSeekの成功は必然。ビッグテックがやりたくないことをやった2025.01.29 22:0064,607 Todd Feathers - Gizmodo US [原文] ( Kenji P. Miyajima ) 驕る平家は久しからず。DeepSeekショックでウォール街は大混乱です。 中国AI企業DeepSeek(ディープシーク)が突如として世間を騒がせています。同社の生成AIアプリ「DeepSeek」は、OpenAIChatGPTをぶち抜いて、Apple App Storeでもっともダウンロードされたアプリに躍り出ました。 DeepSeek、レガシーAIをコスパで圧倒このビジネス的なサクセスストーリーの背景には、同社が発表した最新のR1モデルに関する複数の論文があります。 論文によると、DeepSeekは開発コストや利用者のコストを大幅に削減しながら、OpenAIの最高水準

    DeepSeekの成功は必然。ビッグテックがやりたくないことをやった
    mohno
    mohno 2025/01/30
    「DeepSeekがやってビッグテックがやりたがらないこと」って「モデルのアーキテクチャを最適化することによる改善」と言ってるのかな。アセンブリレベルで最適化したらしい。「最適化技術の大半は、独自開発ではない」
  • 1