OpenAIがAIの安全性のために取り組んでいる10の実践例を公開
韓国・ソウルで開催された第2回のAIサミットで、AI開発に取り組む世界の企業16社がAIの安全性で合意しました。合意に関連して、「GPT-4o」などを開発するOpenAIは安全性に関して自分たちが取り組んでいる実践例を公開しています。 OpenAI safety practices | OpenAI https://openai.com/index/openai-safety-update/ 1：リリース前の実証的のモデルへのレッドチーミング(敵対的攻撃)とテスト OpenAIでは、AIのリリース前にモデルの安全性を社内外で実証的に評価しています。リスク閾値が準備フレームワークで中程度を超えた場合、緩和後スコアが中程度に戻るだけの安全対策を行うまで新モデルはリリースしません。また、70人以上の外部の専門家がレッドチームとしてGPT-4oのリスク評価に協力しました。 2：アラインメントと安全
AI製品のセキュリティ向上を目指しGoogle・Microsoft・NVIDIA・Intelなどが「Coalition for Secure AI(CoSAI)」を設立
現地時間の2024年7月18日(木)、アメリカ・コロラド州のアスペンで開催された第15回Aspen Security Forumの中で、セキュリティを重視したAI開発のためのガイダンスとツールを提供することを目的としたオープンソースイニシアチブの「Coalition for Secure AI(CoSAI)」が発表されました。主催はコンピューターおよび通信関連の標準化団体であるOASIS Openです。 Introducing the Coalition for Secure AI, an OASIS Open Project - OASIS Open https://www.oasis-open.org/2024/07/18/introducing-cosai/ Google announces the Coalition for Secure AI https://blog.googl
クラウドで動く生成AIアプリ、MicrosoftとGoogleが合計6種類もの開発ツール
大手プラットフォーマーが2024年5月から6月にかけて発表した生成AI（人工知能）に関する施策を比較しながら紹介する本特集。第3回は米Microsoft（マイクロソフト）と米Google（グーグル）が発表した、クラウドで稼働する生成AIに関する取り組みを紹介しよう。 本特集の第1回、第2回で取り上げたように、大手プラットフォーマーは生成AIの新しい選択肢として「オンデバイス」に力を入れ始めている。クラウドで推論を行うクラウドLLM（大規模言語モデル）ではなく、スマートフォンやパソコンなどのデバイス上で稼働するオンデバイスSLM（小規模言語モデル）を使う。 もっともオンデバイスSLMは、クラウドLLMを単純に置き換える存在にはならない。オンデバイスSLMはプロンプトを入力してから結果が表示されるまでのレイテンシー（遅延）が低い一方、モデルのパラメーター数が少ないため、性能ではクラウドLLMに
トレンドマイクロ、コンシューマAI PC向けソリューションを発表 〜新ソリューションの提供によりAIの悪用から利用者を保護
トレンドマイクロは6月13日、AI PC時代にコンシューマユーザーを保護するための計画を発表した。2024年下半期以降、AI PCにおける戦略的パートナーシップやAIの悪用からコンシューマユーザを保護する新ソリューションの提供を順次開始するとしている。計画の概要は以下のとおり。 ●AI PCにおける戦略的パートナーシップの推進 インテルのNPU「Lunar Lake」を活用するために、インテルとの連携を強化。両社でより強力なセキュリティをコンシューマユーザーに提供することに取り組む。 ●新ソリューションの提供 １．AIアプリケーションの保護機能 コンシューマー向けAIアプリケーションは、モデルの改ざんやデータポイズニングなどの手法によって汚染されたAIアプリケーションにより、個人情報の流出や、誤った情報を受け取るリスクがある。2024年中にこれらのリスクに対処するAIアプリケーションの保護
「クラウド→AI PC」時代に台頭するのは？ NVIDIAとの協業で注目が集まる企業
「クラウド→AI PC」時代に台頭するのは？ NVIDIAとの協業で注目が集まる企業：世界を読み解くニュース・サロン（1/4 ページ） 2024年6月4日から台湾で開催された、台北国際コンピュータ見本市（COMPUTEX＝コンピューテックス）。アジア最大規模のICT見本市のCOMPUTEXは「世界最先端の知識がぶつかり合い、交流するプラットフォームとして、さらなるイノベーションの灯を生み出します」という触れ込みで、世界から1000社以上が参加した。 筆者も取材で「COMPUTEX TAIPEI 2024」に参加した。今年の目玉の一つは、生成AIの拡大を支える米NVIDIA（エヌビディア）の名物CEOであるジェンスン・フアン氏の基調講演だった。黒い革ジャンがトレードマークである、台湾生まれのフアン氏は、台湾ではメディアでもロックスター並みの扱いで、AIに対する世界の注目度がよく分かる。 最近
AIに組み込まれた検閲による命令拒否を打ち消してあらゆる種類の質問に応答できるようにする「アブリテレーション」とは？
事前学習済みの言語モデルは、安全性の観点から好ましくないとされる入力を拒否するように設定されています。この設定を解除する「アブリテレーション」と呼ばれる技術について、機械学習研究者であるマキシム・ラボンヌ氏が解説しています。 Uncensor any LLM with abliteration https://huggingface.co/blog/mlabonne/abliteration 近年の大規模言語モデルは、大量のテキストデータから言語の統計的な特徴を学習することで、人間のような自然な文章生成や会話、質問応答などが可能になっています。しかし、そのようなモデルは、時として差別的、攻撃的、あるいは違法な内容を生成してしまう可能性があります。 そこで、開発者はファインチューニングの際に、モデルが有害なコンテンツの生成を拒否するように明示的に訓練することがあります。例えば、「違法なことを
GitHub、「Copilot Workspace」テクニカルプレビューを開始。ほとんど全ての開発工程をAIで自動化
GitHub、「Copilot Workspace」テクニカルプレビューを開始。ほとんど全ての開発工程をAIで自動化 テクニカルプレビューは上記のCopilot Workspaceのページからウェイトリストボタンをクリックして申し込みます。 Copilot Workspaceはほとんど全ての工程を自動化 Copilot Workspaceは、自然言語で書かれたIssue（課題）を基に、Copilotが仕様案と実装計画を示し、コーディングや既存のコードの修正を行い、ビルドをしてエラーがあればデバッグも行うという、プログラミングのほとんど全ての工程をCopilotが自動的に実行してくれる、というものです。 人間は各工程でCopilotから示される内容を必要に応じて修正するか、そのまま見守ることになります。 GitHub CEOのThomas Dohmke（トーマス・ドムケ）氏は、Copilot
AIによる爆速開発：画面設計からプログラミングまで自動化！？ - Qiita
近年、AIの進化によりソフトウェア開発のプロセスが大きく変化しています。これまで手作業で行われてきた画面設計やプログラミング作業も、AIの登場により驚異的なスピードに進化しています。今回は、その中でも私が実際に使っている2つのAIツール、UizardとUI Sketcherについて紹介します。 なお、本記事では医師と患者を繋ぐマッチングサービスという架空のサービスを例に話を進めます。 Uizard: サービス概要からUIデザインを自動生成 Uizardは、画面設計作業を劇的に短縮する革新的なAIツールです。このツールを使えば、サービス概要を入力するだけで、わずか数分で美しく洗練されたUIデザインが生成されます。つまり、開発者は時間をかけてUIデザインを考える必要がなくなり、その時間を他の重要な作業に集中することができます。 Uizardの使い方 メニューから Generate with A
「GPT-4超え」とうわさのAI「Claude 3」を試す 仕事は任せられる？ 若手記者の所感
「GPT-4超え」とうわさのAI「Claude 3」を試す 仕事は任せられる？ 若手記者の所感（1/2 ページ） 3月4日（現地時間）にリリースされたチャットAI「Claude 3」がすごい。筆者も記事の執筆を任せられないか少し試しているが、使い方によっては「そこそこいけるな……少なくともGPT-4よりはイケる」と思う程度にはしっかりしている。 過去に記事でも伝えた通り、ITmedia NEWSではChatGPTを活用した記事の制作も行っている。筆者もたまにGPT-4の力を借りて記事を作っているが、ものすごく効率化につながるかと言われれば、正直そこまでではない。 10の労力が9とか8.5くらいにはなるし、それはそれですごく大事なのだが、劇的な省力化にはつながらない。さらにプロンプトを考える手間もある。その辺を加味してギリギリ黒字くらいだ。特にここ半年くらいは以前より微妙なアウトプットしか出
話題のチャットAI「Claude 3」のプロンプト集、公式が公開中 「Excelの数式作って」など64種
AIスタートアップの米Anthropicが、同社のチャットAI「Claude 3」向けに公式プロンプト集を公開している。3月11日までに64種類の使用例を公開中。専用のWebサイト「プロンプトライブラリ」で公開しており、英語と日本語表示に対応している。 例えば、入力した材料や好みに応じた料理レシピを提案する「料理クリエイター」などのプロンプトを公開している。プロンプトは「システム」と「ユーザー」の2つに分かれ、まず前者でAIに指示し、次に後者でユーザー個別の条件や要件を伝える仕組み。料理クリエイターの場合は以下のような具合だ（原文ママ）。 システム：あなたの仕事は、利用可能な材料や食事の好みに関するユーザーの入力に基づいて、パーソナライズされたレシピのアイデアを生成することです。この情報を使用して、ユーザーの食事のニーズに対応しながら、指定された材料を使用して作ることができるさまざまな創造
AIに「ITパスポート試験」を解かせてみると…… 最もIT分野に詳しいLLMは？ GMO子会社が検証
大規模言語モデル（LLM）に国家試験「ITパスポート試験」を解かせてみた──そんな研究成果をGMOグループのGMOメディア（東京都渋谷区）が発表した。LLMが持つ推論能力や問題解決能力の特徴を分析するため、IT分野での能力差を検証。GPT-4など、6種類のLLMで比較した。 比較に使ったLLMは、米OpenAIの「GPT-3.5」（gpt-3.5-turbo-1106）、「GPT-4」（gpt-4-1106-preview）、Stability AI Japanの「Japanese StableLM Alpha」（Japanese Stable LM Instruct Alpha 7B v2）、東工大と産業技術総合研究所の「Swallow」（Swallow-7B-instruct-hf）、rinnaの「Nekomata」（nekomata-7b-instruction）、ELYZAの「EL
日本語に強く、軽量でマルチモーダルな国産LLM「tsuzumi」の挑戦と将来ビジョン
ビッグ・テック「GAFAM」（Google、Apple、Facebook《現Meta》、Amazon.com、Microsoft）を中心に語られることの多いLLMだが、“言語による性能の違い”がしばしば取り上げられる。非英語圏、中でもここ日本においては日本語特有の難しさが顕著だ。 そうした中、2023年11月に日本語に特化した国産LLMが発表され、大きな話題になった。それが、NTTが開発したLLM「tsuzumi」だ。開発をリードした一人、NTT人間情報研究所の上席特別研究員、西田京介氏はこう話す。 「NTTでは従来、言葉を理解する研究や対話するための言語モデルの研究を進めてきていました。それでも『ChatGPT』が登場したときは、研究メンバー全員に衝撃が走りました。『これはとんでもないものが出てきた』と驚きつつ、一方では日本語処理に課題があることも分かりました」 NTTの研究開発成果と技
米OpenAI「公表しないで……」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル（LLM）から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され
[Stable Diffusion] たった 1 分！AI 絵師でサイバーパンクな侍を描いてみた！
ChatGPT などの生成 AI、本当にポテンシャルを発揮できていますか？仕組みやプロンプトを学び、生成 AI をビジネス活用できる人材になりましょう！ Stable Diffusion とは Stable Diffusion とは、プロンプト（言葉や単語の指示）から画像を生成する モデルの一種です。基幹技術に拡散モデル（ Diffusion Model ）が利用されており、高精度な画像を一瞬で生成できることで話題を呼びました。 実際にこの Diffusion Model がどうやって画像生成を実現しているのか、気になりませんか？ このモデルは、完全にランダムに数値が与えられた画像から、ノイズを除去することで少しずつ画像を生成していきます。 そのため、Diffusion モデルはよく彫刻師に例えられます。（石灰から像を少しずつ削り出す彫刻師のイメージです。） プロンプトの情報はこのとき、ど
![[Stable Diffusion] たった 1 分！AI 絵師でサイバーパンクな侍を描いてみた！](https://cdn-ak-scissors.b.st-hatena.com/image/square/4c2508652293f54835f7547b0357ce07fc94f5c9/height=288;version=1;width=512/https%3A%2F%2Fwww.kikagaku.co.jp%2Fkikagaku-blog%2Fwp-content%2Fuploads%2F2023%2F06%2F1-1200x675.jpg)
NEC責任者に聞く「生成AIの勝機」 マイクロソフトCEOとの会談で下した決断とは？
NEC責任者に聞く「生成AIの勝機」 マイクロソフトCEOとの会談で下した決断とは？：世界トップ級の日本語能力（1/2 ページ） 生成AIが多くの分野で使われ始め、開発競争も激化している。NECは他社に先駆けて、生成AI開発のカギとなる同社独自の大規模言語モデル（LLM）の実用化に成功。日本市場の需要に合わせた専用ハード、ソフト、コンサルティングサービスを提供する「NEC Generative AI Service」を開始した。 欧米や日本の競合が開発しようとしている生成AIサービスと比べ、どこが優れていて、どんな特徴があるのか。 「生成AIをブームで終わらせたくない」と意気込む吉崎敏文CDO（チーフ・デジタル・オフィサー）に開発方針などを聞いた。 吉崎敏文（よしざき・としふみ）1985年に日本IBMに入社、2008年に執行役員、19年にNECに移りコーポレートエグゼクティブ、21年に執行
ヤバいデータ分析（書籍・記事であまり扱われてないが重要なこと） - Qiita
まえがき データ分析はなんて広いんだろう。影響力の強まりに応じ、自然・社会・人間ほぼすべてが対象となりどんどん拡大していく。対象に応じ手法も広がり複雑化し、学ぶべきことが多すぎる。データサイエンティスト協会のスキルチェックリストVer.3.001（ごめんもう4.00が出てるね）も500超の項目があります。読むべき図書も良書と思われるものだけでも増え続けており、もう手に負えない状況です。 ただ、これはやってはだめだ、ここを知らないと道に迷う、という絶対に知っておくべき点は学べる範囲だと思います。本書では、データ分析において間違えやすい、誤解しやすい点を共有し、データ分析全体をよくする目的で、かつ データ分析の入門書・専門書に分野ごとには書かれてはいますが1つにまとまっておらず目に触れにくいもの データ分析の入門書・専門書でもスルーされていたり場合によっては誤っていると思われるもの で自分なり
AIによる脆弱性自動修正システム、DARPAが大規模競技会を開催へ
米国防省の研究部門であるDARPA（米国防高等研究計画局）が2023年8月、ソフトウェア脆弱性の自動修正システム競技大会「AI Cyber Challenge」（AIxCC）開催を発表した。競技大会をサポートするのは、生成AIのトップ企業であるAnthropic、Google、Microsoft、OpenAIの4社だ。 AIxCCは、丸2年間をかけて行われる大がかりな大会となっている。まず来年（2024年）5月に予選を行い、上位20チームが8月のセキュリティイベント「DEF CON 32」併催の準決勝大会に進出。その上位5チームには開発資金200万ドルが与えられ、再来年（2025年）8月の「DEF CON 33」で決勝大会が開催される。優勝チームには400万ドル、2位には300万ドル、3位には150万ドルの賞金が授与される。
リーダーの「問う力」を高めるAI活用法 リズムやパターンを変え、多様性や新規性を高める | イノベーション｜DIAMOND ハーバード・ビジネス・レビュー
サマリー：AIを活用することで「問いかける力」を強化できる。AIは問いのリズムやパターンを変え、多様性や新規性を高めることができるからだ。また、AIによって仕事の状況や環境を変え、変化を誘発できる「触媒的な問い」を促... もっと見るすことも可能である。このようなプロセスにより、リーダーやチームは新たなアイデアやイノベーションを生み出すことができる。 閉じる AIは「問う力」の強化に役立つ ほんの数年前まで、企業による「人工知能」（本稿で後述する広義の人工知能）への取り組みは概して抽象的であり、いずれ対処せざるをえない「仕事の未来」の問題として扱われてきた。 現在では、世界中の企業の半分以上がAI（一般的な人工知能）を積極的に取り入れている。医療、データ管理・処理、クラウドコンピューティング、フィンテックといった業界では特にAIへの投資が盛んだが、あらゆる種類の組織と職能がAIを業務に導入
ジェフリー・ヒントン「人類を凌駕する人工知能に私は戦慄している」 | “AIのゴッドファーザー”だからこそ語れるAIの脅威
５月初め、AI研究の第一人者であるジェフリー・ヒントンがグーグルを辞めたことが明らかになった。以来、世界中のメディアからの取材依頼をほぼすべて断っているという彼が、英紙「ガーディアン」だけに語った、AIの真の怖さ、人類滅亡の確率、その決定的瞬間が訪れるとき──。 悪意のある研究者はいない ジェフリー・ヒントンが、インタビューの最初で口にし、私が録音を止める間際にも繰り返したのは、彼が10年間在籍したグーグルを円満に退社したということだった。 「私はグーグルがこれまでに成し遂げたことや、いま現在取り組んでいることに何の異論もありません。メディアは私を『グーグルに不満を募らせた社員』に仕立て上げたいようですが、そうではないんです」 そこをはっきりさせておくのが大事なのは、つい逆の結論に走りがちだからだ。結局のところ、自分の元勤務先を、人類を絶滅へと導く可能性の高い企業のひとつとして冷静に語ると
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub、Copilotの将来像「Copilot Workspace」発表 人間がコードを書くことなく、Copilotが仕様作成からコード作成 デバッグまで実行
