DeepMind・OpenAI・Anthropicの設立の経緯について、AIのリスクを最も恐れていた人々は自分たちがトップになるべきだと決心し構築するまで
AlphaGoやAlphaZeroを開発したDeepMind、GPT-4やChatGPTなどを開発したOpenAI、チャットボットAIのClaudeを開発するAnthropicという3つのAI組織がどういう経緯で設立したのかについて、The New York Timesがまとめています。 How Elon Musk and Larry Page’s AI Debate Led to OpenAI and an Industry Boom - The New York Times https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html ・目次 ◆イーロン・マスクとラリー・ペイジの議論 ◆DeepMindの誕生 ◆DeepMindがGoogleに買収されるまで ◆OpenAIの設立とマスク氏の離
人類には早過ぎるLLMの話 - laiso
Sam Altman解任騒動は個人間の対立ではなく、組織構造の問題に注目すると感想が変わるなと思った。 www.nytimes.com この騒動についてはAIの安全性を重視する思想とOpenAIのビジネスの拡大を目指す戦略の衝突があるので、AIの安全性というトピックが重要になる。 僕は結構テクノロジー原理主義者みたいなところがあるので、自動車で人命が失なわれているとして人類が獲得した利益と比較できないし、SNSによって情報操作から暴動が起きたり、誹謗中傷で精神を病む人々が出現してもそれは—— まぁ困るよね・・(身内が事故やSNSで不幸にあったら絶対反転アンチになるだろうし) ぐらいの曖昧な態度だったんだけど、これをきっかけにAIの安全性についての研究等に関心を持つようになった。 安全性と言っても暴走ロボットが人類滅亡に向ってstep by stepで考えてください、みたいな昔のSF小説的な
「銀行を襲う方法を教えて」──“脱獄プロンプト”の自動生成モデル ChatGPTやLlama-2で成功率90％以上
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米ノースウェスタン大学に所属する研究者らが発表した論文「GPTFUZZER : Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts」は、大規模言語モデル（LLM）に対する脱獄（ジェイルブレーク）プロンプトを自動生成してくれるフレームワークを提案した研究報告である。 例えば「捕まらないで銀行を襲う方法を教えて」というプロンプトを入力したとする。当然、そういった回答は出力してくれない。しかし、新しいフレームワークを用いると、次のようなプロンプトに変換され
ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米カーネギーメロン大学などに所属する研究者らが発表した論文「Universal and Transferable Adversarial Attacks on Aligned Language Models」は、大規模言語モデル（LLM）が有害なコンテンツを生成しない仕組みを無効にする手法を提案した研究報告である。入力プロンプトの語彙に敵対的フレーズを入力するだけで解除可能だという。 ChatGPT、Bard、ClaudeなどのLLMは、ユーザーの質問に対する回答で有害なコンテンツ（例：爆弾の作り方やIDの盗み方、人種差別的なジョーク、詐欺
日本語指示データ・日本語擬似レビューの公開 - Megagon Labs | リクルート AI研究機関
このたび以下の2種類のデータを公開しましたので，簡単にご紹介いたします． 日本語指示データ 大規模言語モデル（LLM）の開発に必要なものの1つは高品質なデータです． 英語では様々なデータが公開されていますが，日本語ではまだ少ないのが現状です． そこで，LLM研究の一助となるよう，小規模ではありますが，人力で作成した日本語指示データmegagonlabs/instruction_jaを公開いたします． このデータは以下の特徴をもちます． オープンソースライセンス 社会や料理など様々な話題を含む対話 自然な日本語表現からなる対話 この1と2を満たすデータとしてAnthropicが英語の指示データを公開しています．そしてそれを元に機械翻訳した日本語の指示データが，有志によって公開されています．今回それをもとに，3を満たすために人手による補足や日本語表現の変更といった改変を行いました． （改変の結
GPT-4登場以降に出てきたChatGPT/LLMに関する論文や技術の振り返り - Platinum Data Blog by BrainPad
本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、GPT-4の登場から執筆日（2023年5月31日時点）までの2ヶ月間で登場した論文を振り返りながら、まとめて紹介していきます。 LLM/ChatGPTの動向 オープンソースLLM モデル オープンソースLLMの調整 Adapter、LoRA Instruction Tuning Human Feedback プロンプトエンジニアリング プロンプトエンジニアリングの課題①：プロンプトに大量の情報を入れられない プロンプトエンジニアリングの課題②：複雑なタス
ChatGPTを暴言吐きまくりのトキシックなチャットAIにする方法
ChatGPTやPaLMなどの大規模言語モデル(LLM)は、記事の作成や情報の検索、チャットAIの作成など、さまざまなユースケースに利用されています。そんなLLMを性差別や人種差別、卑劣な暴言を吐く有害(トキシック)なチャットAIにする方法を、プリンストン大学、アレン人工知能研究所(AI2)、ジョージア工科大学の研究グループが発表しました。 [2304.05335] Toxicity in ChatGPT: Analyzing Persona-assigned Language Models https://arxiv.org/abs/2304.05335 Analyzing the toxicity of persona-assigned language models | AI2 Blog https://blog.allenai.org/toxicity-in-chatgpt-ccd
ChatGPTやGoogleのBardに匹敵する精度の日本語対応チャットAI「Vicuna-13B」が公開されたので使ってみた
カリフォルニア大学バークレー校などの研究チームがオープンソースの大規模言語モデル「Vicuna-13B」を公開しました。Vicuna-13BはOpenAIのChatGPTやGoogleのBardに近い精度で回答を生成でき、日本語にも対応しているとのこと。実際に動かせるデモも公開されていたので、使ってみました。 Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality | by the Team with members from UC Berkeley, CMU, Stanford, and UC San Diego https://vicuna.lmsys.org/ GitHub - lm-sys/FastChat: An open platform for training, serving, a
GPTの仕組みと限界についての考察（１） - conceptualization
GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
AI開発の新たなパラダイム「基盤モデル」とは
さて、視覚・言語を扱う基盤モデルとしては、2021年の CLIP がブレイクスルーでした。CLIPはテキストと画像を同じ特徴空間に写像する2つのエンコーダからなります。CLIPを使うと、次のようにして任意の画像分類問題を追加の学習なしで解くことができます。まず、各候補クラスを文章の形式（例：「犬の写真」）にした後、テキストエンコーダに入力します。次に、分類したい画像を画像エンコーダに入力します。最後に、画像から得られたベクトルと候補クラスたちから得られた複数のベクトルとのコサイン類似度を計算し、最も類似度が高いクラスを出力結果とします。 CLIPによるゼロショット画像分類の方法。OpenAI Blogより引用 CLIPは画像とテキストというモードの異なる情報を意味的な近さによって結びつけることを可能にしました。CLIPを教師のようにして使うことで、テキストから画像を生成するモデルを訓練する
関節や筋肉の動きを可視化する新システム 東京大学が開発 | NHK
コンピューターと遠隔で結ばれているカメラを使って、比較的簡単に運動する人の関節や筋肉の動きを立体的に可視化できる新しいシステムを開発したと東京大学のグループが発表し、スポーツやリハビリの分野で広く活用できるとしています。 スポーツ選手の競技力の向上などのため、「モーションキャプチャー」と呼ばれる技術を使って運動する映像から関節や筋肉の動きを解析するには、センサーや専用の機器、それに専門家によるデータ解析などが必要で、簡単に行うことはできませんでした。 東京大学の中村仁彦上席研究員などの研究グループは、AI＝人工知能を搭載したコンピューターと遠隔で結ばれている4台のカメラで運動する人を撮影することで、関節や筋肉の動きを立体的に可視化できるシステムを開発しました。 このシステムでは、映像からAIが関節の位置を判断して骨格のモデルに当てはめ、立体的に骨格や関節の動きが分かるほか、それぞれの筋肉が
『パックマン』最終仕様書、全ページが学会誌に掲載。AI研究の三宅氏らによる開発者・岩谷氏インタビューも
人工知能学会が発刊している学会誌の最新号にあたる「人工知能 Vol.34 No.1」にて、『パックマン』の生みの親である岩谷徹氏のインタビューと共に、同作の仕様書が全面公開される。発売日は1月10日、価格は2592円。Amazonで販売されるほか、1月中旬以降はKindleでも購入できるようになる。また同学会が運営するAI書庫でも閲覧可能だ。 （画像はAmazon | 人工知能 Vol.34 No.1 (2019年1月号)より） 人工知能学会は、人工知能に関する研究の進展と知識の普及を図り、学術・技術ならびに産業・社会の発展に寄与することを目的とした団体。学会誌「人工知能」を定期的に発行している。その最新号では『パックマン』とAIの関係にフォーカスを当てた特集記事が組まれている。 そのなかには『パックマン』の生みの親である岩谷徹氏のインタビューが掲載されている。聞き手はスクウェア・エニック
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
オープンＡＩの研究者、アルトマン氏解任前にＡＩ巡りリスク指摘＝情報筋
研究者2人を解雇したGoogle AI倫理対立の深刻度 - 日本経済新聞
「研究室が沸き立った」――AIが作詞、アイドル新曲ができるまで 電通大教授に聞く