イーロン・マスクがOpenAIを辞めた本当の理由
イーロン・マスクがOpenAIを辞めた本当の理由2023.04.03 13:0042,359 Kyle Barr - Gizmodo US ［原文］ （ satomi ） イーロン・マスクが｢OpenAI危ない！ 開発半年中止すべき｣と署名を搔き集めているのを見て、｢あれ？ 自分で立ち上げた研究所じゃないの？｣と首をかしげている人も多いと思います。 マスク氏辞任の真相確かに2015年にOpenAIが旗揚げした当初は、イーロン・マスクもLinkedIn共同創業者リード・ホフマン、PayPal共同創業者ピーター・ティールら投資家グループで計10億ドルの初期投資を約束した時期もあったし、研究所がRedditの掲示板の投稿をAIにフォードしていた辺りには共同会長でした。 しかし、Semaforが匿名の情報筋8名から得た情報によると、2018年にイーロンは｢このままではGoogle（グーグル）に完全
Rui Ueyama on Twitter: "しばらく考えてみたけど、やっぱりGoogleはここ20年間くらいで最大のチャレンジを迎えているような気がする。"
しばらく考えてみたけど、やっぱりGoogleはここ20年間くらいで最大のチャレンジを迎えているような気がする。
ChatGPTの規約を読み解く#1｜植田貴之- 法律事務所LAB-01
はじめに法律事務所LAB-01の植田と申します。 今年になってからOpenAIが提供するChatGPTの精度に注目が集まり、個人だけではなく自社のビジネスにChatGPTを組み込んで提供しようとする人が増えてきています。今回のNoteでは、ChatGPTを自社サービスに組み込んで利用することを想定した場合に、どのような論点が発生するのかを検討していきたいと思います。まずは、ChatGPTの規約を分析し、そもそもChatGPTというサービスがどのようなルールを定めているのかを何回かに分けて分析してきたいと思います。 規約の構造についてまず最初にChatGPTに関連する規約の全体像を簡単に説明します。ChatGPT自体は独自の利用規約を有していません。ChatGPTを提供しているOpenAIは、ChatGPTの他に画像生成サービス「DALL·E 2」や音声認識システム「Whisper」など様々
Usage policies
We’ve updated our usage policies to be more readable and added service-specific guidance. Customers may sign up to receive notifications of new updates to our usage policies by filling out this form. We aim for our tools to be used safely and responsibly, while maximizing your control over how you use them. By using our services, you agree to adhere to our policies. We have established universal p
OpenAIがChatGPTなどのツールやサービスの利用規約を改定、従来よりも明確で具体的な禁止例が示される
OpenAIが開発した「ChatGPT」などのチャットAIは、研究論文の著者に名を連ねたり、経営学修士課程(MBA)の最終試験に合格したりと、まるで人間のような文章を生成することが可能です。しかし他者を傷付けるコンテンツなどを無制限に生成することは認められておらず、OpenAIはChatGPTをはじめとするツールやサービスの使用について2023年3月23日に利用規約を改定し、これまでよりも明確かつ具体的な利用規約を示しました。 Usage policies https://openai.com/policies/usage-policies OpenAIは「私たちは、誰もが私たちのツールを安全かつ責任を持って使用できるようにしたいと考えています。そのため、OpenAIのモデル、ツール、サービスのすべてのユーザーに適用される利用規約を作成しました」と述べ、以下の行為を禁止しています。 ◆使用
ChatGPT plugins
We’ve implemented initial support for plugins in ChatGPT. Plugins are tools designed specifically for language models with safety as a core principle, and help ChatGPT access up-to-date information, run computations, or use third-party services. In line with our iterative deployment philosophy, we are gradually rolling out plugins in ChatGPT so we can study their real-world use, impact, and safety
GPT-4が労働市場に与える影響と各職種のリスク評価──OpenAIの研究者が論文発表
大規模言語モデル（LLM）の「GPT-4」を手掛けた米OpenAIとペンシルベニア大学の研究者らは3月17日、「GPTはGPT：LLMの労働市場への影響の可能性に関する初期の考察」と題した論文を公開した。「GPT（Generative Pre-trained Transformer）モデルと関連技術が米国の労働市場に与える潜在的な影響を調査」したとしている。 調査の結果、米国の労働力の約80％が、GPTの導入によって少なくとも仕事の10％に影響を受ける可能性があり、約19％の労働者は仕事の50％に影響を受ける可能性があることが示されたという。 ほぼすべての職種に影響するが、特に現在高収入な職種のリスクが高いとしている。 調査は、学習達成度を表を用いて測定するルーブリック評価によって、職業別の人間の専門知識とGPT-4を使った場合を比較した。 方法は、1016の職業について、職業ごとに測定す
OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換
言語モデルのChatGPTや画像生成AIのDALL·Eを手がけるAI研究所のOpenAIは、AI技術の悪用を防ぎ社会に友好的な形で発展させることを目的に、サム・アルトマン氏やイーロン・マスク氏らが2015年に発足させた非営利組織です。そんなOpenAIの創始メンバーに名を連ねるイルヤ・サツキヴァー氏が、AIをオープンにするという設立当初の理念は誤りだったと、IT系ニュースサイト・The Vergeのインタビューの中で語りました。 OpenAI co-founder on company’s past approach to openly sharing research: ‘We were wrong’ - The Verge https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-il
GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita
先日OpenAIより発表されたGPT-4が話題ですが、同タイミングで公表されたTechnical Reportを読んでみたところ、全99ページのうち後半60ページを占めるドキュメント「GPT-4 System Card」において解説されていた、言語AIが抱える危険性と、いかにしてGPT-4が危険な回答を回避するように学習されているかについての内容が非常に興味深かったため、簡単にまとめてみました。 https://arxiv.org/pdf/2303.08774.pdf サマリ GPT-4のリリースに向けて、OpenAIでは安全性を評価するために50人超の専門家らを含む"レッドチーム"を結成。2022年8月から8ヶ月に渡ってリスクの評価とその軽減に向けたチューニングを実施してきた リスク評価における実験の中には「自身をコピーするプログラムを実行できるGPT-4が自己増殖をしないか確認する」と
GPT-4
We’ve created GPT-4, the latest milestone in OpenAI’s effort in scaling up deep learning. GPT-4 is a large multimodal model (accepting image and text inputs, emitting text outputs) that, while less capable than humans in many real-world scenarios, exhibits human-level performance on various professional and academic benchmarks. We’ve created GPT-4, the latest milestone in OpenAI’s effort in scalin
Confirmed: the new Bing runs on OpenAI’s GPT-4
Congratulations to our partners at Open AI for their release of GPT-4 today. We are happy to confirm that the new Bing is running on GPT-4, which we’ve customized for search. If you’ve used the new Bing preview at any time in the last five weeks, you’ve already experienced an early version of this powerful model. As OpenAI makes updates to GPT-4 and beyond, Bing benefits from those improvements. A
【落合陽一】「ChatGPT」強化学習リーダーは、日本生まれで６カ国渡った元Google Brainの研究者。OpenAIのシェイン･グウが語る、”生成AI時代”の日本の「強みと新たな可能性」とは？
番組のフル視聴（95分）はこちらから http://bit.ly/3XYQr65 NewsPicksの番組一覧 https://bit.ly/3KCA4GD 10日間無料トライアル実施中 http://bit.ly/3X5XMzD 学生の方には学割（月額500円）プランも https://bit.ly/3RBfbxU _____ 質問を入力すると会話形式の文章で何でも答えるChatGPTに、テキストから高度な画像を生成するDALL·E 2。いま世界で注目されている"生成AI"を開発し、一般公開しているのが、アメリカの『OpenAI』だ。Google Brainから移籍し、現在はChatGPTチームで強化学習リーダーを務めるシェイン･グウ氏によると、生成AIの急成長は単なる一過性のトレンドではなく、今後さらに加速していき、より自律性に富んだ汎用人工知能（AGI）に近づくという。7年前
OpenAI、AGI（人間より賢いAI）へのロードマップを公表 「世界に深刻な害を及ぼす可能性」回避のために
会話型AIサービス「ChatGPT」を手掛ける米OpenAIのサム・アルトマンCEOは2月24日（現地時間）、AGI（Artificial General Intelligence；汎用人工知能）実現への短期および長期のロードマップを発表し、人類改善のためのリスク軽減策について説明した。アルトマン氏はAGIを「一般的に人間より賢いAIシステム」と定義する。 同氏は、人間の知性を超えた存在を成功させることは人類史上最重要事項であり、希望に満ちてはいるが、恐ろしいプロジェクトだと語った。 AGIには誤用、劇的な事故、社会的混乱などの深刻なリスクが伴うが、それでも利点が非常に大きいとしている。いずれにしてもAGIの開発を停止することはもはや不可能であるため、「社会と開発者は正しく開発する方法を見つけ出さなければならない」とアルトマン氏。 同氏は短期計画として以下の3つを挙げた。 AIモデルの現実
OpenAI、「GPT-3」より従順な改良版「InstructGPT」をAPIで提供開始
米AI研究企業OpenAIは1月27日（現地時間）、自然言語モデル「GPT-3」よりも「ユーザーの意図に従い、より加害性の低い」言語モデル「InstructGPT」をAPIのデフォルト言語モデルとし、提供を開始したと発表した。 GPT-3はインターネット上のデータで学習した文章生成のための言語モデル。かなり自然な文章を生成できることで話題を呼んだ。だが、学習に使うネット上のデータには人種差別的なものや暴力的なものもあるため、一般に望ましくない結果が生成されてしまうこともある。 InstructGPTはそうした問題を解消する目的で改良したGPT。過去1年間のβテストでは、GPT-3と比較して人間の誤った答えを模倣してしまうことが少なく、加害性も低くなっているという。また、人間による評価を行ったところ、InstructGPTの方が幻覚のような創作をする頻度が少なく、より適切な出力が生成されたこ
「ChatGPT」の課題とオープンソースAIの必要性を訴える論考、Natureに掲載
OpenAIのテキスト生成プログラム「ChatGPT」は大人気だが、その性能は科学研究に関して膨大な数の誤った情報を広める恐れをはらんでおり、内部機能を精査できるオープンソースの代替プログラムが必要であることなど、課題を指摘する論評が、権威ある学術誌「Nature」に掲載された。 「ChatGPT: five priorities for research」（ChatGPT：5つの優先すべき研究課題）というタイトルの論評で、研究者らは「専門的な研究に会話型AIを利用すれば、誤り、偏見、盗用が持ち込まれる可能性が高まる」点をきわめて広範な危険として挙げ、「ChatGPTを利用する研究者は、誤りや偏りのある情報によって誤った方向に導かれ、そこから得た結論を自身の思考や論文に取り込んでしまう危険がある」と指摘した。 この論評の筆頭著者は、オランダにあるアムステルダム大学の精神医学科・同大学医療セ
ChatGPTが大規模ダウン サイト、APIの両方で
米OpenAIのAIチャットbot「ChatGPT」で2月21日、サービスが停止する不具合が発生している。原因は不明。日本時間午後7時ごろには復旧の兆しが見え始めているとしている。 ChatGPTのWebサイトとAPIの両方が対象。障害は21日午後4時40分ごろに発生し、午後5時52分には根本原因を特定し復旧作業を始めた。 ChatGPTのWebサイトで質問を送信すると、「お客さまのリクエストの処理中にサーバエラーが発生しました。申し訳ありません。リクエストを再試行するか、エラーが続く場合はヘルプセンターにご連絡ください」とのメッセージが表示され、回答は生成できない状態になっている。 関連記事 ChatGPTのお仕事受けます──ランサーズに特集ページ 「業務効率化や生産性の向上に」 クラウドソーシングサービス「Lancers」で、「ChatGPT」関連の外注プランの出品受け付けが始まった。
Bain x OpenAI
Welcome to your Red Folder Bookmark content that interests you and it will be saved here for you to read or share later.
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI API
OpenAI API
OpenAI Status