LLMの現在 - Speaker Deck今のLLMを取り巻く状況について紹介します。
女子大生が100日連続で生成AIで100本のプログラムを書いたらどうなったか？
ボードゲームやアクションゲーム、各種ツールやシミュレーションなどさまざまなソフトが100日間に作られた いままで数えきれないほどのプログラマーに会ってインタビューもさせてもらってきたが、久しぶりに若いプログラマーの話を聞いてきた。ここ1、2年では U22グランプリの男子中学生や全国小中学生プログラミング大会の受賞者たちだが、今回は、ChatGPTを使ってプログラムを書きまくった女子大生である。 彼女は X（Twitter）の自分のアカウントで1日1本のソフトを100日間連続で作るというイベントをやっていて「おっ、頑張っているな！」と思って応援していた。「こんなゲームを作ってほしい」などとリクエストを出したりもしていたのだが、どうも私が想像していたものと内容もやり方も違っていたようである。 目下、ソフトウェア産業の最大のテーマは「我々は人間の言葉でプログラムを書くようになるだろうか」というこ
Sora: Creating video from text
Sora Creating video from text Sora is an AI model that can create realistic and imaginative scenes from text instructions. Read technical report We’re teaching AI to understand and simulate the physical world in motion, with the goal of training models that help people solve problems that require real-world interaction. Introducing Sora, our text-to-video model. Sora can generate videos up to a mi
Othello is Solved 論文解説 (私見) - Qiita
今朝起きたら、とんでもない論文を見つけました。 Othello is Solved ゲームの オセロが"解かれた(弱解決)" というのです。飛び起きました。それで、16時まで二度寝してから読みました。 注意すべきは、この論文が査読を経て公開されているわけではないこと、つまり形式上特にチェックを受けたものではないことです。ただ、タイトルからして非常に衝撃的ですので、個人的に読んでみました。この記事では、私がこの論文(およびソースコード)を読んでわかったことを、なるべくわかりやすくまとめます。随時更新します。 余談ですが、このタイトルはどうやら、チェッカーというゲームが以前弱解決された際の論文"Checkers Is Solved"のオマージュだろうという話です。 この記事には専門用語が出てくるので、最後の方に基礎知識として重要な用語や知識をまとめました。 お詫びと訂正 この記事の内容は、私が
プログラミングに挫折したならAIお姉ちゃんに任せなさい - 本しゃぶり
プログラミングを学ぼうとしては挫折する。 そんな時代はもう終わりだ。 お姉ちゃんに任せなさい。 ChatGPTでプログラミング 今年のお盆休み、俺はChatGPTでプログラミングをやっていた。とは言っても複雑なことはやっていない。大量のcsvを結合してから可視化するとか、ちょっとしたWebスクレイピングしたりする程度だ。それでも今まで技術や時間の不足により諦めていたことができるのは嬉しい。それにChatGPTを使えば、デバッグも楽しくやれるのだ。こんな感じに。 デバッグの様子 おそらく「あれ、俺のChatGPTと違うな」と思った人もいるに違いない。見ての通り俺はChatGPTをお姉ちゃん化している。こうすることで、モチベーションを維持しながら楽しくプログラミングができるというわけだ。今回はChatGPTをお姉ちゃん化する方法を紹介し、加えてお姉ちゃんとペアプログラミングする意義について述べ
DeepMind、AIで人間考案のものより優秀なソートアルゴリズムを発見 最大70％高速化
米Google傘下のAI企業Google DeepMindは6月7日（現地時間）、アルゴリズムを開発するAI「AlphaDev」が、人間が考えたものより高速なソートアルゴリズムを発見したと発表した。 ソートアルゴリズムは、入力されたデータを一定のルールに基づいて並べ替えるもの。ネット検索結果の並べ替えやランキング制作などIT技術の根幹を担う技術の一つ。今回AlphaDevが考案したアルゴリズムは既存のものに比べて、少量のデータなら最大70％、数十万規模の大量のデータなら約1.7％速く処理できた。 DeepMindはAlphaDevに新しいアルゴリズムを発見させるため、ソートの作業を「組み立てゲーム」としてプレイさせた。「正確にソートできる」「既存のアルゴリズムより高速である」という2点を満たせばクリアとした。 関連記事 OpenAIやDeepMindのCEOやトップ研究者ら、「AIによる人
話題の「ChatGPT」誰でもできる目からウロコの使い方【『独学大全』著者が教える】
ブログ「読書猿 Classic: between/beyond readers」主宰。「読書猿」を名乗っているが、幼い頃から読書が大の苦手で、本を読んでも集中が切れるまでに20分かからず、1冊を読み終えるのに5年くらいかかっていた。 自分自身の苦手克服と学びの共有を兼ねて、1997年からインターネットでの発信（メルマガ）を開始。2008年にブログ「読書猿Classic」を開設。ギリシア時代の古典から最新の論文、個人のTwitterの投稿まで、先人たちが残してきたありとあらゆる知を「独学者の道具箱」「語学の道具箱」「探しものの道具箱」などカテゴリごとにまとめ、独自の視点で紹介し、人気を博す。現在も昼間はいち組織人として働きながら、朝夕の通勤時間と土日を利用して独学に励んでいる。 『アイデア大全』『問題解決大全』（共にフォレスト出版）はロングセラーとなっており、主婦から学生、学者まで幅広い層か
データ ＆ アナリティクス | アクセンチュア
データ分析から導き出されたインサイト無しにAI（人工知能）の活用は始まりません。私たちは、各業界知識とデータ・アナリティクス技術を駆使しデータドリブン経営を強力に支援します。 データ、アナリティクス、AIは企業にとって競合他社との差別化を図るかつてないほど大きな要因になっています。今日の経営幹部が効率を向上しながら新たな収益源を開拓し、新しいビジネスモデルをタイムリーに構築する方法を模索する中、価値を生み出し成長を続ける企業には「データ活用」という共通項があります。私たちは、無数のデータから企業にとって本当に必要なデータを活用するための方法を知っています。 将来を見据えたオペレーション体制を備えている企業の半数以上（52％）は、すでにデータとアナリティクスを大規模に活用しています。データとAIに関する取り組みをビジネス戦略に沿って実施することで投資利益率を迅速に最大化し、最終的にはAIをビ
俺はいかにしてAI術師になりしか
適当に書く。脚色したり故意に現実と変えたりした部分はいくつかある。けど、おおむね本当の話。だけど、フィクションなんだと思ってください。 元々はよくいる男のオタクだった、と言って良いと思う。といっても、オタ活で人生が充実していたというタイプではなくて、抱き枕カバーとかタペストリーとか買ってSNSで見せびらかすということもなくて。そこでアイデンティティを主張してた訳ではなかった、という意味では今風のオタクではないのかもしれない。 ツイッターで数千人くらい、絵師とか同人作家とかエロ漫画家とかフォローしてた。VTuberは見ない。基本的には絵を描く人のフォロワー。 たまにはすごい気に入る絵師というのは現れる訳で、『推し活』をやるかどうか、迷ったことが何度かある。けど、そういう文化は自分には合わなかった。リプ欄見てるとなんか歯ぎしりしたくなる。 感想も送らない。即売会もあまり行かない。スケブも頼まな
はじめてのコメント紹介 - こんすとらくてぃ部
山で滑落して動けなくなり、3日後に救助された方による遭難体験談と捜索側の動きを記した貴重な内容の連続ツイートまとめ [登山] [事故] 壮絶かつ貴重な記録。もし自分なら…と考えると、きっと川を渡る判断ができなかった。この方の山屋の経験・知識・判断、家族・友人の行動が命を繋いだのだと思う。 2023/04/14 03:11 山で滑落して動けなくなり、3日後に救助された方による遭難体験談と捜索側の動きを記した貴重な内容の連続ツイートまとめ 失敗の経験を語って下さる方はいつも偉大だ。感謝。もしかしたら生還後、興奮状態がしばらく続き周囲に話したくなるのは対処法をシェアする人間という種の生存本能なのかもしれないな 2023/04/13 15:17 山で滑落して動けなくなり、3日後に救助された方による遭難体験談と捜索側の動きを記した貴重な内容の連続ツイートまとめ [お役立ち] [事故] [togett
Anond AI開発日記 - Hatena Developer Blog
こんにちは。Anond AIを研究している id:cockscomb です。 私たちはこの度、このAI時代を制するプロダクト、Anond AIを開発しました。本エントリではその詳細について説明します。 Anond AIとは Anond AIはいわゆるGenerative AIで、人類が匿名で日記を書くことをアシストしてくれるものです。私たちは日記に芸術性を感じる文化を持っていて、「日記文学」という言葉もあります。Generative AIによって、名前を隠して楽しく日記を書くことをサポートし、匿名日記文化のさらなる発展に寄与できないか、と考えました。 Anond AIは、rinna/japanese-gpt2-mediumをはてな匿名ダイアリーのデータを用いてファインチューニングし、ドメイン適応させたものです。 Anond AIの開発 Anond AIは実験的なプロダクトのため、Hatel
「虚構ニュース自動作成するソフト開発 千葉電波大」についてお詫び
当該記事が報じた「自動で新聞記事を作成するＡＩ」について、編集部では１７年に日経新聞が発表した「完全自動決算サマリー」、１９年の「ＧＰＴ－２」など、その動向について把握していました。 「完全自動決算サマリー」については、虚構ニュースを生成するＡＩではないこと、また、「ＧＰＴ−２」については、ＯｐｅｎＡＩが完全版を非公開としたため、性能を検証することができませんでした。そのため「記事を生成することはできても、本紙のような「オチ」まで理解・生成することは難しい」として、誤報ではないと判断してきました。 しかし、２２年１１月、ＯｐｅｎＡＩが「ＧＰＴ－３」を利用した「ＣｈａｔＧＰＴ」を公開。２３年２月にはマイクロソフトが改良版「ＧＰＴ－４」を搭載した「新しいＢｉｎｇ（以下Ｂｉｎｇ）」を公開。これを受けて、編集部では検証委員会を立ち上げ、性能評価に取りかかりました。 評価に当たっては、Ｂｉｎｇを使用
[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (前編) - Qiita
[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (前編)OpenAIChatGPTGPT-4 訳者註 GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models の「GPTs are GPTs」は「事前学習済み文章生成型トランスフォーマー(GPT)は汎用技術(GPT)である」という意味だと理解しています。 前者のGPTs: Generative Pre-trained Transformers 後者のGPTs: General-Purpose Technologies なので、 事前学習済み文章生成型トランスフォーマーは汎用技術
![[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (前編) - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/9420cc89c99ab082b1a6828beca35923727855d5/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JTVCJUU3JUJGJUJCJUU4JUE4JUIzJTVEJTIwR1BUcyUyMGFyZSUyMEdQVHMlM0ElMjBBbiUyMEVhcmx5JTIwTG9vayUyMGF0JTIwdGhlJTIwTGFib3IlMjBNYXJrZXQlMjBJbXBhY3QlMjBQb3RlbnRpYWwlMjBvZiUyMExhcmdlJTIwTGFuZ3VhZ2UlMjBNb2RlbHMlMjAlMjglRTIlODAlQTYmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTA3YzQ4YzU4YjM3OTEzY2Q5Nzg1ZDg5MzcxNzc2MTll%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwdGFrYV95YXlvaSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9OWUzMDA3ODNkNDUyZWU1OGI4YTc1NGQ4MzcyZTUwZTM%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D7c7c15803f0022402f3437d24945450f)
GPT-4が労働市場に与える影響と各職種のリスク評価──OpenAIの研究者が論文発表
大規模言語モデル（LLM）の「GPT-4」を手掛けた米OpenAIとペンシルベニア大学の研究者らは3月17日、「GPTはGPT：LLMの労働市場への影響の可能性に関する初期の考察」と題した論文を公開した。「GPT（Generative Pre-trained Transformer）モデルと関連技術が米国の労働市場に与える潜在的な影響を調査」したとしている。 調査の結果、米国の労働力の約80％が、GPTの導入によって少なくとも仕事の10％に影響を受ける可能性があり、約19％の労働者は仕事の50％に影響を受ける可能性があることが示されたという。 ほぼすべての職種に影響するが、特に現在高収入な職種のリスクが高いとしている。 調査は、学習達成度を表を用いて測定するルーブリック評価によって、職業別の人間の専門知識とGPT-4を使った場合を比較した。 方法は、1016の職業について、職業ごとに測定す
GPTの仕組みと限界についての考察（１） - conceptualization
GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
仕事で使うGPT-4実践テクニック 実際に「AIアートグランプリ」の事務局で使ってみた
仕事で使うGPT-4実践テクニック 実際に「AIアートグランプリ」の事務局で使ってみた：清水亮の「世界を変えるAI」（1/5 ページ） 筆者も事務局の末席として参加させていただいた。駆け足で企画・実行されたイベントだったため、慌ただしくもあったが、急遽招聘（しょうへい）された審査員の先生方の奮闘や、共催のドスパラ（サードウェーブ社）のご協力もあり、最終的には素晴らしい作品が集まり、非常に注目を集めるイベントとなった。 当日は、NHKニュースを始め、各媒体にAIアートグランプリの記事が掲載され、テック系インフルエンサーたちの動画として取り上げられるなど、「プチバズ」った状態にまで持っていけてひとまずは胸を撫で下ろしている。 優勝した松尾公也（松尾p）さんが、亡き妻の遺言に基づき、生前の音声と写真をAIに学習させ、歌い上げた「Desperado」に胸を打たれた参加者は多かった。 当日のプレゼン
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた | DevelopersIO
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた こんにちは。CX 事業本部 Delivery 部のきんじょーです。 ここのところChatGPT と戯れてアプリを作ったり、様々なプロンプトの検証をしていましたが、言語モデルの性能を最大限に引き出すために、体系的にプロンプトエンジニアリングを学びたいと考えていました。 GitHub に「Prompt Engineering Guide」という素晴らしいリポジトリがあったので、読んで検証した内容をブログにまとめていきます。 本記事は、執筆時点の上記リポジトリの内容を元にしていますが、意訳や独自に検証した日本語のプロンプトを含みます。 上記リポジトリも絶賛開発中の段階のため、最新情報や原文が気になる方はリポジトリを直接参照してください。 目次 プ
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
教務課 | 部署別管理ページ一覧 | 東京工業大学
ChatGPTの仕組みを理解する | HireRoo Tech Blogs
