超重要な基盤技術「Attention」、Transformerがなぜ画期的なのかを知る
対話型AIサービス「ChatGPT」で使われている自然言語モデルの核になっている技術が「Transformer」だ。自然言語処理を例に、Transformerの仕組みを解説する。 実は、エンコーダーとデコーダーに用いられている「RNN」（Recurrent Neural Network）には、欠点があります。それは、長い文章が苦手だということです。 なぜ苦手かというと、以下の2つのポイントからそのように言えます。 （1）RNNでは、翻訳元文章全体の特徴を記憶できるサイズが固定されている。そのため、文章が長くなり単語の数が増えるほど、エンコーダーにおいて、文章の前の方で出現した単語の意味が薄まってしまう。 （2）RNNでは、単語を1つずつニューラルネットワークで処理する。そのため、単語の数が多くなればなるほど処理時間がかかってしまう。 ですので、RNNが持つこうした欠点を解消するための仕組み
デジタル庁2023年度事業 行政での生成AI利活用検証から見えた10の学び (1/3)｜デジタル庁
デジタル庁のAI担当の大杉直也です。この記事では、生成AIによる業務改善の一助になればと思い、実際の行政業務で生成AIの利活用を検討する際に得られた知見を共有します。 本記事は、「デジタル庁2023年度事業 行政での生成AI利活用検証の結果報告（以降、報告書とよびます）」で得られた知見を、よりわかりやすく具体的に示すために、「10の学び」の形式にまとめたものです。 その検証ではデジタル庁を中心とした行政職員を対象に、実際に複数種類のテキスト生成AIを取り扱える環境＋ユースケースごとの独自開発を含むサポート体制を作り、(1)どの行政業務に対し、(2)どのようにテキスト生成AIを使えば、(3)どのくらい改善効果がありそうか、を調べました。また、報告書には含まれていなかった個別ヒアリング等による知見も反映させています。 文量が少し多くなってしまったため、全3回の構成で紹介いたします。第1回の本記
ChatGPT can now see, hear, and speak
We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT what you’re talking about. We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT w
発達障害者向けAIサポートツールgoblin.toolsを紹介｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 今回は、米国で話題になったgoblin.toolsを紹介します。 goblin.toolsは、主にニューロダイバーシティ（神経多様性）のある人々が苦労するタスクを手助けするためにデザインされたツールです。フリーランスのソフトウェアエンジニアであるBram De Buyserによって作成・管理されています。 ツール自体は英語ですが、日本語入力すれば日本語でも対応できます。シンプルなツールなので英語が読めなくても使うことはできます。 goblin.toolsの概要goblin.toolsには、6種類のツールがあります。簡単に概要を記載します。 マジックTODO・・・やりたいことを細かいタスクに分割してくれる フォーマライザー・・・伝えたいことを適切な表現に変えてくれる ザ・ジャッジ・・・文章に含まれる感情を説明してくれる エスティメーター・・・タスクにかかる時間を算出
OpenAIが作ったGPTs 全22選｜ChatGPT研究所
皆さん、OpenAIが公式のGPTsを開発をしていることはご存じですか？ 実は、 OpenAI 謹製のGPTsにも有用なものがたくさんあります。 本記事ではOpenAIが手がけるGPTs、全22個をご紹介していきます。 GPTsの基本ついておさらいしたい方は以下の noteをご覧ください！ それでは、早速見ていきましょう！ 1. Data Analyst(データ分析)ファイルを入力するだけで、データ分析や視覚化をサポートします。データをより深く理解するための強力なツールです。 以下は、ニューヨークの不動産情報に関するファイルを入力した例です。「要点をまとめて」という簡単な指示で、データ分析から要点をまとめるところまで一気に行ってくれます。 2. Web Browser(ウェブ検索)インターネットから検索して、情報収集やリサーチをサポートしてくれるGPT。普通のChatGPTもブラウジング能
ChatGPTにゆっくり解説やらせたらヤバかった
ChatGPT-4が公開されたので遊んでたところこれゆっくり解説できるんじゃね...?となったのでやってみました。 実際にできたもの 実際AIに台本を書いてもらい、編集した動画がこちらです。 チャンネル自体全然動かしてないこともあって本編のみ公開しても再生されないと思ったので本編と対になるショート動画も制作しました。 short long このクオリティーの台本をAIがサクッと作ってくれるってすごい時代ですよね。なお、この動画のタイトル自体AIに考えてもらったものです。 またいくつか動画をアップロードしましたが、途中からは編集過程も自動化しました。 用いた技術 ChatGPT Node.js AquesTalkPlayer Remotion 1.ChatGPT 言わずもながら台本を作ってくれる作家さんです。 以下のようなプロンプトを渡し、ゆっくり解説風の対話を書いてくれるように命令しました
【GPT】プロンプトエンジニアリング手法まとめ - Qiita
はじめまして、sonesuke( https://twitter.com/sonesuke ) です。 LLMのニュースを追っかけ続けたので、これからキャッチアップする人用にまとめておきます。 単発のプロンプトテクニックについてはこちらご覧ください。 これだけは知っとけ用語 各手法の説明を読む前に、これらの用語を読んでおくと各手法がわかります。知っている人は飛ばしてください。 プロンプトエンジニアリング 入力(プロンプト)を工夫して性能をあげようというアプローチ。 機械学習系で精度アップといえば、追加学習させたりモデルを拡張するのですが、LLMではモデルが大き過ぎてコストが洒落になりません。 そのような事情からプロンプト側を工夫することで、回答に直接影響を与えるという手法が発達しています。 ファインチューニング モデルを新たな学習データで追加学習させ、モデルのパラメータを更新し、精度を高め
「どんな文章も3行に要約するAI」デモサイト、東大松尾研発ベンチャーが公開 「正確性は人間に匹敵」
東京大学・松尾豊研究室発のAIベンチャーELYZA（イライザ／東京都文京区）は8月26日、文章の要約文を生成するAI「ELYZA DIGEST」を試せるデモサイトを公開した。人間より短時間で要約でき、要約の正確性は「人間に匹敵する」という。今後も精度を高め、議事録作りやコールセンターでの対話メモ作成などでの活用を目指す。 同社は自然言語処理技術（NLP）の研究を進めており、日本語テキストデータの学習量・モデルの大きさともに日本最大級というAIエンジン「ELYZA Brain」を開発している。 ELYZA DIGESTは、大規模言語モデルを基に、要約というタスクに特化したAIとして開発。読み込んだテキストを基に、AIが一から要約文を生成する「生成型」モデルで、文の一部を抜き出す「抽出型」モデルなどと異なり、文の構造が崩れていたり、話者が多数いる会話文だったりしても、精度の高い要約文を生成でき
主観と客観を切り替える鍛錬｜Miwa Kuramitsu
突然ですが、ここに一つのプロダクトがあるとします。 そのプロダクトを見つめる視線には様々な種類があります。 そのプロダクトを利用しているユーザーの視点、利用していないが存在は知っているという人の視点、それをつくるデザイナーの視点、プロダクトを運営している会社経営者の視点… もしあなたがデザイナーであれば、デザイナーの視点だけが唯一自分で体感できる「主観」で、それ以外はすべて「客観」となります。 主観と客観のスイッチング プロダクトデザイナーはユーザーの期待通りに正しく動くしくみを設計し、「このプロダクトを利用した時に、ユーザーの生活はどう変化していくのだろうか？」と問いを立てながらアウトプットを評価していきます。 自らの考える理想像をデザインしながら、一方でそれに触れるユーザーの様子を想像する…プロダクトデザイナーは主観と客観を電気のスイッチのように瞬時に切り替えることに長けた人が多いイメ
文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明
人工知能を研究している非営利団体OpenAIが開発した言語モデル「GPT-3」を使用して、何者かが海外掲示板のRedditに1週間近く投稿を続けていたことが分かりました。GPT-3による投稿は、最終的に開発者の手によって停止されましたが、発覚するまでの間GPT-3は誰にも気付かれることなく、Redditユーザーと言葉を交わしていたと報じられています。 kmeme: GPT-3 Bot Posed as a Human on AskReddit for a Week https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html Someone let a GPT-3 bot loose on Reddit — it didn’t end well https://thenextweb.com/neural
人工知能が書いた記事がニュースサイトで1位を獲得...米大学生が実証
米バークレー大学の学生Liam Porr氏が、人工知能（AI）を使って作成したブログ記事がITニュースキュレーティングプラットフォーム「ハッカーニュース」（Hacker News）で1位を獲得。コンテンツ制作の現場において、AIが人間を代替する可能性を示したとして、業界内で注目を集めている。 ハッカーニュースは、米国の大手スタートアップインキュベーター・Yコンビネータが運営するソーシャルニュースサイトだ。先端テックやビジネス、ベンチャーなどのテーマを主に取り扱っている。Liam氏は、AI研究のための非営利組織・OpenAIが開発した高精度な文章生成ツール「GPT3」（Generative Pre-Training 3）を使ってブログ記事を作成。2週間後に、人間が書いたブログを差し置いて1位を獲得したと明かしている。 ハッカーニュースに掲載された記事は、「いいね」の評価や公開された日付を基準
文章の「自動要約ツール」、ユーザーローカルが無償提供
ユーザーローカルは7月24日、入力した文章から重要部分を取り出して要約する「ユーザーローカル自動要約ツール」を公開した。Webサイト上で無償利用できる。 入力フォームにテキストを貼り付けるか、テキストファイルをアップロードすると、文章構造を分析して特徴語（特徴的な言葉を機械的に抽出した単語）や重要文を自動抽出するツール。重要な文章をマーキングやヒートマップ、モノクロ強調で視覚的に捉えられる強調表示にも対応する。 要約文は「3行ダイジェスト」「5行ダイジェスト」「10行ダイジェスト」といった分量調整もできる。 重要文の抽出には、重要単語を多く含み、他の文に類似度が高い文を抽出するアルゴリズム「LexRank」を活用した。 ツールが公開されているWebページには、ニュース配信各社から引用したニュース本文の要約をダイジェストとしてランキング表示している。 同社は「インターネット上には、日々ニュー
「イスラーム国」による日本人人質殺害予告について：メディアの皆様へ-中東・イスラーム学の風姿花伝
池内恵（いけうち さとし 東京大学准教授）が、中東情勢とイスラーム教やその思想について、日々少しずつ解説します。有用な情報源や、助けになる解説を見つけたらリンクを張って案内したり、これまでに書いてきた論文や著書の「さわり」の部分なども紹介したりしていきます。
炎上させずにインターネット上でスマートに議論する方法 | ライフハッカー・ジャパン
Jesse Nivens氏はこれまでグラフィックデザイナー、ウェブデベロッパー、ゲーム開発者、ライターなどさまざまな仕事に関わってきました。その一方で、高校時代には学校代表ディベーターとして活躍した経験があり、インターネット上では「議論の達人」と言えるほどの腕前を持っているそうです。今回は、そんなNivens氏が「インターネット上でスマートに議論する方法」について語ります。 2012年11月にはアメリカ大統領選挙が予定されています。アメリカでは多くの人が大統領候補について調べ、自分の考えを決め、話し合っています。大統領選挙はとてもホットな話題で、「Facebookに政治ネタは投稿しない」と決めているような物静かな人でさえ「シェア」ボタンをつい押したくなってしまうほど。 インターネットは戦場です。普段からインターネットを使っていれば、激しい議論に巻き込まれるのは珍しいことではありません。そん
優れたWebサービスを作るために知っておきたい、UIを構成する5つの基礎的な要素 | Tokyo Otaku Mode Blog
悩み多きディレクターの皆様。 こんにちは。Tokyo Otaku Mode （以下TOM）ディレクターの青芝です。 Webサービスを考えるうえで、誰もが一度は頭を悩ませる UI （User Interface）。 User Interface（ユーザーインターフェイス）とは、ユーザーがWebサービスを利用するうえで直接操作する画面のことを指しますが、ひと言で「UI」と言っても、そこには文字や画像の見せ方、マウスのクリックや指のタッチに反応したときの動き、画面全体のレイアウトなど、さまざまな構成要素がかかわってきます。 それら一つひとつの性格や特徴を考慮し、しっかりと設計しておかなければ、使いやすいWebサービスを作ることはできません。今回は、WebサービスのUIを考える際に知っていると役立つ知識のなかから、基礎的な５つの要素を紹介していきます。 正しい文章構造について 人の感情を動かす色に
完全犯罪｜♔はるかぜちゃん ♔｜note
LINEはたのしい！楽だし早いし楽しい。LINEができてから友だちと話すのがたのしくて、調子のってグループ入りすぎて未読３０００件とかたまってよく友だちにｺﾞﾙｧー！されるるけど、それでもたのしいｗｗｗメールなんて、LINEが使えないガラケーの人と話す時か 大きいデータをパソコンでやりとりする時以外、使うことなくなっちゃったよね。友だちや家族や事務所とだって、たいていの連絡はLINEで済ませちゃう。特に初対面の人とは、最初にLINEを交換するだけでその日のうちに距離がぐっと近づくし、すぐに仲良くなることができるのが(・∀・)イイ！ふつうならまだ出会ったばかりで、住所や名前、個人情報を交換するにはまだ早いかな？って思うくらいの相手でも、LINEのIDなら気軽に教えあえるところが、とっても(・∀・)イイ！☆だんだん、会話のひとつひとつのフレーズが、短くなっているのかも手紙からメールへ、メールか
わかりやすい文章の10大原則
この記事では、LINEグループに招待できない・参加できない時の対処法や原因についてお伝えしていきたいと思う。 複数人で連絡を行う際にLINEのグループ機能は非常に役に立つ。学校でも職場でも利用されている事が多く、グループ内通話も出来るので簡単な打ち合わせ程度であれば、LINEでも可能になった。 グループの作り方も非常に簡単。 しかし、なぜか相手に招待が届かない…といったことも度々ある。 では、この招待が届かない時によくある原因について見ていこう。 LINEグループに招待できない時の対処法・原因 基本的に以下の場合は、相手に招待を送っても届かない。 既にLINEを退会している(アカウントを変更している)場合 既に招待を送っている場合 相手にブロックされている場合 もしくは、招待しているけれど参加されない…といった場合は、相手側が参加を拒否している可能性もある。 上記の3点に当てはまらない場合
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
謎解き単語検索beta
KAJI | 梶谷健人 on Twitter: "GlaspっていうChrome拡張機能使うと、YouTube動画からボタン一発でChatGPTにサマリー文章を作ってもらえてとても便利。 DeepLと組み合わせて海外のカンファレンス動画やレクチャー動画も高速で学習できる。 https://t.co/FHSapesC0K"
Loading...