ユーザーが問いかけた質問に対してほぼ的確な答えを生成できる対話型AI、ChatGPTが話題だ。人間の使うことばとは何が違うのか。どう使いこなせばいいのか。オノマトペや「記号接地」をキーワードに、今井むつみ慶應義塾大学教授が語る。 （『中央公論』2023年7月号より抜粋） 赤ちゃんに易しく外国人に難しいことば ──子どもはことばをいかに覚えるのかを研究する今井さんですが、今回はAIの言語学習との比較などを通して、両者の違いについて伺います。まず、最新刊『言語の本質』では、日本語を話す人はオノマトペを言語習得の足場とするとのことでしたが、どういうことなのでしょうか。 英語は日本語のようにオノマトペが体系化されていませんが、だからといって英語が音と意味のつながりが薄い言語というわけではありません。英語には音の感触が織り込まれた動詞が多いんです。例えばtickle（くすぐる）。語感に日本語でいう「

2023年6月16日 から改正電気通信事業法が施行なんですけど知ってました？ これ、収益目的なら企業運営でも個人運営でもほとんどのWebサービス・スマホアプリが対象という、めちゃめちゃ広範囲にみんなが対応が必要なやつなんですけど、ヤバくない? 何もしてなくない? やっべえなというWEBサイト担当者/アプリ開発者が結構いそうな雰囲気がいんたーねっつから漂ってまいりました。 企業のオウンドメディアや、個人運営のアフィリエイト目的サイトなんかも対象になる場合があって、メディア系サイトはもちろんアプリ開発者にも影響ある感じですので、やるべき内容をブログにしたためておきます。 ※ぼくは法律の専門家ではないので、ちゃんと総務省の公式ドキュメントなどにも当たってくださいね。 ググると「外部送信規律」とか「電気通信事業者又は第三号事業を営む者」とか専門用語の記事ばっかり出てきて自分が何をしたらいいのかの情

RLHFとは「人間の評価による強化学習」のことで、大規模言語モデルをChatGPTなどの実用レベルに至る品質にまで高めた実績のある手法です。RLHFでは教師データを作成したり、大規模言語モデルの回答を評価したりする際に人間がデータを入力する必要があり、特に複数人で作業する場合にデータの管理が大変になってしまうものですが、そうしたRLHF用データの入力や管理を行ってくれるプラットフォームが「Argilla」です。 Bringing LLM Fine-Tuning and RLHF to Everyone https://argilla.io/blog/argilla-for-llms/ 大規模言語モデルを作成する時の手順を示したのが下の図です。まず大量のテキストを用いて事前学習を行います。こうして作成されたモデルが事前学習済みモデルで、GPTやPaLM、LLaMAなどのモデルがこのカテゴリに

WGAN などで使われるWasserstein距離は確率分布の間の距離のひとつです。本稿では、離散型確率分布に対するWasserstein距離の定義と、Pythonによる計算の例を示します。 Wasserstein距離の定義 ふたつのカテゴリカル分布$a$、$b$それぞれの次元を$m$、$n$とします。このふたつの分布の各次元の間で、確率の移動のコスト行列 $C \in \mathbb{R}^{n \times m}$ が与えられたとき、 ふたつの分布を周辺分布にもつような結合確率分布の空間 U(a,b) := \{P \in \mathbb{R}^{n \times m} : P \mathbb{1}_m = a \ {\rm and} \ P^T \mathbb{1}_n = b\}

2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(

にいがた通信 にいがた通信は、新潟県新潟市の地域情報サイトです。新潟市民にしかわからないグルメ、イベント、開店・閉店などの雑談ネタを、市民目線でモリモリと発信していきます。 リフォーム or 建て替え検討中なガタ家。 けれども一向に話は進まず… 物価高でなかなかシンドいらしい。 自称モデルルーム見学マスターなガタ子。 いろんなイベントに参加しては ベストな家を狙う。なところに！ 『一条工務店』のお家が見れる オープンハウスイベント発見〜〜！ ※本記事は株式会社一条工務店提供によるタイアップ広告です。 場所は、西区坂井東。 『有限会社 タナカ企画』角から1本入った 住宅街内。 今回開催する『OPEN HOUSE』 引渡し前のお家が見学できるってヤツ。 どうやら…世界初？！の耐水害住宅らしい。 耐水害住宅！？初耳学… どんなお家なのか早くもキニナル〜！ スタイリッシュな外観…からの 内装もオシ

ChatGPTの基本からその構造、教育利用を検討する際の注意点、具体的な活用法などを解説した講座。 「教育機関などの勉強会、研修などでご活用ください」と呼び掛けており、利用の際に事前の連絡は不要という。 関連記事 「東大生や教員は、生成系AIにどう対応すべきか」東大副学長が声明　「組換えDNA技術に匹敵する変革」 「東京大学の学生や教職員が生成系AIに対してどのように向き合うべきか」――東京大学副学長の太田邦史教授が声明。 「GPT-4」搭載ChatGPTに東大入試数学を解かせてみた　GPT-3.5との回答の違い、点数は？ AIチャットbot「ChatGPT」「新しいBing」に、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。それぞれの反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。 東大松尾教授が答え

『イーデス』は、複数の企業と提携し情報を提供しており、当サイトを経由して商品への申込みがあった場合には、各企業から報酬を受け取ることがあります。ただし当サイト内のランキングや商品の評価に関して、提携の有無や報酬の有無が影響を及ぼすことはございません。 また当サイトで得た収益は、サイトを訪れる皆様により役立つコンテンツを提供するために、情報の品質向上・ランキング精度の向上等に還元しております。※提携機関一覧 将来のお金に関する漠然とした不安から、資産運用に興味はあるものの「何から始めればいいのか分からない」と感じている人は多いのではないでしょうか。 特に「投資」は複雑で難しそうな印象から、一歩を踏み出せないという人も少なくなさそうです。 今回寄稿いただいたエンジニアのSongmuさんも、投資に対し手続きや運用に手間がかかりそう、と長らく投資を始めてこなかったと語ります。 そんなSongmuさ

「ネットワークなんて触ったことないから分からない」という人も必見　AWSを題材にネットワークの基礎が学べる無料の電子書籍：人気連載まとめ読み！ ＠IT eBook（105） 人気過去連載を電子書籍化し、無料ダウンロード提供する＠IT eBookシリーズ。第105弾は、これまであまり物理的なネットワークに触れてこなかったエンジニアを対象に、AWSを用いてネットワークの基礎知識を解説する連載「AWSで学ぶクラウド時代のネットワーク基礎知識」です。新人エンジニアはもちろん、クラウドを扱う全ての人に身に付けてほしいネットワークの知識を、AWSを題材に学習します。

坂本龍一が自分の葬儀で流すために個人的にまとめていた「最後のプレイリスト」が、坂本龍一のマネージメントチームによって公開されています。 以下、坂本龍一のマネージメントチームより 「Ryuichi’s Last Playlist. 龍一が自身の葬儀で流すために個人的にまとめていたプレイリストを、逝去に伴って共有したいと思います。彼は本当に最後の最後まで音楽とともにあったのです - skmtマネジメント」 全33曲のコレクションで、坂本龍一とアルヴァ・ノト（Alva Noto）によるコラボレーション作品で始まります。このコレクションには、バッハ、ドビュッシー、ラヴェルのクラシック作品が含まれており、またエンニオ・モリコーネ（Ennio Morricone）やニーノ・ロータ（Nino Rota）のサウンドトラック作品や、デヴィッド・シルヴィアン（David Sylvian）やビル・エヴァンス・ト

会食の本質は「店選び」ではない「今度〇〇社と会食セッティングするから店選びとロジよろしく！」 上司からの依頼。何度聞いても心臓の奥で嫌な汗が出るような、この瞬間。そう、会食はビジネスパーソンにとってできる限り避けたい「雑務」である。 単に店を選べばいいだけかと思ったら、大間違いだ。少し考えるだけでも気が重くなる調整とビジネスパーソンとしての機微が求められる。 上司がクライアントと会食をセッティングする背景の理解 -相手の役職やビジネス背景、会食で達成したい目的を踏まえてどのような価格帯/立地の店にすべきか 上司やクライアントの食の好みの理解 -肉料理希望と言われたがステーキ/焼肉/肉割烹/メインが肉のフレンチやイタリアン、どれを選ぶべきか 個室が必要か不要か -オープン席の場合は席間隔はどのくらい空いた店にすべきか 二次会のロジ -二次会があるかわからない上に人数が未確定の状態で店の予約を

今回やりたかったこと 目標：ChatGPT(GPT-4) で一撃でスクレイピングするコードを生成 するにはどうしたらいいのか、ChatGPT のハードルとかコツとかを知りたい。 ※最終的なプロンプトの入力と出力の全文は本ページ下部に貼り付けてます。 作ったもの概要 保険組合のウォーキングイベントの会社内の3チームの歩数進捗の slack への自動投稿 bot を作成しました。 処理は大きく2つに分かれています。 ウォーキングイベントサイトから歩数をスクレイピング＆スプシへアップロード スプシの GAS で投稿文字列作成＆ slack へ自動投稿 今回 ChatGPT でやったのは1の方です。 2は前回半年前開催分のコードをほぼそのまま流用しました。 運良く（？）今回のタイミングでウォーキングイベントのサービスサイトが変わり、 HTML がまるっと変わり1のスクレイピングコードは作り直しが必

先日プログラミング言語 Mojo と呼ばれるもののアナウンスメントがあった。この言語のデザインが私のスイートスポットに刺さる感じだったので、今のうちから注目している。使いたいなというか、将来使うことになりそうな言語なので簡単に何ができそうかを調査してまとめておきたい。 ウリとしては「C 並のパフォーマンスが出る Python」といったところだろうか。 k0kubun さんからコメントを裏でもらって、これって要するに並列化とか SIMD 化とか入れたら35,000倍のパフォーマンスが出るようだけど、これは Python の部分とは呼べなくて、素の Python 動かして本当にそういえるかは怪しくない？とのことで、判断保留します 🙇🏻‍♀️ k0kubun さんありがとう 言語のデザインとしては、AI 開発に向けたプログラミングを提供できるよう設計されていると感じる。表側は Python

「CustomGPT.ai」でPublickeyのコンテンツを学習させたチャットBotを作ってみた。サイト検索の代わりになるか？ 回答の精度と3つの大きな課題 ChatGPTを開発したOpenAIの技術を用いて、インターネット上のコンテンツをAIに学習させる機能を備えた「CutomGPT.ai」（以下CustomGPT）と呼ばれるサービスが登場しました。開発したのはPoll the People社です。 CustomGPTは、ChatGPTの持つ幅広い汎用の知識に加えて、特定のWebサイトの情報などを学習させることで、特定の情報に詳しくなるようにカスタマイズできるAIだと説明されています。 Product Hunt Launch Alert Today, we launched our https://t.co/PhjhqGcTkH on @ProductHunt. What is it:

大西拓磨です。21歳、ニートです。 このたび、縁あって、ここで何か書いていい権利をいただき（、そこから半年が経ち）ました。 とりあえず、僕のここまでの人生をザバーと紹介して最初の記事と代えようと思います。 1999-2011 横浜で、両親の反対を押し切って生まれました。父と母が毎日のように喧嘩している間、僕はどちらの膝にも座れるのが楽しかった思い出です。 内気ながら足が速かったので小学校では男1女6で遊んでたし、うち2人に告白されました（ここで自殺しておけば...）。 これはその頃に描いた船の絵と その間取りです。 2012-2014 3分の1が東大に行く中高一貫男子校に入れさせられましたが、勉強嫌いだったのでずっと遊んでました。 雪だるまに土下座させたりとか、 ポテトで悟空作ったりして。 あとずっとパズドラやってた。無課金で属性一面+297を達成したのは僕が史上初でした（伝わらない）。