昨年末から急激に話題を呼んだChatGPT、その内部的なバージョンアップであるGPT-3.5とGPT-4はいずれもMicrosoftから強力な支援を受けた米OpenAIという企業が独占的に提供する大規模言語モデル（LLM）だ。 それに呼応するかのように、Meta社からはLLaMA（ラマ）がリリースされ、LLaMAをChatGPTとの1万3千回の会話データで微調整したAlpaca（アルパカ）、AlpacaをShareGPT（GPTとの会話を有志がオープンにしたもの）のデータで微調整したVicuna（ビクーニャ）といった派生モデルが次々と登場した。 しかし、LLaMAはMeta社の意向により「アカデミック用途限定」という縛りがある。またGPTの出力にはOpenAIの利用規定で「GPTの出力結果を元にGPTに対抗できる強力なAIを作ってはいけない」という制約があるため、AlpacaもVicuna

やっぱGPTを仕組みから勉強したい、という本をいくつか見つけたのでまとめておきます。 まず理論的な概要。 機械学習からニューラルネットワーク、CNNでの画像処理、トランスフォーマーでの自然言語処理、音声認識・合成、そしてそれらを組み合わせたマルチモーダルと章が進むので、理論的な概観を得るのにいいと思います。 最初は数式が多いのだけど、Σをfor文だと思いつつ、定義が説明文中に埋まってるPerlよりたちが悪い記号主体言語だと思えば読めるけどめんどくさいので飛ばしても問題ないと思います。 深層学習からマルチモーダル情報処理へ (AI/データサイエンスライブラリ“基礎から応用へ” 3) 作者:中山 英樹,二反田 篤史,田村 晃裕,井上 中順,牛久 祥孝サイエンス社Amazon で、もういきなり作る。 トークナイザーから全部つくっていきます。TensorFlowでBERTをつくってGPT2をつくる

【倶知安、ニセコ】国際リゾート地のニセコ地域（後志管内倶知安、ニセコ両町）で、政府の入国規制緩和に伴う海外からの集客回復を背景に、人手不足が深刻化している。特に宿泊施設などの接客関連部門の有効求人倍率が８～９倍前後となるなど、新型コロナウイルス禍前よりも高い水準に達している。各事業者はスキーシーズン最終盤の春の段階から、早くも次の冬を見据えた外国人材などの確保に懸命で、冬季限定スタッフの一部を通年雇用に切り替える動きも出ている。 ニセコ地域などを管轄する岩内公共職業安定所倶知安分室管内では、サービス業の有効求人倍率が「接客・給仕」部門で１月に９・３３倍、２月に７・７６倍に上る。「飲食物調理」部門も４～５倍台で推移。同分室によると、同地域の宿泊施設や飲食店の求人が多く、求職者数を大幅に上回る。 両部門ともコロナ禍で外国人客が激減した２０２０～２１年に１倍を切る時期もあったが、２２年から急回復

アメリカのボストンにも出店している、いわゆる“二郎系ラーメン”の店『夢を語れ』。その埼玉店の店主がTwitterでお客を“クソ素人”などと非難し、ネットで物議を醸している。 事の発端は4月21日、あるTwitterユーザーが『夢を語れ 埼玉店』に訪れたことだった。そのアカウントは同店について、店名を明確にはわからないようイニシャルで表現した上で、スープや麺などを「不味い」とレビュー。そして「もう2度と行かない」とツイートした。 すると、その投稿に対して『夢を語れ 埼玉店』店主は《もちろんもう二度と来ないでください！お残しに募金を頂いてるのですが、不快だったので声もかけず、ありがとうございましたも意識的に省略しました》と直接リプライ。さらに、こう綴った。 《コールの時に「にんにくなし」って言われた時点で、クソ素人が来たなと思ってたんですけど案の上だったので、そもそもこういう輩が入って来ない店

植田和男氏が日銀の新総裁に就任し、金融緩和政策の動向に国内外から注目が集まっている。著名な経済ジャーナリストのマーティン・ウルフは、超低金利政策とイールドカーブ・コントロールは継続せざるをえないと指摘。その理由を英経済紙の論考にまとめている。 日本銀行総裁が黒田東彦から植田和男に交代したいま、日本は極端な金融緩和政策を放棄するだろうか？ 答えは「ノー」のようだ。 現行の金融緩和政策は超低金利政策とイールドカーブ・コントロール（YCC）に支えられている。植田新総裁は就任の記者会見で、この「2本柱」の継続は理にかなっていると強調した。では、これらに固執したことも妥当だったのだろうか？ 筆者の答えは「イエス」だ。 最もそれは、2023年4月5日付の本紙「フィナンシャル・タイムズ」で同僚のロビン・ハーディングが論じていたように、「リスクがないから」ではない。これに代わる施策にも、リスクがあるからだ

「ChatGPT」に代表される生成系AI（人工知能）の利用が急速に広がるなか、東京大学の太田邦史理事・副学長が2023年4月3日、学内サイト「utelecon」に掲載した生成系AIに関する教員や学生向けの文書が話題を呼んだ。同文書は生成系AIが抱える問題点に言及しつつ、利用を禁止するだけでは問題は解決しないとし、「積極的に良い利用法や新技術、新しい法制度や社会・経済システムなどを見いだしていくべきだ」と指摘している。 日経クロステックのインタビューに応じた太田副学長は、「チャンスとして積極的に捉えようというメッセージをしっかりと打ち出しておきたかった」と説明する。初めてChatGPTに触れたときは、「（学生がリポート作成などに多用して）どうしようもなくなる」（太田副学長）と感じたというが、学内で議論した末、「利用を前提に、あらゆることを見直す方向へかじを切るべきだ」という結論に至ったと明か

この記事について この記事は、 Web制作の基礎から学べる「Webコーディングスクール」 などの資料制作をお手伝いして頂いているemiさんによる寄稿記事です。 emiと申します。USAGI DESIGN emi.というサイトでWebデザインやコーディング練習用のデザインデータを配布しています。Webデザインをメインにストックイラストレータ、グッズデザインなどしております。 ChatGPTとは ChatGPTはOpenAIが開発した対話型のチャットボットです。質問を入力すると質問に対する回答が出力されます。 今回はChatGPTを使って、効率よくコーディングを進めてみます。 headタグ内のコードをChatGPTで生成しよう HTMLの大枠をChatGPTを使ってコーディングしてみよう グロナビをChatGPTで生成してみよう ボタンをホバーした時のCSSをChatGPTで生成してみよう H

クレディＳのＡＴ１債は３月、スイスの銀行大手ＵＢＳグループによる同社の買収合意を受け、約160億スイス・フラン（約２兆4200億円）相当が無価値になった。三菱ＵＦＪフィナンシャル・グループ（ＭＵＦＧ）傘下の三菱ＵＦＪモルガン・スタンレー証券などが日本の富裕層や法人顧客に販売していたという。 鈴木金融相、クレディＳのＡＴ１債販売額「国内で1400億円程度」 (2) 一方、コエテクＨが24日に発表した23年３月期決算は、パッケージゲームの新作が計画通りだったことやリピート販売が計画を上回ったことで、順調に着地した。営業利益は１月の予想を15％上回る391億円、純利益も同32％上回る309億円だった。 25日の株価は一時前日比4.9％高の2423円と、22年12月29日以来の日中上昇率を付けた。 投資巧者として知られ、コエテクＨの資産運用を一手に担ってきた襟川会長は、ソフトバンクグループで社外取

2017年に刊行され大きな話題を呼んだ、はあちゅうさんの小説『通りすがりのあなた』。このたび文庫化し装いを新たにしましたが、それに合わせて、映画監督・岩井俊二さんがはあちゅうさんの「スタイル」の凄まじさを解説してくれました。 SNSという「奇異な世界」 今はブログや最近ではnoteという配信サイトがあるが、昭和の昔は日記が主流であった。日記とは、こっそり一人で書くものであり、誰とも共有しない、家族にすら見られてはならない、自分だけの、自分に向けた秘密の告白みたいなものである。 交換日記というものもあった。これは、相手を設定し、二者間で日記を書きあうという、やはり守秘性の高い文書だった。その時代、自分について書くということは、非公開が大原則であった。今やそれはソーシャルネットワークの時代の中で、“承認欲求”というまるで異なる自意識に変容し、日記は価値を喪失したかのようである。 そこに書き込む

１０億円以上の借金が返済不能に陥り、見るからにアホっぽい大津綾香党首にすべての借金を背負わせてトンズラをこく計画を思いついてしまった尊師・立花孝志。ところが、いざ借金を背負わせた瞬間、大津綾香党首がまさかの覚醒。党首の座とともに、年間約３億３０００万円の政党交付金が入る銀行口座を奪われ、「第三者委員会」を設置すると宣言され、それまで側近だったはずの幹事長・黒川敦彦から攻撃を受けるようになりました。 だから、旧ＮＨＫ党は今、何があっても尊師・立花孝志のことを崇拝してやまない生粋のＮ国信者たちによる「立花派」と、これまでずっと立花孝志を崇拝してきたけれど、「あれ？ 尊師、おかしくない？」となってしまった黒川敦彦らの集団「大津派」に分裂し、党内で激しい内ゲバが起こっているのです。 統一地方選の最終日となる４月２２日、尊師・立花孝志は、武蔵小山駅前で品川区の久保田学、目黒区の川端慎二の応援演説をす

元増田の説明が混乱気味なので整理しとくわ。 古代ローマに「Caesar」という男がいた。 言わずもがな「カイザー（帝王）」という言葉の由来になった偉人、ユリウス・カエサルである。 さて、カエサルの時代から100年後くらいに大プリニウスという有名な学者が「カエサルは母親の子宮を切って生まれたからカエサルって呼ばれたんやで」と説明した。 これは、「Caesar」という名前がラテン語で「切る」を意味する「caedere」の過去分詞「caesus」に由来している、という意味である。 ただし現在ではこの説は間違いとされており、正しくは「青みがかった灰色」を意味する「caesius」に由来するのではないかと言われている。 なぜ間違いとされているのかと言えば、カエサルが生まれたあともカエサルの母親が生きていたからである。 この当時の「子宮を切る」とは、出産の近い母親が死んだあとに胎児だけ取り出す、という

生成系AIの登場で、社会は大きく発展してきた。しかし、これまでのテクノロジーは、人間を本当に豊かにしてきたのだろうか？　『国家はなぜ衰退するのか：権力・繁栄・貧困の起源』などで知られる、米マサチューセッツ工科大学（MIT）の経済学教授ダロン・アセモグルらが、新著でこの問いに向き合った。 テクノロジーは本当に「良いもの」か？ 「テクノロジーは常に無条件に良いものだ」「テクノロジーによってより良い雇用が生まれ、さらに豊かになる」。それが、これまでの経済の常識だった。しかし、もしそうでなかったとしたら？　テクノロジーが用いられてきた本当の理由が、歴史的に見ても、エリートをより儲けさせるためだったとしたら？ 2023年5月に出版される、MITの経済学教授ダロン・アセモグルとサイモン・ジョンソンの共著『パワー・アンド・プログレス』（未邦訳）は、これらの疑問について考察している。同書では、過去1000

＜岸田首相に爆弾を投げつけた容疑者は、日本の選挙は「普通選挙」とは呼べず、政治家二世や裕福な人しか立候補できない「制限選挙」だと憤っていた＞ 4月15日、岸田首相が選挙演説中に爆発物を投げ込まれる事件が発生した。幸い岸田首相は無事だったものの、その場で現行犯逮捕された青年は、犯行の動機を黙秘し続けていると報じられている。事件の動機を解明することは犯人に同情を集めるので解明するべきではないという議論も巻き起こる一方、SNSではこの実行犯のものと思われるアカウントが発見されており、彼の政治思想が明らかになりつつある。 実行犯は「制限選挙撤廃」を主張するナショナリスト 報道によれば、実行犯は地元の自民党市議会議員の集会に出席しており、選挙供託金の撤廃や、被選挙権年齢の引き下げを主張していたという。彼のものとみられるSNSのアカウントでも、被選挙権を得る年齢の高さや供託金の高額さだけでなく、世襲政

単方向通信であるということと、HTTP/1.1上で動作しているのが大きな特徴です。 また、HTTP上で動作することから、通信の互換性が高く、セキュリティモデルも使いまわせるので安心です。 どんな用途と相性がいいの？ 双方向通信がしたいわけでなければ、相性の幅がとても広いです。 今回の ChatGPT のような、GPT がトークンを生成するごとに送るケースはもちろん、通知の未読件数バッジの更新、ニュース速報の表示など、サーバからイベントを送りたい時ならなんでも使えます。 HTTP/1.1で動くカラクリ SSEはHTTPのレスポンスヘッダにContent-Type: text/event-streamを指定した上で動作します。 SSEが動く流れ クライアントがサーバーに HTTP/1.1 リクエストを送信し、イベントストリームに接続します。 サーバーは、Keep-Alive 接続を使用して、T

東京は主要な金融センターとしての地位を再び確立するために何年も苦しんできたが、東京を取り巻く環境の「初期設定」が変わり、消去法で東京が残っていることが救いになるかもしれない。 かつて金融界の中心地であった東京は先月、ある銀行業センター番付で、アジアのライバルであるソウルや北京、深圳に後れを取り、トップ20から陥落した。東京市場が30年前に絶頂期を迎えていたころ、金融界の地図に辛うじて記されていた深圳は現在９位だ。 外国人トレーダーを呼び込むためのさまざまな試みは、東京都の小池百合子知事らでは解決が難しい現実に直面している。香港やシンガポールに比べて高い税率や、日常生活や行政で用いられる言語が英語ではなく日本語だということ、それに煩雑で迷路のようなお役所仕事は東京に不利に働く。 ただ、東京が魅力的な都市になりつつあることを示す兆しもある。資産家ケン・グリフィン氏のヘッジファンド、シタデルは世

新潟県は4月21日、サーバに保存していた公文書データ10万件が消失したと発表した。外部からの攻撃によるものではなく、システム保守業者の人為ミスが原因としている。 県は富士電機ITソリューション（東京都千代田区）が開発・保守を担う公文書管理システムを使用している。消失したのは同システムにおいて3月24日午後9時から31日午後11時59分までに登録した文書の添付ファイル10万3389件。「県民や関係事業者に直ちに大きな影響があるものではない」としている。 4月10日に、県の職員が添付ファイルを開けない状況になっていることに気付き、富士電機ITソリューションに調査を依頼した。ファイルが消失したのは9日夜ごろで、判明した段階でバックアップ期間（3日間）を過ぎていたためバックアップファイルが残っていないことが分かった。 原因は、添付ファイルの拡張子を小文字に変更する新機能を、運用テストや社内審査など