chatgpt.com 3行で 英文アウトプット練習の優れた相手をGPTsで実装できたからストアに並べたよ！ 学習ツールとしての気持ちよさが自慢なのでまずは1回遊んでみてください！ 「英語だと中学生レベルの文章すら全然話せない」の克服ができる………と信じて、製作者自身が酷使しています 何ができるの？ 和文による出題→英訳→添削→出題…のループです。 体験の良さと自身のアウトプットカの弱さは触ってもらえばすぐに伝わるはずです。これ読む人の8割はブクマして満足するだけなんでしょうけど、これ以降を読むより先にまずは一度使ってみてください。最初にあるリンクへ飛ぶだけです。 なお「完全無料！」と言いたいですが、ChatGPTへの課金が無いとすぐに制限が入るのが最大の難点です。 特長を教えて ジャンルや問題の難易度を適宜変更可能。激ムズ要求出したら絶望感がすごい…… 日本語混じりの英文や、かなりの意訳
生成AIグラビアをグラビアカメラマンが作るとどうなる？第一回：実在モデルで学習・LoRAでキャッチライト付加 (西川和久) | テクノエッジ TechnoEdge
百聞は一見に如かず。これってAI生成グラビア？AI画像生成に興味を持ったのは去年の年末頃だろうか。Twitterを眺めていると「どうやって撮った(作った)んだ？」と言う画像がたまに載っていたので調べると、Stable Diffusion Web UI (AUTOMATIC1111版)だった。 元々グラビアを撮っていたこともあり、あまり撮らなくなってもグラビア好きなのには違いなく、試したくなったのは言うまでもない。 AI生成画像は大きく分けて2種類あり、一つはイラスト系、もう一つはリアル系。筆者が興味を持ったのは後者。どこまで実写に迫れるのかがその興味の対象だ。百聞は一見に如かず。扉の写真はAI生成画像。現時点でこの程度の写りは容易にこなす。 とは言え、実際の撮影もそうなのだが、グラビア写真は数百枚撮ってカメラマンがある程度セレクトし納品したものが、納品先で更に絞られ、出版社などで更に絞り込
「英語講師の話す英語はわかるのに、ネイティブ同士の会話が聞き取れない」 「映画を英語字幕付きで見ていても、同じことを役者が話しているように聞こえない」 ある程度の英語力があるにも関わらず、ネイティブの話す英語が聞き取りにくく感じてしまう原因のひとつにリエゾン（リンキング）があります。 リエゾンとは言葉の音声変化のことで、ネイティブスピーカーの英語では自然に発生しています。 このリエゾンを意識できると、相手の英語がぐっと聞き取りやすくなるばかりか、自分でもスピーキングのときにより自然な発音ができるようになりますよ。 しっかりリエゾンを身につけて、リスニングもスピーキングも、自信を持ってできるようになりましょう！ 執筆者：Lin 小4までアメリカの現地校に通い、帰国後は「英語はネイティブ並みでしょう？」という周囲の誤解とプレッシャーゆえに、英語の勉強から遠ざかった過去あり。中途半端な英語力にコ
このnoteでは、プロジェクトマネジメント（以下、プロマネと略記）のおすすめ本をマトリックス図に整理してご紹介します。 ◆変更履歴◆ 2024.05.07 初版公開 ◆今後追加予定◆ ※追加のお知らせはX（@coffee_nomimasu）にて行います ・プロジェクトマネジメントの基本が全部わかる本 ・プロジェクトマネジメントの本物の実力がつく本 ・驚異のプロジェクト実行術 準備編 ・驚異のプロジェクト実行術 実践編 ・プロジェクト・シン・エヴァンゲリオン プロマネ本を探すときの悩み筆者の本棚にあるプロマネ本プロマネ本を探すとき、多くの方は「プロジェクトマネジメント おすすめ 本」などとキーワード検索して、 プロジェクトマネジメントのおすすめ本を紹介！ プロジェクトマネージャーが読むべきおすすめ本〇〇選！ プロジェクトマネジメントおすすめ本ランキング！ などのサイトを見ながら自分に合いそう
景色からたちどころに国が分かる人がいる Googleのストリートビューを使った場所当てゲーム「GeoGuessr（ジオゲッサー）」というものがあるのだが、そのトッププレイヤーたちのレベルが凄まじいことになっている。 先日「RTA in Japan Summer 2023」という、いろいろなゲームを全速力でクリアする大会の一種目に GeoGuessr の枠があり、プレイヤーである Daig_O さんのプレイがすごいと話題になった。 ↑実際のプレイの動画 プレイ中の画面。この景色からどこの国かを当てるのだ。（「GeoGuessr - RTA in Japan Summer 2023」より。以下、イベント風景のキャプチャは全て同動画から） GeoGuessr にはいろいろな遊び方（モード）があるが、この大会では国を当てるモードでプレイが行われた。そのようすを少し紹介したい。 第1ラウンドめ（30
AIはどこまで無断で学習できるのか。～文化庁の生成AI論点整理(ガイドラインの素案)を読んで - フジイユウジ::ドットネット
今日、文化庁は生成AIと著作権保護についてのガイドラインとなる素案を提示しました。(2023/12/20時点。その後の状況については追記をお読みください。) 生成AIでなにが合法でどんなとき違法になるべきか、クリエイターや開発者、ビジネス系のひとなどが議論していますが、多くの生成AI周辺にいる人たち全員に関係あるガイドラインがいままさに検討されているわけです。 朝日新聞ではこう報じています。 文化庁は20日、文化審議会著作権分科会の法制度小委員会に、生成AI（人工知能）によるコンテンツの無断学習は、著作権法で著作権者の許諾が不要とされる「非享受目的」にあたらない場合があるとする「AIと著作権に関する考え方」の素案を示した。生成AIが記事や画像データなどを無断で利用する「ただ乗り」（フリーライド）に懸念の声が上がる中、現行法を厳格に解釈し、歯止めをかけたい考えだ。 朝日新聞デジタルより引用
「江戸時代は『性におおらか』な時代だった」とかいうデマ、および映画『春画先生』に対する1万字超の怒り｜衆道士ペドフェチ
突然ですが！ これから「江戸時代までの日本は『性におおらかな社会』だったが、西洋的/キリスト教的価値観の輸入がそれを潰した」とかいうなぜか世間にはびこる謎幻想、およびその手の害毒史観のもとで作られた『春画先生』という映画の問題点についてキッチリ語らせていただきます。 ……つーかとっくに上映終了している映画について今さらウダウダ指摘するのもなんだと思ったけど、やっぱ今年のムカつきは今年のうちに全部吐き出しておかねば気が済まぬ。 かなり長くなるだろうけど、しばしお付き合いいただければ幸い。 そもそも。 「おおらか論」に与する人たちってのは、当時に春画・春本の類が何の制約もなく出版され、大衆がそれを白昼堂々と買うことができたと思ってるんだろうか？ 例えば明和年間に京都の書店組合が発行した『禁書目録』には好色本が多く掲載されているし、為永春水ほどの才気ある戯作者も、たかが『春色梅児誉美』程度のハー
LPI-Japan、無償公開中のLinuxサーバー構築学習用教材「Linuxサーバー構築標準教科書」のバージョンアップを発表 ～最新のLinuxディストリビューションに対応し、仮想マシンを用いて独学でも学習しやすい構成に変更～ 報道関係各位 LPI-Japan、無償公開中のLinuxサーバー構築学習用教材「Linuxサーバー構築標準教科書」の バージョンアップを発表 ～最新のLinuxディストリビューションに対応し、仮想マシンを用いて独学でも学習しやすい構成に変更～ オープンテクノロジー技術者認定機関としてLinux技術者認定「LinuC（リナック）」などを実施する特定非営利活動法人エルピーアイジャパン（以下：LPI-Japan、東京都千代田区、理事長 鈴木 敦夫）は、実習を通してLinuxサーバー構築の知識を学べる学習用教材「Linuxサーバー構築標準教科書」（以下：本教科書）のバージョ
IT業界でストレスなく働くには - Qiita
はじめに ITエンジニアのみなさんこんにちは。 今日はIT業界でストレスなく働くということについて考えます。 GPT先生にお題を頂いてそれぞれコメントしていきます。 状況への適応の困難さ IT業界で最も多く発生しているのはこの要因かと思います。 ITエンジニアはSESなどで時間いくらで切り売りしている時給労働者ですが、簡単にはできない技術を提供することで高い単価を頂く仕事になっています。 学生さんから社会人になった人には分かりにくいですが、一定の期間内に一定の成果を出すといった点がコンビニのバイトとは大きく異なります。 現実の状況や要求が個人の能力や資源を超えている場合、適応することが難しくなります。このような状況では、ストレスが生じやすくなります。 誰にでも簡単にはできない技術 はマニュアル化されておらず、自分で状況を判断して適切な結果を出していく仕事となりますが、それができないとすると
限界集落化するIT業界？ - Qiita
はじめに 日本は2021年時点で高齢化率(65歳以上の高齢者の比率)が28.9%の超高齢化社会のようです。 そして、わたし達の勤める会社も高齢化が緩やかに進んで いると思います。意外と認識するのが難しいのですが、すべての人は生きているだけで年を取りますので、会社の構成員の平均年齢は毎年自動で上がります。 会社の高齢化は、IT業界の人口分布を調べると確認できそうです。 出典 : - IT 人材需給に関する調査 － 調査報告書：みずほ情報総研株式会社 レポートは出てきましたが、分かるような分からないような感じですね。 仕事の役割が変わりそうな年代で再集計してグラフ化してみましょう。 みなさんが仕事をしている周りの人達の年齢層はどのようなものでしょうか？ このグラフに当てはまっているでしょうか？ もしもそうであるとしたら、限界集落化が進行している可能性があります。 限界集落化 限界集落とは、人口
クローズアップ藝大では、国谷裕子理事による教授たちへのインタビューを通じ、藝大をより深く掘り下げていきます。東京藝大の唯一無二を知り、読者とともに様々にそれぞれに思いを巡らすジャーナリズム。月に一回のペースでお届けします。 Tweet >> 過去の「クローズアップ藝大」 >> 「クローズアップ藝大」が本になりました 第十五回は、音楽学部作曲科教授の小鍛冶邦隆先生。現代音楽の作曲家として、また指揮者としても活躍しています。令和3年10月、研究室にてお話を伺いました。 【はじめに】 この「クローズアップ藝大」という企画を通して、今まで出会うことのなかった様々な芸術家の方々と初めて話をする機会を得ていますが、現代音楽の作曲家は正直とても遠い存在だと感じていました。コンサートでも、日ごろメディアを通しても現代音楽をあまり耳にすることがないこともありますが、現代音楽については難しい話になるではとの予
ITエンジニアなのにまだ投資やってないの？ChatGPTでクオンツシステム作って儲けようぜpart3 - Qiita
前回まで ITエンジニアなのにまだ投資やってないの？ITエンジニアならChatGPTでクオンツシステム作って儲けようぜ ITエンジニアなのにまだ投資やってないの？ITエンジニアならChatGPTでクオンツシステム作って儲けようぜpart2 ネトフリは面白い 僕はネトフリのヘビーユーザーなんですが、投資系にも リーマンショックまでの経緯と仕組みを実録インタビューで振り返る「インサイドジョブ」や AIテック系の話で、チェスは機械には勝てないと言われてAIが勝ち、「人間の高度な知的能力でしか勝てない」と言った囲碁の世界王者に勝ち、今では7、8年も訓練を積んでようやくなる戦闘機のエースパイロットにも勝ち、AIの実用速度の高さをドキュメントした「アンノウン」なんかも面白いし勉強になります。 投資思考では技術力UPは悪手 投資思考って事業でも人生でもとても大事です。 例えば、収入に不満を持ってるエンジ
全エンジニアが知っておくべきGithubレポジトリTop28【2023最新版】 - Qiita
この記事はNuco Advent Calendar 2023の18日目の記事です。 はじめに 本記事ではGithubレポジトリTop28を紹介します！ Githubレポジトリは日々の業務や学習に役立てることが可能です。必要な機能や学習教材は、無料で利用出来る高機能なものがあるのなら積極的に利用して役立てるべきです。 以下の内容に分けて合計28個のGithubレポジトリを紹介します！ 開発用Githubレポジトリ 学習用Githubレポジトリ QOL高めのエンジニアとして日常を過ごしたい方は参考にしてください！ 弊社Nucoでは、他にも様々なお役立ち記事を公開しています。よかったら、Organizationのページも覗いてみてください。 また、Nucoでは一緒に働く仲間も募集しています！興味をお持ちいただける方は、こちらまで。
最新のRHEL9.3系に対応した「Linuxサーバー構築標準教科書（Ver.4.0.0）」LPI-Japanが無料公開。独習で仮想マシンやLinuxの導入、WebサーバやDNSサーバなど構築
Linux技術者認定「LinuC（リナック）」などを実施する特定非営利活動法人エルピーアイジャパンは、実習を通してLinuxサーバー構築の知識を学べる学習用教材「Linuxサーバー構築標準教科書」バージョン4.0.0の公開を発表しました。 「Linuxサーバー構築標準教科書」はクリエイティブ・コモンズ・パブリック・ライセンス「表示 - 非営利 - 改変禁止 4.0 国際 （CC BY-NC-ND 4.0）」の下で公開されており、PDF版とEPUB版は無料でダウンロード可能です（Kindle版と製本版は有料で提供されています）。 独学で読み進められサーバの動作原理やプロトコルを理解 Linuxサーバー構築標準教科書の内容は現時点（2024年2月）で最新のLinuxディストリビューションであるAlmaLinux 9.3、すなわちRed Hat Enterprise Linux 9.3系を前提と
2021年、『人間とマシンのチーム：私たちの世界に革命をもたらす人間と人工知能のシナジーをいかに生み出すか』（未邦訳）と題する英語の本が刊行された。著者はY・S准将というペンネームだが、イスラエルのエリートの諜報機関、8200部隊を率いる人物であることが確認されている。 著書で彼は、戦火のなかで軍事攻撃の「標的」を何千という規模でマークするため、大量のデータをすばやく処理する特別なマシンの開発を提唱した。そのようなテクノロジーがあれば、「新たな標的の割り出しと、それを承認する意思決定の両方における人間のボトルネック」を解消できるだろうと、彼は書いている。 そのようなマシンは、実際に存在すると判明している。イスラエルとパレスチナ合同の独立系メディア「+972マガジン」とイスラエルの独立系ニュースメデイア「ローカル・コール」の調査によって、イスラエル軍が「ラベンダー」という人工知能をベースにし
Go、Python、Kotlin、Rust、TypeScript の5つの言語について「並列処理、並行処理の手法」というテーマに絞り解説する「並列処理をGo/Rust/Kotlin/Python/JSで解説！思想の違いを体感しよう」。Python編では橘氏が登壇。Pythonで並列処理を行う際の設計方針と、実装上の癖について話します。 西川氏の自己紹介 西川大亮氏（以下、西川）：ここからはPython編の「ちょっとしたデータ分析の並列化」というタイトルで、西川から話します。 GOに勤める西川です。今やっているのは、タクシーやハイヤーの営業支援。「お客さんを乗っけていない時間、どこを走ったらいいの？」とか「どういうところで待っていたら注文来やすいの？」というところのナビをする、「お客様探索ナビ」というサービスのいろいろなことをしています。小さなサービスなのでいろいろやっている感じですね。 P
猫の痛みの有無をAIで判別。世界で利用されるWebアプリ「CatsMe!」開発の裏側 2024年1月11日 株式会社Carelogy 取締役CTO 兼 医師 河本 直樹 東海大学医学部医学科を2021年4月に卒業。2021年2月に株式会社Carelogy設立、取締役CTOに就任。 株式会社Carelogy 取締役CDO 工藤 貴弘 慶応義塾大学大学院理工学研究科修士課程修了後、大手プラントエンジニアリング会社にITエンジニアとして在籍。2022年10月株式会社Carelogy取締役CDOに就任。「CatsMe!」においてはAIモデルの開発を担当。 今世界各地の愛猫家のあいだで話題のWebアプリ「CatsMe!」（旧：猫の痛み検知AI「CPD」）。「この猫は痛みを感じているのか、そうでないのか」を、猫の顔写真をもとにAIが判別するサービスです。2023年5月のサービスリリースから約4カ月で累
【ニューヨーク=清水石珠実】米紙ニューヨーク・タイムズ（NYT）は27日、生成AI（人工知能）を手がける米オープンAIと同社に出資する米マイクロソフトを提訴した。2社がNYTの記事をAIの学習用に許可なく使用し、著作権を侵害していると指摘した。NYTによると、AI学習を巡って大手の報道機関が開発企業を訴えるのは今回が初めての例となる。ほかの報道機関やAI開発企業にも訴訟の動きが広がる可能性があ
エンジニア生存戦略2024 - Qiita
はじめに 新社会人の皆さんもそうでない皆さんもこんにちは。 この記事を読む方々は将来に漠然とした不安を抱えている方かと思いますが、いかがでしょうか？わたしは抱えています。 このエントリーでは、そんな不安を払拭するための生存戦略を考えます。 考察に利用するデータは政府が公開している信用できるデータを利用していますが、わたしの個人的考察については必ずしも正しいとは限りませんがそのつもりで読んでいただければと思います。 まずは情報収集 戦略を考えるには現在の状況についての情報をできるだけ多く集める必要があります。情報が足りていない状況で何かを判断するのは大変危険です。例えば最近は見かけない広告で 『フルリモート週３日出社副業で８０万円収入』 といったものがありましたが、情報がなければ、それがどのような性質のものかを判断することもできないかと思います。 最近ではWebでググったり、ChatGPTに
｢残り時間を可視化｣する時計が発明されました
僕らに必要な時計はこれだった。 突然ですが、みなさん｢残りあと◯分です｣と言われて、すぐにイメージできます？ 僕けっこうニガテで､何分経過したのかが計算しないと出てこない…。 そんな僕でもひと目で残り時間がわかる時計が開発されました。キングジムの｢ビジュアルバータイマー｣と言います。 ゲージ表示で｢残り時間｣を可視化してくれるImage: KING JIMもともと時計って時間を可視化してくれるアイテムですけど、このタイマーでは｢残り時間｣という目に見えなくて体感でも変わるあやふやなものを可視化しているんです。 没頭している時に、チラッと見るだけで｢あと時間どのくらい？を量で判断できる｣し、このゲージが減っていくシステムはゲームでも馴染みがあるので、世代を超えて色々な人に伝わりそう。 Image: KING JIMあとポモドーロタイマー（作業と休憩の時間を繰り返す集中メソッド）的にも使えるの
和田 卓人さん（t_wadaさん）に「予防に勝る防御なし - 堅牢なコードを導く様々な設計のヒント」を社内で講演いただきました！ | Wantedly Engineer Blog
こんにちは、ウォンテッドリーDev Branch VPoE 室長の髙橋です。 ウォンテッドリーの開発組織であるDev Branchでは、外部から有識者を招いて勉強会を開催したり、技術顧問として知見を取り入れるなど、プロダクト開発により強い組織となるためにさまざまな施策を行っています。 今回、「テスト書いてないとかお前それ @t_wada の前でも同じ事言えんの」 でおなじみのt_wadaさん（和田 卓人さん、以下和田さん）に「予防に勝る防御なし - 堅牢なコードを導く様々な設計のヒント」をウォンテッドリー向けにカスタマイズして講演いただきました。 このストーリーでは、今回の講演の経緯から社内の反応・Q&Aまで、講演に関する詳細をご紹介いたします。 社内講演のきっかけ事の発端は、弊社のVPoEである要（X : @nory_kaname）より、外部エンジニアを招いて勉強会を開催する旨の問いかけ
Stable DiffusionやChatGPTなどのジェネレーティブAIが登場したことによって、誰でも簡単に文章や画像を作成できるようになりました。IT系ニュースサイト・Digital Scienceのダニエル・フックCEOが、画像生成AIを使用した時に遭遇した「1本のバナナ問題」から、ジェネレーティブAIが抱える問題に言及しています。 The Lone Banana Problem. Or, the new programming: “speaking” AI - TL;DR - Digital Science https://www.digital-science.com/tldr/article/the-lone-banana-problem-or-the-new-programming-speaking-ai/ バナナが好物だというフック氏は、以前から友人と「バナナのブランディン
【読売新聞】 画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。過去に日本で活動した児童タレントの追加データもあり、追加データで作ったとみられる児童タレントに
講義資料は特設ページからダウンロード可能で、全7講義分のパワーポイントを無料で取得できる。内容はLLMの概要から、日本でのLLMの開発状況、Transformerと事前学習の仕組み、ファインチューニングなど。 関連記事 東大松尾研、大規模言語モデルの研究者＆開発エンジニアを募集 「LLM研究をさらに加速させる」 東京大学松尾研究室は、大規模言語モデル（LLM）の研究者や開発エンジニアを募集するとX（旧Twitter）で発表した。2024年、LLMの研究をさらに加速させるためチームを拡大するという。 ChatGPTでの業務効率化を“断念”──正答率94％でも「ごみ出し案内」をAIに託せなかったワケ 三豊市と松尾研の半年間 「ごみ出し案内」業務にはChatGPTを“活用しない”と決断──生成AIを使った業務効率化を検証してきた、香川県三豊市がそんな発表をした。実証実験には松尾研も協力したが、思
お疲れ様です。 今日からは「Python だけで作る Web アプリケーション(フロントエンド編)」について部分いたします。 はじめに 設計方針 共通部分の作成 ログインページ 商品一覧ページ 商品詳細ページ カートページ 注文一覧ページ 注文詳細ページ まとめ 今回は10の記事に分けて投稿するようにします。 今日は「はじめに」について部分いたします。 なぜ本書を書いたのか 本書は主に以下のような方を対象にしています。 Web アプリケーションの構築経験がない新米エンジニア Python はかけるが、HTML/JS/CSS が苦手な Pythonista 細かい UI の設定はせず、検証・デモ用の Web アプリを短期間で作りたい開発チーム どうやって作ったか 対象読者の悩みを解決するために、次の 3 つの要素が必要と考えました。 Web アプリケーションの基礎知識 参考にしてもらえる品質
はじめに こんにちは。元ガチプログラマーのプレイングマネージャです。 できれば、プログラムをカタカタ打ってPC画面に向かって「いい感じのコードを書いちゃったなぁー」と独り言だけを言っていたい人間だったのですが、それだと仕事にならないなあと。 ということで最小限のコミュニケーションで仕事をする方法について考えたことをまとめておきたいと思います。 最小コミュニケーション術 『プロジェクトのゴールに対する』自分や相手の課題を解決できるようにコミュニケーションをとることが、コミュニケーションを最小にする方法と考えます。 相手の課題を解決するために自分となんらかの調整が必要なケースでは、相手の課題が解決するまではコミュニケーションが継続されますし、自分の課題についてもまたしかりです。 相手の質問の裏には、相手のプロジェクト上の課題が必ず存在します。相手の質問にそのまま答えても相手の課題が解決しなけれ
久々に図を書きたくなったので、今回は AWS の VPC ネットワークの主にルーティングについて雑談気味に振り返っていきたいと思います。 基本的なところから、少し発展させた構成はどう実現するのか、ってのを学習用教材風にお絵かきしていきます。 はじめに 最近、実現できると思ってた部分が１つ通らなくて、詰んだかと一瞬諦めかけたところで、10分間くらい思案したらズバッと解決できて気持ちよかったんですよ。 我ながら物凄い泥々の技術を駆使して、発想通りにAWS仕様を回避したネットワークを構築してしまった。泥臭すぎてとてもブログに書けないけどっ…自分の中では満点かつスタイリッシュっ — 外道父 | Noko (@GedowFather) July 7, 2023 元々泥臭いエンジニアリングが得意だったとはいえ、こういう発想の展開力はクラウドだけ真面目にイジってても身につきづらいだろうな、と思い、そうい
はじめまして。損害保険ジャパン株式会社 DX推進部の眞方です。普段はリードエンジニアとして、新しいサービスのアーキテクチャ検討からローンチまでの作業や、新規技術を用いたアプリのプロトタイプ実装などを行なっています。 弊社では、LLM（Large Language Models）を活用したアプリケーションの開発を積極的に検討し、既に社内でいくつかのプロトタイプをローンチしています。 本記事では、その最も一般的？なユースケースの一つとも言えるRAG（Retrieval Augmented Generative）の構築において、ドキュメント検索精度の向上にどのように取り組んだ内容の概要を紹介させていただきます。実際の詳細な手法および結果については、別記事（実践編）で解説予定です。 はじめに RAGとは？ この記事を読まれている方の中にはご存知の方も多いでしょうが、RAGとはRetrieval A
国立研究開発法人情報通信研究機構（NICT（エヌアイシーティー）、理事長: 徳田 英幸）は、ユニバーサルコミュニケーション研究所データ駆動知能システム研究センターにおいて、独自に収集した350 GBの日本語Webテキストのみを用いて400億パラメータの生成系の大規模言語モデルを開発しました。今回の開発を通し、事前学習用テキストの整形、フィルタリング、大規模計算基盤を用いた事前学習等、生成系の大規模言語モデル開発における多くの知見を得ました。現在は、更に大規模な1,790億パラメータの生成系大規模言語モデル（OpenAI社のGPT-3と同等規模）の学習を実施中で、また、学習用テキストの大規模化にも取り組んでいます。今後、共同研究等を通して民間企業、国研、大学等と協力して、日本語の大規模言語モデルの研究開発や利活用に取り組む予定です。 NICTでは、これまでWebページを収集し、インターネット
こんにちは！株式会社 ABEJA で ABEJA Platform 開発を行っている坂井（@Yagami360）です。世間では ChatGPT などの大規模言語モデル（LLM）による対話型 AI が盛り上がってますね。クオリティーも凄いし AI 業界以外でも盛り上がってると嬉しいですよね。この数年で一段と AI の社会実装が業界以外の人にも目に見える形で進んできたなあと実感しております。 自分は普段業務では ABEJA Platform という AI プロダクトやその周辺プロダクトのバックエンド開発とフロントエンド開発をやっているのですが、AI 業界所属していながら ChatGPT などの LLM 全然追いかけれていない状態になっちゃてて自責の念にかられているので、このブログ執筆という良い機会に ChatGPT の仕組みについて調べてみました。 本記事の対象読者としては、以下のようになりま
大規模言語モデルをフルスクラッチする練習 (環境構築ー前処理ー事前学習ーファインチューニングー評価まで)｜Kan Hatakeyama
はじめに以下のオープンなプロジェクトの一環で､大規模言語モデルをフルスクラッチで作る練習をします｡24年3月現在､協力者も募集中です｡ リポジトリ当該プロジェクトの標準コードが公開※されたので､それを走らせてみます｡ ※24/3/5時点で､まだレポジトリ内に､工事中の箇所が多々､あります｡ このリポ上では､事前学習ー事後学習ー評価まで､一気通貫(?)したパイプラインが提供されています※｡ 0. 環境構築プロジェクトの本番環境はクラウドですが､今回は手持ちのubuntuを使います｡ Dockerはお手軽な一方で､スパコン上で使うと､どうやら速度が落ちるらしいとの噂を聞いたので､condaで作ります(とはいえ､pipしか使わないので､pyenvでもいけると思います)｡ 必要なマシン適当なlinux: 例えばUbuntu 22.04.3 LTS GPU: 20 GBくらいは欲しいかも? ディスク
Terraform のコーディングにおいて、似た構成の複製をどのように表現するかは結構重要な課題です。放っておくと汚いコピペだらけになっていくからです。 色々な目的とやり方があると思いますので、その表現を実現するためのパーツにでもなればと思い、学習用教材的に書いてみるやつでございます。 目次 説明はそんなに多くないですが、コードのせいで縦長になったので目次を置いておきます。Terraform バージョンは v1.5.7 で動作確認しています。 単体の複製 count for_each セットの複製 module count + module 条件分岐 三項演算子 入れ子 ループ構造 for 複製の方法 階層構造 Pythonの入れ子ループ Terraform の入れ子ループ 続・階層構造 単体の複製 あるリソースに対して、単体の場合は count や for_each を使うことで、lis
［インタビュー］ゲーム業界でがんばっ定年！ コーエーテクモゲームスの“生きる三国志事典”中山茂樹氏（55歳） 編集部：楽器 カメラマン：永山 亘 コーエーテクモゲームス “シブサワ・コウ”ブランド シニアリーダーの中山茂樹氏 ゲーム業界では秀作を生んだクリエイターが名を上げ，いつしか会社の顔となり，界隈の代弁者として，業界の印象を形成してきた。 しかし，彼らの総数は業界従事者の1％ほどだろう。その裏には開発のみならず，広報や経理，社内エンジニアにカスタマーサポートなど，名を上げずとも人生を生きる99％側の“名もなき戦士たち”がいる。 言い換えればそれは我々であり，世界の大多数だ。 ゲーム業界自体，未成熟ゆえの輝きがあった昭和・平成時代とは違い，今では就業規則に福利厚生にコンプライアンスにと成熟した。大手を中心とする一部メーカーでは徐々に“定年退職者”も増加している。 そこで本稿では，業界の
TypeScript未経験でもスムーズに業務に取り組める、最強の学習用コンテンツを作った話 - NTT Communications Engineers' Blog
この記事は、 NTT Communications Advent Calendar 2023 19日目の記事です。 この記事では、TypeScript未経験のインターン生にすぐにSkyWayの開発に取り組んでもらうために、TypeScriptの学習用コンテンツを作成した話を紹介します。 学習用コンテンツでどのようなスキルを身に着けてもらったのか、効果的に学ぶためにどのような点を工夫したのかについても説明します。 はじめに 学習用コンテンツの目的 TypeScript学習用コンテンツの紹介 取り組んでもらった結果 より高度な内容について おわりに はじめに 皆さまこんにちは。イノベーションセンター SkyWay DevOps プロジェクト所属の@sublimerです。 SkyWayのチームでは、今年の8〜9月に現場受け入れ型のインターンシップを実施しました。 インターン生を受け入れるにあたっ
OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留を試したのでまとめました。 1. GPT-4 から GPT-3.5 への蒸留「LlamaIndex」で、OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留のColabが提供されてたので、それをベースに独自データで試してみました。 具体的には、「GPT-4」で学習データを生成し、「GPT-3.5」でファインチューニングすることで、「GPT-3.5」に「GPT-4」相当の知識を習得させます。 We successfully made gpt-3.5-turbo output GPT-4 quality responses in an e2e RAG system 🔥 Stack: automated training dataset creation in @ll
脱初級ITエンジニアまでの学習方法 - RAKUS Developers Blog | ラクス エンジニアブログ
こんにちは。 株式会社ラクスで先行技術検証をしたり、ビジネス部門向けに技術情報を提供する取り組みを行っている「技術推進課」という部署に所属している鈴木（@moomooya）です。 今回は毎年春先の社内ビアバッシュで新人向けに「一歩目の学習方法」として発表している話をしようと思います。 学習とは この記事の対象 学習に対する向き合い方 まず最初は 学習作戦その1「ちょい足し学習」 例）HTTPメソッドを扱ったとき 学習作戦その2「外から情報を仕入れる」 よくある情報源 技術書 技術同人誌 ウェブサイト 勉強会 SNS 飲み会 GitHub 脱初級者 手を動かす（検証と実践） 自由にできるサーバーを用意する 情報発信 無理に全部やらなくていい エンジニアにとっての勉強 学習とは ［名］(スル) １ 学問・技術などをまなびならうこと。「学習の手引」「学習会」 ２ 学校で系統的・計画的にまなぶこと
2023年7月1日にGoogleがプライバシーポリシーを変更し、「GoogleのAIモデルのトレーニング」のために「一般に公開される情報」を使用すると明言したことが分かりました。記事作成時点で、このプライバシーポリシーはアメリカ国内向けに発行されています。 プライバシー ポリシー – ポリシーと規約 – Google https://policies.google.com/privacy/archive/20221215-20230701 Google Says It'll Scrape Everything You Post Online for AI https://gizmodo.com/google-says-itll-scrape-everything-you-post-online-for-1850601486 VPNやインターネットアーカイブなどを通してアメリカ国内向けのプラ
オープンソースAI(Open Source AI)とは、オープンソースの状態にあるAIシステムのことである。これはある意味で自明なのではあるが、「オープンソースの定義」(OSD)を管理している米国の非営利団体Open Source Initiative(OSI)では、2023年からわざわざ新たに「オープンソースAIの定義」(OSAID: Open Source AI Definition)の策定を開始している。2024年の8月頃には定義のRC版が公開される見込みであるが、本稿ではこの新たな定義が何故必要になり、その定義がどのような機能するものであるかということに対し、主に佐渡が視点から時系列的に簡単に紹介していく。これによって日本国内においてOSAIDが認知され、AI開発コミュニティにおいて自由かつ透明性が確保されたシステムの必要性への理解が深まる一助となることを期待する。 OSIにおける
2023年10月18日、カシオ計算機は、同社が運営するICT教育アプリ「ClassPad.net」のシステムが不正アクセスの被害にあい、国内外の登録者情報が流出したと公表し謝罪しました。ここでは関連する情報をまとめます。 不正アクセスにより国内1,100の教育機関に影響 不正アクセスを受けたのは、AWS上に構築されたClassPad.netの開発環境のデータベース。*1 開発環境上で同社の担当者が作業を行おうとした際に、データベース上で障害が発生していることに気づき、不正アクセスが判明。さらに調査を進める中で、海外在住者の個人情報が外部に流出している事実も翌日に判明した。なお、ClassPad.netのアプリは不正アクセスの影響を受けていない。 不正アクセスは開発環境のネットワークセキュリティ設定の一部が解除された状態であったことが原因で、所管する部門のシステム誤操作、不十分な運用管理に起
本記事は日本オラクルが運営する下記Meetupで発表予定の内容になります。発表までに今後、内容は予告なく変更される可能性があることをあらかじめご了承ください。下記セッションでは、本記事の内容以外にデモンストレーションも実施する予定です。 ※セミナー実施済の動画に関しては以下をご参照ください。 はじめに 2022年暮れ、ChatGPTの登場以降、あらゆる企業がDXの在り方を問われはじめ、大規模言語モデルの仕組みをどのように業務に取り入れるかを検討されていると思います。 その検討の一つとして、「GPT(LLM)が学習していない企業内のデータや最新のデータも有効活用すべき」 という点は非常に大きな論点なのではないでしょうか。 ご存じの通り、LLMとはインターネット上に存在するドキュメントデータをクローリングにより大量に収集し、それを学習データとして機械学習にかけたモデルです。 従って、至極当たり
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【ChatGPT】英語学習用に素敵な先生を錬成したよ！ - はげあたま.org
英語が聞き取れない原因はリエゾン（リンキング）だった！音変化のルールと練習方法を紹介
プロジェクトマネジメントのおすすめ本を４つの分類でご紹介｜コーヒー好きのPM
場所当てゲーム「GeoGuessr」 のすごいプレイヤーに話を聞いた
LPI-Japan、無償公開中のLinuxサーバー構築学習用教材「Linuxサーバー構築標準教科書」のバージョンアップを発表 ～最新のLinuxディストリビューションに対応し、仮想マシンを用いて独学でも学習しやすい構成に変更～｜IT資格といえばLPI-Japan | LinuC/OSS-DB/HTML5/OPCEL
クローズアップ藝大 | 第十五回 小鍛冶邦隆 音楽学部作曲科教授 | 東京藝術大学
【調査報道】イスラエル軍の「殺害リスト」は人工知能が生成したものだった | すべてを変えた「人工知能による自動化」
並列処理がとても苦手なPythonはプロセスを分けよう コードを書く時に意識したい2つのTipsと2つの落とし穴
猫の痛みの有無をAIで判別。世界で利用されるWebアプリ「CatsMe!」開発の裏側
米ニューヨーク・タイムズ、OpenAIを提訴 記事流用で数千億円損害 - 日本経済新聞
ジェネレーティブAIが抱える問題を浮き彫りにする「1本のバナナ問題」とは？
実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買
年末年始にLLMの勉強はいかが？ 東大松尾研、大規模言語モデルの講座資料を無料公開
Python だけで作る Webアプリケーション(フロントエンド編)ーはじめに - Qiita
エンジニアのための最小コミュニケーション術 - Qiita
AWS VPCルーティングの基本から発展構成例 | 外道父の匠
RAGにおけるドキュメント検索精度向上について(概要編)
日本語に特化した大規模言語モデル（生成AI）を試作｜2023年｜NICT-情報通信研究機構
ChatGPT の仕組みを理解する（前編） - ABEJA Tech Blog
Terraformのループ記法を基礎から学ぶ | 外道父の匠
［インタビュー］ゲーム業界でがんばっ定年！ コーエーテクモゲームスの“生きる三国志事典”中山茂樹氏（55歳）
OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留を試す｜npaka
「オンラインで公開されたものすべてをAIのためにスクレイピングする」とGoogleが発表
オープンソースAIとは何か？ – Open Source AI Definition策定経緯とドラフト版概説
カシオ計算機のICT教育アプリ開発環境に対する不正アクセスについてまとめてみた - piyolog
【ChatGPT】とベクトルデータベースによる企業内データの活用(いわゆるRAG構成) - Qiita