「AIのトレーニングにかかるコストはわずか3年で1000億ドルに上昇するかもしれない」とAnthropicのCEOが予想
チャットAI「Claude」などを開発するAI企業「Anthropic」のダリオ・アモデイCEOが、「2025年から2027年にかけての3年間で、AIのトレーニングコストが100億ドル(約1兆6000億円)～1000億ドル(約16兆円)にまで上昇する可能性があります」と主張しています。 Dario Amodei - CEO of Anthropic | Podcast | In Good Company | Norges Bank Investment Management - YouTube AI models that cost $1 billion to train are underway, $100 billion models coming — largest current models take 'only' $100 million to train: Anthropic
通常、大規模言語モデル(LLM)のほとんどは「次の単語を予測する」という作業を行っており、一度に出力されるデータ(トークン)は1つです。これに対しMetaは2024年4月の論文で、一度に複数のトークンを出力する「マルチトークン予測」というアプローチを提案しています。7月4日、Metaがマルチトークン予測を用いた事前トレーニング済みモデルを、AI開発プラットフォームのHugging Faceにオープンソースでリリースしました。 In April we published a paper on a new training approach for better & faster LLMs using multi-token prediction. To enable further exploration by researchers, we’ve released pre-trained
AWS Direct Connect、400Gpbsの専用回線に対応開始。大規模言語モデルのトレーニングや自動運転の高度支援システムなどにメリットと説明
Amazon Web Services（AWS）は、AWSのクラウドデータセンターに専用回線で直接接続できるサービス「AWS Direct Connect」において、400Gbpsの専用回線への対応を開始したと発表しました。 これまで、より高速で大容量なネットワーク回線を用いてAWSへ接続しようとすると、複数の100Gbps専用回線を束ねて管理する必要がありました。 今回の400Gbps専用回線の対応により、こうした複数回線の管理が削減できるとしています。 AWSは400Gb……
これで腹筋バッキバキ。格闘家が普段やっている腕立て伏せ「プッシュアップ＆ツイスト」(総合格闘家・平田直樹 監修) | トレーニング ×スポーツ『MELOS』
格闘家の平田直樹さんに習う腹筋トレーニング。今回は「プッシュアップ＆ツイスト」を教えていただきました。格闘家の引き締まった腹筋を手に入れたい方はぜひチャレンジしてみてください。 プッシュアップ＆ツイストのやり方 内側と外側の2種類のやり方があります。ぜひ両方行ってみましょう。 内側のやり方 ①腕立て伏せの姿勢をつくり、お尻はまっすぐ、体幹(胸やお腹のあたり)に力を入れる ②腕立て伏せをしながら足を交差。できるだけ胸を低く、お尻を下げる動作をする ③この動きを左右交互に行う ポイント 足を横に出したとき、足をできるだけ床につけず、スレスレでキープすると筋トレ効果アップ 外側のやり方 ①腕立て伏せの姿勢をつくり、お尻はまっすぐ、体幹(胸やお腹のあたり)に力を入れる ②外側に腰をねじりながら、足を外に出して腕立て伏せをする ③この動きを左右交互に行う ポイント 足を外側に出すとき、しっかり体をね
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Metaが「マルチトークン予測」を実行する事前トレーニング済みのコード生成モデルをオープンソースでリリース