タグ

2023年3月22日のブックマーク (2件)

  • GPTの仕組みと限界についての考察(1) - conceptualization

    GPT4が登場してChatGPTが盛り上がってますね。 記事は、GPT(を支えるTransformerという仕組み)をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 (1)大まかな背景と概要:記事 (2)GPTの能力と可能性:実際の使用例とTransformerの仕組みを踏まえて説明 (3)GPTの限界と未来展望:Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い: トークン長とは何か? まずここから話を始めます。GPT-3は、パラメータ数が750億個(850GBの容量をう)でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク

    GPTの仕組みと限界についての考察(1) - conceptualization
  • Ado(20)、グレタ・トゥーンベリ(20) - 斗比主閲子の姑日記

    最近、ずっとAdoさんの曲を聞いてます。子どもから「また、Ado、聴いてるの……?」と心配されるぐらい。 きっかけは、メジャーデビュー4曲目となる『踊』(Odo)のLIVE映像がたまたまYoutubeでお勧めに上がってきたのを見てからです。 www.youtube.com 未見の人はぜひ見てみてください。凄い、格好良くないですか!? 私は音楽を普段は聞かないので、この曲のジャンルとか具体的なことは特に何も言えないのだけれど、どう考えてもトリッキーな曲をLIVEでこんなに歌えているのを見て、凄い歌手だと思ったのでした。 あと、演出もいい。人が顔出しをしていないこともあり、顔(というか身体全体)は逆光で影絵みたいになっていて情報が限定されているために、余計に声が強調される感じ。衣装もキャラクターに合ってる。 その後に、この映像を人が見る配信がお勧めに上がってきて、これも見て、ご人の反応の

    Ado(20)、グレタ・トゥーンベリ(20) - 斗比主閲子の姑日記
    ite
    ite 2023/03/22
    忘れないようにしたいのは、同様に有能で努力している20歳でも全く顧みられない人々が大量にいること。私達から見えるのは有名人だけで、その名声は無名な人々の声をかき消している。その不平等が資本とチームの問題