GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク

ＡＩアートをやっているとi2i盗作をする人がいます。パクり常習で有名な人は意外なほど大勢いてあっちこっちでトラブルを巻き起こしています。 i2iとはすでにある絵を取り込んでAIに参考資料として似た絵を描かせる技術のこと。そっくりで、ちょっとだけ違う絵が描けます。しかもi2iが得意なAIのモデルは画質が良いので見栄えのする絵になりがち。 わたしも先月自分の画像をi2iで回されてそれを見せつけられ、2人をブロックしました。コンスタントにそういうことがあるのでそっとブロックして終わりにしたのですが、「この人にされました～！」とは大騒ぎしない限りはほかの人にはわからない。i2i盗作で騒がれている人は本当に氷山の一角だと思います。 「なぜ平気で盗作するのか？」 「盗作してあれだけ炎上してるのになぜ平気な顔をしているのか？」 「なぜ反省したと言っているのにその後もi2iを続けているのか？」 「メンタル

突然の昆虫食、それもなぜかコオロギ推しというニュースに反応して様々な意見が飛び交っている。 しかしこの件、色々な論点が混在しているので、順序立てて整理してみる必要があるように思う。 昆虫食それ自体の是非 持続可能な社会を実現するには昆虫を食べるべきなのか？ 昆虫食が普及した果ての未来の食の風景は？ 昆虫食を推進する、いつもの怪しげな人たち 昆虫食それ自体の是非 まず、昆虫を食べることそれ自体の是非について。 実のところ、欧米や食の欧米化が進んでいる現代日本では昆虫食への忌避感が強いが、世界を見渡せば昆虫を食べる食文化は広く分布している。 マーヴィン・ハリス『食と文化の謎』によれば、北米やアマゾン川流域の先住民、中国や東南アジアの人々などは、伝統的に多くの昆虫を食べてきた。また、1930年代にラオスの食文化を調査した学者の報告によると、実際に食べてみれば、ラオスの人々が食べている昆虫は欧米人

ファーストリリースでは記事のタイトルとブコメしか読んでいなかったはてのちゃんですが、やはりそれだけだとワードサラダ感が強く自分の理想とするAIブックマーカーではなかったため、ちゃんと記事の中身を読ませるようにしました。 もちろんすべてのwebページで的確に読めているわけではありませんが、ある程度テストしたところそこそこ読めるようになったと思います。 ロジックとしては汎用的には下記の記事を参考にさせてもらいました。 増田とかはてなブログはホットエントリー率が高いので、もうちょっと個別に抜き出しロジックを作ってます。 srbrnote.work これで抜き出した本文全部に対してコメントさせているのではなく、いったんこれをある程度のところまででGPTに要約させて、その要約とブコメを元にコメントさせるスタイルに変更しました。 何度かテストしたところ質は格段に上がったと思います。 ちなみに、漫画のエ