GPTの仕組みと限界についての考察（１） - conceptualization
GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
[ARTIST IN FOCUS] 青柳菜摘：始まりの現象──「唯ブツ論⇄もの語り」の世界
[ARTIST IN FOCUS] 青柳菜摘：始まりの現象──「唯ブツ論⇄もの語り」の世界 詩や映像制作など、メディアを横断して活動するアーティスト、青柳菜摘。2022年の9月から12月にかけて、青森県十和田市のまちなか6ヶ所で映像インスタレーションを展示。青柳作品を見続ける松井茂が、実際にそれらの会場を回り、本人との対話を経て、その作品世界を論じる。 取材・文＝松井茂（詩人、情報科学芸術大学院大学［IAMAS］准教授） 東京都内の公園にて 撮影＝トヤマタクロウ 物憂げで朴訥な声が語り始める。 中国に宋という王朝が あったとき、 まだ海の大きさは 今ほど想像しやすいものでは ありませんでした。 （青柳菜摘《望船》より） この語り方、ゴールを設定しているようには思えない。どこか不気味で即物的だ。青柳菜摘の作品を知る人にとっては、いつもの語りが始まったという印象を持つだろう。結論に向かってとめ
![[ARTIST IN FOCUS] 青柳菜摘：始まりの現象──「唯ブツ論⇄もの語り」の世界](https://cdn-ak-scissors.b.st-hatena.com/image/square/b9ec973b64f75dc08b47a9517d3d4a4ddeebcd6d/height=288;version=1;width=512/https%3A%2F%2Fbt.imgix.net%2Fmagazine%2F26631%2Fmain%2F1673872842907_344c5c88b7b651b6d20acbefe825ff32.jpg%3Fauto%3Dformat%26fm%3Djpg%26w%3D1920%26h%3D1080%26fit%3Dmax%26v%3D14)
ChatGPTのプロンプトをLispで書く
ChatGPTのプロンプトをLispで書けることに気づきました。プロンプトによって処理系としてふるまってもらうという話は聞いたことがありましたが、Lispの場合はそのようなプロンプトがなくても解釈されました。 モデルはGPT-4です。言語としてはClojureをベースにした擬似コードを書いています。 ※いくつか例を追加しました。思った以上にプログラミング的なことができるみたいです。 単純な生成と変換の例 子供っぽくする 静かなヤンデレっぽくする (しっぽりやんでれ？) 対偶を返す 小説を作ってそれを要約する 鶏の唐揚げのレシピのJSONを生成する Lispについて執事っぽく説明する クラムチャウダーのレシピを妹として箇条書きにする お兄ちゃんとツンデレの妹の誕生日ケーキについての会話を生成する Clojureの関数を使う例 3つの文を元気にする 犬の名前を5個生成してひらがなにする キリン
荒川修作＋マドリン・ギンズ『意味のメカニズム』全作品127点が一挙公開 | CINRA
荒川修作とマドリン・ギンズの『意味のメカニズム』全作品が4月22日から長野・セゾン現代美術館で公開される。 1936年に名古屋で生まれた荒川修作。1961年にニューヨークに渡り、オノ・ヨーコのアトリエを制作拠点とした活動のなかで出会った詩人のマドリン・ギンズと「意味とは何か？」という問題に取り組んだ。 それから25年を経て継続中のプロジェクトとして完成したのが『意味のメカニズム』。81点の大型平面と44点のドローイングに写真と模型を加えた総数127点が展示される。 関連企画として森田真生による講演会を開催予定。詳細はセゾン現代美術館のオフィシャルサイトで発表される。 荒川修作＋マドリン・ギンズ『意味のメカニズム』「あいまいな地帯の提示」（1963年頃−1988年）油彩他、画布 244×173cm The Mechanism of Meaning (2nd Edition)(C) 2016
インチキTypeScriptでChatGPTを動かしてみる｜8kpx
はじめにGPT-4がリリースされてお祭り騒ぎですが、みなさんプロンプトエンジニアリングやってますか。自然言語をふんだんに使って半構造化されたプロンプトを作成し、ChatGPTの出力のクオリティをあげる方法が話題ですが、あえて逆の形式言語を使ってChatGPTの出力クオリティをあげることができないか検討してみたいと思います。 ChatGPTは大規模言語モデルと言われるだけあって、自然言語はさることながら、さまざまなプログラミング言語も同時に理解できるように学習されています。そこで、この状況を逆手にとり、本来動作するはずのないインチキTypeScriptコードをうまくでっちあげ、その中でChatGPTをインスタンス化して、そのChatGPTに対してプログラムを書くことで動作を制御してみようというのが今回の試みです。 インチキコード実験その1プロンプト```js const question =
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
使い方を知るためのチュートリアル
