もともと小説を書くためのAIなので物語には強いだろう。しかも日本製だし。 ということで大先生が早速試していた。 僕も真似をしてさっそく使ってみたのだが、そのままだとかなり短い文章しか出てこない。使い方に工夫が必要そうである。 そこでこんなコードを書いた。 def b(prompt): input_ids = tokenizer.encode( prompt, add_special_tokens=False, return_tensors="pt" ).cuda() tokens = model.generate( input_ids.to(device=model.device), max_new_tokens=320, temperature=0.6, top_p=0.9, repetition_penalty=1.2, do_sample=True, pad_token_id=tok
![AI Bunchoモデルで何か物語めいたものを生成する|shi3z](https://cdn-ak-scissors.b.st-hatena.com/image/square/70a2393c251a7a68ed0517fe4ba2cda7f075264d/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F113220079%2Frectangle_large_type_2_1db1f89db4105f06196e53c31314c671.png%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)