PythonでRinna社が提供している対話LLM rinna/japanese-gpt-neox-3.6b-instruction-sft を動かすことで、ローカルで動作するChatGPTのような対話AIソフトを作成しました! 筆者自身もLLMや自然言語AIに全く詳しくなく1、Pythonに触ったのも久々だったのですが、言語モデルを手元で動かすのは案外簡単(大嘘2)だったため、本記事ではその紹介をしたいと思います! ↑アイキャッチのこれは成果物であるTauri製アプリです。内部でPython3によって前述のrinna言語モデルを動かすことで実現しています(後述)。 リポジトリ: https://github.com/anotherhollow1125/rinna_gpt リリース: https://github.com/anotherhollow1125/rinna_gpt/releas
![上司「オンプレでチャットAI作って」 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/eac67221ca08522ff68575df61fadce82b65b84e/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUU0JUI4JThBJUU1JThGJUI4JUUzJTgwJThDJUUzJTgyJUFBJUUzJTgzJUIzJUUzJTgzJTk3JUUzJTgzJUFDJUUzJTgxJUE3JUUzJTgzJTgxJUUzJTgzJUEzJUUzJTgzJTgzJUUzJTgzJTg4QUklRTQlQkQlOUMlRTMlODElQTMlRTMlODElQTYlRTMlODAlOEQmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTU3NDA1MjlhMDk2OGFjMTJhMDBlNjQ1ODA1NzExYzg3%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwbmFtbjExMjUlMjBpbiUyMCVFNiVBMCVBQSVFNSVCQyU4RiVFNCVCQyU5QSVFNyVBNCVCRSVFMyU4MiU4NiVFMyU4MiU4MSVFMyU4MSVCRiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YzViOTI3NDBmNGFlY2M1ZmZjYTJhN2E2ZjQ3Y2ViOTQ%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3De60254cd7bae41def65285362f39d265)