生成AIでサーバーに耳を傾けてみた - SO Technologies 開発者ブログ

■ はじめに こんにちは。SREの平です。今回はたくさんのログからサーバーがもしもなにか危ない状態だったら通知してくれるような状態を作ってみました。 概要としては、自宅の余っているGPU(NVIDIA GeForce RTX 2060 6GB)を使い、ローカルLLMを立ち上げて、自宅サーバーの/var/log/syslogを投げて、サマリーと重要度を出してもらい、重要度がwarnであればdiscordに投げてもらって私がサーバーの異変に気づく！という仕組みです。 ただ生成AIなので、レスポンスが100%絶対指定した通り、にはならないことがあります。その場合parseエラーが出たり出なかったりと、常用にはもう少し寛大な（笑）処理になるようにしていかないといけないので、こんな方法もあるんだな、という提案レベルで見ていただければと思います。 ■ Server 何はともあれ、最初にDiscordで