AIで内製した自治体システムの、これからの課題｜memuro-DX-oss

北海道の小さな町が、AIで窓口業務システムを作りました。今も窓口の現場で稼働しています。 ——課題は、その先にあります。 記事1では、捨てるつもりで作った試作がどうやって本番になったのか、その物語を書きました。記事2では、最初の一歩である番号発券システム「MADO-queue」の中身を、技術的に詳しくお話ししました。この記事は、その続きであり、いちばん書きにくい部分です。 私たちは「作れた」けれど、足元には未解決の課題が積み上がっています。AIで素人が作れてしまったからこそ抱え込んだ、芽室町のいまの課題を、3つ書きます。 いま、芽室町が抱えている3つの課題課題①：コードの中身（処理の正しさ）を点検できる人が、庁内にいない 課題②：最短ルートで積み上げた設計が、この先どこまで耐えるか分からない 課題③：このシステムを保守し続ける人とお金が、まだ決まっていない そして、この3つはすべて、ひとつ

[aaa_uchi]

応援したい。保守は大事だけど、同時に今見えている課題に対するケアも重要。ベストプラクティス自体がどんどん変わっていくんだからチャレンジして行くべきだと思う。

[WildWideWeb]

申し訳ないが、高い志が理解されないだけでなく「うちの業務のためにこの機能も追加して欲しい」といった遠慮のないリクエストも来ると思う。本業の人も無償で火中の栗は拾わない。プロボノ的な人が見つかれば良いが

[fh477ehj8890]

運用が命なのに軽視しすぎなんだよな。責任持てない奴が気安く運用始めるな

[favoriteonline]

こんなリテラシーしか持ってない人間が自治体業務の一部をシステム化してるのヤバすぎでは？

[morimarii]

こういう無責任なシステムが行政でも今後増えるんだろうね。とりあえずやるしかない変わるしかないみたいな無責任な言説が増えるんだろうね

[sabinezu]

“MADOは住民の個人情報を扱います。そして、その処理が正しいかどうかを、コードを読んで点検できる職員が、いまの庁内にいません。”さすがに責任感が欠落しているな。意識が低すぎる(ある意味意識高い)。

[nadaredana]

深刻そうに書いてるけど、受付番号発券・管理システムならば、障害が出て手に負えなくなった時点で捨ててアナログか市販アプリ移行でいいのでは。書かせない窓口アプリも、類似団体で商用システムつかってるけど。

[pankochang]

ここで書いてある課題て割とちゃんと外注しても長期で発生していることのように見えるけどね。この課題も今後解決できるモデルが出てくると思うので楽観視するのもありじゃないか？

[Error401]

ぶっちゃけコードの品質はどうでもいいと思う。前記事読んでないけど、大切なのはデータベースの構造とセキュリティ。そこは複数のLLMにレビューしてもらえば品質は担保できそう。

[ee83jaige]

人間よりAIのほうが今は信用できるAIでバイブチェックすれば問題ない！っていってる奴らは、何か問題起こした時点でAIに丸投げするからこうなるんだ！とか言い出すよ。AIよりも自分の主張に責任感持ってないから

[oosin]

OSS化による共通知と、システムごとの専門家エージェントを構築する仕組みがあれば作成者が居なくなっても運用保守出来ると思う。ヒトカネが先細りする日本、特に地方自治体で必要な取り組みだと思う。応援している

[hryord]

たぶんシステムエンジニアより自治体の職員の方が給料高いし販管費も高いって事を認識した方が良い。自治体でシステムエンジニアを雇えよ。何で技術職員は土木だけなんだよ。素人がAIで構造設計とかしないだろ。

[htnmiki]

結局いちばんの課題は金が無いことという辛い話だ

[kibitaki]

本質的に怖いなって思った。OSS化、みんなで育てる、ってシステムとしては外部に責任を投げる搾取的ナラティブ。性善説かつ未定義の世界に夢見がちに任せるのは危ういし、メンテナと保守業者の区別もなさげ。

[ToTheEndOfTime]

インフラの人が作ったシステムとか、大体こういう感じ

[number917]

まあ小さな自治体だと今まででも雑な紙ベースのシステムがあったんだろうから、デジタルでもそらそうよ、予算ないんだし、人数少ないんだから

[panoramaafro]

現状細かいところは運用でカバーしてると思うけど、それもシステム自体が大きくならなければAIで改修は可能。肥大化するともう手に負えないので、「毎回刷新します」と言い切るのも手だと。

[maketexlsr]

属人化しないコードなんて幻想だと思ってるけど(少なくともコストゼロでは)

[mag4n]

エクセルのマクロやらと同じく保守運用と責任問題という人間側の話になる。

[akulog]

結局、最初にマクロ作った人がいなくなったら詰むのと同じで草

[zakinco]

うへぇ。

[degucho]

なんかあった時に責任取れないのはなあ

[hatahata_chan]

AIの悪いところでたな。ベンダー高いから自分たちで作っちゃえ案件。ネットワーク切り離してるから安全とあるけど、内部犯やフィッシングが出ても大丈夫？個人情報ちゃんと暗号化してる？

[NOTG]

閉じたネットワークだからセキュリティは担保されている←この意識は変えないとまずいですね。ただ応援してるので頑張って！

[peketamin]

自治体や省庁が内省開発部門を持つなり、その構築の一部だけを外注に回すなりした方がいいと思う。その辺を頑張ってるのガブテック東京ぐらいの認識。市議会は足元からちゃんとマネジメントに向き合って欲しい

[fhciun98jd6734bcsu]

批判の意見なんか無視していいですよ。LLMの性能向上で今後もできること、解決することがどんどん増えていくので、その時点で最新の一番性能がいいLLMと課題、問題点を議論するようにしてください。

[guntz]

現行自治体システムよりセキュアなコード出力してくれるよ。プロダクトコードAIにセキュリティチェックしたらめちゃ指摘してくる。何年か前に他人の住民票出力されるシステム作ったのは人間だよ

[mohno]

「作った本人でさえ、自分が（正確には、AIが）書いたコードの隅々まで理解しているわけではない。動いているけれど、なぜ動いているのか説明しきれない部分が、いまも残っています」←Excelマクロよりひどいな。

[mak_in]

リンク先のコードを軽く見たけど要求や要件などをかなりちゃんとして組み立てあって驚いた。内部まで詳細に見れてないが入り口がしっかりしてれば質は高くなる。たぶんOSS化もAIと相談して決めたのだろう。素晴らしい

[pecan_fudge]

VBAで自動化した仕組みが引き継げなくて手作業に戻るのと同じ現象。

[nonsect]

『MADOは住民の個人情報を扱います。そして、その処理が正しいかどうかを、コードを読んで点検できる職員が、いまの庁内にいません。』…お、おぅ…。

[aalpaca375]

ミスひとつで利用者が死ぬ人生が狂う程の責任を負う覚悟があれば良いのでは。強度不足の建物をDIYするようなもので、被害者が出る前に管理体制が追いつくことを祈るばかり

[emt0]

なんで基礎を蔑ろにするの？運用保守の目処つく前に止まるか攻撃されそう

[paradisemaker]

ホントこれ系の話、いろんなところでめっちゃ聞く。今は生成AI でそれっぽいプロダクト作れるから、事業回ってるのに中身グチャグチャでベンダーも寄り付かない、とかたくさん聞く。

[andalusia]

AIに「要件定義書」「機能要件一覧」「業務フロー図」「画面遷移図」「基本設計書」「画面設計書」「帳票設計書」「E-R図」「テーブル定義書」「IF定義書」「詳細設計書」「プログラム設計書」全部作らせればいいよ。

[OkadaHiroshi]

この問題は、今後出るさらに高機能なAIに保守させる事でしか解決出来ないと思う。