AIが書いたものを、そのまま本番に出していいか

動くものが、すぐにできる時代

AIに頼めば、動くシステムがすぐにできる。社内の誰かがAIで作った便利な仕組みが、そのまま現場で使われ始めている。そんな話を聞くことが増えた。

それ自体は、悪いことではないと思う。困りごとが、早く解決するのだから。

ただ、動くことと、本番で使い続けられることは別だ。

引き継いだシステムで、見てきたこと

私は、他社が作ったシステムを引き継ぐ仕事もしている。資料が何も残っていなかったり、「とりあえず動けばいい」で作られていたりするシステムだ。

そこでよく見るのは、こういうことだ。

• 資料がない。作った人しか、中身がわからない
• 使っていないものが動き続けて、毎月お金がかかっている
• 逆に、肝心なところが力不足で、たびたび落ちる
• 外から入れる入口が、必要以上に開いている
• 鍵（パスワードや認証のファイル）が、あちこちに置かれている

AIで作ったものでも、同じことが起きる。作るのが速いぶん、むしろ起きやすいかもしれない。

本番に出す前に、確かめてほしいこと

完璧を目指す必要はない。でも、本番に出す前に、これだけは確かめてほしい。

1. 作った人がいなくなっても、ほかの人が中身を読めるか
2. 毎月いくらかかるか、説明できるか
3. 外から入れる入口は、必要なものだけか
4. 鍵やパスワードが、コードの中に書かれていないか
5. 止まったとき、誰が気づいて、誰が直すか

一つでも答えられないなら、それは「動いている」だけで、まだ「本番」ではない。

作ったのがAIでも、責任は人にある

システムが止まったとき、情報が漏れたとき、「AIが作ったので」は通らない。作ったのがAIでも、使うと決めたのは人だ。

だから、AIで作るなら、中身を読める人の目を、どこかで一度は通してほしい。