AIの回答をそのまま実施すると危ない理由

そう思ったことはありませんか？

例えば、エラー内容をそのままAIに貼り付けると、
原因や対処法、実行するコマンドまで丁寧に教えてくれます。

この記事は、AIを使い始めたばかりの人にこそ読んでほしい内容です。

AIは非常に便利なツールですが、
回答をそのまま信じて実行すると、思わぬトラブルにつながることがあります。

特にインフラやサーバ運用では、
設定消失やデータ削除など、取り返しのつかない事故になるケースもあります。

この記事では、
「なぜAIの回答を鵜呑みにすると危険なのか」
を、実際によくある例を交えながら解説していきます。

今では、AIを使わない日はないくらい、
私自身も日常的にAIを活用しています。

よく使っているのは、

• ChatGPT
• Claude
• Midjourney（趣味で使用）
• Suno（趣味で使用）

などです。

特にChatGPTやClaudeは、
調べものやエラー確認、コードの相談などで使っている人も多いのではないでしょうか。

実際、AIに質問すると、
かなり自然で分かりやすい回答が返ってきますよね。

「もうGoogle検索しなくてもいいかも」
と感じることもあるくらい便利です。

ただ、インフラ業務では、
AIの回答をそのまま実行してしまうことで、
思わぬトラブルにつながるケースがあります。

なぜAIの回答は危険になることがあるのか

AIに聞くと、すごく詳しく情報を載せてくれますよね。

実際、エラー内容を貼り付けるだけで、
原因の予測から対処法、実行するコマンドまで丁寧に教えてくれます。

私自身も、
「これ便利すぎるな…」
と思う場面はかなりあります。

ただ、AIは“絶対に正しい回答”をしているわけではありません。

AIは、
“正しそうに見える文章”を作るのが非常に得意です。

なんとなく文面がそれらしいと、
「これで合ってそう」
と思って実行したくなりますよね。

実際、人は
“自信ありげで自然な文章”
を信じやすい傾向があると言われています。

環境の違いまでは理解していない

AIの回答で特に注意したいのが、
「自分の環境に合っているか」です。

例えば同じWindows Serverでも、

・OSのバージョン
・ミドルウェアの構成
・権限設定
・本番環境か検証環境か

によって、正しい対処は変わります。

しかしAIは、
実際のサーバ環境を見ているわけではありません。

そのため、
一般的には正しい回答でも、
自分の環境では危険なケースがあります。

特にインフラ系では、
少しの違いで大きな事故につながることもあります。

「AIが言っていたから大丈夫」
ではなく、

「この環境でも本当に大丈夫か？」

を考えることが大切だと思います。

間違っていても自然に見えてしまう

これが一番怖いなと、私はいつも感じています。

そもそもこちら側が分からなくてAIに聞いているので、
それらしい回答が返ってくると、
「その答えが本当に正しいのか」を判断しづらいんですよね。

特に初心者のうちは、
コマンドの意味まで理解しないまま、
そのまま実行してしまうケースもあると思います。

しかも怖いのが、
「コマンド自体は成功している」
という点です。

エラーが出なかったことで、
「直ったんだ」
と思ってしまうこともあります。

ですが実際には、

• サービスが停止していた
• 別の設定が壊れていた
• 本番環境で顧客サービスへ影響が出ていた

というケースも十分ありえます。

そのため私は、
AIの回答を実行する時は、
以下を必ず考えるようにしています。

・このコマンドは何をするのか
・なぜこの対処になるのか
・他に影響はないのか

AIは非常に便利ですが、
最終的に実行するのは自分自身です。

ここからは、
実際にありそうな危険なケースについて、
いくつか紹介していきます。

実際に危険だったケース

IISの設定変更

例えば、IISでサイトが正常に動かなくなった時に、
AIへエラー内容をそのまま貼り付けたとします。

すると、

「アプリケーションプールを再作成してください」

と案内されるケースがあります。

たしかに場合によっては改善することもあります。
ですが、設定内容を理解しないまま実行すると危険です。

アプリケーションプールには、

• 実行ユーザー
• .NETバージョン
• 詳細設定

などが含まれていることがあります。

そのため、再作成によって
今まで動いていた設定が消えてしまい、
別の障害につながる可能性もあります。

特に本番環境では、
「とりあえず実行」が大きな事故につながることもあります。

SQLの実行

• WHERE句なしDELETEの危険性

SQLもかなり注意が必要です。

例えばAIへ、

「特定データを削除したい」

と相談した時に、
DELETE文を提案してくれることがあります。

ただ、内容を理解しないまま実行すると危険です。

例えば、WHERE句が抜けた状態で実行すると、
テーブル内のデータを全件削除してしまう可能性があります。

DELETE FROM Users

初心者のうちは、
「AIが出したSQLだから大丈夫だろう」
と思ってしまいがちです。

ですが実際には、

・本番データの消失
・サービス停止
・復旧対応

などにつながる可能性があります。

特にSQLは、
“実行できてしまう”のが怖い部分でもあります。

Linuxコマンド

これは、私が実際に現場で見た話です。
やらかしたのは私ではないですが、
かなり肝が冷えました。

とある航空関連のプロジェクトに参画していた時、
新人の方が rm コマンドで
フォルダを削除してしまったことがありました。

これ、Linuxを触ったことがある人なら、
かなりゾッとする話だと思います。

もし本番環境のフォルダを
大量に削除してしまったと考えると、
本当に怖いですよね…。

現場はかなりのパニックでした。

「誰がやったんだ！？」

と怒号も飛び交っていましたし、
ロールバックにもかなり時間がかかっていました。

しかも本番系のトラブルになると、
顧客影響や復旧対応も発生します。

当然ですが、
そういった大きな事故を起こすと、
プロジェクトから外される可能性もあります。

自分が起こしたわけではないですが、
横で見ていてかなり肝が冷えましたね…。

AIに相談すると、
rm -rf 系のコマンドを提案されることもあります。

ですが、意味を理解しないまま実行すると、
本当に危険です。

そのため rm コマンドを使う時は、

・どこのフォルダを削除するのか
・本当に削除して大丈夫なのか
・本番環境ではないか

を必ず確認するようにしましょう。

まとめ

AIは、本当に便利なツールですよね。

私自身も、
ChatGPTやClaudeを日常的に使っていますし、
これからの業務でAIを使わないことは、もう無いと思っています。

ただ、AIは
“絶対に正しい回答を返すツール”
ではないということも覚えておきたいです。

特にインフラやサーバ運用では、
コマンド1つで大きな障害につながる可能性もあります。

そのため、

・このコマンドは何をするのか
・なぜこの対処になるのか
・他に影響はないのか

を考えながら使うことが大切だと思います。

AIに聞いた時は、
“まずその回答を少し疑ってみる”
くらいが丁度いいのかもしれません。

その答えの信頼性を調べながら実行することで、
自分で考える力も失わずに済みますしね。

AIは非常に便利ですが、
結局最後に判断するのは人間です。

インフラ業界では、
AIを使えること以上に、
「なぜその対応をするのか」を考えられる力が大切だと感じています。

「もっと知識を付けたい」
「これからインフラを勉強したい」
という方は、こちらの記事も参考にしてみてください。