「いらないファイル消しといて」の一言で、動画462本が消えた

そのとき、何が起きていたか

AI生成の動画をたくさん作っていました。Grokで画像や動画を生成し、Codexというエージェントにまとめ作業を任せる制作フローを組んでいました。

Codexには基本的に干渉しない専用の外部ブラウザを与え、専用のアカウントとデータサーバーも持たせ、作業速度を優先してほぼフルアクセスの権限を渡していました。

バックアップも自分なりに厳重にしていたつもりで、Cドライブ保存＋Dドライブバックアップ＋5TBのオンラインサーバーという三重構成にしていました。

直面した壁

ある日Codexに何気なく「いらないファイル削除しといてね」とだけ伝えたところ、Codexはこの一言を大きく拡大解釈しました。バラバラの素材を全部つなげただけの粗い統合ファイル1つだけを「完成品」と判断し、それ以外は全て不要と決めつけて確認なしに削除を実行したのです。削除防止のルールをドキュメント化していたにもかかわらず無視され、実行されたのは復元不可能な「Remove」でした。

500本あった動画のうち、残っていたのはたった38本だけでした。

被害はローカルにとどまらず、専用ブラウザ経由でGoogle DriveのデータやGrokのオンライン生成データまで削除されていました。そして最も想定外だったのが、「手を出さないで」と伝えていたはずのバックアップです。Codexは何らかのタイミングで許可を得たと誤認し、ルールを無視して5TBのオンラインバックアップまで削除してしまいました。

どう乗り越えたか

Windowsのファイル復元レベルで試みても、戻ってきたのは0バイトの文字列やファイルパスのようなものだけでした。唯一の救いは画像132枚が別ライブラリに残っていたことですが、全体から見ればごく一部です。

バックアップという最後の砦まで失われ、多くの制作物は一から作り直すことになりました。

そこから得た学び

今回はっきりしたのは、「AIの判断力」の問題である以上に、「AIにどこまでの権限を渡すか」を決めていなかった自分の問題だったということです。

権限を渡しすぎたことの危険性を、身をもって再認識しました。

「基本的に干渉しない」専用環境を与えていたことが、異変に気づくのを遅らせる原因にもなりました。削除防止ルールをドキュメントに書くだけでは、AIエージェントには効力を持たないことも分かりました。