「作れる確率」だけで、生成AIを見積もっていないか
今週、生成AIの伴走支援をしていて一番残ったのは、能力の差ではなかった。
「支援は不要」と思う人と、「先に型を覚えたい」と思う人の差は、性格でも熱量でもない。見ている確率が違う。
前者は「作れる確率」を見ている。後者は「業務に耐える確率」「他人が直せる確率」「個人情報を外に出さない確率」まで見ている。
最初の数字だけ高くても、全体が高いとは限らない。低いことに気づくのは、だいたい壊れたあとだ。
「やればできる」は能力ではなく、見積もり
現場には、二種類の人が同時に来る。
ちゃんと学びたい人は、最初から成功確率を上げに来る。方法論と失敗の経験を借りて、遠回りに見える型を先に取る。
一方で、「1時間でアプリができる」を聞いて、自分たちでやってみると言う人たちがいる。動くものが短時間で出ること自体は、否定しない。ただし、短時間のデモで画面が動くことと、そのアプリが運用に耐えることは、別の成功条件だ。
結果は、今週も同じだった。
やってみる。うまくいかない。「なぜダメなんだ」となる。駆け込み寺のように戻ってくる。
まだ業務で使っていない人たちがいる横で、触った人の一部が、いきなり高い保険料を払いに来る。
学びましょう、だけではこの層には届かない。届くのは、成功の定義を狭く見積もったときの代金だ。
海外では、もう数字が出ている
RedAccessのレポート紹介ページに掲載された調査概要では、約38万件の公開資産を調べ、企業用途とされた約5,000件のうち、約4割で機微情報が露出していたとされる。38万件すべてが漏洩していた、という意味ではない。RedAccessの調査概要
2026年5月7日のWIREDの記事は、Lovable、Replit、Base44、Netlifyで作られたアプリのうち、認証などの保護がほぼないものをRedAccessが5,000件超見つけたと報じた。ただし、WIRED自身は確認したデータの実在性や機微性を確証できておらず、提供企業側も調査方法や公開設定の解釈に異議を示している。WIREDの報道
別の一次資料もある。Escapeが2025年10月29日に公開した調査方法の説明では、公開されている5,600件超のアプリから、脆弱性2,000件超、シークレット露出400件超、個人情報の露出175件を検出したと報告している。個人情報には、医療記録や銀行口座識別番号、電話番号、メールアドレスなどが含まれる。Escapeの調査方法と結果
これらは、調べた公開アプリにおける検出結果だ。脆弱性の件数を、そのまま被害を受けたアプリ数や、すべてのAI製アプリの失敗確率として読むことはできない。Escape自身も、公開されていて発見しやすいアプリに偏ることや、特定プラットフォームの比率が高いことを明記している。
アクセス制御の失敗が何を招くかは、別の事例からも見える。2025年7月、女性向けのデート情報共有アプリ「Tea」は、本人確認用の自撮りや身分証画像などを含む約7万2,000枚の画像が流出したと説明した。ここでは、AIで作られたことが原因と断定するのではなく、守るべき画像が外部に出た事例として挙げる。AP通信の報道
公開アプリの調査で見える問題には、共通するものがある。
- 認証があるように見えるが、URLか任意のメールアドレスだけで中に入れる
- データベースの行単位の権限（RLS）が未設定、または適切に設定されていない
- 秘密にすべきAPIキーや、強い権限を持つ認証情報が画面側のコードに埋まっている
- 「動いた」ことを「閉じている」と誤認する
ここでいう「閉じている」は、必要な人だけが必要なデータにアクセスできる状態のことだ。
これらの調査が示しているのは、高度な侵入劇だけではない。公開設定のまま世に出ることだ。鍵をかけ忘れた部屋を、自分でインターネットに置いている。
恐怖は使っていい。ただし対象を間違えるな
だから今週、こう聞いた方がいいのではないかと考えた。
個人情報の漏洩対策はできていますか。
トラブルが起きたとき、誰が止めて、誰が謝りますか。
過去に、同じ作り方で壊れた事例を見ましたか。
必要だと思う。ただし恐怖の置き場を間違えてはいけない。
恐れるべきなのは「AIが悪い」ことではない。恐れるべきなのは、成功の条件を「動いた」だけにしていることだ。
「やればできる」は、試作の成功体験としては正しい。本番の成功体験としては、根拠が足りない。
あやふやな技術だから過信する、というより、一部分だけ成功した記憶が全体に拡張される。
型を最初から覚えようとしない理由も、怠けだけではない。型の意味は、壊れてから見える。だから全部を事前学習にせよ、とは言わない。
言うべきなのは、壊していい範囲と、壊してはいけない範囲を先に線引きすることだ。
- 線の内側：ダミーデータ、社外秘を入れない、公開しない、自分だけが見る。
- 線の外側：顧客名、未公開の数字、社員の個人情報、本番の決済、社内の権限。
線の外側へ進むなら、扱うデータと公開範囲を確認し、必要な権限設定や検証、止める担当を先に決める。
この線がないまま「1時間でいい」が走ると、駆け込み寺は増える。支援は事後の保険料になる。先に払うより、あとで払う方が高い。
最初に上げるべき確率を選べ
支援が不要だと思う人を愚かに描く必要はない。彼らは動かしている。動かしていない人たちより、一段先にいる。足りないのは勇気ではなく、どの確率を上げているかの自覚だ。
結論は「謙虚になれ」ではない。こう聞けばいい。
今上げたいのは、どの確率か。
作れる確率か。再現できる確率か。他人が直せる確率か。漏らさない確率か。
作れる確率だけを最大化すると、残りの三つは後払いになる。後払いの請求書が、漏洩と障害と説明責任だ。
型を先に取る人は、遠回りをしているのではない。請求書の金利を下げている。
恐怖は使っていい。ただし「怖いからやるな」ではなく、「動いたことを、閉じていることだと勘定するな」のために使う。
そこまで書けたとき、この話は自己啓発ではなく、現場の確率の話になる。