どうも、にっしーです。先週、宮古島の知り合いの宿のオーナーさんと話してたんですよ。「AIってすごいって聞いてるんだけど、何でもできるの?」って聞かれて、うーん、これ答え方むずかしいなって正直思った。「できることも多いけど、できないこともあるよ」と言いたいところを、どう伝えたら一番役に立つかなと考えてて。
で、気づいたんですよ。AIを使い始めて失敗する人の多くは「できること」を誤解してるというより、「できないこと」を知らないだけなんじゃないかって。「何をやらせない」を先に決めると、失敗がぐっと減る。今日はその話をしたいと思います。
限界① AIはしれっと嘘をつく
ハッキリ言います。AIは、知らないことを「知ってる風」に答えます。
これ、専門用語で「ハルシネーション」って呼ばれてます。「幻覚」って意味です。AIが自信満々に存在しない法律を引用したり、間違った数字をもっともらしく提示したりする現象のことです。
僕も一回やらかしたんですよ。お客さんへのメールをAIに下書きさせて、ノーチェックで送ったら、全然違うホテルの名前が入ってて。あの時は冷や汗出ました（笑）。固有名詞が絡むと、AIは「なんとなくそれっぽいもの」を出してくる癖があるんですよね。
特に気をつけてほしいのはこのあたりです。
- 法律・税・労務の情報（「この場合は問題ない」と言い切ってても要確認）
- 地名・人名・企業名・店名（近い名前のものと混ざりやすい）
- 引用・統計（「〇〇によると〜」「〜%と報告されている」系は出典まで確認）
- 医療・保険の情報（「おそらく大丈夫」がアウトな分野）
これを知ってると付き合い方が変わります。「下書きを出してもらって、事実確認は人がやる」。これだけです。AIを使わないんじゃなく、チェックのポイントを変えるだけでいい。
ハルシネーションをもっと詳しく知りたい場合はAIの「幻覚」（嘘）はなぜ起きる、どう防ぐでちゃんと書いてます。
ちょっと話変わるけど。「最新」に弱いのも頭に入れておいて
ハルシネーションとは別のことなんですけど、これもよく「なんか変だな」ってなる場面なんですよ。
AIには「学習データのカットオフ」というものがあります。要は、いつまでの情報を勉強したか、という締め切りがある。だから、最近起きたことをAIに聞いても、知らないか、古い情報を出してくることがあります。
限界② AIは最新情報に弱い
例えばこういう場面です。「今の宮古島への直行便、どこの航空会社が飛んでる?」とAIに聞くと、古い運航情報を元に答えてくることがあります。就航路線は普通に変わるので、ここはAIに頼らず直接調べた方が早い。
経営的に影響しやすいのはこのあたりかなと思ってます。
- 補助金・助成金の最新情報（去年の締め切りを「今年も有効」と言ってきたりする）
- 税制の改正点（毎年変わるので古い年度の情報を参照してることがある）
- 競合や市場の動向（半年前の業界状況を最新情報として出してくることも）
- ツール・サービスの価格（AIの料金表なんて特にコロコロ変わる）
ただ、今は「リアルタイム検索つき」のモードを持つAIも増えてきました。ChatGPTとかClaudeとか、Web検索を有効にした状態で使うと、かなり改善されます。「Web検索付きで使ってるか、そうでないか」を意識しておくといいと思います。設定でオフになってると古い知識だけで答えてくるので。
あと、補助金や税制の情報はAIで「概要をつかむ」のには使えます。「うちに関係ありそうかどうか判断する入口」くらいの使い方で、詳細は担当機関に確認する、という流れが安全なんじゃないかなと。
これも正直に言っておきたいんですけど、数字が苦手です
ハルシネーションの話、最新情報の話ときて、もうひとつ。これが経営判断に直結するので割と重要です。
限界③ 数字の精度が甘い
AIは文章を作るのは得意ですが、数字を正確に計算したり集計したりするのはそんなに得意じゃないです。
例えば、「先月の売上データを合計して」とAIに頼むと、大きく外れることがあります。かけ算・割り算を含む少し複雑な計算でも、スラスラ答えながら途中でミスしてたりします。
特に気をつけたいのはこのあたりです。
- 売上・経費・利益の集計（金額が絡む計算はExcelかスプレッドシートで）
- 在庫数の足し引き（リスト全体を処理させると数が合わなくなることがある）
- 割引率や消費税の計算（単純に見えても外れることがある）
- 統計や分析（数値を並べて「傾向を読む」のはOKだけど、集計は別でやる）
「数字の整理はExcel、文章の整理はAI」という分担が一番ストレスないと思います。経営判断に使う数字はしっかりExcelや会計ソフトで出して、AIにはその数字を元に「どう解釈するか」「どう伝えるか」を手伝ってもらう、という使い方が賢いかなと。
AIのプロンプトに数式を入れるより、Excelの関数のほうが確実です。これは断言できます。
限界を知って、どう付き合うか
3つ並べると不安に見えるかもしれないんですけど、別にそういう話じゃなくて。弱いところが分かってれば、そこを人間がカバーするだけです。
AIに任せていいこと
- 文章の下書き、返信メールのたたき台
- アイデア出し・ブレスト・選択肢の列挙
- 要約・箇条書き・整理
- 翻訳・言い換え・トーン調整
- 手順の説明・マニュアルの下書き
人間が目を通す・確認するべきこと
- 固有名詞（人名・店名・法律名）が正しいかどうか
- 数字・金額が正確かどうか（Excelで再計算）
- 最新情報が絡む部分（補助金・税制・料金）
- 公開前のコンテンツ全般（お客さんに見せるものは必ず通読）
「8割AI、2割人間」というバランスが一番楽でストレスが少ないと僕は思ってます。完全に任せようとして失敗した経験があるからこそ言える感覚です。
ぼくらが200万溶かして気づいた境界線
ONEstaでもこれ、実際に失敗しながら覚えてきてるんですよね。最初の頃は何でもAIに投げてみて、「ここはダメだな」「ここは使えるな」って線引きを少しずつ学んできた感じです。
一番しみたのは、AIが出した数字をそのまま提案書に載せたとき。数字が微妙にずれてて、後で気づいてヒヤッとしました。それ以来、数字に関してはExcelで確認するというルールを決めました。
あと、ハルシネーションに関しては「自信満々に言ってるときほど疑え」という癖がついてきました。「〜によると〜です」みたいな引用っぽい書き方をされたら、出典を確認するまで使わない。これ、慣れると自然にやれるようになります。
失敗事例をもっと見たかったら中小企業のAI失敗事例と教訓も書いてるので読んでみてください。使い始めの人にはいい参考になるかと思います。
リスク全般のざっくりした対策については情報漏洩・誤情報、リスクとざっくり対策の方がより網羅的に書いてるので、経営判断の参考にどうぞ。AIに任せる業務の線引きをもう少し具体的に整理したい場合はAIに任せる業務／任せない業務の線引きもあわせて読んでみてください。
おわりに
「AIって何でもできるの?」って聞かれたら、「8割くらいは何とかなるけど、2割は人間が見る」が一番正直な答えかなと思ってます。
怖いから使わない、よりも「弱いところを知って使う」の方が、ずっと使えるようになると思うんですよね。まずは小さいところから使い始めてみて、「ここは人が見た方がいいな」を発見していく感じが一番定着するかなって。
難しくないし、最初は失敗してもそれが分かってくるだけです。一緒にやっていきましょう。
気になることがあったら、ONEstaに気軽に相談してください。