第5章 社内データをAIに使う
生成AIを使い始めると、かなり早い段階で次の要望が出てきます。
「うちの会社の情報も読ませたい」
当然です。
一般的なことを聞くだけなら、普通の生成AIでかなり便利です。
しかし、会社で本当に使おうとすると、
社内規程。 商品資料。 過去の提案書。 FAQ。 マニュアル。 議事録。 契約書。 技術文書。 顧客対応履歴。
こうした「自社の情報」を使いたくなります。
ここから、AI導入は少し難しくなります。
生成AIそのものの性能だけではなく、
データをどう渡すか。 誰が何を見てよいか。 古い情報をどう扱うか。 機密情報をどう守るか。
といった話が出てくるからです。
この章では、技術の細かい仕組みより、
「経営者として、何を考えておけばよいか」
を中心に見ていきます。
1 「社内データをAIに覚えさせる」は少し違う
よくある言い方に、
「会社のデータをAIに学習させる」
があります。
間違いではありません。
しかし、実際にはもう少し分けて考えたほうがよいです。
多くの場合、会社がやりたいのは、
「AIそのものを一から学習し直す」
ことではありません。
そうではなく、
「質問されたときに、社内文書を探して答えてほしい」
ということです。
例えば、
「有給休暇の申請期限は？」 「この製品の保証期間は？」 「この顧客への過去の提案内容は？」 「出張旅費の上限はいくら？」
といった質問です。
この場合、
AIに会社の情報を全部覚え込ませる
というより、
必要なときに社内文書を探して、 その内容をもとに答える
という仕組みのほうが現実的です。
2 RAGとは何か
ここで、少しだけ技術用語を出します。
RAGです。
Retrieval-Augmented Generation。
日本語では、検索拡張生成などと呼ばれます。
名前は難しいですが、考え方はそれほど難しくありません。
質問する ↓ 関係ありそうな社内文書を探す ↓ その文書をAIに渡す ↓ 文書をもとに回答する
だいたいこれです。
例えば、
「出張時の日当はいくらですか」
と聞く。
AIが就業規則や旅費規程を検索する。
該当箇所を見つける。
その内容をもとに回答する。
これなら、AIが一般知識だけで適当に答えるより、ずっと使いやすいです。
RAGは、生成AIを会社で使ううえでかなり重要な考え方です。
ただし、RAGを入れれば全部解決するわけではありません。
ここが大事です。
3 AIより先に、文書がまともか
社内データをAIに使うとき、最初に確認すべきことがあります。
「その文書、本当に使える状態ですか」
ということです。
例えば就業規則が3か所に保存されていて、
2019年版。 2022年版。 最新版。
が混ざっている。
AIは、どれが正しいかわかりません。
同じルールについて、部署ごとに違う説明文がある。
正式規程と、昔のメモが混ざっている。
こうなると、AI以前の問題です。
AIは整理されていない情報を整理してくれることもあります。
しかし、
間違った情報を正しい情報にしてくれるわけではありません。
古い情報が入っていれば、古い答えを出します。
矛盾した文書があれば、矛盾した答えを出すことがあります。
つまり、
社内AIの品質は、 社内情報の品質にかなり左右される
ということです。
4 「どの文書が正しいか」を決める
AI導入をきっかけに、
正式な情報源はどれか
を決めることをおすすめします。
例えば、
旅費規程はこのファイル。 製品仕様はこのデータベース。 価格表はこのシステム。 契約書はこのフォルダ。
というようにします。
これは地味です。
しかし、ものすごく重要です。
会社の中では、
「最新のファイルどれだっけ」
ということが普通に起きています。
人間は、なんとなく知っています。
「たぶん総務の共有フォルダにあるやつが最新」
という感じです。
AIには、その「なんとなく」がありません。
正式な情報源を決める。
これはAI導入のためだけではなく、会社の情報管理としても意味があります。
5 古い情報は消さなくてもよいが、区別する
古い文書を全部消す必要はありません。
過去の記録として重要なものもあります。
問題は、
今使う情報 過去の情報
が区別されていないことです。
例えば、
2023年の価格表。 2024年の価格表。 2025年の価格表。
がある。
過去の取引を調べるときには全部必要です。
しかし、
「現在の価格はいくら」
と聞かれたときには、最新版だけを使う必要があります。
ですから、
文書の日付。 有効期間。 最新版かどうか。 廃止済みか。
といった情報を付けておくとよいです。
AIは賢いですが、
時間の管理は人間側がきちんと設計したほうがよい。
6 アクセス権はとても重要
社内AIで一番怖いのは、
「見てはいけない情報まで見えてしまう」
ことです。
例えば、
一般社員が役員報酬の資料を読める。 営業担当者が人事評価を見られる。 別部署の機密案件が検索できる。
こんなことが起きたら大問題です。
生成AIに社内文書を検索させる場合、
誰が何を見てよいか
をそのまま反映できる仕組みが必要です。
これは簡単そうで、意外に難しいです。
会社の共有フォルダ自体が、
「実はみんな見える」
状態になっていることもあります。
AI導入をすると、
今まで表面化していなかったアクセス権の問題が見えることがあります。
ここでも、
AIが問題を作る
というより、
AIが会社の既存問題を見えるようにする
ことがあります。
7 AIは検索窓を強くする
社内AIを考えるとき、
「AI社員を作る」
と考えると話が大きくなります。
最初はもっと単純でよいです。
「社内検索をものすごく使いやすくする」
くらいに考えるとよいです。
今までなら、
フォルダを探す。 ファイル名を思い出す。 PDFを開く。 キーワード検索する。 該当箇所を読む。
という作業が必要でした。
AIなら、
「海外出張の宿泊費の上限を教えて」
と聞ける。
必要な文書を探し、 該当箇所を見つけ、 自然な文章で返す。
これはかなり便利です。
特に、
規程が多い。 商品が多い。 マニュアルが多い。
会社ほど効果があります。
8 社内FAQとの相性はよい
最初の用途として、社内FAQはかなり向いています。
例えば、
有給休暇。 出張。 経費精算。 PC設定。 各種申請。 福利厚生。
こうした質問は繰り返し発生します。
総務や情報システム部門には、
同じ質問が何度も来る。
これはAIに向いています。
質問 ↓ 規程やマニュアルを検索 ↓ 回答案を作る ↓ 必要なら元文書を示す
という流れです。
最初は、
AIが直接回答する
のではなく、
担当者向けに回答案を出す
ところから始めてもよいです。
これなら間違いのリスクも下げられます。
9 顧客対応にも使えるが、慎重に
社内FAQより一段難しいのが、顧客対応です。
顧客からの質問に、
商品マニュアル。 契約条件。 FAQ。 過去の回答。
などを使って答える。
これはかなり便利そうです。
実際、向いています。
ただし、
間違った回答を顧客に出す
と問題になります。
ですから最初は、
顧客から問い合わせ ↓ AIが回答案を作る ↓ 社員が確認 ↓ 送信
という形が安全です。
AIが直接顧客に答えるのは、 十分に検証してからでよいです。
10 「出典を見せる」はかなり大事
社内AIでは、
答えだけ出す
より、
どの文書をもとに答えたか
を見せるほうがよいです。
例えば、
「出張旅費規程 第8条をもとに回答しています」
と表示する。
これなら人間が確認できます。
AIが何を根拠にしたかわからないと、
正しいのか。 古いのか。 別の文書を見たのか。
判断できません。
特に会社で使う場合、
回答の自然さ
より、
根拠が確認できること
のほうが重要です。
11 AIが自信満々でも、検索に失敗していることがある
RAGを使うと、
「社内文書を見て答えるから安全」
と思いがちです。
しかし、そんなに簡単ではありません。
そもそも関係する文書を検索できなかった。
違う文書を拾った。
一部しか読めなかった。
こういうことがあります。
その状態でも、AIは答えを作ることがあります。
つまり、
検索が失敗しているのに、 回答だけは立派
ということが起きる。
かなり危険です。
だから、
答えの品質
だけでなく、
正しい文書を拾えているか
を見る必要があります。
12 検索精度は、データの整理でかなり変わる
検索精度を上げる方法というと、
高性能なAIモデル。 高性能な検索エンジン。
を考えがちです。
もちろん大事です。
しかし、
文書のタイトルが適切。 ファイル名がわかりやすい。 更新日が入っている。 カテゴリが付いている。 部署がわかる。
これだけでもかなり変わります。
地味ですが効きます。
つまり、
AI導入の成功要因の一つは、 普通の文書管理
なのです。
最新AIだけ見ていると、この部分を忘れます。
13 PDFだらけ問題
会社の中にはPDFが大量にあります。
規程。 仕様書。 カタログ。 契約書。
AIに読ませることはできます。
ただし、
画像だけのPDF。 表が複雑なPDF。 スキャンした古い文書。 文字化けするPDF。
などは扱いにくいことがあります。
ここでも、
「AIなら何でも読める」
と思わないほうがよいです。
重要文書については、
テキストとして扱いやすい形式
にしておくと便利です。
今後、社内文書を作るときには、
人間が読みやすいか
だけでなく、
機械が読めるか
も考えるようになるかもしれません。
14 機密情報を外部AIに入れてよいのか
これは会社によって一番気になる点です。
答えは、
契約とサービスによります。
個人向けサービス。 法人向けサービス。 API。 専用環境。
それぞれ扱いが違います。
確認したいのは、
入力したデータが学習に使われるか。 どれくらい保存されるか。 誰がアクセスできるか。 ログが残るか。 データの保管場所はどこか。
です。
ここは、
「有名な会社だから大丈夫」
ではなく、
実際の契約条件を見る必要があります。
生成AIは便利ですが、 会社の情報管理までAI任せにはできません。
15 クラウドは危険で、社内なら安全なのか
「機密情報が心配だから、全部社内サーバーで動かそう」
という考え方もあります。
これは一つの選択肢です。
しかし、
社内だから安全
とは限りません。
設定が甘い。 更新されていない。 バックアップがない。 管理できる人がいない。
こうなると、むしろ危ないこともあります。
大手クラウドサービスのほうが、 セキュリティ管理がしっかりしている場合もあります。
大事なのは、
クラウドか社内か
という単純な二択ではなく、
誰が管理するのか どこまで責任を持てるのか
です。
16 ログを残す
社内AIを本格利用するなら、
誰が何を聞いたか。 AIが何を答えたか。 どの文書を使ったか。
をある程度記録できるとよいです。
問題が起きたときに、
なぜその回答になったのか
を調べられるからです。
ただし、ログ自体にも情報が含まれます。
社員が入力した質問。 顧客情報。 機密情報。
が残る可能性があります。
ですから、
ログを取ること
と
ログを守ること
をセットで考える必要があります。
17 個人情報は特に慎重に
顧客名。 住所。 電話番号。 従業員情報。 人事情報。
こうした個人情報をAIで扱う場合は、 特に慎重に設計する必要があります。
最初の実験では、
個人情報を使わない
という方法が一番簡単です。
例えば、
公開されている商品資料。 一般的な社内マニュアル。 匿名化した問い合わせ。
から始める。
いきなり一番難しいデータを使う必要はありません。
18 最初のPoCは小さくする
社内データ活用は、 すぐ大規模システムの話になりがちです。
私は、最初はかなり小さくてよいと思います。
例えば、
旅費規程だけ。 製品マニュアル10本だけ。 FAQ100件だけ。
これで試す。
質問を50個くらい作る。
ちゃんと答えられるか見る。
間違えた質問を集める。
原因を調べる。
これで十分です。
最初から、
会社の全データをAIにつなぐ
必要はありません。
むしろ危ないです。
19 PoCで見るべきは「すごい回答」ではない
AIのデモを見ると、
きれいな回答が出る。
感動します。
でも、導入判断で見るべきなのは、
どれくらい間違えるか
です。
例えば、
50問中45問正解。
一見よさそうです。
でも残り5問が、
給与。 契約。 安全。
に関する重大ミスなら使えません。
ですから、
平均点
だけでなく、
どんな失敗をするか
を見る必要があります。
AI導入では、 成功例より失敗例のほうが重要です。
20 「わからない」と言えるAIのほうがよい
社内AIで理想的なのは、
何でも答えるAI
ではありません。
わからないときに、
「該当する文書が見つかりません」
と言えるAIです。
人間でもそうです。
知らないことを知ったふりする人より、
「確認します」
と言える人のほうが仕事では信用できます。
AIも同じです。
生成AIは、 それらしい文章を作るのが得意です。
だからこそ、
答えない設計
が大事になります。
21 社内データを使うと、AIの価値は一段上がる
ここまで注意点をたくさん書きました。
少し怖くなったかもしれません。
しかし、
社内データと生成AIの組み合わせ
はかなり可能性があります。
一般的なAIは、
一般的なこと
しか知りません。
自社の規程。 自社の商品。 自社の顧客。 自社の過去。
を使えるようになると、
会社の仕事に直接使える道具
になります。
ここで、生成AIは
「便利な外部サービス」
から、
「会社の知識を使うインターフェース」
に変わります。
22 でも、AIより前に会社の知識が必要
最後に、少し厳しい話です。
生成AIに社内データをつなげたい。
でも、
文書が整理されていない。 最新版がわからない。 アクセス権がめちゃくちゃ。 担当者の頭の中にしか情報がない。
この状態では、AIも困ります。
生成AIは、
会社に存在しない知識
を作ってはくれません。
会社に知識がある。 それが記録されている。 最新版がわかる。 誰が見てよいか決まっている。
ここまでできていると、 AIは非常に強くなります。
つまり、
AI導入の前に、 会社の情報管理が問われる。
ということです。
これは少し皮肉です。
最新のAIを使おうとした結果、
「うちの共有フォルダ、どうなってるんだ」
という昔ながらの問題に戻ってくる。
でも、たぶんそこが本質です。
まとめ 社内AIの性能は、社内情報の性能で決まる
社内データをAIに使えるようになると、 生成AIの価値はかなり上がります。
規程を探す。 商品情報を調べる。 FAQに答える。 過去資料を探す。
こうした仕事が自然な言葉でできるようになります。
一方で、
古い文書。 矛盾した文書。 間違ったアクセス権。 機密情報。 個人情報。
も、そのまま問題になります。
RAGを入れれば終わり。
ではありません。
大事なのは、
何が正式な情報か。 誰が見てよいか。 いつ更新されたか。 どの情報を使うか。
を整理することです。
AIの性能だけを見ない。
データを見る。
会社の情報の持ち方を見る。
社内AIを本気で使うなら、 ここがかなり重要です。
次の章では、
AI導入を提案してくるベンダーの話を、 経営者としてどう見ればよいのか
を考えてみます。