企業でAIが使い物にならない？ その不都合な真実

AIが企業業務に浸透するにつれ、SNS界隈では肯定的な評価の声と同時に、否定的な声も聞こえてきます。「思ったより正しい回答をしてくれない」「意図と違う回答が出る」「複雑な業務には使えない」等々…。

これらの原因は多々ありますが、一番の理由は

　企業の業務プロセスとデータを生成AIにうまく伝え切れていない

ということが原因です。今回は、その不都合な真実に切り込んでみます。

メイントピックスは

・大きな誤解：「RAGは万能」

・AIをうまく使えないのは日本人の特性か？

になります。

 

大きな誤解：「RAGは万能」

RAG（Retrieval Augmented Generation：検索拡張生成）は、生成AIに対して質問した際に、その質問に関連する情報をあらかじめ与えられているデータソースから抽出し、それを生成AIがまとめて回答する仕組みです。事前学習された生成AIの「学習してある知識」だけに頼るのではなく、「このデータの中から関連するものを探して答えてね」という前提条件を示すことができるため、特定の業務など、比較的狭い領域の知識が必要な場合に有効に働きます。

それがゆえに、企業業務における専門知識をRAG化することで、高い生産性を実現している会社もありますし、それをもとにソフトウェアの操作までAIに委ねるAIエージェントを導入し、作業の自動化に成功した例も数多く発表されるようになりました。先日アメリカの某老舗金融機関のトップが「当社には100人のAI社員がいる」と発言していましたが、これは社内で稼働しているAIエージェントの数を指していると思われます。

生成AIが優秀な社員と同じ知見を持って働いてくれるのであれば、もう言うことはありませんね。

そんな話を聞いた後では、「会社の業務マニュアルをそのままRAGに使えば、生成AIはスーパー社員のように業務知識を持つのでは」と思うかもしれません。

しかし、これは「真であり、偽でもある」という状態なのです。

「RAGがうまく動かない・使い物にならない」という現象は、例えば次のようなものです。

　　RAGがデータ範囲外の情報を使って回答してしまう

　　全業務データを入れてあるのに、必要な情報を拾い切ってくれない

業務手順を聞いても正しい答えが返ってこないようであれば、参考にならないどころか、当然 AIエージェントへの応用もできません。せっかくデータを入れてあるのに「そんなはずはない…」という状態になりますね。

この原因の多くは、RAGに入れたデータが論理的に整理されていないからです。

この論理的な整理を専門用語では「構造化」や「正規化」と表現しますが、難しく考える必要はありません。要するに、

　　業務手順のデータであれば…手順が漏れなく整理され、条件分岐も明確であること

　　技術データであれば…表計算ソフトの一覧表のように整然としている状態であること

というわけです。

業務手順であれば、人間がその場で判断しているような曖昧な仕事も文章で明確に表現できていなければ、このルールから外れています。また、「誰が担当する仕事なのか」が日本語では曖昧に省略されることがありますが、これも明記されていなければなりません。

一見すると一覧表にきちんと整理された技術情報であっても、一部の数字に「約」が使われていたり、セル結合が行われていたり、項目名とは異なる内容がセルに書かれているようでは、人間は見るたびに頭の中で補正しているはずです。しかし、RAGはそのような融通を利かせてくれません。

生成AIに対して壁打ちのつもりで様々な質問をすると、比較的まともな回答が得られるため、「生成AIは優秀だ」と思われる方もいるでしょう。しかし、それはメーカーが事前に大量の知識を学習させているからできることです。

自社データを回答に使わせるRAGでは、データの整理という「AIメーカーが本来やっている部分」を自社で代行する必要があり、その理解が一般に不足しているため、「RAGも万能だ」という誤認が生じがちなのです。

 

AIをうまく使えないのは日本人の特性か？

このように、企業内で使うAIには適切なデータが不可欠ですが、そこに加えて、日本人の働き方の特性にも生成AIを業務に使う際のハードルが潜んでいます。それが「業務の曖昧性」です。

ジョブ型雇用ではない日本企業の社員にとって、長年やってきた自分の担当業務は自分には理解できていても、他人から見ると分かりづらくなっていることに気づいていません。それを第三者から指摘されても、「たいしたことはやっていない」とごまかしてしまう人が多いのが実情です。

しかし、その人の業務を可視化し分解してみると、実に複雑で、曖昧な判断基準を持っていることが多いものです。例えば「こんな時はXXのYYさんに聞いて…」とか「ZZさんに事前に根回ししておいてから…」といった、極めて曖昧な業務が数多く存在しています。

業務用AIの構築やAIエージェントによる業務自動化で壁になるのが、この曖昧性です。これが随所に残っている限り、生成AIやAIエージェントを導入しても業務への投入はできませんし、部分的に導入できたとしても、その効果は非常に限定的なものになってしまいます。

私も数多くの企業の業務を見てきましたが、社歴の長い日本企業の場合、この曖昧性の強い業務が随所に存在しており、その結果として属人化も進んでいる傾向があります。これを外資系の人に話しても、ほとんど意に介さないような反応が返ってきます。彼らは、そもそも曖昧性を感じる場面が少ないのでしょう。

いずれにしても、この曖昧性が残っている限り、業務へのAI導入は非常に難しいと言わざるを得ません。

-------------------------------------

こういった「AI導入の障壁」については、業務プロセスの可視化を事前に行って分析する以外に対策はありません。ビフォーAIの時代では、その曖昧さがむしろメリットとして働いていた場面もあると思いますが、AIの時代・採用が困難な時代の企業活動においては、それが許されなくなってきています。

生成AIやAIエージェントを本格的に導入するためには、業務プロセスやデータを可視化して整理し、曖昧性を排除してゆく地道な取り組みが求められていると考えています。

当社ベルケンシステムズ（株）では、業務可視化支援をはじめとする様々なコンサルティングサービスプランをご用意しております。ご興味があれば是非当社ホームページをご覧ください。https://www.belken.jp/consulting/