RAG(社内AI)とは?
RAG(社内AI)とは?
Retreival Argumented Generated(検索拡張生成 )
大規模言語モデル(LLM)に外部の信頼できるデータベース(社内文書、Webサイト等)から情報を検索・取得し、その根拠に基づいて文章を生成させる技術です。
LLMはある時点での情報しか知らない為、この情報を元に回答をします。なので、外部記憶として情報を与えることで知識を獲得し、この知識に基づいて回答することが出来るようになります。これをRAGと言います。
RAG=AIが社内文書を参照しながら回答する仕組み
「知識を与える」点では非常に強力
多くの現場で最初に選ばれる王道アーキテクチャ
RAGのメリット
ドキュメントを参照する為ハルシネーション(嘘)が起きにくい。
社内ドキュメントが外部に出ない
LLMの知識を増やすことが出来る
APIを使用することで情報漏洩に対してのリスクを軽減(オンプレも可能)
RAGの構成
RAG導入時の注意点として設計を正しく行う必要があります。
詳しくは以下記事をご覧ください。