お世話になります。生成AIを使いたくても難しいPythonばかりで、なかなかわかりづらいですよね。
今回は弊社で用意したRAGのマネージドのシステムを外部に提供させていただきます。
これを利用することで、PythonのプログラミングなしでRAGやLLMを利用することができます。
特徴としては、
・ログインするだけで機能が使える
・プログラミングは不要
・必要な機能に制限しているので迷わない
・すぐにLLMを自社に利用できる
Gradio製です。
今回のシステムは、３つの部分で構成されています。
１、ベクトル検索用のDB登録機能
２、ベクトル検索お試し機能
３、RAG利用機能
です。こちらを使うと簡単に企業でRAGをつくることができます。詳しく機能をみます。
１、ベクトル検索用のDB登録
入力側：こちらはウェブサイトのURLを入れることで、そちらのデータを保存します。その際にチャンクという塊に分割をします。そのサイズを指定できます。さらに、前後のつながりを考えた時にオーバーラップと言ってのり代をとってくれます。そのサイズを指定します。
出力側：こちらには、登録されたDBのindex数が表示されます。取り出したデータを分割した数です。また、保存されたDBの名前が出力されます。
２、ベクトル検索お試し機能
こちらは、いま作ったDBを使って類似度を検索できます。RAGでは最初に検索をします。今回は入力したプロンプトから似た文章を5つ似ている順に出力し提供してくれます。
入力側：DB名とクエリと呼ばれるプロンプトです。出力は類似度順に5つ候補が出ます。
３、RAG利用機能
最後にRAGになります。こちらは、作成したDBとプロンプトを使ってさらに調整をして文言を生成できます。
入力側にはDBの名前、テンプレートで検索結果を含めたプロンプトのテンプレートを作り、最後にクエリを入れて検索をします。出力はRAGを利用した言語生成の結果がかえります。
弊社ではGPUの環境も提供していますが、今回はマネージドなので何も考えずにたくさん試せます。めちゃくちゃ便利なので、ぜひお問い合わせください。GPUを利用している関係で今回は企業への有償提供となっています。ご了承ください。