お世話になります。生成AIを使いたくても難しいPythonばかりで、なかなかわかりづらいですよね。今回は弊社で用意したRAGのマネージドのシステムを外部に提供させていただきます。これを利用することで、PythonのプログラミングなしでRAGやLLMを利用することができます。 特徴としては、・ログインするだけで機能が使える・プログラミングは不要・必要な機能に制限しているので迷わない・すぐにLLMを自社に利用できる Gradio製です。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2024/04/14/Gradio.png"/> 今回のシステムは、３つの部分で構成されています。 １、ベクトル検索用のDB登録機能２、ベクトル検索お試し機能３、RAG利用機能 です。こちらを使うと簡単に企業でRAGをつくることができます。詳しく機能をみます。 １、ベクトル検索用のDB登録入力側：こちらはウェブサイトのURLを入れることで、そちらのデータを保存します。その際にチャンクという塊に分割をします。そのサイズを指定できます。さらに、前後のつながりを考えた時にオーバーラップと言ってのり代をとってくれます。そのサイズを指定します。 出力側：こちらには、登録されたDBのindex数が表示されます。取り出したデータを分割した数です。また、保存されたDBの名前が出力されます。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2024/04/14/Gradio.png"/> ２、ベクトル検索お試し機能こちらは、いま作ったDBを使って類似度を検索できます。RAGでは最初に検索をします。今回は入力したプロンプトから似た文章を5つ似ている順に出力し提供してくれます。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2024/04/14/Gradio2.png"/> 入力側：DB名とクエリと呼ばれるプロンプトです。出力は類似度順に5つ候補が出ます。 ３、RAG利用機能最後にRAGになります。こちらは、作成したDBとプロンプトを使ってさらに調整をして文言を生成できます。 <img src="https://assets.blueqat.com/public/uploads/us-east-2:4805ff4b-c3cc-4344-b165-86544c34d0bf/2024/04/14/Gradio3.png"/> 入力側にはDBの名前、テンプレートで検索結果を含めたプロンプトのテンプレートを作り、最後にクエリを入れて検索をします。出力はRAGを利用した言語生成の結果がかえります。 弊社ではGPUの環境も提供していますが、今回はマネージドなので何も考えずにたくさん試せます。めちゃくちゃ便利なので、ぜひお問い合わせください。GPUを利用している関係で今回は企業への有償提供となっています。ご了承ください。

企業向けにマネージドのRAGシステムを提供します。

Yuichiro Minato