blueqatでは、量子技術を応用し、既存の深層学習のモデル改善を行い、自社独自のLLMモデルの開発をスタートします。
量子コンピュータの実用化はまだまだ未来の話と言われています。blueqatではかねてから普及にいそしんでいるNVIDIAの高性能量子コンピュータシミュレータのcuQuantumの技術を活用し、既存深層学習モデルの改善を行い、独自モデルの開発を進めます。
数年来blueqatではGPUと量子コンピュータをハイブリッドで利用する計算を開発して参りました。昨年よりGPUを活用し、テンソル分解などのパラメータ削減技術を利用し、既存深層学習モデルのパラメータ削減や高速化をクライアント様と進めてきており、実用的な良い結果を得られはじめています。
量子コンピュータの回路をディープラーニングと同じテンソルに変換した回路はとてもAIと相性がよく、技術を共通化できます。線形な計算の他、非線形の場合でも対応できることがあります。また、将来的に容易に量子回路にフィードバックが出来ます。
Transformerモデルなどでも世界で積極的にテンソル分解を通じたパラメータ圧縮が提案されており、パラメータによるスケール則を量子計算で効率的に実現できるかの良い開発となります。