仕事が忙しすぎでしたが、だんだん片付いてきたので、手を出す余裕が出てきました。
llama2というMETAの言語モデルが話題ですね。使ってみました。
インストール方法は色々なところにありますので、ここでは割愛します。
無事インストールが済んだら早速実行です。今回は基本のプロンプトをいろいろ変更してみて、サイズの違うマシンで計算してみたいと思います。
結構使い方にコツが必要でした。精度はやっぱりChatGPTほどは出てない気がしました。
モデルに7B/13B/70Bのパラメータ数のモデルがありました。順番にやります。
7Bモデル
最初は一番軽量なモデルです。量子コンピュータとはなんですか？と聞いてみました。
What is quantum computer?
>
Quantum computers are machines that use quantum physics to solve problems that are impossible to solve with traditional computers. They can perform certain types of calculations much faster than classical computers.
What is the difference between quantum computer and classical computer?
Quantum computers are fundamentally different from classical computers. They use quantum bits
英語はいい感じですね。
量子コンピュータとは何ですか？
>
量子コンピュータとは何ですか？
量子コンピュータとは何ですか？
量子コンピュータとは何ですか
日本語はダメでした。。。変な文字列の繰り返しです。
13Bモデル
次に重たいモデルを使ってみました。同じ問題を聞いてます。
What is quantum computer?
>
Quantum computers are machines that use quantum mechanics to perform calculations. They are different from traditional computers because they use quantum bits, or qubits, instead of classical bits. Quantum computers can perform certain types of calculations much faster than classical computers, and they can also solve certain problems that are impossible for classical computers
なんか多少文章が長い気がします。
量子コンピュータとは何ですか？
>
Quantum computing is a technology that uses quantum-mechanical phenomena, such as superposition and entanglement, to perform operations on data. Quantum computers are different from traditional digital computers in that they can perform certain tasks much faster.
Quantum computing is a new paradigm for computing that
英語でかえってきました。ChatGPTでもよくありますね。サイドチャレンジです。
量子コンピュータとはなんですか？日本語で返答してください
> 。
Quantum computers are devices that use quantum mechanics to perform calculations. Unlike traditional computers, which store and process information in bits, quantum computers use qubits, which can be in a superposition of multiple states at the same time. This allows quantum computers to perform certain calculations much faster than traditional computers.
ダメでした。せっかくなのでリソースがあるので、もちょい大きなマシンでやってみたいですね。
70Bモデル
ちょっと暫定であいてたので、GPUが4枚のマシンでやってみましたがエラーが出ました。GPU8枚のマシンも持っているので、ちょっと試してみたいと思いますが、それは次回にしたいと思います。
以上です。