RakutenのLLMを試してみる
RakutenのLLMを試してみる RakutenのLLMを試してみる 先日、 Rakuten が LLMモデル 公開したニュースを見ました。 2種類公開されており、性能は高そうだったので、今回試してみたいと思います。 環境構築 LLMを試すために、まずは環境開発を行います。 今回使う環境は、 OracleLinux9 をHyper-V上に構築して実行してみたいと思います。 なお、Hyper-V上の仮想OSなのでGPUは接続されておらず、CPUのみの環境になります。恐らく大容量モデルの方はGPUが必須だと思うので、その場合はホストのWindowsで実行します。 pythonのバージョンを確認する OracleLinuxなので、デフォルトでPython3がインストールされているはずです。 下記コマンドを実行しバージョンを確認します。 python3 -V バージョンが3.9以上であれば、そのまま進めます。 pipをインストールする ライブラリインストールでpipを使うのでインストールします。 sudo dnf install python3-pip インストール後にバージョンの確認を行います。 pip3 -V python3系のpipがインストールできていれば大丈夫です。 必要ライブラリをインストールする Hugging FaceでRakutenのサイトを確認するとサンプルコードが記載されてい...