日本語対応でGPT-4よりも高性能な大規模言語モデル「Command R＋」が登場したので使ってみた、無料でダウンロードしてローカル動作も可能

2024年4月8日 15時43分

AI開発企業のCohereがGPT-4と同等の性能を備えた大規模言語モデル「Command R＋」を発表しました。Command R＋は日本語での応答にも対応しており、ローカルにダウンロードして実行可能なほか、ウェブ上で実行できるチャットアプリのデモも公開されています。

Introducing Command R+: A Scalable LLM Built for Business

https://txt.cohere.com/command-r-plus-microsoft-azure/

CohereForAI/c4ai-command-r-plus · Hugging Face

https://huggingface.co/CohereForAI/c4ai-command-r-plus

Command R+

https://docs.cohere.com/docs/command-r-plus

◆Command R＋の概要

GPT-4やGeminiなどの高性能AIモデルを含む近年のAIモデルのほとんどは、Googleが2017年に発表した深層学習アーキテクチャ「Transformer」を基盤に開発されています。Command R＋を発表したCohereはTransformer開発チームの一員だったエイダン・ゴメス氏によって設立された企業です。Cohereは日本語を含む多言語対応LLMの開発に力を入れており、これまでにも「Aya」など複数のモデルを公開してきました。

新たに公開されたCommand R＋は1040億パラメーターの大規模言語モデルで、コンテキストウィンドウ(同時に処理できるトークン数)は12万8000トークンに及びます。「Command R＋」「Mistral Large」「GPT-4 Turbo」の性能を比較すると、Command R＋はMultilingual(多言語処理)とRAG(外部の情報を用いて回答精度を向上させる仕組み)においてMistral Largeを上回る性能を示し、Tool Use(外部ツールを用いて回答精度を向上させる仕組み)ではGPT-4 Turboを超える性能を示しています。

人間による性能評価では、「Command R＋」と「Claude 3 Sonnet」の比較では74％の人が「Command R＋の方が高性能」と判断し、「Command R＋」と「GPT-4 Turbo」の比較では53％の人が「Command R＋の方が高性能」と判断しました。

「Command R＋」「Claude 3 Sonnet」「Mistral Large」「GPT-4 Turbo」の多言語性能を複数のベンチマークテストで測定した結果は以下の通り。ほとんどのテストでCommand R＋は上位に位置し、一部のテストではGPT-4 Turboを抑えてトップレベルの性能を示しています。

◆Command R＋のデモアプリを使ってみた

すでにCommand R＋を用いたチャットアプリのデモが以下のリンク先で公開されているので、試しに使ってみました。

C4AI Command R Plus - a Hugging Face Space by CohereForAI

https://huggingface.co/spaces/CohereForAI/c4ai-command-r-plus

実際にCommand R＋とチャットした結果が以下。日本一高い山と二番目に高い山を正確に答えてくれました。ただし、北岳は山梨県と静岡県の境界よりも北側に位置しているため、完全に正確というわけではありません。

バズりそうなSNS投稿の例文も考えてくれました。

Linuxのコマンドに関する質問も正しく回答してくれました。どの質問もかなり高速かつ高精度に回答してくれます。

◆無料でモデルデータをダウンロード可能

Command R＋のモデルデータは以下のリンク先で公開されており、非商用利用に限り自由に実行可能です。インターネット上には、Command R＋をダウンロードしてローカルで実行してみた複数の結果が報告されています。

CohereForAI/c4ai-command-r-plus · Hugging Face

https://huggingface.co/CohereForAI/c4ai-command-r-plus

◆有料ライセンスあり

CohereはCommand R＋を使えるAPIも準備しています。APIの利用価格は入力が100万トークン当たり3ドル(約455円)で、出力が100万トークン当たり15ドル(約2280円)です。CohereはCommand R＋の利用価格がMistral LargeやGPT-4 Turboよりも安いことをアピールしています。

また、Command R＋は他の大規模言語モデルと比べて同一テキストを表現するために必要なトークン数が少ないこともアピールされています。日本語の場合、トークン数をMistralと比べて1.77分の1、OpenAIと比べて1.67分の1に抑えられるそうです。

また、Command R＋はMicrosoft Azure上でも利用可能です。

Command R+ from Cohere first on Azure AI

https://techcommunity.microsoft.com/t5/ai-ai-platform-blog/announcing-cohere-command-r-now-available-on-azure/ba-p/4103512

さらに、Amazon SageMakerからも利用可能です。

More exciting news, our latest Command R and R+ models are now accessible via @awscloud SageMaker! This further builds on our collaboration and allows enterprises to start deploying our RAG-optimized models at production scale.

Try our new models on SageMaker today.… pic.twitter.com/cNiEahgwqp— cohere (@cohere) April 5, 2024