LMSYSを活用して最先端のAI研究を加速しよう

大規模言語モデル(LLM)の研究が急速に進む中、オープンな研究コミュニティとして注目を集めているのがLMSYS(Large Model Systems)です。LMSYSは、最先端のLLM研究を推進し、その成果を広く社会に還元することを目的とした非営利団体です。 Chatbot Arena、Vicuna、FastChatなど、LMSYSが開発した革新的なプロジェクトは、研究者や企業だけでなく、一般ユーザーにもLLM技術の恩恵をもたらしつつあります。本記事では、LMSYSの主要プロジェクトを紹介し、それらを企業や個人が活用する方法について探っていきます。

LMSYSを活用して最先端のAI研究を加速しよう
  • プロンプトの送信回数:10回
  • 使用したモデル:Perplexity, Claude 3 Opus
  • Microsoft Copilotは旧Bing Chatのことを指し、Microsoft Copilot for Microsoft 365とは異なります。

AIとデジタルイノベーションでビジネスを変える時が来ました。
私たちと一緒に、効果的なマーケティングとDXの実現を目指しませんか?
弊社では、生成AI開発やバーチャルインフルエンサーの運用について無料相談を承っております。
お打ち合わせではなくチャットでのご相談もお待ちしております。

目次

LMSYS とは

LMSYSの主要プロジェクト

LMSYSの主要プロジェクトを活用する方法

AIによるまとめ

この記事は、AI(人工知能)によって生成されたものです。
内容は専門家による監修や校正を経ておらず、AIの現在の能力と知識ベースに基づいています。
したがって、記事の内容には限界があり、専門的な意見や最新の情報を代替するものではありません。
読者は、この記事を参考の一つとして用いることを推奨し、必要に応じて専門家の意見を求めることをお勧めします。
以下から、AIライターの執筆が始まります。

LMSYSとは

LMSYSは、2022年にカリフォルニア大学バークレー校の学生と教員が設立したオープンな大規模言語モデル(LLM)の研究組織です。

LMSYS Org
LMSYS Org, Large Model Systems Organization, is an organization missioned to democratize the technologies underlying large models and their system infrastructures.

深層学習の発展とLLMの台頭を背景に、最先端のLLM研究を推進し、その成果を広く社会に還元することを目的としています。

Vicuna、Chatbot Arena、FastChatなどの注目プロジェクトを進めており、研究者だけでなく企業や個人開発者とも積極的に連携しています。

LMSYSの主要プロジェクト

LMSYSの主要プロジェクトに対するユーザーのフィードバックや使われ方について、2024年5月20日時点での情報を以下のようにまとめました。

評価プロジェクト

ChatBot Arena
  • LLMを比較評価するためのオープンなベンチマークプラットフォーム
  • ユーザーが2つの匿名モデルとチャットし、どちらが優れているかを投票
  • Eloレーティングを用いてLLMの性能をランク付け
Chatbot Arena: Benchmarking LLMs in the Wild with Elo Ratings | LMSYS Org
<p>We present Chatbot Arena, a benchmark platform for large language models (LLMs) that features anonymous, randomized battles in a crowdsourced manner. In t…
  • 650,000以上の有効な投票が集まり、コミュニティベースのLLM評価ベンチマークとして広く活用されている。
  • OpenAIやGoogleなどの大手企業もChatbot Arenaの評価結果を引用してLLMの性能を裏付けている。
  • ユーザーは匿名で質問を投げかけ、2つのLLMの回答を比較評価できるため、公平性が担保されている。
Chatbot Arena: A Community-Based Evaluation Benchmark for Large Models
Personal blog of Bojie Li

こちらの記事にて詳細に内容が記載されています。

左側アイコン
AI Lab

実際に、GPT-4oの登場前にgpt2-chatbotが登場し、一時期は制限で使えなくなるなど認知度が非常に高いプロジェクトです。

Arena Hard
  • Chatbot Arenaで収集した20万件のユーザークエリから高品質なベンチマークを自動構築するパイプライン
  • 多様性、具体性、ドメイン知識、複雑さなど7つの基準でプロンプトの品質を評価
From Live Data to High-Quality Benchmarks: The Arena-Hard Pipeline | LMSYS Org
<p>Building an affordable and reliable benchmark for LLM chatbots has become a critical challenge. A high-quality benchmark should 1) robustly separate model…

要点は以下の通りです。

  1. Arena Hardは、Chatbot Arenaで収集された20万件以上の実世界のユーザークエリから、高品質なベンチマーク問題を自動的に構築するパイプラインです。
  2. 多様性、具体性、ドメイン知識、複雑さなど7つの基準でプロンプトの品質を評価し、250のトピッククラスターから500の高品質ベンチマーク問題を抽出しました。
  3. Arena Hard v0.1は、既存の主要なチャットLLMベンチマークであるMT-Benchと比較して、モデル間の識別性が大幅に向上し、信頼区間も狭くなっています。
  4. Arena Hard v0.1は、Chatbot Arenaの人間の好みのランキングとの一致率が89.1%と高く、モデル開発者にとって有用なベンチマークになると期待されています。
  5. ブログ記事では、Arena Hardパイプラインの技術的な詳細や、ベンチマークの結果についても説明しています。

つまり、このブログ記事は、LMSYSが開発したArena Hardというベンチマークパイプラインが、実世界のデータから高品質なベンチマーク問題を自動的に生成し、既存のベンチマークよりも優れた性能を示すことを主張しています。

これにより、LLMの評価と比較がより正確かつ効率的になると期待されます。

システム・ツール

FastChat
  • LLMベースのチャットボットの学習・提供・評価のためのオープンかつスケーラブルなプラットフォーム
  • 1,000万以上のチャットリクエストを処理し、70以上のLLMにサービスを提供
  • 最先端モデル(Vicuna、MT-Bench)のトレーニングと評価コードを提供
GitHub - lm-sys/FastChat: An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena. - lm-sys/FastChat

SGLang
  • 複雑なLLMプログラムのための効率的なインターフェースとランタイム
  • 複数の生成呼び出し、高度なプロンプト、制御フロー、外部環境との対話などを効率的に実行可能
Fast JSON Decoding for Local LLMs with Compressed Finite State Machine | LMSYS Org
<p>Constraining an LLM to consistently generate valid JSON or YAML that adheres to a specific schema is a critical feature for many applications. In this blo…

Lookahead Decoding

  • ドラフトモデルやデータストアを必要とせず、LLMの推論を高速化する新しい並列デコーディングアルゴリズム
  • 自己回帰デコーディングの逐次的な依存関係を解消
  • ドラフトモデルやデータストアを必要とせず、デコーディングステップ数を直線的に減少
Break the Sequential Dependency of LLM Inference Using Lookahead Decoding | LMSYS Org
<p><strong>TL;DR:</strong> We introduce <strong>lookahead decoding</strong>, a new, exact, and parallel decoding algorithm to accelerate LLM inference. Look…

データセット

LMSYS-Chat-1M
  • 100万件を超える25の最先端LLMとの実世界の会話を含む大規模データセット
  • コンテンツモデレーションモデルの開発や安全性ベンチマークの構築に活用
  • 高品質な指示に沿った対話データを使ってLLMをファインチューニングすることも可能
lmsys/lmsys-chat-1m · Datasets at Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.

ToxicChat
  • 実世界のユーザーとAIの対話におけるコンテンツモデレーションのための高品質な1万件のデータセット
  • Vicunaのオンラインデモからの有害なユーザークエリに基づいて作成
  • ベースラインモデルのファインチューニングに使用すると、ユーザーとAIの対話における有害クエリの検出能力が大幅に向上
lmsys/toxic-chat · Datasets at Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.

以上のように、LMSYSの各プロジェクトは大規模言語モデルの研究開発とベンチマーキングにおいて重要な役割を果たしており、研究者やエンジニアから高く評価されています。特にChatbot ArenaやMT-Benchは最先端LLMの性能比較の業界標準となりつつあります。

Chatbot Arena: New models & Elo system update | LMSYS Org
<p>Welcome to our latest update on the Chatbot Arena, our open evaluation platform to test the most advanced LLMs. We’re excited to share that over <strong>1…

一方、FastChatやLookahead Decodingのようなオープンソースのシステムやアルゴリズムは、LLMの効率的な実行と推論の高速化に貢献しています。LMSYS-Chat-1MやToxicChatのような大規模データセットは、LLMの性能向上やより安全なAI開発のための貴重なリソースとなっています。

Fast JSON Decoding for Local LLMs with Compressed Finite State Machine | LMSYS Org
<p>Constraining an LLM to consistently generate valid JSON or YAML that adheres to a specific schema is a critical feature for many applications. In this blo…

LMSYSのプロジェクトは、LLM分野の発展を加速し、その成果を広く社会に還元することを目指しており、今後もコミュニティからの活発なフィードバックと活用が期待されます。

LMSYSの主要プロジェクトを活用する方法

1 Chatbot Arenaを使ったLLMの比較と理解

  • 様々なLLMの性能を匿名で比較体験できるChatbot Arenaを使って、LLMの特性や得意不得意を理解する
  • 自分の用途に適したLLMを見つける参考にする
  • 最新のLeaderboard は誰でも確認可能
GPT-4o登場後の最新LLM性能比較結果から引用

2 Vicunaを使った低コストな文章生成

  • LLaMAをファインチューニングして開発されたオープンソースのチャットボット。GPT-4に匹敵する高い性能を持ち、独自サービスへの組み込みやコスト削減に役立つ。
  • オープンソースのVicunaを使って、ブログ記事の下書きや要約、プログラミングのアドバイス、語学学習の会話練習などを低コストで行う
  • 商用LLMよりコストを抑えつつ、ある程度の品質の文章生成を体験できる

Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality | LMSYS Org
<p>We introduce Vicuna-13B, an open-source chatbot trained by fine-tuning LLaMA on user-shared conversations collected from ShareGPT. Preliminary evaluation…

デモリンクはこちらのブログに掲載されています

3 FastChatを使ったLLMアプリ開発の学習

  • FastChatのオープンなプラットフォームを使って、LLMアプリ開発の基礎を学ぶ
  • 最先端モデルのデモを試したり、独自のチャットボットを構築する練習ができる
FastChat/README.md at main · lm-sys/FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena. - lm-sys/FastChat

4 LMSYS-Chat-1Mを使ったLLMの安全性の理解

  • LMSYS-Chat-1Mのデータセットを見て、LLMとの会話でどのような危険性があるかを知る
  • LLMを安全に使うための知識を身につける
lmsys/lmsys-chat-1m · Datasets at Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.

5 LMSYSコミュニティへの参加

  • LMSYSのGitHubやDiscordに参加して、LLM技術の最新動向を追う
  • ユーザー目線のフィードバックを開発者に伝え、よりよいLLM開発に貢献する

以上のように、LMSYSのオープンな成果物を活用することで、一般ユーザーもLLM技術への理解を深め、低コストで便利なAIアプリを使いこなせるようになります。LLMの安全性への関心を高めることも重要でしょう。気軽に最先端技術に触れられるのがLMSYSの魅力と言えます。

AIによるまとめ

LMSYSは、オープンソースのLLMモデルやベンチマーク、データセットなどを通じて、LLM技術の民主化と発展に大きく貢献しています。企業はこれらのリソースを活用することで、低コストで高性能なAIサービスを開発できます。また、一般ユーザーもLMSYSの成果物を通じて、最先端のLLM技術に触れ、生活やビジネスに役立てることができるでしょう。

LMSYSのプロジェクトは、LLMの性能向上だけでなく、安全性や倫理的な課題への取り組みも重視しています。今後もLMSYSが、オープンかつ責任ある形でLLM研究を牽引していくことが期待されます。読者の皆さんも、LMSYSの活動に関心を持ち、可能な形で貢献していただければ幸いです。LLM技術の健全な発展には、多様なステークホルダーの参画が不可欠だと信じています。

最後に

弊社では、AIを活用したマーケティングやDXのご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

Read more

【AI検索エンジン「Perplexity」徹底解説】CEOのビジョンと戦略から読み解く、AIが再構築するWebの未来

【AI検索エンジン「Perplexity」徹底解説】CEOのビジョンと戦略から読み解く、AIが再構築するWebの未来

ChatGPTの登場以来、生成AIの進化は私たちの想像をはるかに超えるスピードで進んでいます。その波は、情報収集の基盤である「検索」にも押し寄せ、新たな時代を築きつつあります。 その中心にいるのが、AI検索エンジン「Perplexity」を開発した「Perplexity AI」、そしてその創業者兼CEOであるアラビンド・スリニバス氏です。 Googleが君臨する検索の世界に、なぜ今、Perplexityが登場したのか? スリニバス氏のビジョン、Perplexityの技術、そしてAIが再構築するWebの未来図を読み解いていきましょう。

By Hiro from AI Lab
AnyMind Group が放つ、データ&AI の新戦略!新プラットフォーム「AnyAI」で、ビジネスを加速する

AnyMind Group が放つ、データ&AI の新戦略!新プラットフォーム「AnyAI」で、ビジネスを加速する

こんにちは、AnyMind Group です! 今日は、私たちがワクワクしながら開発を進めてきた、全く新しいサービスについて発表します。 そのサービスとは、データ&AI 活用プラットフォーム 「AnyAI」 。 私たち AnyMind は、創業以来、テクノロジーの力で、アジアを中心に、世界中のビジネスの成長をサポートしてきました。 そして今、データと AI こそが、これからのビジネスを大きく変革させると確信し、この AnyAI を開発しました。 AnyAI は、お客様のビジネスに寄り添い、データと AI の力で、未来を創造するプラットフォームです。

By Hiro from AI Lab
【Perplexity AI最新情報】ソフトバンクユーザー必見!1年間無料で使えるAI検索エンジン

【Perplexity AI最新情報】ソフトバンクユーザー必見!1年間無料で使えるAI検索エンジン

米国の注目スタートアップPerplexityが提供する、生成AIを活用した検索エンジン「Perplexity」が遂に日本に本格上陸します。ソフトバンクとの戦略的提携により、ソフトバンク・ワイモバイル・LINEMOのユーザーであれば、通常は月額2,950円の有料版「Perplexity Pro」を1年間無料で利用できるキャンペーンがスタートしました。 今回は、ページ機能やコレクション機能、またキャンペーンについてご紹介いたします。

By Hiro from AI Lab
Contact