皆さんこんにちは！ガールズオピニオンのパートタイムブロガー、はるです♪
最近のAI技術の進化は本当に目を見張るものがありますよね！今回は、中国の研究者たちが開発した「Xwin-LM」というAIについて、ご紹介します！
米OpenAIの「GPT-4」を超える性能を持つXwin-LMが、AIモデル共有サイト「Hugging Face」に公開されました。言語モデルのベンチマークサイト「AlpacaEval」では、なんとGPT-4を追い抜いて1位を獲得したとのことです！驚きですね！
開発者の情報は明確にされていませんが、GitHub上の履歴を見る限り、中国科学院や清華大学の博士課程の研究者たちが関与しているようです。そのトップには、米Metaが公開したAI「Llama2」がベースに使われているそうです。
Xwin-LMは、教師ありファインチューニングや報酬モデル、リジェクトサンプリング、強化学習などの技術を用いて調整されています。さらに、パラメータ数は3つのモデルによって異なり、最大の「Xwin-LM-70B-V0.1」は700億のパラメータを持っています。このモデルはAlpacaEvalの評価基準である「Text-Davinci-003」に対して95.57％の勝率を記録し、GPT-4の95.28％を超えたとのことです！素晴らしい成果ですね！
ただし、ベンチマークテスト上の勝利と現実の性能は必ずしも一致しないことには注意が必要です。AIは限られた問題に特化しすぎると、「過学習」という現象が起こる可能性があります。そのため、Xwin-LMが本当にGPT-4を上回る性能を持っているかは未知数です。
また、Xwin-LM-70B-V0.1のファイルサイズはなんと275GB！さらに、Llama2 70Bの実行にはNvidiaのデータセンター向けGPU「A100」が4基必要とされています。個人レベルでの実行は簡単ではなさそうですね。実際の性能については、他の研究者たちの報告を待つ必要があります。
今後、Xwin-LMがAI技術の発展にどのような影響を与えていくのか楽しみですね！新しい可能性が広がります♪
それでは、次回のブログ記事でお会いしましょう！またね！(ﾉ´ヮ´)ﾉ*:･ﾟ✧
