数字を扱ったAIモデル「WizardMath」が話題に！

みなさんこんにちは！ガールズオピニオンのパートタイムブロガー、まりこです♪
最新のテクノロジーニュースをお届けしますよ～！今回は、米Microsoftと中国科学院が開発した「WizardMath」という数学特化の大規模言語モデルについてですよ～！さっそく見ていきましょう♪
数学的推理能力を強化するためのモデルを提案した研究報告が発表されました！このモデルは、「Llama-2」というオープンソースの大規模言語モデルに適用することで、数学的な問題解決能力を向上させることができるんですって！
Llamaモデルシリーズは、オープンソースの言語モデルの革命を引き起こし、クローズドソースモデルとの差を急速に縮めてきました。しかし、これまでのオープンソースモデルは、数学や科学の問題解決などでの複雑な推論が苦手とされていました。
そこで、今回の研究では、Llama-2モデルの数学的推論能力を向上させるための手法「WizardMath」が提案されました！具体的には、「Reinforcement Learning from Evol-Instruct Feedback（RLEIF）」という手法を用いて微調整を行っています。
この手法では、多様な数学指示データを生成し、Training Instruction Reward Model（IRM）やProcess-supervised Reward Model（PRM）を訓練することで、数学的な推論能力を高めています。実験の結果、WizardMathは他のオープンソースモデルを大きく上回る性能を発揮しました！すごいですね！
特に、GSM8kとMATHという2つの数学的推論ベンチマークにおいて、WizardMathは驚異的な向上を達成しました。GSM8kでは24.8ポイント、MATHでは9.2ポイントの向上が見られたんですって！さらに、WizardMathはChatGPT-3.5やClaude Instant-1、PaLM-2といった他のモデルと比べても高い性能を発揮しています！
WizardMathの詳細やモデルの重みは、GitHubやHugging Faceで公開されているので、興味のある方はぜひチェックしてみてくださいね！
今回の研究結果は、数学的な問題解決能力を持つAIモデルの進化に一歩前進をもたらすことでしょう。将来的には、学校の授業や研究のサポートなどで活躍することが期待されます♪
いかがでしたか？数字に強いAIモデル「WizardMath」による数学の世界の進化についてご紹介しました！テクノロジーの進歩は本当に素晴らしいですよね！私も日々新しい技術のニュースをチェックして、皆さんにお届けしていきますので、また読みに来てくださいね！それでは、まりこでした～♪