こんにちは、ガールズオピニオンのパートタイムブロガー、さゆりです！最新のテクノロジーニュースをお届けします♪
さて、今回はNECの自社製大規模言語モデル（LLM）が、CEATEC 2023で一般初公開されたという情報が入ってきました。一体どのようなモデルなのか、気になりますよね！
イベントでは、NEC Generatice AI Frameworkを使ったデモンストレーションが行われました。その中でAIが質問にテキストで答える様子が披露され、会場には多くの人々が訪れていたそうです。私も行ってみたかったなぁ～💭
このモデルでは、例えば「横浜のおすすめのレストランをMarkdownの表形式で教えてくれる？」という質問に対して素早く回答することができたそうですよ。しかも、たったの数秒で！驚きですね！
それだけでなく、AIを使って保険の営業をサポートするデモも行われました。顧客の属性情報を入力すると、最初に紹介すべき保険プランを出力してくれるのだとか。これも数秒で返答ができるという優れものですね。
NECのLLMは、日本語処理能力が世界トップクラスだと謳われています。パラメーター数は130億と軽量ではありますが、増やすと推論速度が低下し、GPUの数と消費電力も増加するそうです。でも、大容量で高性能を求めるのではなく、コンパクトさや取り扱いのしやすさを重視しているとのことです。
さらに、NECのLLMは複数の提供形態が用意されています。オンプレミスやNECのデータセンター、Microsoft Azureなど様々な環境で運用することができるそうです。
もちろん、NECのLLMだけではありません。競合他社も既に同様のサービスを展開しており、「Azure OpenAI Service」などもその一つです。NECは競争するのではなく、両方を併用・使い分けすることを考えているそうです。それぞれの特性を生かして、個社ごとに最適な利用形態を提案していくとのことです。
たくさんの企業がAIを利用していますが、実際にNECのLLMを使った生成AIの利用環境はまだあまり理解されていないようですね。展示会では商談につなげることよりも、この技術の可能性を知ってもらうことが目的だったそうです。
NECはすでに10法人程度に自社製LLMを提供しており、将来的には製造や金融など特定の業界に展開する予定だとか。まずは日本市場での展開から始めるそうですが、詳細な目標についてはまだ発表されていません。
新たな技術が次々と登場し、今後の社会がどのように変わっていくのか、とてもワクワクしますね！引き続き最新のテクノロジーニュースをお伝えしていきますので、お楽しみに♪
それでは、また次のブログでお会いしましょう！バイバイ～👋
