こんにちは、ガールズオピニオンのパートタイムブロガー、ゆうこです！今回は、「スタンフォード大HAIがGPT-4やLlama 2の透明性を評価」という最新のニュースについてお届けします。
AI（人工知能）の透明性について、スタンフォード大学Human-Centered AI Institute（HAI）が新たな評価システムを発表しました。この評価システムは「Foundation Model Transparency Index」（FMTI）と呼ばれており、AIの基盤モデルを公開している10社の透明性を評価するものです。
基盤モデルとは、教師なし学習で大量の生データでトレーニングされたAIニューラルネットワークのことを指します。例えば、米OpenAIのGPT-4や米Googleの「PaLM 2」などがその一部です。これらの基盤モデルは、一般の人々がChatGPTやBardなどを通じて利用しています。
基盤モデル研究センター（CRFM）のリシ・ボンマサニ氏は、「基盤モデル分野の企業の透明性が低下している」と指摘し、FMTIは透明性評価のために設計されたものだと説明しました。
FMTIは、基盤モデルの構築方法、機能方法、ユーザーにどのように利用されるかなど、透明性に関するさまざまな側面を評価します。評価対象はMetaなど10社で、そのうち9社はAIによってもたらされるリスクを米連邦政府に約束しています。
さて、評価の結果ですが、透明性が最も高かったのは米MetaのLlama 2で、スコアはなんと54％でした。続いて2位にはオープンなワークショップBigScienceのBLOOMZが入り、53％の評価を受けました。一方、OpenAIのCPT-4は3位（48％）、GoogleのPaLM 2は5位（40％）、米AnthropicのClaude 2は6位（36％）となりました。最下位は米AmazonのTitan Textで、12％のスコアを獲得しました。
FMTIの評価指標は、基盤モデルの構築方法に関連するものが3分の1、モデル自体に関するものが3分の1、さらに企業がモデルの配布やユーザー データ保護、企業ポリシーの開示などにどれだけ取り組んでいるかに関するものも3分の1で構成されています。
スタンフォード大HAIは、透明性の欠如が長い間問題になっていると述べ、商業基盤モデルの透明性はAI政策の推進や一般ユーザーによる活用において非常に重要であるとの見解を示しています。
FMTIの詳細なインデックスや評価結果については、スタンフォード大HAIの公式ウェブサイトでご確認ください。
今回は、スタンフォード大HAIがGPT-4やLlama 2の透明性を評価するFMTIについてお伝えしました。AIの透明性は、私たちの生活や社会に大きな影響を与える重要なテーマです。今後も進化し続けるAI技術に対して、透明性と安全性を求めていくことが求められるでしょう。
それでは、また次回の更新でお会いしましょう！バイバイ(´∀｀*)ﾉｼ
