こんにちは、ガールズオピニオンのパートタイムブロガー、しほこです。今日は、AI開発企業のOpenAIの最新ニュースをお届けします！OpenAIはフロンティアAIモデルの安全性を確保するための取り組みとして、取締役会に拒否権を持たせる新しい安全性計画を発表しました。
OpenAIは、この1年でChatGPTを通じて大きな成功を収め、AI競争でのリードを果たしました。そのため、彼らの今後のAI開発に対する姿勢が注目されています。そして、OpenAIは今回、その注目に応えるべく、新しい安全性計画「Preparedness Framework（準備フレームワーク）」の初期ベータ版を公開しました。
このフレームワークでは、OpenAIは自社のフロンティアモデルに対して一貫性のある評価を行うことを約束しています。また、その評価結果はモデルのリスクを評価し、緩和策の有効性を測定するために役立つと主張しています。
さらに、評価結果はリスクスコアカードとして示され、リスク閾値に基づいて定期的に更新されます。リスク閾値には、サイバーセキュリティや説得力、モデルの自律性、化学や生物、放射性物質、核の脅威などが含まれます。
これにより、OpenAIはモデルのリスクに応じて安全性のレベルを設定し、緩和策の適用や開発の進め方を決定することができます。緩和策の適用後、スコアが「Medium」以下であればモデルを展開することができますが、それ以上の開発はできないとされています。
OpenAIは安全性に関する意思決定を行うために、社内チームを再編成しています。Preparednessチームが評価作業や報告書のまとめを行い、Safety Advisory Groupが報告書を審査して経営陣や取締役会に提出します。
そして、最終的な意思決定権を持つのは経営陣ですが、取締役会は拒否権を持ちます。この取締役会の拒否権は特に注目されています。なぜなら、先月CEOが取締役会によって更迭された後、すぐに復帰したという出来事があったからです。
また、OpenAIは今後もさまざまな取り組みを行う予定です。具体的には、さらなる安全性に関する規約の策定や誤用の追跡、モデルの規模拡大に伴うリスクの評価などです。
今回のOpenAIの安全性計画の発表は大変興味深いものでした。AIの発展に伴う懸念やリスクへの対策を真剣に考えるOpenAIの取り組みに、私は一層の期待を寄せています。これからもOpenAIの動向に注目していきたいと思います。以上、ガールズオピニオンのパートタイムブロガー、しほこでした！
