コトラ（広報チーム） 
AIセーフティガイドの概要
ガイドの目的と背景
AIセーフティに関する評価観点ガイドは、AI開発者や提供者が安全性評価を行う際の基本的な考え方を提示する目的で作成されました。このガイドは、AIシステムが誤用されるリスクや不正確な出力を抑えるために、特に大規模言語モデル（LLM）を構成要素とするシステムを対象としています。国内外でAIセーフティの重要性が高まっていることから、このガイドは多くの開発者や管理者にとって貴重な指針となるものです。
主要な評価観点とは
このガイドはAIセーフティを確保するための複数の評価観点を提示しています。重要な観点には、有害情報の出力制御や偽誤情報の防止、公平性と包摂性の確保、プライバシー保護などが含まれます。また、ハイリスク利用の対策や説明可能性、データのロバスト性、セキュリティ、データ品質、検証可能性といった要素も考慮されています。これらの観点に基づいて評価を行うことで、開発者はAIの安全な運用を保証することができます。
ガイドの改訂履歴
AIセーフティに関する評価観点ガイドは、初版が2024年9月18日に公式に発表されました。最新の改訂版である1.10版は2025年4月2日に発表され、マルチモーダル基盤モデルを評価対象に追加する改訂が行われました。この改訂は、画像解析を含むAIシステムの評価を必要とする声が高まったことを受けての対応です。これにより、より包括的な評価が可能となり、AIセーフティの向上が期待されています。
AIセーフティの評価手法
評価における重要なポイント
AIセーフティに関する評価観点ガイドでは、AIセーフティの評価における重要なポイントが詳細に示されています。まず、有害情報の出力制御や偽誤情報の出力・誘導の防止が挙げられます。これらは、AIシステムが誤った情報を提示したり、利用者を誤導しないようにするために必要不可欠です。また、公平性と包摂性に関する評価も重要であり、AIの出力が特定のグループに対して偏りを持たないことを確保することが求められます。他にも、プライバシー保護やセキュリティ確保、説明可能性の向上などが重視されており、これらはAIシステムが信頼性を持ち、利用者にとって安全であることを保証するための基盤となります。
評価手法の具体例
AIセーフティの評価手法として、具体的には多くの方法が用いられます。例として、有害情報を検知するフィルタリングアルゴリズムの適用があります。このアルゴリズムは、AIシステムから生成されるアウトプットを監視し、問題となるコンテンツを事前にブロックまたは修正することを可能にします。さらに、プライバシー保護を強化するためには、差分プライバシー技術が導入されることが増えています。この技術は、個人の情報を保護しながらも、データの有用性を維持することを目的としています。AIセーフティに関する評価観点ガイドの改訂対応においても、これらの手法は継続的に検討され、改良が進められています。
現場での活用事例
実際の現場において、AIセーフティの評価手法は多様な形で活用されています。例えば、金融業界では、自動化されたリスク評価モデルに対して、プライバシー保護および公平性の評価が行われています。これにより、利用者のデータをしっかりと守りつつ、不当な偏りがないかを検証しています。また、医療分野では、AIによる診断支援システムにおいてロバスト性や説明可能性の確保が重要視されています。これにより、医療従事者がAIの診断結果を適切に活用できるよう、透明性と信頼性が求められます。こうした事例は、AIセーフティ・インスティテュートが発表したガイドの実践的な適用例として重要な位置づけを持っています。
AIセーフティのリスクと対策
リスクの特定と分類
AIセーフティに関する評価観点ガイドでは、リスクの特定と分類が非常に重要なステップとして位置付けられています。AIシステムはその高度な柔軟性ゆえに、多様なリスクを内包しています。特に、大規模言語モデル（LLM）を用いるAIシステムは、誤用や意図しない出力による悪影響のリスクが高まっています。リスクの特定には、有害情報の出力制御や偽誤情報の出力防止などが含まれ、それぞれのリスクを明確に分類することが必要です。具体的には、セキュリティ、プライバシー保護、説明可能性、データ品質などの分野別にリスクを整理し、適切な管理策を検討することが求められます。
一般的なリスク対策
リスク対策は、AIシステムの開発と運用の両面で重要です。一般的な対策としては、事前のリスク評価、定期的なモニタリング、障害発生時の迅速な対応計画が挙げられます。AIセーフティに関する評価観点ガイドの改訂対応により、新たにマルチモーダル基盤モデルも評価対象となったため、これらの対策はさらに重要性を増しています。また、公平性と包摂性を確保するためのガイドラインを遵守し、異なるコミュニティや文化圏に与える影響を慎重に考慮することも大切です。
リスク管理の最新トレンド
AIセーフティのリスク管理における最新のトレンドは、技術の進化とともに変化しています。現在では、AIシステムのロバスト性を高めるための新技術やツールの開発が進められています。また、国際的なガイドラインに則したリスク管理のための枠組みが整備されつつあります。村上明子所長の下、AIセーフティ・インスティテュートは、最新の研究成果を定期的に取り入れ、ガイドラインの更新を行っています。これにより、リスク管理のプロセスがより効率的で効果的になることを目指しています。
今後のAIセーフティの展望
国際的な動向とガイドライン
AIセーフティが国際的に注目される中、様々な国や地域でガイドラインの制定が進んでいます。例えば、EUではAI規制に関する法案が策定されつつあり、AIの透明性や説明可能性を求める動きが強まっています。日本でも「AIセーフティに関する評価観点ガイド」が改訂され、国際的なトレンドを踏まえた対応が求められています。これにより、AI開発者や提供者は、各国の規制やガイドラインに適応することが重要になります。
AI技術とセーフティの未来
AI技術の進展に伴い、セーフティの確保も進化しています。特に大規模言語モデル（LLM）を含むAIシステムでは、有害情報の出力制御やプライバシー保護、ロバスト性の向上が求められています。「AIセーフティに関する評価観点ガイド」の改訂では、マルチモーダル基盤モデルの評価も重視されるようになります。今後、AI技術がますます多様化する中で、セーフティの評価観点も刷新され、AIの適用範囲が拡大する一方で、安全性確保のための取り組みが求められます。AIセーフティの未来は、技術の進化と共に新たな課題に対応していくことが鍵となります。
