コトラ（広報チーム） 
AIセーフティの重要要素とは
AI技術の進化とともに、そのセーフティの確保がますます重要になっています。特に、大規模言語モデル（LLM）を含むAIシステムにおいては、その悪用や誤用を防ぐためのガイドラインが欠かせません。ここでは、AIセーフティを維持するための重要な要素について詳しく説明します。
人間中心のAI設計
AIシステムの設計には、人間中心のアプローチが不可欠です。AIが生成する結果が必ずしも正確とは限らず、その影響を受けるユーザーにとって有害でないことを常に考慮する必要があります。AIセーフティ評価指針においても、人間中心の設計は重要な要素として位置付けられています。AIシステムが人間の価値観やニーズに適合し、信頼を築けるような設計が求められます。
公平性と透明性の確保
AIシステムにおいて公平性と透明性を確保することは、信頼性の向上につながります。AIは多様なデータを基に意思決定を行うため、バイアスの除去が不可欠です。また、AIシステムのアルゴリズムやその結果がどのように導かれたのかを明示する透明性が重要です。AIセーフティ評価の中でも、このポイントは開発時から強調されるべきです。
プライバシーとセキュリティの保護
AI技術が進化するに連れて、プライバシーとセキュリティの課題も増しています。AIセーフティ・インスティテュート（AISI）による指針でも、これらの保護が強調されています。個人情報の適切な管理と悪意あるアクセスからの防御は、AIシステムの命題となっています。開発者は、システム設計時に強固なセキュリティ対策を講じることが求められます。
説明可能性とロバスト性
AIの意思決定がどのように行われたかを理解することは、説明可能性の観点から非常に重要です。説明可能なAI（Explainable AI: XAI）は、ユーザーやステークホルダーに対して安心感を与えるだけでなく、システムが予期せぬ動作をした際の原因究明にも役立ちます。また、システムのロバスト性が高いほど、さまざまな状況での安定したパフォーマンスが期待できます。AIセーフティ評価指針では、これらの要素を包括的に評価することが推奨されています。
AIセーフティ評価の新たな基準
AIの進化が急速に進む中で、AIセーフティ評価の重要性がますます高まっています。AIセーフティ・インスティテュート（AISI）は、AIシステムの開発者や提供者を対象に「AIセーフティに関する評価観点ガイド」を公開しました。このガイドは、AIセーフティ評価を実施する際に必要な基本的な考え方を提供し、安全で信頼できるAIシステム開発を支援することを目的としています。大規模言語モデル（LLM）を構成するAIシステムを含む、幅広い範囲での評価を想定しています。
評価観点の10項目
AIセーフティ評価では、AIシステムの安全性、公平性、プライバシー保護、セキュリティ、透明性、人間中心の6つの要素が評価の中心となっています。AIの悪用や誤用を防ぐため、これらの要素に基づいて評価が行われます。具体的には、これらの要素に加え、システムの性能、信頼性、スケーラビリティ、法律遵守、倫理性の観点からも評価が行われ、AIシステムが広範囲に安全であることを保証します。
技術的潮流を踏まえた評価手法
AIセーフティ・インスティテュートが提案する評価手法は、急速に進化する技術的潮流を反映しています。生成AIや基盤モデルの普及に伴い、AIシステムが持つ潜在的なリスクを適切に評価するため、新たな技術動向に対応した評価手法が求められています。このため、AI開発のフェーズごとに合理的かつ適切なタイミングで繰り返し評価を行うことが推奨されています。
オープンソース評価ツールの活用
AIセーフティ評価をより効果的に行うために、AISIはオープンソースソフトウェア（OSS）として評価ツールを提供しています。このツールは、AIセーフティの評価を容易化するとともに、システム要件の反映を実現します。2025年9月16日に公開されたこのツールは、汎用性の高い評価項目を使用したAIセーフティの評価環境、そして自動レッドチーミング機能を兼ね備えており、多様な業種特有の要件にも対応可能です。このように、オープンソースツールの活用は、AIセーフティ評価の透明性と効率性を高める重要な要素であるといえます。
ハイリスク利用とその対策
ハイリスク利用の定義
ハイリスク利用とは、AIの利用が重大な影響を及ぼす可能性がある状況を指します。特に、生命や安全、プライバシー、社会秩序に影響を与える場合は、ハイリスクとして慎重な管理が求められます。AIセーフティ・インスティテュート（AISI）は、このような状況におけるAIセーフティ評価の基準を明確に定め、AI技術がもたらすリスクを最小限に抑えることを目指しています。
リスクマネジメントの手法
リスクマネジメントは、AI技術の安全な利用を確保するために不可欠です。具体的には、事前評価、定期的な監視、機械学習アルゴリズムの評価を含むプロセスが求められます。特に、大規模言語モデル（LLM）を含むAIシステムにおいては、予期せぬ挙動を早期に発見するための継続的な監視が重要となります。また、AISIによる評価観点ガイドが示すように、人間中心、透明性、公平性などの要素を重視し、リスクを事前に特定し、適切な対策を講じることが大切です。
目的外利用を防ぐ方法
AIシステムの目的外利用を防ぐためには、管理体制の厳格化が欠かせません。これには、アクセス権限の設定、利用履歴の監視、悪意ある行動の予防策が含まれます。また、開発者や提供者に対しても、AIセーフティへの意識を高め、透明性ある運用を行うことが求められます。さらに、オープンソース評価ツールを活用し、自動的に用途を制限する仕組みを導入することで、誤用や不正利用を未然に防ぐことが可能です。
今後の展望と課題
AI技術の急速な進化に伴い、AIセーフティは今後ますます重要な課題となります。AIセーフティ・インスティテュート（AISI）が策定した指針に基づき、AIシステムの開発・提供者が直面する課題に対する解決策を模索することが求められます。
AIセーフティの進化と未来
AIセーフティの進化は、技術革新に対応して絶え間なく続くプロセスです。生成AIや大規模言語モデルのような新しい技術の登場は、AIセーフティの課題を複雑にしています。未来のAIシステムは、より高い安全性を確保するために、より精密な評価基準とプライバシー保護、透明性の高いAIセーフティの指針が必要となるでしょう。
継続的なガイドラインの更新
AISIは、AIセーフティのガイドラインを継続的に更新し、技術の進化に適応させることを目指しています。2025年4月には、新たに画像解析を含むマルチモーダルモデルに対応した評価項目が追加される予定です。これにより、AIシステムに対するより包括的な評価が可能となり、信頼性の高いAIの開発に寄与します。
グローバルな視点での課題解決
AIセーフティはグローバルな課題であり、国際協力が必要です。AISIは、内閣府や経済産業省と共同で設立された組織として、国際的なAIセーフティ評価の基準づくりに貢献しています。今後も、海外の機関と連携し、AIセーフティに関する情報を共有しながら、持続的な課題解決に努めていきます。
