AIシステムの品質安全保証サービス

品質・安全の専門家とAI導入・開発のスペシャリストがプロセス構築、設計、開発から評価までワンストップで支援します。
AI品質安全保証サービス パンフレット

自動運転やAIシステムの安全基準適合支援ツール(総称：SEAMSガイドライン)

開発者が実活用可能な「具体的な設計/評価手順」「実施事例」「ツール」などを提供しています。
また、AI安全セミナーも承ります。
お問合せはこちらから

AIの課題と安全

現在、機械学習によって実現されるAIが主流となっています。これにより、AIは誤り（誤判定）の可能性という特性を持ちます。
つまり、AIを搭載したシステムやソフトウェアは、あらゆる場合において同じ振る舞いをすることが保証できないという事になります。

一方で、従来のAIを搭載しないシステムやソフトウェアでは、振る舞い（仕様）を可能な限り明確化し、対応する設計やテストを行う事で安全性を保障します。

※引用：SEAMSガイドライン～エッセンシャル版～

つまり、従来の設計方法や開発プロセスでは、AIを搭載したシステムやソフトウェアの安全性を保障できないという大きな課題があります。

AI搭載システムの安全設計パターン

上記のAIの課題に対する解決策として、ヴィッツでは以下の安全設計パターンを研究しています。

パターン名称（仮）	安全設計パターン
【方針１】AIコンポーネント自体の安全性を示すパターン（AIをSIL評価）
1a) 機能安全開発パターン	AIコンポーネントを機能安全準拠開発する（例えば、IEC 61508に準拠した開発）
1b) 安全性評価パターン	AIコンポーネントについて、機能安全規格適合相当の安全性を示す
1c) Proven-in-useパターン	AIコンポーネントについて、使用実績によって十分な安全性を示す(Proven-in-use)
1d) 多重化設計パターン	QM品質相当のコンポーネントを多重化し安全度水準を満たす方法
【方針２】AIコンポーネント自体は非安全系とし、外部に安全メカニズムを設ける
2a) 機能安全機能パターン	制御（QM）と独立した安全機能（SIL）を搭載
2b) 比較パターン	AIコンポーネント（QM）と他の非AIコンポーネント（SIL）による多重化比較
2c) 防御設計パターン	動的にロバスト性の確認をするための防御設計（ガード）を搭載

※引用：SEAMSガイドライン～エッセンシャル版～

AI搭載システムの安全開発プロセス

上記のAIの課題に対する解決策として、ヴィッツでは安全開発プロセスを研究しています。

• AI搭載システム開発
  • 前述”方針２”の場合の開発プロセス
  • AIはQM開発
    • 例えば、Automotive SPICE (A-SPICE) レベル３に準拠
  • 安全機能は機能安全設計
    • ISO26262に準拠
• AIのQM開発
  • (8) 初期AIコンポーネント開発
    • ベースとなるAIアルゴリズム開発
    • 従来のソフトウェアと同等のため、A-SPICE開発可能
  • (9) AI学習フェーズ
    • AIモデル開発
    • 品質・安全についての標準化検討は現在進行中
      (ISO/IEC JTC1 SC42など)

※引用：SEAMSガイドライン～エッセンシャル版～

SEAMSプロジェクト

上記のAIの課題を解決するため、ヴィッツはSEAMプロジェクトに参画し、AI搭載システムに対する安全について様々な研究を行っています。

SEAMプロジェクトとは

“Safety Engineering for Automotive ML-controlled System” SEAMSは人工知能を「つなぐ」技術群です。

詳しくはSEAMSプロジェクトのURLをご覧ください。

成果

• 「人工知能搭載システムの安全設計ガイドライン　第2版」（略称：SEAMSガイドライン）
  2017年10月から2020年3月までのSEAMSProjectの研究活動知見や安全設計手順を整理したガイドラインとなります。
  詳細は、後述のプレリリースをご参照ください。
• 「人工知能搭載システムの安全設計ガイドライン　～エッセンシャル版～」
  上記「人工知能搭載システムの安全設計ガイドライン　第2版」の技術ポイントをまとめたものです。
  こちらは無償ダウンロードが可能です。
  上記、SEAMSプロジェクトのホームページからダウンロードできます。

 

プレスリリース

• 「人工知能搭載システムの安全設計ガイドライン」の販売開始
  　
• 人工知能の安全に関する国際標準化活動について