AI搭載システムの品質・安全保証手法
申込URL：https://corp.nikkan.co.jp/seminars/view/4922
開催趣旨
近年、多様なシステムで人工知能（Machine Learning／Deep Learningなど）の実装が進展しています。中には、自動運転システムに代表される「Safety-Critical-Systems（セーフティクリティカルシステム）」での利用も始まっていますが、このようなシステムはAIの誤判定により誤制御が発生し、事故につながることが懸念されます。ゆえに、品質および安全性を示すことが技術課題となっています。 ところが、従来ソフトウエアと異なり、AIソフトウエアは機械学習により生成されたデータという特性上、人が内部を調べて不具合原因を特定したり修正したりするのが困難です。また、再学習により学習済みモデル全体の振る舞いが変化するという特性もあり、AI搭載システムの品質保証や品質説明を難しくしています。 講師らは、AI搭載システムを機能安全規格適合するための研究事業を実施し、同事業を通して、AI搭載システムの品質・安全性を検証する技術を構築してきました。本講座は、これらの知見を踏まえ、AI搭載システムを品質保証するための要点と各種検証手法を解説します。
【受講対象】
■AI搭載システムの品質・安全性保証について関心をお持ちの方、あるいは対応を必要とされている設計担当・品質保証担当の方
■AI搭載システムの品質・安全性保証の業界トレンドに関心をお持ちの方
【受講効果】
■AI搭載システムの品質保証、安全性保証するための手法および要点を理解できます。
■従来システムとAI搭載システムの違いや、AI搭載システムを品質保証する際の技術課題が学べます。
■システムにAIを取り入れて開発・評価される際に、本講座で学習した技術を活用できます。
申込URL：https://corp.nikkan.co.jp/seminars/view/4922
プログラム
1．AI搭載システムの特徴と品質保証の課題
1-1 さまざまなAI搭載システム
1-2 さまざまなAIの種類
1-3 AI搭載システムの特徴
1-4 AI搭載システムの品質保証の課題
1-5 AIに関する標準化動向
2．従来の品質保証技術、品質説明技術
2-1 国際標準化した機能安全開発の概要
2-2 機能安全の品質保証技術とは
2-3 機能安全の品質説明技術とは
3．AI搭載システムの品質保証技術
3-1 AI搭載システムに対するテスト・検証手法 ①従来開発とAI開発におけるテスト・検証手法の共通と差異 ②AI向きのテスト手法（メタモルフィックテスティング、サーチベースドテスティング、疑似オラクル） ③性能評価 ④使用実績評価 ⑤机上分析検証（STAMP/STPA、FMEA、机上分析検証カタログ） ⑥シミュレーション
3-2 AIの透明化技術 ①説明可能なAI（XAI） ②説明可能なモデリングアプローチ ③説明可能性の高いAIモデルワークフロー ④従来の品質説明技術を応用したAI学習プロセス
3-3 AI搭載システムの品質保証のポイント ①AIの特性を正しく理解 ②AIは特別ではない！従来の品質保証技術の基礎をおさえることの必要性 ③検証の網羅性と効率化