今回は、品質担当者の視点で、「ＡＩの品質問題」について考えてみます。
まず、ＡＩが無い場合を考えてみましょう。人間が行う作業の品質（良し悪し）をどうやって判断しますか？
真っ先に思い当たるのは、結果の出来栄えの確認ですね。例えば、製造現場で言えば出荷検査です。ですが、毎回毎回すべての製品を検査するのはかなり困難です。そこで、「結果を確認するだけでは品質を保証出来ない。品質を保証するためには、やり方を確認することが必要だ」という考えが生まれました。『たまたま良い結果が出たとしても次は悪いかも知れない。それでは、毎回毎回結果を確認する必要がある。しかし、いつも同じやり方でやっていれば次の結果も良い結果を生むはずだ』という考え方です。つまり、やり方の適切性の確認です。
このように、これまでの品質マネジメント（TQM）は、【結果の出来栄えの確認】と【やり方の適切性の確認】の両輪で回っているのです。これが《ＱＣ：品質管理》と《ＱＡ：品質保証》です。
そして、これらはいずれも『正しいことが分かっている』ことを前提としています。ＱＣは ”出来栄えが定められた範囲（正しい結果）から外れないようにする取り組み” であり、ＱＡは ”プロセス（やり方）を示すことで結果が正しいことを保証する取り組み” です。ＱＣもＱＡも、あらかじめ ”何が正しいか” が決められており、それに基づいて判定して制御するのです。つまり《IN→変換→OUT》がルールとして定められています。ですので、一つの《IN》に対して正しい《OUT》は常に一つです。
これに対して、ＡＩはどうでしょうか？
ＡＩは、《IN→変換→OUT》のデータを大量に学習しておくことで、問われた《IN》に対して最も可能性が高い《OUT》を返します。 （記事『超解説：ＡＩの仕組み』参照）
ＡＩでは《IN→変換→OUT》のルールは定められていません。その時点でのルールを決めるのがＡＩなのです。学習したデータが変われば、それによってルールが変わり、《OUT》も変わります。つまり、ＡＩが導き出す結果を人間があらかじめ知る事はできません。また、ルールが変わるので ”何が正しいか” を決められません。ＡＩが導き出す結果が正しいか間違っているかを判断することができないのです。
これはＡＩの特性であり、大きな利点でもあり欠点でもあります。
《IN→変換→OUT》をルールとしてあらかじめ定めることは非常に手間がかかることです。些細な違いを厳密に定義して、それらの組み合わせを考える必要があるからです。中には、現実にはめったに無いことや、あり得ないこともあるかも知れません。それでも《間違った結果》を生じさせる可能性があるものは全て洗い出しておく必要があるのです。
それに対してＡＩは単純です。《IN→変換→OUT》のデータを大量に覚え込ませておけば、ＡＩがルールを決めてくれるのです。”作業を行う立場” にとっては、ＡＩは極めて優秀な存在です。
一方、”作業を検証する立場” にとっては大問題です。何しろ、”何が正しいか” が決められていないのですから、これまでの《ＱＣ：品質管理》と《ＱＡ：品質保証》の考え方が通用しません。具体的に困ることは次の３つです。
１．ＡＩが出した答えが正しいか間違っているか分からない … 合否を判定できない
２．間違っていても、問題箇所が分からない … どこを修正すればいいか分からない
３．間違っていても、誰の責任なのか分からない … 改善できない
これについて多くの人が、「ＡＩは正解を教えてくれるものではなく候補を示すもの。必ず人が確認して判断することが重要」と教えています。私もそう考えています。
しかし、実はこれは、合否や修正や改善の判断を、判断基準ではなく人の判断に丸投げしていることを意味しています。少し昔は「人間の判断は曖昧だから判断基準に従え！」と言ってマニュアル化を推進していたのですが、ＡＩの浸透によって判断基準を作ることができなくなったので、また人の判断に戻った、すなわちマニュアル化の流れに逆行しているのです。
ここまで述べたように、実は品質とＡＩは相性がとても良くありません。ISO9001とＡＩは相性が悪いのです。一方は「定められたルールが前提」であり、もう一方は「ルールを定めない」ことが大きなメリットだからです。
それでは、これまでISO9001に取り組んできた組織は、ＡＩ導入によってどのような影響があるでしょうか？ ＡＩを ”製品・サービスの提供” に取り入れるにはどうすればよいのでしょうか？
ISO9001におけるＡＩの位置づけを考えると、真っ先に思い当たるのが「作業ツール」としての位置づけですね。単なるＯＡツールとしてＡＩを用いる場合は問題なく適応できるでしょう。ただし、品質に関わる計測ツールなどでは精度が問題になります。計測ツールの結果が正しいことを証明しなければならないのです。
また、ＡＩの結果を製品・サービスに組み込む場合も問題です。
”ＡＩの結果を組み込む” とは、例えば、制御データや制御プログラムなど、ＡＩで解析して生成した結果です。 （記事『ＡＩ家電のなぞ』参照）
製品・サービスに組み込むものは、設計・開発として《IN→変換→OUT》の実証をISO9001で求めているため、ＡＩにそのまま適用させるのは難しいのです。
例えば、次のようなことを考えなければなりません。
・ＡＩの結果を採用する基準、人間が介入する仕組み
・ＡＩの検証と承認 →「ＡＩが勝手にやったこと」を許さない
・”ＡＩが間違える” リスクへの対応
・ＡＩリテラシーの教育（責任と権限、リーダーシップの裏付け）
–
実は、ＡＩを安全に運用するための規格があります。それが ISO42001 です。
ISO42001は、ＡＩマネジメントシステム（AIMS）の国際規格です。組織がＡＩを《安心・安全》且つ《責任ある形》で開発・利用できるようにするための枠組みであり、ＡＩを開発・提供・利用する組織に適用されます。いわば、ISO9001（QMS）のＡＩ特化版です。
「ISO9001のＡＩ特化版」と言っても中身は大きく違います。規格を定める思想から異なるのです。
◆ ISO9001（QMS）は 「予測可能な品質を安定させる」ことが目的です。
◆ ISO42001（AIMS）は「予測不能なＡＩの不確実性を制御する」ことが目的です。
そのため、AIMSには ”リスクアセスメント” という取り組みが求められています。リスクアセスメントとは「危ないことを前もって洗い出して、どこがどれくらい危ないかを見積もり、対策を決める作業」のことです。具体的には次のステップで行います。
① 起きそうなことを洗い出す … 何が起こり得るか？
② 起きる頻度・確率を考える … どれくらい起こりそうか？
③ 起きた時の影響を考える … 起こったらどれくらい困るか？
④ 優先度に応じて対策する … だから何をする？（対策を決める）
”不確実性の制御” が必要なマネジメントは、ＡＩだけではありません。環境や情報セキュリティも人間には予測不能なので、同じ様に不確実性の制御が必要です。したがって、EMSやISMSにもリスクアセスメントが求められています。品質（QMS）は予測が可能なのでリスクアセスメントは行いません。「MS（マネジメントシステム）規格」には、QMSのように ”予測可能なもの” を扱う規格と、EMSやISMSのように ”予測不能なもの” を扱う規格があるのです。AIMSは、QMSとEMS/ISMSの両方の要素を備えたハイブリッド規格と言えます。
“ハイブリッド規格” について少し具体的に示します。AIMSと他のMSとの共通点を整理したものが次です。
（ａ）全MS共通
マネジメントシステムの骨格（文書化・PDCA・内部監査・改善・リーダーシップ）
（ｂ）QMSと共通
製品品質・設計管理・変更管理・妥当性確認・サプライヤ管理
（ｃ）EMS/ISMSと共通
リスクアセスメント・影響評価・モニタリング・インシデント管理・リスク対応策
（ｄ）AIMS固有
データ品質・バイアス管理・説明可能性・人間監督・社会的影響・AIライフサイクル管理
これを踏まえて、ＡＩの品質問題（特に、ＡＩに仕事を任せる時の品質保証）についてお話します。
既にQMSを構築してISO9001の認証を受けている組織は、ＡＩの導入によってマネジメントスタイルをどのように変えなければならないでしょうか？
QMSとAIMSが想定している領域を示したものが下の図です。ここで、［AI利用者（製品提供者）］の組織におけるマネジメントシステムについて考えます。
理想は、QMSの要素とAIMSの要素を両方備えた独自のマネジメントシステムを構築することです。
これからマネジメントシステムを整備する組織（ISO9001に取り組もうとしている組織）は、記事『ISO9001の誤解２（業務マニュアル）』を参考に社内全体のシステムを作ることをお勧めします。
既にQMSを運用している組織（ISO9001認証を受けている組織）は、現在運用しているマネジメントシステムを全面的に作り変える必要はありませんが、QMSとAIMSの両方を満たすマネジメントシステムに変更することが望ましいと考えます。それには次の段取りをお勧めします。
① 上記の(ｃ)(ｄ)のルールを新しく定める（ISO42001を参考に）。
② (ｂ) に該当する業務または製品・サービスを、［ＡＩの有/無］で分離・整理する。
③ ＡＩに関わる部分について、新たな管理ルールを定める（ISO42001を参考に）。
その際、ＡＩの品質を保証する根拠として、①で定めたルールを紐付ける。
④ 社内のマネジメントシステム全体の整合性を確認する。
その際、記事『ISO9001の誤解２（業務マニュアル）』で紹介した〈社内プロセス体系図〉によって、ＡＩに関わる部分を示すと良いでしょう。
総じて、ＡＩの活用をQMSに取り入れる際には、「ＡＩという新たな対象を管理するルールを追加する」という意識ではなく、「ＡＩが引き起こす無秩序や混乱に歯止めをかける」という意識で取り組んだ方が良いでしょう。つまり、「野放しになりがちなＡＩを、人間がちゃんとコントロールするためのルール」を作るのです。その手本となるのがISO42001です。
–
以上、「ＡＩに仕事を任せた時の品質問題」ついて私見を述べました。なお、今回もＡＩと議論して情報を得ました。私自身はISO42001に関わったことがないので、もしかすると間違っているかも知れません。あしからず。
また、近々ISO9001の改定が予定されているので、ＡＩに関する何らかの動きがあるかも知れません。これらに関して新たな情報があれば、追々流しています。
コメント