前回、規制産業では生成AIを「生成」でなく「検索・参照・照合の補助」に限定し、最終判定は人間が行う——という横断原則を見ました。今回はその原則が、業界ごとに違う「型」をとることを示します。
先に立場を明確にします。規制の厳しさは「厳しい／緩い」という一次元では測れません。医療の厳しさと金融の厳しさは、別の種類の厳しさです。医療は発売前の承認と、発売後の継続的な監視を通じて人命を守ります。金融は下した判定の理由を、あとから説明できることで信頼を守る。自動車は作る過程そのものを保証することで安全を担保する。何を守るかが違えば、AIを『どこで・誰が・何のために検証するか』も変わってきます。
この区別が効くのは、AI推進の現場で「うちの業界は規制が厳しいから無理」の一言で議論が止まりがちだからです。その「厳しさ」の中身を分けずに白旗を上げるのは、地形図を開かないまま登山を断念するようなもの。型が見えれば、「無理」は「この工程はダメ、この工程はいける」へとほぐせます。
規制スペクトラムの4類型
守るものの違いを軸に、4つの型に並べます。
| 型 | 主な業界 | 規制が守るもの | AIに作らせてはいけない確定物 | 人間が検証する点 |
|---|---|---|---|---|
| 事前適合・人命型 | 医療・製薬 | 発売前の承認と発売後の監視 | 安全に関わる最終判断・表示・申請の確定記述 | 設計検証／安全性の判定／申請審査の各関門 |
| 説明責任・監査型 | 金融・保険 | あとから説明できること・監査証跡・約款の正確さ | 与信や引受の自動最終判定／顧客への確定回答 | 判定根拠の確認／約款との照合／監査対応 |
| 開発工程型 | 自動車・重工 | 開発工程の保証・要件↔テストの双方向追跡 | 未検証のまま生成したコードや仕様の搭載 | 追跡とテスト結果の人手確認 |
| 最も厳しい事前適合 | 規制下の製造業 | 発売前に第三者の関門があり通過率が低い | 申請書類・規格に直結する数値 | 申請前の照合と原文確認の義務づけ |
この表は「検証を、いつ・誰が・何に対して行うか」という目で読むと分かりやすい。検証が前に来るのが医療と最も厳しい事前適合型（市場に出る手前に関門がある）、後に来るのが金融（出してから説明を求められる）、工程の途中に来るのが自動車（作る過程に検証が織り込まれている）です。
そして「AIに作らせてはいけない確定物」の列は、各業界で外部（当局や監査）の目に触れ、責任を負う確定物が何かで決まります。これをAIに直接書かせてはいけないのは、誰が責任を持つかという所在と、検証の足跡が途切れてしまうから。逆にこの列に載らないもの（社内の中間成果物・調査の要約・初稿）には、検証を前提にAIを当てられます。
医療・製薬——事前適合・人命型
医療の型の核心は、検証の射程が製品ライフサイクル全体に伸びることです。医療機器ソフトの規格（IEC 62304）は安全クラスに応じた文書化・検証とトレーサビリティを求め、米FDAはAI搭載医療機器ソフトについて、ライフサイクル管理・データ来歴・人間とAIのワークフロー・市販後監視まで含むガイダンス（2025年1月のものはドラフト段階）を示しています。AIモデルの更新を事前に承認の枠組みへ組み込むPCCP（事前承認された変更管理計画）という制度も、「人間の検証を事後でなく事前に制度として埋め込む」という医療型の本質を表しています。
AIに最終成果物を生成させない根拠は、データインテグリティの規制（GxP・電子記録規則（21 CFR Part 11）・ALCOA+の原則）が「記録には人間の責任と監査証跡が伴う」ことを求める点にあります。だからAIは記録の生成者でなく、検索・初稿・整合チェックの支援者に位置づく。公開された範囲でも、臨床文書の初稿作成を大幅に短縮した報告がありますが、これは人間のレビューを前提とした「初稿」支援であって、最終文書をAIが生成した数値ではありません。AIが削ったのは「白紙から初稿までの時間」で、「検証と承認の時間」ではない——効果を語るときこの区別を崩さないのが鉄則です。
なお、日米欧の当局がそろって慎重に（当局自身が「考え方の整理」段階で）進めている事実は、「他社は進んでいるのに」という焦りを抑える材料にもなります。最も人命に近い領域では、当局自身が拙速を避けています。
金融・保険——説明責任・監査型
金融の型は、医療とは検証のタイミングが正反対で、核心は事後の説明責任・監査証跡・約款の正確さにあります。「その判定はなぜそうなったのか」を、あとで監査にも顧客にも説明できること——それが中心に座ります。
ここは誠実さを最も強く効かせます。日本では金融庁が AI に関する**「ディスカッションペーパー」（論点整理）**を公表していますが、これは規制文書ではなく、初期的な論点整理です。「金融庁がAIを規制した」「ガイドラインが確定した」という断定は事実に反します。規制の現状を盛った資料は、金融業界がいちばん嫌う「裏付けのない言い切り」そのもの。それを社内に持ち込めば、AI推進への信頼ごと崩します。規制の現状を正確に述べることが、この業界での第一歩です。
人間に留保すべき最終成果物は、与信・引受の最終判定の自動化と、顧客への確定回答。AIは、判定の根拠情報の収集・約款や規程の照合・回答初稿の支援に当てます。とくに保険の約款や金融商品の規程は版が多く改訂も頻繁で、「どの条項が現行か」を探すのに時間を要する——版管理されたAI検索が最も鋭く効く領域であり、説明責任という金融の必要と「意味の層」の思想が最もよく噛み合う適用先です。なお公表される効果数値の多くは企業の自己申告で第三者検証を経ていないため、到達可能性の示唆として引き、目標値には使いません。
自動車・重工——開発工程型
自動車の型は、検証を「製品の前後」でなく開発工程の内側に織り込みます。核心は双方向トレーサビリティ——要件から設計・コード・テストへの連鎖を、どちらにも辿れる状態に保つこと。機能安全規格（ISO 26262）やプロセスモデル（ASPICE）が、この「辿れること」を工程の健全性の証拠として求めます。
ここに固有の重要な区別があります。「リンク」と「意味」の分離です。要件とコードを線（リンク）でつなぐことと、そのつながりの“中身”が正しいこと——その要件が、本当にそのコードとして実装し切れているのか——は、別の問題。線は形式的に引けても、中身の妥当性は別に確かめる必要があります。これは前回のオラクル問題の自動車版で、つなぎ先の候補を出すまではAI、その中身が妥当かの判断は人間、という切り分けになります。トレーサビリティという固有の語彙で語られても、構造は本シリーズの横断原則そのものです。研究レベルでは、要件とコードのトレース検証やテスト自動化にAIを使う手法が現れていますが（査読前の単一数値は断定的に引きません）、いずれもAIは生成でなく照合・検証に当てられています。
規制下の製造業——最も厳しい事前適合
スペクトラムの最後の極が、市場に出る前に第三者の関門を通さねばならず、しかもその通過率が構造的に低い製造業です。医療と同じ「事前適合」型ですが、一段違うのは関門の性質。医療の承認は安全性の確証を求め、要件を満たせば通る見通しは立ちます。こちらは第三者が定める規格への適合を求め、通過率そのものが低い。申請書類にほんの小さな食い違いがあるだけで通らず、数ヶ月の差し戻しと大きな損失につながります。
だからAIに渡してはいけない最終成果物は、申請文書と規格に直結する数値。HITLの当てどころは申請前の照合と原文確認の義務化です。この型では、「出す前の案が規格に合っているか」を提出前に繰り返し突き合わせる作業の比重が、他のどの型より大きい。だからこそ、**過去に通らなかった事例と判断基準を意味の層に収め、提出案との違いをAIに照らし合わせさせる使い方（作らせるのでなく照らす）**の価値が際立ちます。
（※本シリーズの出典書籍では、この型の具体例として特定の規制製造業を扱っていますが、本記事では業種を特定せず「規制下の製造業」として一般化して述べます。）
まとめ——型が分かれば「生成させない線」が引ける
4類型を貫く線は1本です。
どの型でも、AIは最終成果物を生成せず、検証・照合・参照補助に当て、人間が最終判定する。 『生成AIの内製化』第11章
型ごとに変わるのは「何を・いつ・誰が検証するか」で、変わらないのは「AIに最終判定を渡さない」一点。これが分かれば、自社の「AIに生成させない線」を引けます。手順は、①自業界がどの型に近いか見当をつける（複数の型にまたがる事業もある）、②その型で「AIに作らせない確定物」と「人間が検証する点」を押さえる、③原則・測り方・土台の作り方は各回の本論に戻る。
最後に、よくある誤解を解いておきます。「うちは複数の型にまたがるから、どれにも当てはまらない」——型は排他的なカテゴリーでなく、検証をどこに置くかの軸です。事業ごとに型が違って当然で、肝心なのは業務ごとに「これは外部に対して責任を負う確定物か」と問い、そうならAIに書かせず検証で囲む、と決めること。
そして、どの型でも出発点は同じ——文書の現状を測り、意味の層を建て、窓口を設計し、統制を固め、型に応じてHITLを業務フローに埋め込み、測る。規制の型は業界の数だけあるように見えても、「AIをどこに当てるか」で見れば4つに集約され、その4つを貫く原則は1つに集約されます。最も厳しい型で通用する設計は、緩い型では余裕をもって通用する。厳しさの天井を知っておけば、自社に必要な高さの建物を、安心して設計できます。
区分の整理——事実・本記事の整理・誠実さ
- 【事実】 医療(IEC62304/FDA/PCCP/GxP)・自動車(ISO26262/ASPICE)は公開規格、金融庁のAI文書は「論点整理」で規制文書ではない——いずれも公開情報。
- 【本記事の整理】 規制の厳しさを「検証をどこに置くか」の4類型に整理し、各型の「生成させない線」を示す。4類型の括り方は本記事側の整理です。
- 【誠実さ】 金融は規制の現状を誇張しない、効果数値（臨床文書の短縮等）は初稿支援であり最終生成でないと明示、研究の単一数値は断定的に引かない。