説明に納得できない人は、誰に問い返せるか

説明への疑問を扱う仕組みを考えるなら、窓口の名前より、その相手が何をできるかを比べます。本層の例は架空の「こもれび工房」です。展示台を屋内で使いたい利用者が、AI窓口に貸出を断られ、屋外利用不可の規定との関係を尋ねる設定です。以下は企業評価や法的な申立て手続の案内ではなく、利用者が取れる行動を比較する編集上の案です。

まず、理由を説明する相手、利用者の新しい材料を受け取る相手、元の判断を読み直せる相手を分けて考えます。同じ人が担っても構いませんが、説明係へ送った内容が読み直しの担当へ届くかは、確かめたい点です。肩書のある人の署名が付いていても、その人が今回の疑問を受け取り、判断材料を扱えるとは自動では分かりません。

比較用のA案では、受付は共通の説明を返すだけで、個別の用途を判断へ戻す役割が決まっていないとします。B案では、利用者が示した用途と元の理由を並べ、判断担当が確認することにします。A案を不誠実、B案を誠実と人格的に評価せず、この質問に対して利用者が取れる行動の違いを記述します。よい印象を点数にする比較ではありません。 B案でも結論が変わらないだけで失敗とはせず、新しい材料をどう扱い、何が結論に関わったかを返せるかを見ます。希望の実現と、問いが判断に関わることを分けるためです。

DNVの公式案内には、認証判断への異議について、担当者の指定、受領連絡、内容の分析、結果の書面通知という手続きが記されています。決定は、その異議の対象に以前関わっていない人が行うか、審査して承認すると説明されています。これは認証業務の公式手続きで、AI窓口の実証研究ではありません。BASでは、質問の受付と判断の見直しを、誰がどうつなぐかを考える比較材料として読みます。

こもれび工房の利用者が知りたいのは、AIの仕組みのすべてではなく、自分の屋内利用がどう扱われたかです。「どの条件に当てはまらないと判断したのか」「屋内だと伝え直した場合、何を見直せるか」という二つの問いに分けられます。技術の詳しい説明を読むことと、今回の判断に必要な理由を得ることを、別の作業として置きます。

OECDの原則は、AIの出力を理解できるよう、可能で有用な場合には、入力や判断に至る要因などについて分かりやすい情報を示すことを掲げています。文脈に応じた推奨であり、企業のあらゆる内部資料の公開を求める説明ではありません。ここから、個別の問いに必要な情報を考えてみます。

たとえばB案の担当者が「利用場所を屋外として扱っていました。屋内と確認できたので、その条件について読み直します」と返す設定にできます。ここで利用者が確かめられるのは、何が誤って伝わり、どこを見直すのかです。判断に関係しない他の利用者の情報や、担当者の個人情報まで出す必要はありません。必要な理由の説明と、不要な開示を区別します。

反対に「AIが総合的に判断しました」だけでは、屋内という情報をどう扱ったかが残ります。追加の説明を求めるなら、抽象的な詳しさより、その一点へ戻れるかを見ます。もし理由を確認できないなら、確認できない範囲と、その状態で利用者が取れる次の行動を示す案も考えられます。分からない理由を、もっともらしい説明で埋めないことが大切です。

利用者が問い返せる仕組みを作ると、すべての希望を受け入れなければならないのか。希望が通るかと、伝えた材料を確かめてもらえるかは、別に考えられます。こもれび工房なら、利用者は屋内で使うという材料を示し、どの条件で判断されたかを尋ねられます。その材料によって再検討が必要かを考え、貸出の可否を決める役割は工房に残す設定です。関わり方の違いを明確にします。

たとえば屋内利用でも、通路を塞ぐ大きさの台は貸し出せないという別の条件がある設定にしてみます。用途の誤認を直しても、結果は貸出不可のままかもしれません。その場合、訂正した材料と、結論を維持した理由を分けて返せるかが問いになります。結果が同じだから利用者の話を聞かなかった、とも、返事をしたから十分だ、とも一括して決めません。

一方、利用者の情報を受け取っても、実際にはどの判断材料も変更できないなら、「見直し」という案内が何を意味するかを確認したいところです。説明の言い直しだけを行うのか、誤った事実を直せるのか、例外の判断も扱うのか。対応範囲を示すことで、利用者が何を期待して資料を出すかを考えられます。大きな名称に小さな権限を隠さないための区別です。

この整理は、顧客参加を増やせばいつも良いという主張でもありません。提出する材料や説明に時間がかかるなら、その負担も比較へ入ります。利用者が自分で全部を証明しなければ話が始まらない設計と、工房が既に持つ情報を確認してから不足分を尋ねる設計では、必要な手間が違います。誰が何を確かめるかを、制度の名前より具体的に考えます。

紙上でB案を試すなら、受付役と判断役を分け、「屋内利用と伝えたのに、なぜ屋外利用不可を理由に断られたのか」という一問を渡します。返答の速さを競う試験ではありません。受付役が何を残し、判断役が何を読み、利用者へ何を返す想定なのかを追います。実在の注文や個人情報を使わず、今回の架空の展示台だけで試せます。

途中で、判断役には元の回答が見られない、用途を読み直す権限がない、返答先が決まっていない、と気付いたら、その箇所を残します。いまある資料に役職名を足して終えるより、何が欠けているために問いが止まるかを特定できます。ただし、紙で流れを確認できたことは実運用の保証ではありません。混雑した日や、文章を書きにくい人にも使えるかは別の確認です。

この層の比較は、OECDの規範を参考にしたBASの編集上の検討案です。異議を扱う仕組みと信頼の因果関係を測ったものではなく、正式な不服申立て制度の設計を完成させるものでもありません。対象の業種や法域による要件は調べていないため、この紙上の案だけで制度として十分だとは扱いません。BASでその機能を提供しているという説明でもありません。

手元で始めるなら、説明を読んでも残る疑問を一つだけ、固有名詞なしで書いてみてください。欲しい返答が追加の説明なのか、事実の訂正なのか、判断の見直しなのか、迷う部分があれば3人と相談してみるへ。その一問から、何を伝えられる必要があり、どこへ届けば意味があるかを一緒に考える入口にできます。