AI利活用の留意事項を安全・公平性・プライバシーで整理
ITパスポート試験 令和8年度 問17 ／ ビジネスインダストリ › ビジネスシステム
過去問にチャレンジ
AIを利活用する上で留意すべき事項として、適切なものだけを全て挙げたものはどれか。 a AIの意図しない動作によって、人間の生命や身体などに危害を及ぼす可能性 b AIの判断に差別的な内容が含まれる可能性 c AIの判断にプライバシーの侵害となる内容が含まれる可能性
- ア
a，b
- イ
a，b，c
- ウ
a，c
- エ
b，c
会話形式の解説
講師今回はAIを使うときに注意すべきリスクの問題です。三つの記述がそれぞれ、安全、公平性、プライバシーのどの観点に当たるかを見ていきましょう。
受験者三つともそれらしく見えます。でも組合せ問題なので、どれか一つは外れなのではないかと迷いました。
講師その迷いは起こりがちです。この形式では、記述を一つずつ判定するのが基本です。まず、AIの意図しない動作で人の生命や身体に危害が及ぶ可能性から見ます。これはどの観点だと思いますか。
受験者安全の観点だと思います。AIを搭載したロボットが誤作動したら、けがにつながりそうです。
講師そのとおりです。誤作動や想定外の入力で人に危害が及ばないようにするのが、安全の観点です。ロボットや医療の分野では、被害が重大になるおそれがあります。
受験者差別的な内容のほうは少し意外でした。AIは機械なので、人間より公平に判断できると思っていました。
講師そこが注意点です。AIの判断は、学習データやアルゴリズムの偏りに左右されます。データが偏っていると、性別や年齢などによって差別的な結果が出るおそれがあります。これが公平性の観点です。
受験者機械だから中立とは限らないのですね。プライバシーの侵害は、個人情報を扱うからでしょうか。
講師はい。AIで個人情報や行動履歴を利用すると、判断の内容によってはプライバシーの侵害になり得ます。個人データの利用は、AIの代表的なリスクの一つです。
受験者三つとも留意すべき事項なので、全部を含む組合せが正解ですね。安全と公平性だけ、安全とプライバシーだけ、公平性とプライバシーだけの組合せは、どれも一つ欠けているので誤りです。
講師正解です。根拠として、総務省のAI利活用ガイドラインでも、安全、公平性、プライバシーはいずれも配慮すべき観点に挙げられています。
受験者安全は生命や身体への危害、公平性は差別的な判断、プライバシーは個人情報の扱い、と分けて覚えておきます。
講師よい整理です。補足すると、人に不利益を与え得る場面では、AIの判断をそのまま使わないことも大切です。人が確認することや、判断の理由を説明できるようにすること、つまり説明責任を果たすことも求められます。
まとめ
AIを利活用するときは、安全・公平性・プライバシーの三つのリスクに留意する必要があります。意図しない動作で生命や身体に危害が及ぶおそれは安全、学習データの偏りによる差別的な判断は公平性、個人情報や行動履歴の利用による侵害はプライバシーの観点に当たります。三つとも適切な留意事項なので、全てを含む組合せが正解です。「全て挙げたもの」を選ぶ問題では、記述を一つずつ判定し、全部が適切なら全てを含む選択肢を選びます。
解答・解説
正解はイです
この問題のテーマ
AIを利活用するときに留意すべきリスクを問う問題です。安全（生命・身体への危害）、公平性（差別的な判断）、プライバシー（侵害）の三つがいずれも留意事項に当たるかを判断します。
解き方の考え方
「適切なものだけを全て挙げた」組合せを選ぶ形式なので、a〜cを一つずつ、留意すべき事項かどうか判定します。aは安全、bは公平性、cはプライバシーの問題で、どれもAI利活用の原則に含まれる観点です。三つとも適切なので、a、b、cを全て含む選択肢を選べば正解にたどり着けます。
選択肢ごとの解説
- ×ア a，ba、bの組合せは、安全と公平性の観点を押さえています。しかし、cのプライバシー侵害の可能性も留意すべき事項です。個人データの利用はAIの代表的なリスクなので、cが抜けているこの組合せは適切ではありません。
- ○イ a，b，caは誤作動や想定外の入力で人の生命・身体などに危害が及ぶおそれを指し、安全の観点に当たります。bは学習データやアルゴリズムの偏りから、性別や年齢などによる差別的な結果が出るおそれを指し、公平性の観点です。cは個人情報や行動履歴の利用でプライバシーが侵害されるおそれで、プライバシーの観点です。三つとも留意すべき事項なので、全てを挙げたイが正解です。
- ×ウ a，ca、cの組合せは、安全とプライバシーを含んでいます。ただ、bの差別的な判断の可能性が抜けています。AIの判断は学習データの偏りに左右されるため、公平性への配慮も欠かせません。
- ×エ b，cb、cの組合せは、公平性とプライバシーを含んでいます。ただ、aの生命・身体への危害の可能性が抜けています。AIを搭載したロボットや医療の分野などでは、意図しない動作が重大な被害につながるおそれがあるため、安全も留意事項です。
補足
「全て挙げたもの」を選ぶ問題では、一見もっともな記述を「どれかは誤りのはず」と疑って外してしまうミスがよくあります。一つずつ判定し、全部が適切なら全てを含む選択肢を選びます。また、人に不利益を与え得る場面では、AIの判断をそのまま使わず、説明責任を果たすことや人が確認することも重要です。
POINT
- AIを利活用するときは、安全・公平性・プライバシーの各リスクに留意する必要があります。
- AIの誤作動や想定外の動作で人の生命・身体・財産に危害が及ぶことを防ぐのが、安全の観点です。
- AIの判断は学習データの偏りの影響を受けるため、差別的な結果が出ないかどうかの確認が求められます（公平性）。
- AIで個人情報や行動履歴を扱う場合は、プライバシーの侵害に注意が必要です。