生成AIに議事録や支援記録の要約、報告書の下書きを作らせていると、出力結果の中に、想定していなかった第三者の個人情報が含まれてしまうことがあります。これは障がい福祉の現場において見落とされがちなリスクのひとつです。
なぜ第三者の情報が出力に混入するのか
生成AIは入力されたテキスト(プロンプト)を基に文章を生成します。そのため、支援記録や申し送り事項に複数の利用者や職員に関する情報が混在した状態で入力すると、AIがそれらを要約・整理する過程で、本来意図していなかった第三者の名前や状況がそのまま出力結果に残ってしまうことがあります。例えば「Aさんの様子を記録してほしい」と依頼したつもりが、元の入力データに含まれていたBさん・Cさんの情報まで要約文に反映されてしまう、といったケースです。
AIに入力する前に、対象となる利用者以外の情報を可能な限り除去する「入力前のトリミング」を習慣づけることが有効です。複数人分の記録をまとめて貼り付けるのではなく、1人分ずつ個別に入力する運用ルールを事業所内で定めておくと、混入リスクを大きく下げられます。
リスクが特に高い業務シーン
- 複数利用者が同席する活動記録・レクリエーション記録の要約作成
- 職員間の申し送り事項をまとめてAIに入力する場合
- グループワークや会議の議事録作成(発言者が特定される内容を含む)
- 事故報告書における関係者(他利用者、家族、職員)の情報整理
出力確認のためのチェックリスト
- 出力結果に、依頼した対象者以外の氏名やイニシャルが含まれていないか
- 他利用者を特定できる特徴(年齢、性別、障がい特性の詳細など)が混在していないか
- 職員個人の評価や発言が、意図せず第三者情報として含まれていないか
- 出力結果を保存・共有する前に、混入情報を削除・修正したか
NG例とOK例の比較
| 場面 | NG例 | OK例 |
|---|---|---|
| 活動記録の要約 | 参加者全員分の記録をまとめて入力し一括要約 | 利用者ごとに個別入力し、個人単位で要約 |
| 会議議事録 | 発言者名を含んだまま外部AIに入力 | 発言者を「職員A」「職員B」など仮名化して入力 |
| 事故報告書 | 関係者全員の詳細情報をそのまま出力・共有 | 報告先ごとに必要な範囲のみ抜粋して共有 |
生成AIの出力結果は、入力内容以上の情報を「創作」してしまう場合(いわゆるハルシネーション)もあります。実在しない第三者の情報のように見える記述が混ざることもあるため、出力結果は必ず事実確認を行ったうえで使用することが重要です。
混入を防ぐための仕組みづくり
個人の注意力だけに頼るのではなく、次のような仕組みを整えることで、第三者情報の混入リスクを組織的に下げることができます。
- 入力データは原則として1人分ずつに分割するというルールを明文化する
- 複数人が関わる記録については、匿名化・仮名化してから入力するテンプレートを用意する
- AIの出力結果を保存・共有する前に、必ず担当者以外の1名がダブルチェックする体制を作る
- ダブルチェックの結果、混入が見つかった場合の修正・報告フローを定めておく
万が一混入に気づかず共有してしまった場合
もし第三者の個人情報が含まれた文書を家族や関係機関に送付してしまった場合、速やかに送付先に連絡し、当該文書の破棄・返送を依頼するとともに、事業所内で経緯を記録し、必要に応じて漏えい等の報告義務(個人情報保護法上の対応)を検討する必要があります。深刻な事案の場合は個人情報保護委員会への報告が必要になることもあるため、早期に専門家へ相談することが望ましいでしょう。
Hope Care AIのようなシステムでは、利用者単位でのデータ管理や入力範囲の制御機能を備えていることが多く、複数人分の情報が意図せず混在するリスクを軽減しやすい設計になっています。
具体的な対応方針については、事案の内容に応じて専門家に確認することをおすすめします。
監修
株式会社オルデンティアコーポレーション 福祉DXコンサルタント
福祉施設のDX・生成AI活用を専門に支援。本記事は現場の実務課題に基づき執筆・監修しています。