生成AIを導入したいが、個人情報の扱いが不安で判断が止まっている。この記事は、介護・障がい福祉・児童福祉の事業所を運営する経営者・管理者に向けて、導入前に行うリスクアセスメントの手順と、その結果をどう記録に残すかを整理します。
導入判断が止まる事業所には共通点があります。「安全かどうか」という漠然とした問いを立ててしまっていることです。この問いには誰も答えられません。判断できる形に問いを分解することが、アセスメントの本質です。
なぜ「安全かどうか」では判断できないのか
安全性はツールではなく使い方で決まる
同じツールでも、利用者氏名を含む記録をそのまま入力するのと、氏名を伏せた文章を整えるのとでは、リスクの性質がまったく異なります。ツール単体を評価しても結論は出ません。評価すべきは、業務・情報・ツール・利用者の組み合わせです。
評価しないまま始めると、説明できない状態になる
実際には、正式な導入判断がないまま現場が個人の判断で使い始めている事業所があります。この状態が問題なのは、情報が漏れる可能性そのものよりも、何が入力されたか法人が把握していないことです。後から利用者や監査に説明を求められたとき、答える材料がありません。
アセスメントは「使わない理由」を探す作業ではない
目的は導入を止めることではなく、どの範囲なら安心して使えるかの線を引くことです。線が引ければ、現場は迷わず使えるようになります。線がないから、使うことも止めることもできない状態が続きます。
段階1:生成AIを使いたい業務を具体名で書き出す
「記録業務」ではなく場面まで下ろす
「記録に使いたい」という粒度では評価できません。日々の記録の下書き、会議の議事録、家族への連絡文、研修資料の作成、要綱や通知の要約といった単位まで分解します。
分解すると、扱う情報の性質が業務ごとに大きく違うことが見えます。要綱の要約に個人情報は含まれませんが、支援記録の下書きには当然含まれます。この違いが、その後の判断を分けます。
現在すでに行われている使い方も書き出す
正式に認めていなくても、現場で使われている場合があります。棚卸しの段階では、実態を叱責の材料にせず、事実として並べてください。実態が上がってこないアセスメントは、机上の評価にしかなりません。
段階2:業務ごとに扱う情報を3区分に分ける
区分1:個人情報を含まない
制度の要約、研修資料の骨子、掲示物の文案などが該当します。この区分は、通常の情報管理の手順の中で扱えます。
区分2:識別できる情報を除去して扱う
記録の文章表現を整える場面などが該当します。ただし、氏名を消しただけでは識別できてしまう場合がある点に注意が必要です。地域が限定される福祉の現場では、年齢・障がい種別・通所日といった情報の組み合わせから個人が特定され得ます。
したがってこの区分は「無条件に安全」ではなく、除去の手順と確認者を決めたうえで条件付きで運用する区分だと考えてください。
区分3:個人情報を含んだまま扱う
支援記録そのものを入力する場合です。この区分では、利用するサービス提供者との契約内容、入力したデータが学習に利用されない設定になっているか、保存先やアクセス権限がどうなっているかを個別に確認する必要があります。委託先の管理という観点での確認事項はAIベンダーの監督義務とは|委託先管理4つの実務に整理しています。
段階3:影響度を評価する
「起きる確率」より「起きたときの影響」を見る
確率は正確に見積もれません。一方で、その情報が外部に出た場合に利用者にどのような不利益が生じるかは、事業所の職員であれば具体的に想像できます。評価の軸は、影響の大きさに置いてください。
影響が大きい情報ほど、手順を厚くする
影響が大きい情報を扱う業務では、利用してよい端末、確認する人、記録の残し方を具体的に定めます。逆に影響が小さい業務にまで同じ手続を求めると、現場は手順を守らなくなります。厚みに差を付けることが、運用が続く条件です。
評価は業務単位で結論を出す
「この業務は、この情報区分の範囲でのみ利用可」という形で1行に落とします。曖昧な結論は現場に判断を丸投げすることになり、結果として実態を把握できない状態に戻ります。
段階4:判断の記録を残す
残すのは結論と理由の両方
「支援記録の入力は当面行わない」という結論だけでは、半年後に誰も理由を説明できません。何を確認できていないから不可としたのかを併記してください。理由が残っていれば、確認が済んだ時点で判断を更新できます。
記録の形式は簡素でよい
業務名、扱う情報の区分、判断、理由、判断日、判断者。この6項目が並んだ表があれば、外部への説明にも内部の運用にも足ります。凝った様式を作る必要はありません。
ルール文書と接続する
アセスメントの結果は、職員が読む利用ルールに落とし込んで初めて意味を持ちます。ルール文書の構成は福祉×生成AIの利用ルール雛形|8条構成でそのまま作れるを参考にしてください。
年1回、見直す前提で作る
サービスの仕様も業務の実態も変わります。アセスメントは一度きりの作業ではなく、定期点検の中で更新する対象です。点検項目の作り方は生成AI利用の社内点検を年1回に|確認項目20にまとめています。
よくある質問
Q. アセスメントは誰が担当すべきですか。
情報管理の責任者と、実際にその業務を行っている現場の担当者の両方が必要です。責任者だけで行うと実態から離れ、現場だけで行うと判断の権限が伴いません。少人数の法人でも、この2つの視点を1人で兼ねていることを自覚して進めてください。
Q. 小規模な事業所でも、ここまで行う必要がありますか。
規模にかかわらず、扱っている情報の性質は変わりません。ただし作業量は業務の数に比例します。使いたい業務が2つであれば、表は2行で足ります。規模ではなく、範囲を絞ることで負担を調整してください。
Q. 評価の結果、当面は使わないという結論でも問題ありませんか。
問題ありません。重要なのは、使わないという判断が法人として明示され、職員に伝わっていることです。判断がない状態と、使わないと決めた状態は、外形は同じでも管理としてはまったく違います。
監修
株式会社オルデンティアコーポレーション 福祉DXコンサルタント
福祉施設のDX・生成AI活用を専門に支援。本記事は現場の実務課題に基づき執筆・監修しています。