虐待防止のための生成AI活用は是か非か ― 現場での慎重な検討ポイント

障害者虐待防止法に基づき、事業所には虐待の未然防止や早期発見のための体制整備が求められています。近年は虐待防止委員会の運営やヒヤリハット記録の整理に生成AIを活用しようという動きも出てきていますが、この領域は特に慎重な検討が必要な分野です。メリットとリスクの両面から考えます。

虐待防止業務における記録の重要性

虐待防止委員会では、ヒヤリハット事例や不適切な対応の疑いがある事案を集約し、再発防止策を検討することが求められます。事例が多い事業所ほど、記録の整理や傾向分析に時間がかかりがちです。生成AIに複数の事例記録を要約させ、発生しやすい時間帯や状況の傾向を可視化する使い方は、委員会の議論を効率化する一助になり得ます。

活用が難しい理由 ― 判断の重さ

一方で、ある行為が虐待にあたるかどうかの判断は、状況や背景事情を丁寧に踏まえた上で人が行うべき、極めて重い判断です。生成AIに事例の概要を入力し、虐待に該当するかどうかの判定を求めるような使い方は避けるべきだと考えられます。AIはあくまで事実関係の整理を補助する役割にとどめ、該当性の判断や対応方針の決定は、虐待防止委員会や管理者が責任を持って行う必要があります。

誤った学習・偏りへの警戒

生成AIの出力は学習データの傾向に影響されるため、特定の職員や特定の利用者に関する記述が偏った形でまとめられてしまうリスクもゼロではありません。委員会での議論に使う資料は、AIが作成した要約をそのまま採用せず、原本記録と照らし合わせて内容の妥当性を確認するプロセスを必ず挟むことが望まれます。

職員への心理的影響への配慮

虐待防止に関する記録や相談内容には、職員自身の対応への反省や不安が含まれることもあります。こうしたデリケートな内容を外部の生成AIサービスに入力することで、情報が意図せず漏れるリスクや、職員が萎縮してしまう懸念も考えられます。ツールを導入する際は、データの取り扱いについて職員にも丁寧に説明し、安心して使える環境を整えることが欠かせません。データの取り扱いについてはセキュリティのページで確認できます。

限定的な活用場面の切り分け

虐待防止に関わる業務のうち、生成AIが担ってよい範囲を事業所内であらかじめ線引きしておくことが現実的です。例えば、研修資料の作成や、一般的な留意点のまとめ作成といった、個別事案を含まない場面での活用は比較的リスクが低いと考えられます。一方、個別事案の評価や対応方針の決定にはAIを関与させないというルールを明確にしておくことが望まれます。事業所全体の運営体制については特徴のページも参考にしてください。

導入を検討する際の姿勢

虐待防止は事業所の信頼に直結する領域であるため、生成AIの導入を急ぐ必要はありません。まずは記録業務の負担が大きい周辺的な部分から試し、委員会や管理者、必要であれば第三者の意見も踏まえながら、慎重に適用範囲を検討していく姿勢が求められます。導入を検討する際の一般的な流れは導入までの流れで紹介しています。

まとめ

虐待防止のための生成AI活用は、記録整理や傾向分析といった補助的な場面に限定し、該当性の判断や対応方針の決定は人が責任を持って行うという原則を崩さないことが重要です。メリットとリスクを冷静に見極めながら、慎重に活用範囲を検討する姿勢が求められます。