介護職のためのAIリテラシー｜「道具」として安全に使いこなす視点

AI・生成AI ICT コラムハウツー仕事術業務改善管理者・経営者

「業務効率化のためにAIを使いたい」という理想はあるものの、現場では「万が一、個人情報が漏れたら誰が責任を取るのか」という不安から、結局禁止にしてしまう──。

ニュースで見るトラブル事例が怖くて、一歩踏み出せないのが現実ではないでしょうか。

全てのリスクをゼロにするのは難しいですが、最低限のガードレール（ルール）さえあれば、安全に始めることは可能です。

この記事を読むと分かること

安全なAI利用の基準が分かる
個人情報の守り方が分かる
責任の所在が明確になる

一つでも当てはまったら、この記事が役に立ちます

情報漏洩が怖くて使えない
AIの嘘を見抜けるか不安
トラブル時の責任が心配
職員へのルール周知に悩む

結論：安全に使いこなすための「2つの鉄則」
現場でありがちな「3つの落とし穴」
なぜ「面倒なルール」が必要なのか
よくある質問（FAQ）
まとめ：明日からできる「小さな一歩」
関連コンテンツ
更新履歴

結論：安全に使いこなすための「2つの鉄則」

現場からは「AIがミスをした時、誰が責任を取るのか」という不安や、「結局人間がチェックするなら、二度手間ではないか」という本音が聞こえてきます。

日々のケアで手一杯な中、新しいリスクまで背負うのは酷な話です。しかし、リスクを「現場任せ」にせず、組織として仕組みでカバーできる場合があると考えられます。

最後に必ず「人間の判断」を挟む

AIはあくまで確率的に「もっともらしい言葉」をつないでいるだけであり、その内容の正確性を保証するものではありません。

そのため、AIの出力結果をそのまま利用者に提供したり、業務判断に使ったりすることは避け、必ず人間が内容を確認・修正するプロセス（Human in the loop）を組み込む必要があると考えられます。

最終的な責任はAIではなく、それを利用する人間にあると考えられます。「AIは下書きを作る係、決定するのは人間」という役割分担を徹底することが望ましいと考えられます。

出典元の要点（要約）

最初に「ガードレール（禁止ルール）」を決める

「気をつけて使いましょう」という精神論だけでは、トラブルは防ぎにくい場合があると考えられます。

事前に「個人情報は絶対に入力しない」「医学的な判断はさせない」といった明確なガードレール（安全柵）を設けることが重要とされています。

システム側で不適切な入力を拒否する設定や、個人情報保護のルールを策定し、物理的にリスクが発生しにくい環境を作ることが検討される場合があります。

出典元の要点（要約）

リスクベースアプローチで考える

すべてのリスクを同じように恐れる必要はありません。

AIのリスクとメリットを天秤にかけ、リスクの大きさや発生確率に応じた適切な管理を行うリスクベースアプローチが、求められているとされています。

過度な規制にならないようにしつつ、許容できるリスクと絶対に避けるべきリスク（情報漏洩など）を区別して管理することが望ましいと考えられます。

出典元の要点（要約）

現場でありがちな「3つの落とし穴」

「便利そうだけど、個人情報が怖い」「間違いがあったら誰の責任？」現場ではそんな声が飛び交い、結局導入が見送りになったり、こっそり使う職員が出てきたりしていませんか。

ここでは、現場で起きやすいと考えられる失敗パターンと、それを防ぐための視点を見ていきます。

【事例1】「匿名だから大丈夫」の油断

状況：
- ケアプラン作成の補助として、利用者の名前を伏せ「80代女性、〇〇市在住」と入力した。
困りごと：
- 具体的なエピソードや居住地情報から、個人が特定されるリスクが残ってしまった。
よくある誤解：
- 「名前さえ消せば問題ない」という思い込み。
押さえるべき視点：
- プロンプト（指示）に入力した情報は、AIに利用される場合があります。このため、個人を識別できる情報（氏名、住所等）はもちろん、組み合わせることで特定につながるプライバシー情報も入力しないことが原則とされています。システム側で入力を拒否する設定も検討が望ましいと考えられます。

出典元の要点（要約）

【事例2】「AIの提案」をそのまま会議へ

状況：
- AIに「新しいレクリエーション手法」を聞き、その回答をそのまま会議で提案した。
困りごと：
- 提案された手法が実在しないものや、医学的に根拠のない内容だった。
よくある誤解：
- 「AIは辞書のように正しい答えを知っている」という認識。
押さえるべき視点：
- AIは確率に基づいて「もっともらしい言葉」をつないでいるだけであり、事実とは異なる内容（ハルシネーション）を生成することがあります。出力された内容は「下書き」と捉え、必ず信頼できる情報源で裏取り（ファクトチェック）を行うプロセスが不可欠と考えられます。

出典元の要点（要約）

【事例3】リスクを恐れて「全面禁止」

状況：
- トラブルを恐れた管理者が、現場でのAI利用を一律禁止にした。
困りごと：
- 隠れて個人のスマホで使う職員（シャドーIT）が現れたり、業務効率化の機会を逃したりしている。
よくある誤解：
- 「使わせなければリスクはゼロになる」という消極的な判断。
押さえるべき視点：
- 過度な規制はイノベーションを阻害するおそれがあると考えられます。すべてのリスクを恐れるのではなく、リスクの大きさや発生確率に応じた管理を行うリスクベースアプローチが重要とされています。一律禁止にするよりも、適切なルール（ガードレール）を設けて管理下で安全に使う方が、組織全体のリスクを制御しやすくなる可能性があります。

出典元の要点（要約）

失敗の多くは「AIへの過信」か「過度な恐れ」から生まれる場合があります。完璧を求めず、特性を理解してルールの中で使うことが成功の鍵です。

なぜ「面倒なルール」が必要なのか

「楽をするためにAIを入れたのに、確認作業でかえって時間がかかる」「禁止事項ばかりで結局使いにくい」。

現場では、ルールの厳しさに「本末転倒ではないか」と感じる場面もあるでしょう。しかし、この「面倒」には、AI特有の構造的な理由があります。

AIは「事実」ではなく「確率」で語る

AIは辞書のように正しい知識を検索しているわけではないと説明されることがあります。

学習したデータに基づき、確率的に「次に来るもっともらしい単語」をつないで文章を作ると説明されることがあります。

そのため、どれほど流暢な日本語であっても、事実とは異なる内容や架空の情報（ハルシネーション）が混ざり込む可能性があると説明されることがあります。だからこそ、人間による事後確認が重要と考えられる場合があります。

出典元の要点（要約）

AIは「責任」を取ることができない

もしAIが作ったケアプランで事故が起きたとき、AIを処罰することはできないと説明されることがあります。

AIは道具であり、法的な責任能力を持たないと説明されることがあるため、最終的な責任者は「それを利用した人間（事業者）」となると説明されることがあります。

「AIが勝手にやった」という言い訳は通用しにくいと考えられる場合があります。自分自身を守るためにも、人間が判断プロセスに介在する（Human in the loop）仕組みが必要とされる場合があります。

出典元の要点（要約）

リスクは「ゼロ」にはならない

どれほど対策しても、リスクを完全になくすことは難しい場合があるとされています。

だからこそ、「何でも禁止」にするのではなく、情報漏洩などの「絶対に避けるべきリスク」と、業務効率化のために許容できるリスクを区別する必要があるとされています。

ガードレール（安全柵）は、利用者を縛るためではなく、安全な範囲内で自由に動けるようにするために存在すると説明されています。

出典元の要点（要約）

AIの不完全さを理解することは、諦めではなく「使いこなすための第一歩」になる場合があります。限界を知ってこそ、人間の役割が明確になる場合があります。

よくある質問（FAQ）

現場で特に判断に迷いやすいポイントをまとめました。「どこまでやっていいの？」と不安になった時の参考にすることが想定されています。

Q 利用者の名前や病歴を入力してもいいですか？: A
原則としてNGとされています。氏名や住所などの個人を特定できる情報はもちろん、組み合わせることで特定される可能性のあるプライバシー情報も入力してはいけないとされています。記号（Aさん等）に置き換えるなどの匿名化が必要とされる場合があります。
出典元の要点（要約）
デジタル庁
行政の進化と革新のための生成 AI の調達・利活用に係るガイドライン
https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/e2a06143-ed29-4f1d-9c31-0f06fca67afc/80419aea/20250527_resources_standard_guidelines_guideline_01.pdf
要求事項22では「個人情報、プライバシー、知的財産」の適切な取扱いを求めている。特に入力データに関しては、不適切な入力を拒否する設定や、個人情報を含まないようにするためのルール策定が対策例として挙げられている。

Q AIが作った文章をそのままケア記録に使ってもいいですか？: A
そのまま使うのは避けてください。AIは事実と異なる内容（ハルシネーション）を生成する可能性があります。必ず人間が内容を確認し、事実と合っているか修正する「Human in the loop（人間の介在）」が必須とされています。
出典元の要点（要約）
デジタル庁
行政の進化と革新のための生成 AI の調達・利活用に係るガイドライン
https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/e2a06143-ed29-4f1d-9c31-0f06fca67afc/80419aea/20250527_resources_standard_guidelines_guideline_01.pdf
要求事項19では、AIシステムの出力結果を業務利用する際に、人間の判断や評価を介在させるプロセス（Human in the loop）を求めている。また、ハルシネーション（もっともらしい誤り）への注意喚起もなされている。

Q 何かトラブルが起きたら、AIのせいにできますか？: A
できないとされています。AIを活用した結果の責任は、最終的に「それを利用した人間（事業者）」が負うことになるとされています。AIはあくまで道具であり、法的責任能力を持たないため、利用者の責任において確認を行う必要がある場合があります。
出典元の要点（要約）
デジタル庁
行政の進化と革新のための生成 AI の調達・利活用に係るガイドライン
https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/e2a06143-ed29-4f1d-9c31-0f06fca67afc/80419aea/20250527_resources_standard_guidelines_guideline_01.pdf
ガイドラインの冒頭やガバナンスの項（要求事項2など）において、AI利用に伴う責任の所在や、人間による監督・判断の重要性が示されている。AIシステム自体が責任を負うわけではないことが前提とされている。

この基本を守ることで、AIが役立つ場合があると考えられます。この基本さえ守れば、AIはあなたの心強い味方になる可能性があります。

まとめ：明日からできる「小さな一歩」

ここまで、AIのメリットだけでなく、リスクや限界についても確認してきました。

「少し難しそう」と感じた方もいるかもしれません。しかし、完璧な体制を目指す必要はありません。まずは現場でできる「小さなルール作り」から始めることが考えられます。

「入力禁止リスト」を作る

明日からできる具体的なアクションとして、職員全員が共有できる「入力してはいけない情報リスト」の作成を勧められる場合があります。

「氏名」「住所」「電話番号」といった基本情報に加え、「家族構成」や「既往歴」など、組み合わせることで個人が特定されうる情報をリスト化し、「これだけは入れない」と決めるだけで、リスクは低減する可能性があります。

出典元の要点（要約）