医療・介護の現場で、AIに絶対させてはいけない3つのこと
「便利そうだけど、うちの業界で使うのは怖い」
医療や介護で働く人にAIの話をすると、だいたいこの反応が返ってきます。
その感覚、正しいです。
私は訪問看護ステーションで働く看護師です。この1年、AIに書類仕事を任せる仕組みを作って、毎月10時間以上の残業を減らしてきました。
それでも言い切ります。医療・介護の現場は、世の中の「AI活用術」をそのまま真似してはいけない場所です。
なぜなら、私たちの仕事には「個人情報」と「絶対に間違えてはいけない書類」があるからです。
実際に私は、AIが報告書の対象月を間違えて設定した場面に遭遇したことがあります。気づいて直したので何事もありませんでしたが、ノーチェックで運用していたらと思うとゾッとします。
だからこそ、私の職場ではAIに「させないこと」を先に決めています。今日はその中から、絶対に譲らない3つを紹介します。
1つ目。「提出」「確定」「送信」のボタンは、AIに押させない。
下書きの間違いは直せますが、提出された間違いは取り消せません。最後のボタンは必ず人間が押す。このルールがある限り、AIのミスは事故になる前に必ず人間の目の前を通ります。
2つ目。既存のデータの上書きと削除は、させない。
AIにやらせるのは、常に「新規の下書きを作る」ことまで。他のスタッフが書きかけた記録を消してしまう事故は、このルール1つで防げます。
3つ目。判断そのものは、させない。
利用者さんのアセスメント、ご家族への説明、ケアの方針。判断が仕事の本体であるものは任せません。任せるのは、判断が済んだ後の「形にする作業」だけです。
気づいた人もいるかもしれません。
これ、新人スタッフに仕事を任せるときのルールと同じなんです。
新人が書いた計画書を、確認なしでご家族に渡す職場はないですよね。最初は下書きまで、確認は先輩、大事な判断は任せない。AIも同じ扱いをすればいいだけです。
逆に言うと、この線引きさえできていれば、AIは医療・介護の現場でも安全に使えます。そして書類仕事の負担は、びっくりするくらい軽くなります。
私が1年間の実運用でためた手順と安全ルールの全部、実際に使っている指示文のテンプレートは、この記事にまとめてあります。
「怖いから使わない」ではなく「怖さの正体を知って、安全に使う」。
その一歩目として、まずは今日の3つのルールを覚えて帰ってください。
この記事が刺さった人は、こちらもどうぞ。
