AIが使われなくなる会社に、事故は起きていません — 定着の戻し方
AIを入れた会社で、いちばん使われていたのは導入直後だった。そういうことがあります。研修が終わった週は全員が触っていて、質問も出ていた。それが、しばらく経つと決まった何人かしか開いていない。
社内では、これが問題として扱われません。困っている人がいないからです。
事故が出ないので、定着が止まったことに気づけません
使われなくなっていることに、社内の誰も気づいていない。これがいちばん多い形です。原因は段階を飛ばしたことにあり、戻すには進んでいない業務から順に上げ直すしかないのですが、その前に、なぜ気づかれないのかを見ておきます。
これは当社が相談を受けた範囲での話で、件数を数えて統計にしたものではありません。母数が小さいことは断っておきます。
気づかれない理由は単純で、何も起きていないからです。誤った内容の資料が出回ったわけでもなく、患者さんや利用者さんに迷惑がかかったわけでもない。インシデントとして上がるものが1件もない。
使わなくなった人は、失敗する場所に近づいていません。 重要な判断にAIを使わなければ、AIのせいで間違えることもない。事故が出ないのは、うまく使えているからではなく、使っていないからです。
個人の到達度をどう測るかについては、6つのレベルに分けた物差しを別の記事に書きました。そこで挙げた判定の原則の1つが、事故の発生数でレベルを判定しない、というものです。挑戦していない人ほど事故がゼロになるので、数だけを見ると高く出てしまう。
同じことが組織の単位でも起きます。導入してから、トラブルはゼロ。報告としては優秀に見えます。そしてその報告が、点検しない理由になります。
問題が観測されないまま時間が経つと、認識が固定されます。次に予算や計画を考えるとき、「AIは去年入れたので」という前提から始まる。入れたけれど止まっている状態と、入れて動いている状態が、区別されないまま次に持ち越されます。
止まっている期間そのものにも、値段が付いています。使われていない業務では、以前と同じ手順が続いています。それ自体は回っているので損害には見えませんが、導入前と同じ時間を使い続けているという状態です。ライセンス費用より、こちらのほうが大きいことがほとんどです。
止まっていることに気づくきっかけは、たいてい外から来ます。同業の事業所が使いこなしている話を聞いた、新しく入った職員が前職との差に驚いた、といった形です。内部の指標では、まず見つかりません。
上がったのではなく、上がったように見えていただけです
なぜ落ちるのか。飛ばしたからです。正確には落ちたのではなく、最初から上がっていませんでした。
先の記事に、判定の原則としてこう書きました。飛び級させない。レベル1の人にレベル3を教えても定着しない。確かめる習慣がない人に「合格条件を先に書け」と言っても、何を確かめるべきかが分からないので条件が書けないからです。
そこで止めていましたが、その先があります。 条件が書けなかった人が、そのあとどうするかという話です。
たいていは、自分のせいだと考えます。研修では他の人が書けていた。手順も教わった。それでも書けないのは自分の理解が足りないからだ、と受け取る。
そうなると質問が出なくなります。「何を確かめればいいのか分かりません」は、自分の無理解を申告する言葉に聞こえるからです。分からないまま黙るほうが、安全に見えます。
それでも、しばらくは使えます。教わった手順をそのままなぞればいい。だから研修の直後は、上の段の人と同じふるまいに見えます。ここで「浸透した」と判断されることが多い。
続かないのは、実際の業務が教材どおりではないからです。少し違う場面が来たときに、どこまで確認すれば足りるのかを自分で決められない。決められないので、確かめずに使うか、使うのをやめるかの二択になります。前者は怖いので、たいていは後者を選びます。
実際の場面はこうです。ある職員が、いつもと少し違う書類をAIに下書きさせた。出てきたものは、それらしく見える。ただ、これで出していいのかどうかが判断できない。上司に聞けば早いのですが、聞くと任せきりにしていると思われそうな気がする。結局、自分で最初から書き直した。次からは、最初から自分で書くようになります。
こうして元の段に戻ります。上がっていなかったものが、見えなくなっただけです。 研修の直後に見えていたのは、その人の到達度ではなく、教材の再現でした。
この違いは、あとから振り返るときに効いてきます。「一度はできていたのに戻った」と考えると、原因を意欲や忙しさに求めることになります。最初から届いていなかったと考えると、原因は順番に戻ります。
分かれているのは、人ですか、業務ですか
人の単位で見るか、業務の単位で見るかで、打ち手が変わります。業務で割ると、同じ人が使っている業務と使っていない業務があることが見えてきます。
「一部の人しか使っていない」と言うとき、ほとんどの場合は人の単位で見ています。この人は使う、あの人は使わない。そう見えると、打ち手も人に向かいます。使っていない人を集めて、もう一度教える。
業務の単位で割ると、違うものが見えます。同じ人が、ある業務では毎日使っていて、別の業務では一度も開いていない。使う人と使わない人がいるのではなく、使われる業務と使われない業務があるということです。
当社もそうです。開発では、AIに実装を任せて、その結果を別のAIに検証させています。任せて終わりではなく、どの役割にどのAIを使うかのルールを文書にして、そう決めた理由ごと外に出しました。読んだ人が同じ運用を再現できる形にしてあります。
一方、グループで運営している訪問看護では、そこまで行っていません。やっているのは「出てきた情報をそのまま信じない。必ず確かめる」までです。確かめ方を設計することも、任せることもしていません。
同じ会社で、領域によって3段の開きがあります。 これを平均すれば「まあまあ進んでいる会社」になりますが、その数字からは次にやることが出てきません。
もう1つ、分けておきたいことがあります。任せていることと、仕組みにしていることは別です。 AIに任せて別のAIに検証させているだけなら、それはまだ社内の運用です。手順と判断の根拠を他の人が読める形にして、はじめて次の段に届きます。ここを同じものとして数えると、自分の現在地を1段高く見積もることになります。
業務で割る作業そのものに、時間はかかりません。部署ではなく、業務の種類で並べるのがコツです。記録、申し送り、シフト、請求、採用、教育。並べた時点で、空白のかたまりが見えます。
定着のやり直しは、進んでいない業務から始まります
業務で割れているなら、次にやることは決まります。進んでいない業務を1つ選んで、そこから上げ直します。
進んでいる領域を伸ばしたくなります。話が早いし、成果も見えやすい。ただ、そこはすでに回っています。回っている場所に手を入れても、使われていない業務は使われないままです。
当社が次に手を付けるのは、開発ではなく訪問看護のほうです。開発は他の人が読める形になっているので、担当が変わっても続きます。訪問看護は、確かめること自体はやっていますが、確かめ方が人によって違う。そこが揃わないうちに上の段へ進めると、また飛ばすことになります。
順番を守ると、進みは遅く見えます。1つの業務が1段上がるだけなので、報告としては地味です。それでも、飛ばして戻すより速い。
もう1つ、進んでいない側から上げる利点があります。進んでいる側が、説明の材料になることです。 同じ会社の中に、実際に動いている例がある。他社の事例より近く、外から呼んだ講師の話より具体的です。当社の場合、訪問看護の現場に説明するときに出せるのは開発の話で、業種はまったく違いますが、確かめ方を先に決めておくという一点だけは共通しています。
二度目の定着は、一度目より重くなります
一度落ちた業務をもう一度立ち上げるほうが、最初にやるより難しくなります。「教わったのにできなかった」という記憶が残るからです。
この記憶は、本人の中だけにあるわけではありません。周りも覚えています。次に同じ業務でAIを使おうという話が出たとき、「前にやってみたけど、うちには合わなかった」という一言が先に出る。その一言は、実際に試した人の言葉なので重い。 反論しづらく、検討そのものが止まります。
前にやったのは、うちに合うかどうかの検証ではありません。土台が無い状態で上の段を求めた結果として、続かなかっただけです。ただ、そう説明しても、現場からは言い訳に聞こえます。一度うまくいかなかった相手に「やり方が悪かった」と言っても、たいてい通りません。
戻すことはできますが、戻すのは初回より高くつきます。 ここが「まだ入れていない」段階と「入れたのに止まっている」段階のいちばんの違いです。まだ入れていないなら、順番を選べます。すでに止まっているなら、選び直す前に、止まった記憶を片付けるところから始まります。
明日、できること
机の上でできることが3つあります。人ではなく業務を単位にして、埋まっていない場所を先に見つけます。
1つめ。部署ではなく、業務の種類で書き出す。 それぞれでAIが使われているかどうかを、○か×で埋めます。人の名前は書きません。
2つめ。×が付いた業務で、直近1か月に誰かが試したかどうかを聞く。 試していないなら、まだ届いていないだけです。試したのにやめたなら、そこは飛ばした可能性があります。
3つめ。やめた理由を、本人の言葉で聞く。「難しかった」で終わらせないでください。何をしようとして、どこで止まったのか。その答えが、次に何を揃えればいいかを決めます。
この3つを埋めると、全社で一律に何かをやるという案は自然に消えます。埋まっていない場所が、具体的に見えるからです。
すでに入れたのに動いていない、という状態からのご相談も受けています。AI顧問・AI人材育成では、この書き出しを一緒に作るところから始めています。