メモとして後で振り返るために書いておく
（このあともう1つ記事にする予定）
ここで書きたいのはAI活用のこと
今後AIの活用が進むのは当然として、この間ニュースになっていることを見ていて考えた
（ロイター通信：オープンＡＩのエージェント、米新興不正侵入前にもドイツで「暴走」）
これから税理士事務所・会計事務所等で活用する際のリスクについて
当該法人のデータをAIに分析させる際、先方に承諾を得るのは当然として...
①例えば上場企業、或いは上場を目指している企業のデータをAIに処理・分析させることの是非
②先方がOKしたとして、その情報がAIを通して漏れたときの責任の所在の事前確認
③先方がNGを出した際の、それらの企業のデータの隔離
④プロンプトを作成する人間の限定 etc.
を考えておかないといけない
特に③と④
共有サーバーに、AI処理OKな企業データとNGな企業データを一緒に保管していたときのリスクはあまりに大きい
基本的には完全隔離したいところだが、現実的にそれが可能なのか？
そしてプロンプト作成者が曖昧な指示を出した場合、AIエージェントは広範囲からデータを収集し活用しようとする可能性がある
またプロンプト次第では思った出力が得られない
作成意図を過不足なくAIに指示しなければいけない
その「過不足なく」のなかには、収集されてはいけない情報にAIを触れさせない指示であることも含まれる
“情報リテラシー”などというと大げさだが、リスクへの感度が試される
リスクへの感度、という点でいえば組織そのもののリスクへの感度も問われるだろう
職員が「この情報はAIに触れさせても良いのだろうか？」と不安になった際、上長に都度確認できる心理的安全性が担保されているか
例えば上長が「そんなことはわざわざ聞かなくても当たり前だろ」などと茶化したり小馬鹿にする発言をしたらどうなるか
そういった対応を繰り返された職員が上長に確認に行くだろうか
日々の安易な発言の繰り返しが心理的安全性を毀損し、ひいては大きなリスクに繋がりかねない
これまでならば修正申告程度で済んでいた話でも、今後は情報の外部流出になるかもしれない
（それも、全く悪意のない情報流出）
経営者が自分でリスクをとり、自らAIに作業させるという意味では“使い勝手の良い道具”だろうが、人を雇いその人達にAIを使わせる、と考えたら
なかなかハードルは高い
0 件のコメント:
コメントを投稿