取引先から「セキュリティ対策は大丈夫？」と聞かれたら――中小企業が今から備えること
「AIを入れたいが、何から手を付ければよいか」という相談を、経営者の方から受けることが増えました。私自身、ドローン画像をAIで解析する点検事業を運営し、知財総合支援窓口の登録専門家として中小企業の相談にも関わっています。その経験から言うと、最初に決めるべきなのは「どのツールを使うか」ではありません。自社のデータがどこにあり、誰が触れるのか、そしてAIの出力に対して誰が責任を持つのか。この二つの線引きを先に決めた会社は、ツールが変わっても導入が崩れません。逆にここを曖昧にしたまま始めた会社は、便利に使い始めた後で止まることが多いのです。
ツール選びより先に決めること
AIツールは次々に新しいものが出ますし、価格も機能も短い期間で変わります。ツールを基準に計画を立てると、計画そのものが陳腐化します。一方で、「自社のどのデータを、どの業務で、誰の判断のもとに使うか」という整理は、ツールが変わっても残ります。
私が最初に経営者と一緒に作るのは、業務ごとに「扱うデータ」「AIに任せる範囲」「人が確認する範囲」を書いた一枚の表です。見積書の下書き、問い合わせへの一次返信、点検写真の分類、議事録の要約。どれも対象になり得ますが、扱うデータの重さと、間違えたときの影響は業務ごとにまったく違います。この表があるだけで、社内の「使ってよいのか分からないから使わない」という停滞が解消されます。
データの所在：どこに置き、誰が触れるか
AI導入で見落とされがちなのが、データの置き場所です。クラウド型のAIサービスに文章や画像を入力するということは、そのデータを自社の外に出すということです。これ自体は悪いことではありませんが、何を出してよくて、何を出してはいけないのかを決めずに始めると、顧客情報や取引条件が気づかないうちに外部に渡ることになります。
具体的には、三つの区分を作ることを勧めています。一つ目は、外部のAIに入力してよいデータ。公開済みの情報や、個人や取引先を特定できない形に加工した情報です。二つ目は、契約や設定で学習利用を止めた環境でのみ入力してよいデータ。社内文書や顧客名が入った業務データがここに入ります。三つ目は、どのAIにも入力しないデータ。営業秘密として管理している技術情報や、取引先から秘密保持の約束のもとで預かっている情報です。
この区分は、知財の観点からも重要です。営業秘密として法的に守られるには、秘密として管理されている実態が必要です。社員が業務上の判断で自由にAIへ貼り付けている状態は、「秘密として管理していた」と言いにくくなります。AI導入は、自社の秘密情報管理を見直す良い機会でもあります。
責任の線引き：出力を誰が確認し、誰が決めるか
二つ目の線引きは責任です。AIは誤った内容を自然な文章で返すことがあります。点検画像の解析でも、見落としや誤検出は一定の割合で起こります。だからこそ、「AIの出力をそのまま外に出してよい業務」と「人が確認してから出す業務」を分け、確認する人を決めておく必要があります。
私の会社では、AI解析の結果は技術者が確認してから報告書に載せるという原則を置いています。AIが出した候補を人が判断する、という順番を崩さないためです。これは効率を下げる話ではなく、AIの精度が上がるほど人が確認を省きたくなるからこそ、先に決めておく必要がある話です。社外に出る文書、金額が関わる判断、安全に関わる判断については、確認者を名前で決めておくことを勧めます。
もう一つ、生成物の権利についても触れておきます。AIが作った文章や画像を自社の制作物として使う場合、その権利関係はサービスの利用規約によって扱いが異なります。商標やデザインのように権利化を考えるものにAIを使うなら、規約の確認を先に済ませておくべきです。
小さく始めるための順番
ここまでを踏まえると、進め方は自然に決まります。まず、影響が小さく、扱うデータが軽い業務を一つ選びます。次に、その業務について「入力してよいデータ」と「確認する人」を決め、書き残します。そのうえで実際に使い、うまくいった点と困った点を記録します。これを繰り返して対象業務を広げていけば、全社ルールは後から自然に形になります。
最初から立派なガイドラインを作ろうとすると、作るだけで疲れてしまい、現場は使い始めません。線引きの原則だけ先に決め、細かいルールは使いながら育てる。この順番が、人も予算も限られた会社には合っていると考えています。
相談は30分無料です。会社概要は https://www.a-area.jp/company をご覧ください。LINE 公式アカウント（@flightpilot）からもお問い合わせいただけます。
