当社のデータはAIを学習させますか

カスタムソフトウェアの打ち合わせでは、ほぼ必ずこの質問が出ます。しかも多くの場合、最後に回されます。もっともな疑問です。顧客名簿、配合、原価表、仕入先とのやり取りがツールに入り、そのツールが外部のAIサービスとやり取りするのですから。

三つの別々の場所を混同しない

「データはどこへ行くのか」に単一の答えはありません。データは三つの場所に置かれうるからです。

1. ツール自身のデータベース。お客様のファイル、出力、記録です。お客様のサーバー、あるいはお客様名義で借りたサーバーに置かれます。
2. AIサービス側の一時的な処理。ツールが文章を解釈する必要があるとき、その文章をサービスへ送り、答えを受け取ります。提供事業者は不正利用の監視のため一定期間保持することがありますが、モデルの学習には用いません。
3. モデルの学習データ。本当に心配されているのはここです。「自分のデータでモデルが学習されるのか」という点です。

三つ目については、商用APIを通じて動くシステムでは答えはいいえです。主要な提供事業者の商用利用条件は、API経由で送られたデータをモデルの学習には用いないと書面で約束しています。混乱の元は別のところにあります。同じ会社の無料チャット画面では条件が異なる場合があるのです。従業員が会社の契約書をブラウザの無料チャットに貼り付けるのと、同じデータを商用APIの上に作られたツールに渡すのとは、別の話です。

ツールのデータは誰が見られるのか

本当に問うべきは「AIが学習するか」ではなく、「これを何人が見られるのか」です。答えは三つの点にあります。

• サーバーは誰のものか。ツールは自社のホスティング上で動いていますか、それとも開発者の共用サーバー上ですか。自社のデータが他社のデータと同居しているなら、それは知っておくべきことです。
• 開発者のアクセス権はいつまで続くのか。構築中はアクセスが必要です。その後も続くのか、閉じられるのか。
• バックアップはどこにあるのか。忘れられがちで、本体のデータベースより保護が弱いことも少なくありません。

契約に入れておきたい四項目

見積りを取るときに、この四つを書面で求めてください。求めても相手を困らせることはありません。真面目な開発者なら答えはすでに用意されています。

• データが置かれるサーバーがどの国にあるか。
• AIサービスへ送られたデータが学習に使われないという約束。
• 作業終了時に開発者のアクセス権が閉じられ、手元の複製が削除されること。
• 契約が終了した場合、データがどの形式で返されるか。

最後の項目がいちばん見落とされ、いちばん高くつきます。ツールをやめると決めたときに、データが読める形（表やデータベースの書き出し）で戻ってくることを、最初に書かせておいてください。

個人情報保護の側面

個人情報が含まれる場合——従業員の情報、顧客名、電話番号——ツールそのものが取扱いにあたります。これでソフトウェアが不可能になるわけではなく、プライバシーに関する通知と取扱いの記録がこのツールも対象に含めている必要がある、というだけです。データが国外のサービスへ渡る場合は、越境移転の条件を満たす必要があります。いずれも解決できますが、構築の後で気づくと厄介になります。

まとめ

きちんと構築されたツールであれば、お客様のデータがモデルを学習させることはありません。ただし「きちんと構築された」は自然には実現しません。サーバーが誰のものか、アクセス権がいつ閉じるか、データがどう返されるかが書かれていなければ、技術的な答えが正しいというだけでは足りないのです。