工場データを守るオンプレミスLLMの管理設計

最初に、AIに読ませたい情報を分類します。一般的には、公開情報、社内限りの情報、顧客の秘密情報、営業秘密として管理している情報、個人情報、輸出管理の対象となる技術情報、に分けられます。分類ごとに、AIに読ませてよいか、誰に見せてよいか、ログをどう扱うかを決めます。

不正競争防止法上の営業秘密として保護されるには、秘密として管理されていること(秘密管理性)が必要です。経済産業省の営業秘密管理指針も参照されます。AIの導入によって、管理の水準が下がったと見なされないよう、アクセス制御と記録を整えておくことが肝要です。

質問と回答の履歴には、機密情報が含まれる可能性があります。保存する場合は、保存場所、保存期間、閲覧できる人を決めます。ログから不正な利用や情報の持ち出しの兆候を検知することも考えられますが、従業員の監視にあたる運用は、労使で目的と範囲を共有しておくことが望まれます。

モデルの追加学習(ファインチューニング)を行う場合は、学習データに顧客の秘密情報や個人情報が混ざらないようにします。多くの用途では、追加学習ではなく、検索で必要な文書を都度参照する方式(RAG)で足り、この方式のほうが、権限の管理や文書の削除に対応しやすくなります。

オープンウェイトのモデル(Llama、Qwen、Mistral、Gemma、gpt-ossなど)は、それぞれライセンス条件が異なります。商用利用の可否や、利用条件を確認したうえで選定します。

まず、扱う文書の分類と、権限の持ち方を現状のまま棚卸しすることから始めます。そのうえで、一つの部署と一種類の文書(たとえば、不具合報告書だけ)を選んで試し、権限の引き継ぎ、回答の出典表示、ログの扱いを確認します。

扱う情報が公開情報や一般的な社内文書にとどまり、顧客の秘密情報を含まない用途であれば、契約条件が明確な事業者向けのクラウドサービスで十分な場合もあります。機密の程度に応じて、オンプレミスとクラウドを使い分けるのが現実的です。