QommonsAI、個人情報の自動検知・禁止ワードブロック・検知ログの3層防御を搭載 ― 「使わせたいが、漏らさせない」自治体の情報ガバナンスをAIの力で実現

ポリミル
氏名・マイナンバー等の自動検知、管理者定義の禁止ワードブロック、全履歴のログ記録を標準搭載。職員が安心してAIを使いこなせる環境を、組織のルールで守ります。

行政AXのトップランナーであるPolimill株式会社（本社：東京都港区、代表取締役：伊藤あやめ／谷口野乃花）は、行政向け生成AI「QommonsAI（コモンズAI）」において、2026年4月1日に予定しているアップデートで、機密情報の意図せぬ入力を多層的に防止する「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」機能を提供開始することをお知らせいたします。

機密情報の意図せぬ入力を多層的に防止

ルールの実効性を「紙の規定」から「技術的な仕組み」に引き上げる「多層的な情報ガバナンス機能」

生成AIの導入が全国の自治体で加速するなか、利活用を一層推進するためには、庁内の情報管理ルールをシステムとして実装し、職員が迷いなくAIを活用できる環境を整えることが重要になっています。多くの自治体では生成AI利用ガイドラインにおいて入力時の注意事項を定めていますが、その運用は職員個人の意識に委ねられているケースが少なくありません。ルールの実効性を「紙の規定」から「技術的な仕組み」に引き上げることで、職員は情報管理に過度な負担を感じることなく、安心して生成AIをフル活用できるようになります。
QommonsAIは今回、「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」の3層防御を搭載することで、「職員一人ひとりの判断に頼らず、システムとして漏洩を防ぐ」環境を実現しました。これにより、自治体は「使わせたいが、漏らさせない」という相反する要請を両立し、生成AIの利活用を安心して推進できるようになります。

個人情報アラート／禁止ワード設定とは

本機能は、個人情報や禁止ワードを含む入力を検知した際に、警告の表示またはAIへの送信をブロックする機能です。
3層防御の全体像
QommonsAIの情報ガバナンス機能は、「検知→遮断→記録」の3段階で機密情報の流出を防止します。
第1層：個人情報自動検知 ─ AIが入力内容をリアルタイムで監視
職員がプロンプトを入力した時点で、個人情報パターンを自動的に検知します。
検知時の動作は、機密情報の種類に応じて「警告のみ（職員に注意喚起し、送信の判断は職員に委ねる）」と「送信ブロック（AIへの送信そのものを遮断する）」を個別に設定可能です。
たとえば、「マイナンバーは即時ブロック、氏名は警告表示のうえ職員判断」といった段階的な運用ルールを、管理者が設定画面から柔軟に構成できます。これにより、業務の実態に即した現実的なガバナンスを実現します。
第2層：禁止ワードブロック ─ 組織固有のルールをシステムに実装
管理者が任意の禁止ワードを100個以上登録可能です。登録された語句を含む入力はAIへの送信そのものがブロックされ、職員の判断を介さずにシステムレベルで遮断されます。
個人情報パターンだけでは捕捉しきれない、組織固有の機密情報──たとえば、非公開の政策プロジェクト名、内部検討中の施設名称、人事関連の固有名詞など──を管理者の裁量で柔軟に保護対象として登録できます。
ガイドラインに「○○は入力禁止」と記載するだけでなく、それをシステム上で強制的に適用できるため、ルールの実効性を「紙の規定」から「技術的制御」に引き上げることが可能です。
第3層：検知・ブロックログ ─ ガバナンスの「見える化」と監査対応
個人情報検知および禁止ワードブロックの全履歴を、管理者がログとして閲覧可能です。「いつ、誰が、どのような情報を入力しようとし、システムがどう対応したか」を時系列で確認できるため、庁内ガバナンスの継続的モニタリングを実現します。
さらに、QommonsAIの既存のログ管理機能と連携し、入出力ログのCSV形式での出力にも対応。情報セキュリティ監査や内部統制の報告資料としてそのまま活用できます。

「個人の注意力」から「組織の仕組み」へ ─ 利活用推進と情報保護の両立

生成AIの導入において、多くの自治体が「利活用の推進」と「情報漏洩の防止」という二律背反に直面しています。
利活用を促進すれば漏洩リスクが高まり、セキュリティを厳格にすれば活用が萎縮する──この構造的なジレンマに対し、QommonsAIは「職員個人の注意力」に頼るのではなく、「組織としての仕組み」で解決するアプローチを提供します。
管理者は、自治体ごとの情報セキュリティポリシーに合わせて検知対象・ブロック対象・ログ保持ルールをカスタマイズできるため、画一的な制限ではなく業務実態に即した柔軟なガバナンス設計が可能です。

自治体業務における想定活用シーン

- 住民対応課：住民からの問い合わせ対応文を生成する際、窓口で取得した氏名・住所が意図せずプロンプトに混入することを自動検知し警告
- 税務課・福祉課：マイナンバーを含む業務文書の要約作成時、マイナンバー部分を即時ブロックし、番号を除外したうえでの再入力を促進
- 人事課：人事異動情報や内部評価に関連する禁止ワードを登録し、非公開情報の流出を防止
- 情報政策課：検知・ブロックログを定期的にレビューし、庁内のAI利用状況を把握。情報セキュリティ委員会への報告資料としてCSV出力を活用
- 全庁共通：生成AI利用ガイドラインの「個人情報入力禁止」規定を、紙の規定からシステム制御に移行し、ルールの実効性を担保

QommonsAI（コモンズAI）について

Polimill株式会社が開発・提供・運用する行政向け生成AI「QommonsAI」は、国内外の法律・政策・論文・自治体事例など数千万件以上のデータを基に、エビデンスベースで自治体課題の解決を支援します。2026年3月時点で全国700以上の自治体・約25万人が利用。議会対応、政策立案、住民対応、広報業務など幅広い業務で活用されています。OpenAI・Anthropic・Google・Preferred Networksの主要4社から厳選した12モデルを搭載し、用途に応じて最適なAIを選択できる環境を提供しています。すべての自治体へ代理店を介さない直販体制で提供しており、サービスリリース以来、導入先の全自治体で現地での導入研修および初級・中級研修を無償で実施中です。また、自治体現場からの要望を最短数日でサービスに反映するアジャイル開発体制を敷いており、行政の「いま必要な機能」を圧倒的なスピードで届け続けています。
公式サイト：https://info.qommons.ai/

会社概要

社名：Polimill株式会社
所在地：東京都港区
代表者：代表取締役 伊藤あやめ ／ 谷口野乃花
事業内容：行政向け生成AI「QommonsAI」、デジタル民主主義プラットフォーム「Surfvote」の企画・開発・運営 ほか
コーポレートサイト：https://polimill.jp/