3月4日、今年の両会において、中国人民政治協商会議（政協）全国委員会委員で360グループの創設者である周紅一氏が、大規模モデルのセキュリティと錯覚、サイバーセキュリティ産業の変革などの問題に焦点を当てたと報じられた。

大規模モデルの「錯覚」に対して、より寛容になるよう提案されています。

周紅一氏は、DeepSeekに代表される大規模モデルは「国家レベルの科学技術成果」を達成し、大規模モデル技術における自主的なイノベーションを促進するだけでなく、上流産業と下流産業の協調発展を牽引し、大規模モデルが様々な分野に急速に進出し、中国の科学技術進歩、経済成長、そして国力の牽引力となることを可能にしていると考えている。しかし、DeepSeekを含む大規模モデルは「錯覚」に悩まされており、一見非論理的で事実と異なる状況を生み出すことがある。こうした「錯覚」は諸刃の剣であり、大規模モデル固有の特性であり、排除することは不可能である。そして、AGI（汎用人工知能）の実現において極めて重要な創造性と想像力を規定する。大規模モデルに「錯覚」が欠けていれば、想像力と創造性は失われてしまうだろう。さらに、モデルの能力が高ければ高いほど、一般的に錯覚を経験する頻度も高くなる。

周紅一氏は、科学研究分野において、大型模型の「錯覚」が新薬の分子構造やタンパク質の構造などを「想像」し、新たな研究の方向性を導くことができると考えている。医学、法律、金融など、正確性が非常に重視される分野では、「錯覚」が誤っていたとしても、RAG（Retrieval Enhanced Generation）技術などの技術的手段を用いて、専門知識ベースやリアルタイムのオンライン情報と比較することで修正できる。

周宏義氏は、過去30年間を振り返ると、わが国の法律や規制は「セーフハーバー原則」を採り入れ、企業のイノベーション投資を奨励し、インターネット産業の繁栄を促し、後の「インターネット+」、そして今日の「人工知能+」に向けた技術、産業、人材の支援を提供してきたと述べた。大規模モデルの開発は国家の運命にとって極めて重要であり、精度への過度の追求によってその創造性が阻害されるべきではない。周氏は、「セーフハーバー原則」の成功例に学び、大規模モデルおよび関連製品・サービスに対して柔軟な規制を実施し、大規模モデルの「幻想」を適切に許容することを提言した。こうした「幻想」によって引き起こされる一般的な誤りについては、直接的な閉鎖や撤去を避け、企業に自己修正の機会を与え、大胆なイノベーションと自由な競争を促進し、より多くの企業がDeepSeekの成功を「再現」できるよう努めるべきである。

周宏義氏は、過去30年間を振り返ると、わが国の法律や規制は「セーフハーバー原則」を採り入れ、企業のイノベーション投資を奨励し、インターネット産業の繁栄を促し、後の「インターネット+」、そして今日の「人工知能+」に向けた技術、産業、人材の支援を提供してきたと述べた。大規模モデルの開発は国家の運命にとって極めて重要であり、精度への過度の追求によってその創造性が阻害されるべきではない。周氏は、「セーフハーバー原則」の成功例に学び、大規模モデルおよび関連製品・サービスに対して柔軟な規制を実施し、大規模モデルの「幻想」を適切に許容することを提言した。こうした「幻想」によって引き起こされる一般的な誤りについては、直接的な閉鎖や撤去を避け、企業に自己修正の機会を与え、大胆なイノベーションと自由な競争を促進し、より多くの企業がDeepSeekの成功を「再現」できるよう努めるべきである。

「モデル間」アプローチを使用して、大規模モデル アプリケーションのセキュリティ問題を解決します。

周鴻義氏は、大規模モデルのセキュリティに改めて焦点を当てました。DeepSeek-R1のような先進的なモデルは、これまでにない可能性をもたらした一方で、従来のサイバーセキュリティ手法では解決できないセキュリティ上の課題にも直面していると彼は考えています。これに対し、周鴻義氏は、各界が協力して大規模モデル応用のためのより包括的なセキュリティガバナンスシステムを構築し、セキュリティを確保しながら大規模モデル技術の潜在能力を最大限に引き出すよう呼びかけました。

周紅一氏は、オープンソースが大規模モデルの広範な応用につながると考えています。将来的には、様々な専門的大規模モデル、垂直型大規模モデル、シナリオベースの大規模モデルが社内知識ベースに接続され、インテリジェントエージェントの形で多くの政府機関や企業に広く導入され、「デジタルトランスフォーメーションとインテリジェントアップグレード」を促進し、コスト削減と効率向上を実現するでしょう。しかし、大規模モデルには、従来のセキュリティソリューションでは効果的に解決できない、錯覚やコンテンツセキュリティなどの多くの問題があります。政府機関や企業内に導入されているベースモデル、知識ベース、インテリジェントエージェントのいずれかのリンクにセキュリティ上の脆弱性が発生すると、生産環境全体にシステムリスクを引き起こす可能性が非常に高くなります。

周紅一氏は、大規模モデルアプリケーションのセキュリティは、主にベースモデル、知識ベース、そしてインテリジェントエージェントという3つの側面に重点が置かれていると考えています。ベースモデルのセキュリティに関しては、大規模モデルにおける共通錯覚現象、特にテキスト生成時に、現実に即さない情報を出力する可能性があります。これは、政策立案、法解釈、ビジネス上の意思決定といった場面において、誤解を招く結果につながる可能性があります。

ナレッジベースのセキュリティに関しては、政府機関や企業のコアデータ資産は社内ナレッジベースに保存されています。効果的なセキュリティ管理がなければ、権限のないユーザーが大規模なモデルを操作する機会を利用して、これらの貴重なデータリソースを盗む可能性があります。

エージェントのセキュリティに関して言えば、エージェントは通常、政府機関や企業内の様々なITシステム、電子メール、制御システムに接続されています。攻撃を受けると、有害な電子メールの送信から生産ラインの稼働停止、深刻な物理的損害に至るまで、一連の連鎖反応を引き起こす可能性があります。

周鴻義氏は、上記の課題に対応するため、360は人工知能技術を活用してセキュリティ環境を再構築し、「モデルツーモデル」のアプローチを採用して新たな問題に対処していると説明した。同社は、セキュリティビッグモデル技術を基盤として、「ベースモデル - 知識ベース - インテリジェントエージェント」を網羅するフルリンクセキュリティシステムを構築し、政府や企業の「デジタルトランスフォーメーションとインテリジェントアップグレード」を保護している。

この防御システムをさらに強化するため、周鴻義氏は二つの対策を提案した。第一に、セキュリティ技術のイノベーションと研究成果の転換を促進すること。周氏は、関係部門が速やかに支援政策と措置を導入し、「セキュリティ＋人工知能」の包括的なソリューションを備えたサプライチェーンのリーディングカンパニーが、大規模なセキュリティモデル技術に基づく研究開発を行い、人工知能応用に関わる基礎モデル、知識ベース、そしてインテリジェントエージェントに関するセキュリティ問題に対処することを奨励することを提言した。これにより、技術成果の転換が加速され、人工知能応用プロセス全体にセキュリティ要素が深く組み込まれることになるだろう。

一方で、セキュリティ製品の普及促進のため、業界連合を設立します。関連産業チェーンのリーディングカンパニーが主導的な役割を果たせるよう指導し、上流・下流の企業、研究機関、エンドユーザーを広く誘致して、人工知能（AI）大規模モデルセキュリティ連合を形成します。連合内では、技術成果の共有、製品・サービスの共同テスト、そして製品・サービスの成熟・安定化後の市場への展開を推進し、大規模モデルのセキュリティが各界に普及するよう支援します。

サイバーセキュリティ業界の変革に向けては、「セキュリティをサービスとして活用し、業界のジレンマを解決する」ことが推奨されています。

サイバーセキュリティは国家安全保障の重要な要素であり、国がデジタル化とインテリジェント化を進めるにつれて、セキュリティ上の課題は日々増大しています。周鴻義氏は、国家サイバーセキュリティ防衛システムの構築は、大企業や政府機関だけに焦点を当てるのではなく、サプライチェーン、産業チェーン、そしてエコシステムにおける重要なリンクである地方企業や民間企業も同様に重要であると考えています。

しかし、現在のサイバーセキュリティ業界は激しい内紛に直面しており、従来のモデルには多くの問題があります。セキュリティ能力の広範なカバレッジを実現することが難しいだけでなく、企業やその他の顧客がセキュリティ能力を迅速に構築できるよう支援することもできず、国家のサイバーセキュリティリスクを意図せず悪化させてしまう可能性があります。

一方、ハードウェアのパッケージ販売モデルは、企業にとって損失となる状況です。企業は多額の投資を行うものの、成果は芳しくありません。一方、メーカーは多様なカスタマイズニーズに対応するためにコストが高騰し、カスタマイズへの対応に苦慮し、市場拡大を阻害しています。一方、従来のセキュリティソフトウェアは、提供よりもマーケティングを重視しているため、顧客ニーズを満たせないケースが多くあります。SaaS（Software as a Service）は世界的なトレンドとなっています。SaaSサービスは、可視化され、体験型で、安価で、提供とプロモーションが容易なため、企業がセキュリティ機能を迅速に構築するのに役立ちます。クラウドコンピューティング業界の変革はその成功例です。しかし、サイバーセキュリティ業界は依然として従来のシステム統合レベルにとどまっており、セキュリティ環境の要求に追いつくことができていません。

周鴻義氏は、サイバーセキュリティのサービス化を促進するための2つの提案を提示した。第一に、世界的な潮流を踏まえ、ハードウェア製品の購入からセキュリティサービスの購入への移行を促進する。関係部門は、セキュリティサービスの導入を特別補助金制度に組み込み、セキュリティサービスを積極的に導入する企業に財政支援や税制優遇措置を提供し、市場をサービス指向型モデルへと誘導する。第二に、SaaS型セキュリティ製品の購入を奨励し、その利点を活用することで、企業が低コストでニーズに適応し、効果を評価し、サイバーセキュリティ保護レベルを向上させ、国のデジタル化のための強固なセキュリティ基盤を構築することを支援する。