生成系AIモデルの進歩により、世界は新たなテクノロジー革命と産業変革を迎えつつありますが、これに伴い、データ・端末の安全性、個人のデジタル主権などの課題が新たな議論となっています。

「ハッカー組織は生成系AIモデルの学習・分析能力を利用し、防御メカニズムへの解析を深め続け、自分の攻撃策略の最適化し、自動的に展開することもできたため、サイバーセキュリティの課題が近年増えています」とネットセキュリティ業界の専門家は述べています。生成系AIモデルの能力が悪意で利用されれば、その安全性への脅威も倍増することは間違いありません。

最近、第六回C3セキュリティカンファレンスで多くの専門家が指摘したように、AIネットワークセキュリティは、従来の防御策を再評価し、AIアルゴリズムによるより隠れた精確的なサイバー攻撃に対応する必要があります。つまり、「AIをもってAIを制し、魔法をもって魔法を破る」ということで、AI技術を用いてAI駆動のサイバーセキュリティ脅威に対処するのです。

中央網絡情報弁公室の網絡安全協調局の二級巡査員の張勝は、「近年、中央網絡情報弁公室は関連部門と共に、『網絡安全法』（ネットセキュリティ法）、『数据安全法』（データセキュリティ法）、『个人信息保护法』（個人情報保護法）、『关键信息基础设施安全保护条例』（重要情報インフラセキュリティ保護条例）などの法規制を相次いで制定しました。また、『網絡安全審査弁法』（ネットセキュリティ審査弁法）や『生成型人工知能管理弁法』などの重要な制度や数百の国家標準を設け、ネットセキュリティの政策法規体系を基本的に構築しました」と述べました。AIとネットセキュリティの深い融合については、ネットセキュリティの人材育成と革新を強化し、データリソースの構築と共有を重視することが求められます。

「データは最も重要な資産となり、生成系AIモデルは現代の製鉄所のように、この時代の『鋼鉄』を鍛え上げています。オペレーティングシステム、各業界の生成系AIモデル、そして『クラウドネットセキュリティ』が新しいデータインフラを構成しています。」と亜信の共同創業者である田溯寧は述べ、データ経済の新時代が世界の新たな競争を引き起こしていると語りました。

生成系AIモデルの機会とリスク

AIは多くの産業のDx化を促進していますが、時代を超越する科学技術は常に正義と悪の間にある二重の刃を持っています。AIの革新を奨励する一方で、その健全な発展を規制し、AIを善なるツールとして利用することが重要です。これは業界で熱烈に議論されているテーマです。

中国工程院の院士であり、清華大学インテリジェント産業研究院の院長である張亜勤は、情報セキュリティの範囲を拡大する必要があると述べました。それには、AIモデルの安全性、データの安全性、パラメータの安全性、そして制御性、説明可能性、AIの境界性などが含まれます。

AIが産業に与える影響について、彼は新しいエコシステムと新しいオペレーティングシステムが構築されていると述べ、生成系AIモデルが人工知能時代のオペレーティングシステムであり、その上に多くの新しい応用の場が生まれると語りました。「汎用生成系AIモデルに加えて、各産業には川上・川下をつながるAIモデルも存在し、このエコシステムはPCインターネットの2桁、モバイルインターネットの少なくとも1桁高いものになります」と張亜勤は述べています。

彼は、AIモデルの能力が非常に強力であり、未来には多くの発展機会を生む可能性がある一方で、多くの潜在的リスクもあると警告しました。例えば、情報インテリジェンスのリスク、AI自体の隠れたセキュリティリスク、制御可能性、信頼性、境界の問題、幻覚の問題、ディープフェイクの問題、そしてAIモデル技術の適用範囲が広がることで発生する失制御や悪用のリスクなどが挙げられます。

張亜勤は、AI大モデルの技術進歩を推進する一方で、予め防止措置を講じることが重要であると提案しました。具体的には、AIモデルを分類し、パラメータの大きいモデルには高いガバナンス要求を設けること、AI生成コンテンツを明確に表示すること、少なくとも30%の投資をリスク研究とセキュリティ保障に充てること、具体的なレッドラインを設定することなどです。

智谱AIの総裁である王紹蘭もC3セキュリティカンファレンスに出席し、「AIモデルは次世代技術として、技術突破と実用化の速度が非常に速く、以前の10倍、100倍にもなり得ます。また、AIモデルがもたらす産業変革も従来の速度の100倍に達することも可能です」と述べました。AIモデルの各業界への応用は線形的ではなく、裂変的であり、先端技術の突破と大規模な応用が並行して進むのは、AIモデルの湧現能力によるものだと彼は述べました。

生成系AIモデルの未来について、王紹蘭は多モーダルが重要なトレンドであり、もう一つの重要なトレンドは大モデルインテリジェントエージェントの能力だと考えています。AIモデルがPDCAサイクルを学び、自分で訓練し、大モデルインテリジェントエージェントが生産力として本格的に機能することになるかもしれません。」

「生成系AIモデルの安全性」と「安全な生成系AIモデル」

AI時代のデータセキュリティ問題に対処するため、業界では二つの並行するアプローチがすでに存在しています。一つは、AIモデルアルゴリズムの安全性に注目することで、アルゴリズムの公平性、解釈可能性、対抗性およびアラインメント（整合性）などの問題に対応することです。もう一つは、AIモデル応用の安全防護技術であり、脆弱性防護、パス検出および応答、エージェントフレームワークの安全性、データ漏洩などの問題に対応し、レッドチームの攻防サービスを提供することです。

AsiaInfoセキュリティ部上級副社長である陳奮氏は、最近AGI（汎用人工知能）技術によって駆動される継続的なネット攻撃とサイバー犯罪の進化について解説しました。彼は、AGIツールが新たな脅威を生成する時間を以前の「数ヶ月」から数時間、さらには数分に短縮したことを指摘しました。また、攻撃者が大モデルを利用してソフトウェアやサービスの脆弱性を迅速に発見するようになり、顔の深層偽造（Deepfake）を用いたネット詐欺犯罪の事例も増加しています。さらに深刻なのは、攻撃者の目標が従来のデジタル資産からAI計算力のインフラストラクチャや他のAIモデルに移行していることです。陳奮氏によれば、AsiaInfoセキュリティの監視によって、わずか1年の間にAIモデルに対する攻撃手段が40種類も出現したといいます。

「サイバーセキュリティの攻防は、従来の人対人の対抗からAI対AIの対抗に進化しており、AI駆動のサイバーセキュリティ防護検出技術だけがAI駆動のハッカー攻撃技術を識別できるのです。」と陳奮氏は述べています。サイバーセキュリティの保護対象も変化しており、今後は企業の資産保護が従来の資産から企業のAIセンターへと進化するとしています。

これに対し、AI業界はすでに行動を起こしています。マイクロソフトは今年5月にMicrosoft Copilot for Securityを正式に商用化し、「ユーザーが機械の速度で防御するのを支援」することを目指しています。グーグルは昨年、クラウドセキュリティ能力センターに応用されたサイバーセキュリティ専用大モデルを発表しました。世界的なサイバーセキュリティの巨人であるPaloaltoとCrowdstrikeは、すでに安全運用プラットフォームに大モデルの安全運用能力を統合しています。AIの波に乗って、Paloaltoは世界初の時価総額1,000億ドルを超えるセキュリティ企業となり、Crowdstrikeの時価総額も昨年から倍増し、1,000億ドルに迫っています。

「中国では、80%以上のサイバーセキュリティ企業がAIモデル技術をサイバーセキュリティ製品に統合しており、30%の企業がすでに大モデルの安全性研究を開始しており、いくつかの安全スタートアップの波も見られます。」と陳奮氏は述べています。アシンセキュリティも例外ではなく、Security for AI計画には新たに開発された計算力クラウドインフラの安全保護、大モデル応用の安全防護、大モデルのレッドチームとブルーチームの対抗テストなどのサービスが含まれています。AI for Security計画は、サイバーセキュリティ業界の垂直大モデルの研究開発とその上で稼働するインテリジェントエージェントおよびセキュリティ応用に焦点を当てています。

AsiaInfoセキュリティは、サイバーセキュリティ業界専用の自社開発AIモデル「信立方」を発表しました。このモデルは、サイバーセキュリティ業界の正確な質問応答、複雑なアラームログの解釈、深層ネットワークセキュリティ事件分析などの専用シナリオに対応することができます。

さらに、国内の他のセキュリティ企業も、安全分野の相関AIモデルの試行を進めており、奇安信はQ-GPTと大モデルガーディアンを、深信服はセキュリティGPT2.0を、啟明星辰などの企業も関連製品を発表しています。

AI技術が急速に発展する中、AIセキュリティの問題は極めて重要です。しかし、OpenAIのような巨頭でさえ、「スーパーアラインメントチーム」が解散したと報じられ、AIセキュリティに十分なリソースと注目を与えていないとされています。その他多くのAI企業は、技術とセキュリティのバランスを取ることに経済的なプレッシャーを抱えています。

注目すべきは、AIセキュリティは選択肢ではなく必須であり、業界はより多くの精力と資金を注がざるを得ないということです。

元記事：AI安全“上强度”：以魔法破魔法