Gartner预测到2027年，跨境GenAI滥用引起的AI数据泄露比例将达到40%

发布时间：2025-11-05 12:16:55 来源：创站工坊 作者：人工智能

Gartner预测，预引起到2027年，年跨跨境生成式人工智能（GenAI）引起的境G据泄AI相关数据泄露比例将超过40%。

GenAI在终端用户中的滥用露比例普及速度已超过了数据治理和安全措施的发展速度，而支持这些技术所需的预引起集中算力引发了对数据本地化的担忧。

Gartner研究副总裁Joerg Fritsch表示：“由于监管不力，年跨常常会发生意外的境G据泄跨境数据传输，尤其是滥用露比例当GenAI被集成到现有产品但却没有明确的说明或公告时。企业注意到员工使用GenAI工具创作内容的预引起变化。虽然此类工具可用于经过批准的年跨业务应用，但如果它们将敏感提示发送到托管在未知位置的境G据泄AI工具和 API，就会产生安全风险。滥用露比例”

缺乏全球统一的预引起AI和数据治理最佳实践与标准，导致市场碎片化，年跨企业不得不制定针对特定地区的境G据泄战略，这加剧了企业所面临的挑战，网站模板这可能会限制企业在全球扩展业务和从AI产品与服务中获益的能力。

Fritsch表示：“本地化AI政策增加了管理数据流和保持质量的复杂性，而这会降低企业的运营效率。为了保护敏感数据和确保合规性，企业必须投资于先进的AI治理和安全性。这一需求可能会推动AI安全、治理与合规服务市场的增长并促进提高AI流程透明度和可控性的技术解决方案的发展。”

Gartner预测，到2027年，全球所有主权AI法律法规都将要求企业落实AI治理。

Fritsch表示：“如果企业无法整合所需要的治理模型和控制措施，就会处于竞争劣势，尤其是缺乏资源快速扩展现有数据治理框架的企业。”

为了降低AI数据泄露风险，尤其是跨境GenAI的滥用风险并确保合规性，Gartner 建议企业采取以下战略行动：

加强数据治理：企业必须扩展数据治理框架并加入关于使用AI处理数据的准则，亿华云确保遵守国际法规并对意外的跨境数据传输进行监控。为此，企业需要将数据沿袭和数据传输影响评估纳入常规隐私影响评估。

成立治理委员会：成立委员会加强AI监督，确保AI部署和数据处理的沟通透明。该委员会需要负责技术监督、风险和合规管理以及沟通和决策报告。

加强数据安全性：使用先进技术、加密和匿名化保护敏感数据。例如，验证特定地理区域的执行环境是否可信并在数据必须离开这些区域时使用差分隐私等先进的匿名化技术。

投资TRiSM产品：为专为AI打造的信任、风险和安全管理（TRiSM）产品与功能规划和分配预算，包括AI治理、数据安全治理、提示过滤和编辑以及非结构化数据合成生成。Gartner预测，到2026年，采用AI TRiSM控制措施的企业将减少至少50%的不准确或不合法信息，并因此减少错误决策。

相关文章