英企难掌握海外AI数据流向

一项调查表明，英国多数大型企业并不清楚本公司的敏感数据在海外被人工智能系统处理时究竟会如何使用，折射出这项快速演进技术所带来的潜在风险。

这项研究面向英国营收超过1亿英镑企业的高级技术和数据负责人，结果显示，61%的受访者无法完整掌握数据在海外的处理路径。报告称，这一难题尤其让企业董事会感到头疼。

Harbr Data 的调查显示，接近四分之三的受访者表示，数据经由人工智能系统流出英国的频率至少每周一次，其中三分之一称几乎每天都会发生外流。

在较轻的情况下，数据处理地点和方式不够透明，可能引发监管合规问题，尤其涉及数据隐私、存储地点要求以及安全隐患。

若情况严重，则可能造成数据泄露，甚至被恶意利用。

英国安全通信平台 Element 的首席执行官兼联合创始人马修・霍奇森表示，外界对数据治理机制似乎知之甚少。

他指出，真正的风险在于，人们随意复制并粘贴文档或机密信息，这些内容随后可能被拿去训练模型，并出现在他人的输出中，类似事件此前已经造成过严重后果。

2024年8月，研究人员披露，热门通讯平台插件 Slack AI 存在漏洞：恶意指令被植入公共频道后，可操控人工智能访问并汇总私密频道的数据。

Slack 当时回应称，没有发现该漏洞被积极利用，也没有证据表明客户数据遭到未授权访问。

今年2月，微软证实，Microsoft 365 Copilot 的聊天功能存在程序错误，可能处理并汇总邮件内容，即便邮件被标记为机密也不例外。

在 Harbr 的调查中，半数受访者认为，监管不足可能使企业违反国际法规；36%的人提到罚款或调查风险，35%的人则担忧地缘政治风险。

当个人数据在来源国以外被处理时，比如从欧盟转移到其他司法辖区，相关活动必须遵守严格的法律框架，通常还要配套特定保障措施。

作为全球数据监管最严苛的地区之一，欧洲以外人工智能系统的数据管理可信度明显下降。70%的受访者对英国的数据管理有信心，62%对欧盟有信心，而对北美和亚太地区有信心的比例分别只有31%和12%。

人工智能集成公司 Jitterbit 的首席执行官比尔・康纳表示，人工智能模型的训练数据或底层软件来源往往并不透明，尤其在接入开源组件时，这类系统的核心代码和模型风险更高。

他说，很多人以为托管在美国云数据服务商 AWS 或 Azure 上就足够安全，但真正需要关注的是，这些模型是否仍会与原始模型保持关联。

分析人士预计，随着监管压力不断加大，到2027年会有更多企业转向区域专属的人工智能系统。

Harbr 公司的安东尼・科斯格罗夫表示，如今大量关键业务流程都依赖人工智能，并与这些工具进行数据交互。这不仅关乎数据流动和数据主权，也关系到建立在数据流动之上、并依赖数据流动运行的业务流程。