大规模数据流转及AI应用中，如何捍卫用户隐私和数据安全？

“人工智能在产业的大规模应用落地，亟需解决安全可信、协作共识、复杂关联分析、存储计算规模爆炸、降低耗能等问题，需要在隐私计算、区块链、图计算、分布式数据库及计算基础设施、绿色计算等AI大规模应用的“根技术”上深耕探索。”

今天，数据已经成为重要的生产要素。此前，中共中央、国务院公布《关于构建更加完善的要素市场化配置体制机制的意见》，要求加快培育数据要素市场，加强数据资源整合和安全保护，特别提出制定数据隐私保护制度和安全生产制度。

“数据安全问题仍然十分严峻，特别是信息恶意获取、篡改、伪造和乱用，成本极低，大规模的数据泄漏时有发生，数据安全应该得到全世界的广泛关注。”9月3日中国科学院院士、清华大学教授王小云在2022世界人工智能大会可信隐私计算高峰论坛上说道。

数据的安全问题也影响着人工智能的发展。蚂蚁集团副总裁、首席技术安全官韦韬认为，人工智能在产业的大规模应用落地，亟需解决安全可信、协作共识、复杂关联分析、存储计算规模爆炸、降低耗能等问题，需要在隐私计算、区块链、图计算、分布式数据库及计算基础设施、绿色计算等AI大规模应用的“根技术”上深耕探索。

他进一步结合实践阐释，这五大挑战分别是：大规模数据流转及AI应用中，如何捍卫用户隐私和数据安全？产业协同中，如何建立信任机制，促进价值创造？大型实体及数据关系中，如何解决结构复杂关联问题？数据量几何式爆炸增长，如何解决存储计算的性能和成本瓶颈？数据爆炸增长，如何降低计算耗能、更好保护环境？

“安全风控领域是天然的开放空间强对抗博弈场景，需要与全球最狡诈的黑色产业团伙做高强度对抗。在这个领域中，目前单纯基于数据驱动的智能体系是无法与之有效应对的。一方面，需要深入研究机器智能与专家智能高效协同的融合对抗智能；另一方面需要加强AI的可信保障机制，包括可解释性、鲁棒性、公平性及隐私保护能力。”韦韬举例称。

韦韬认为，隐私计算、区块链、图计算、分布式数据库和绿色计算，是支撑数字化时代AI大规模应用的五大重要“根技术”。

对于隐私计算，上海市经济和信息化委员会副主任张英特别谈到，“近年来，隐私计算已经从前沿技术落地，成为应用实践的一部分。人工智能技术正朝向卓越、安全和可信的方向发展，技术创新多点突破，多方安全计算、联邦学习、可信执行环境、插分隐私、同态加密的关键技术日益成熟，更加安全，充分对数据要素进行挖掘与利用，实现真正可用不可见场景创新持续推动。隐私计算在政务、金融、医疗等领域中实现落地应用，正向交通、教育等多行业延伸。”

隐私计算正在向规模化落地的阶段迈进。张英表示，未来将继续在城市数字化转型实践探索中形成可信隐私计算的上海方案：

1、完善技术创新体系，依托核心创新科研平台，带动高校、科研院所、科技企业共同发力，加强信息安全的技术攻关，形成可信隐私计算的创新策源体系。

2、建立测评测试体系，加快构建完善可信AI的相关标准，研发创新测试测评技术，推动可信AI测评和产业落地。

3、完善制度规范，加快研究与探索，制定生物信息安全、数据安全，各类隐私安全的法律法规，界定法律边界，明确各主体、各环节的责任和义务。