2024年7月25日下午，由上海市密码管理局、徐汇区密码管理局指导，上海市商用密码行业协会 （以下简称协会）主办的“2024上海市徐汇区密码应用与创新发展技术沙龙”成功举行。
本次活动以“筑牢密码安全，赋能数字未来”为主题，吸引了徐汇区多家科技企业、行业专家参与，共同探讨人工智能、大模型及隐私计算等新兴技术在密码应用中的融合与发展。
活动由协会秘书长姜建伟主持，上海市密码管理局领导发表致辞。
亚数信息科技（上海）有限公司（以下简称亚数）CEO翟新元出席活动，并进行了主题为“Web3.0环境下AIGC内容安全研究及探讨”的精彩分享。
在分享中，翟新元首先回顾了互联网的发展历程，并详细阐述了内容生产模式的演变。他指出，Web1.0时代的内容生产主要由专业机构（PGC）主导，Web2.0时代则转向用户生成内容（UGC），在当下的Web3.0时代，随着内容消费需求的进一步增长和个性化需求的凸显，人工智能生成内容（AIGC）重塑了互联网的内容生产方式。
“AIGC将带来前所未有的创新和效率提升。这一技术不仅代表了内容生产方式的革新，更是Web3.0时代的关键推动力。”他表示，当下AIGC对人类社会生活的渗透已呈狂飙突进之势，我国AIGC行业发展势头迅猛。据量子位智库的数据显示，2023年中国AIGC产业市场规模约170亿元人民币，预计到2030年市场规模将达到万亿级别。国家也出台了《新一代人工智能发展规划》等多项政策法规以支持AIGC的发展。
但技术的进步往往是一把双刃剑。翟新元强调，我们在看到AIGC对社会生产力带来的巨大推动之外，也需未雨绸缪，充分关注其对社会的多元影响，重视并应对其面临的挑战，如：AI生成内容涉及大量用户数据，增加了信息泄露的风险，如何有效利用和保护数据至关重要；同时，随着AIGC技术在各领域的广泛应用，数字内容的确权和著作权保护变得尤为关键；内容真实性验证也是一大挑战，防止AIGC技术被用于制造虚假信息或误导性内容已变得日益紧迫。
为应对上述挑战，亚数正深入开展前沿研究和重点技术攻关，在有关政府主管部门的领导和支持下，积极推进产学研合作，并联合生态各方，共同制定和完善国内相关标准，促进技术与行业需求的紧密结合。
这一系列举措不仅致力于推进AIGC技术规范化发展，确保其在实际应用中的有效性与可靠性，还旨在构建一个全面的AIGC数字内容安全管理体系，以推动技术的前沿应用和AIGC产业的高水平、健康发展。
在演讲的最后，翟新元指出，亚数的愿景是通过深度协作与前沿创新，为AIGC技术应用的安全性保驾护航，提升其社会价值，驱动AIGC行业长远发展，迈向新高峰。
在本次活动上，来自各界的嘉宾们也纷纷分享了精彩的见解和深刻的观点，为与会者提供了宝贵的行业洞察和实践经验：
精彩演讲回顾
上海市密码管理局领导发表了主题为《商用密码应用与创新发展政策法规介绍》的精彩演讲，针对当前商用密码领域的最新政策和法规进行了详细阐述，并深入探讨了在数字化转型的行业背景下，商用密码技术的应用现状、创新发展，为行业从业者在合规与创新方面提供了宝贵的参考。
上海交通大学网络空间安全学院的王烁副教授分享了主题为《多模态AI模型全流程安全威胁解析--从常规模型到大模型》的精彩内容，从学术视角出发，深入剖析了多模态AI模型在全流程中的安全威胁，同时结合实际案例，探讨了如何在模型设计和应用过程中有效应对这些安全威胁，并提出了一系列前瞻性的解决方案和策略。
来自智巡密码（上海）检测技术有限公司的专家刘军荣以《大模型安全生态与安全检测》为题进行了精彩分享，详细介绍了大模型在应用过程中面临的安全挑战和生态环境中的安全风险，同时从检测技术的角度出发，重点讲解了大模型安全检测的现有方向和技术手段。
来自观源（上海）科技有限公司的数据安全事业部总监杨茏以《大模型数据安全合规和商用密码技术应用》为题进行了精彩演讲。他强调，当下大语言模型已成为驱动各行各业数智化转型的关键力量，但与此同时，大模型的广泛应用也伴随着严峻的数据安全与合规挑战。在此之中，商用密码技术，作为确保数据安全和隐私保护的核心工具，其应用变得尤为重要。
来自上海富数科技有限公司的专家陈立峰发表了主题为《隐私计算合规难题: 数据安全和隐私保护是难点》的精彩演讲。他深入探讨了隐私计算在数据处理中的关键作用，并分析了在数据安全和隐私保护方面的主要挑战。同时详细介绍了隐私计算的技术框架、应用现状与最佳实践，重点讲解了如何在合规的同时保障数据安全与隐私。
来自上海华讯网络系统有限公司的专家田雷发表了主题为《上海市开源治理技术公共服务平台建设》的精彩内容。他详细介绍了上海市开源技术公共服务平台的建设目标、应用场景及其在推动开源技术标准化、提升公共服务效率方面的关键作用。同时探讨了开源治理的实际挑战和解决方案，包括如何实现技术的共享与合作、确保平台的安全性与稳定性。
随着数字经济新模式的快速发展，商用密码在政务、金融、交通、通信、教育等核心领域的需求显著提升，同时在人工智能、云计算、车联网等新兴领域也发挥着越来越重要的作用。这不仅为商用密码行业创造了广阔的市场空间，也带来了前所未有的发展机遇。
亚数期待通过不断深化技术研发与应用实践，推动商用密码在各个领域的广泛应用。展望未来，我们将致力于与各界合作伙伴紧密联手，为商用密码行业的发展提供强有力的支持，助力构建更加安全、智能的数字未来。