生成式人工智能作为新一代技术引擎,可通过学习海量数据生成文本、图像等内容,已广泛应用于智能办公等领域。然而,其强大的生成能力与数据依赖性,也构成了安全风险的根源。为积极响应国家网络安全宣传周号召,9月18日,市公路事业发展中心举办“生成式人工智能安全”专题培训,带领全体职工共同探索AI技术的安全边界。
培训中,授课老师重点剖析了三大核心风险:一是内容生成风险,深度伪造技术可能制造虚假音视频,引发信任危机;二是数据隐私风险,敏感信息在模型训练与交互中面临泄露威胁;三是技术滥用风险,AI可能被用于编写恶意代码或钓鱼攻击,加剧网络安全威胁。同时,老师还提出多维应对之策:利用内容鉴伪技术精准识别虚假信息;强化全生命周期数据防护,筑起隐私安全屏障;提升模型鲁棒性以防御对抗攻击;同时严守合规约束,确保技术在法治与伦理轨道内运行。
培训落幕,责任在肩。参训人员纷纷表示,今后将把所学内化于心,在日常工作中审慎、理性地应用生成式AI,严守数据安全底线,构建清朗、安全的数字办公环境。