AI拿枪指着你，怕不怕？

人工智能（Artificial Intelligence，简称AI）发展迅速，在生活、工业、科研等领域得到了越来越广泛的应用。然而，AI在带来巨大社会经济效益的同时，是否隐藏着潜在风险？AI系统的开发是否可以确保人类信息的安全与可控？AI的发展一定会带来积极的影响吗？

带着这些疑问，文档君与大家一起了解一下AI及AI安全。

01、AI及AI安全

AI是指研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的技术科学。机器人、语言识别、图像识别、自然语言处理和专家系统等都是属于该领域的研究范畴。简单来说，AI可以模拟人的意识、思维过程，使机器能像人、甚至超过人一样思考。但在AI的研究过程中，AI技术的滥用、AI系统的失控等问题也可能会带来潜在的风险。试想一下以下场景如果发生，我们该怎么办呢？

骗子通过智能AI换脸和拟声技术，佯装好友对你实施了诈骗。其本质是AI 应用内容过滤机制不完善造成不良信息传播。

AI应用一般会对交互内容做过滤策略。然而，由于多媒体内容识别技术不足、监控策略不完善、无法对生成内容进行“前置审核”等原因，过滤机制会被绕过，导致传播内容中存在涉及政治、诈骗、身份伪造、涉黄等不良信息。

你的孩子利用AI应用代写作业、协助作弊、代写文章。

科学家研究的机器人突然失控，攻击人类。

威胁行为者向AI研究模型中注入恶意数据，进而导致模型对数据进行错误分类并做出错误的决策。AI产生不良信息内容易误导或诱导用户做出错误的判断或决定。恶意行为者可以使用语言模型来生成垃圾邮件或虚假信息，影响公众舆论和用户认知。

黑客入侵某大型科技公司，利用AI系统来破坏一个公司的业务运作、盗取数据。例如：ChatGPT自动生成代码的能力，在帮助我们的同时也给黑客打开了新世界的大门，让他们能够更为便捷地设计、编写和执行恶意代码与指令。

更有甚者，AI平台通过收集个人信息进行画像分析，获取到国家或军队涉敏人员，再通过诱导或黑客技术等方式获取其设备上的涉密信息或情报，辅助军事决策并应用于军事打击。

无论哪种情况发生，人类都将付出极大的代价。因此，AI业务的健康运行需要投入严格的安全保障，关注并投入AI安全，迫在眉睫。在众多国家中，英国在AI安全上扮演者重要的角色。2023年11月2日，英国首相苏纳克宣布成立全球首个人工智能安全研究所，并举办了首届全球人工智能安全峰会。

会上，包括中国、美国、英国、欧盟在内的28个国家和地区签署了《布莱奇利宣言》，承诺以“安全”“以人为本”“值得信赖”和“负责任”的方式设计、开发、部署和使用人工智能。

02、为什么要关注AI安全？

除了上述文档君提到的被恶意滥用带来的风险外，AI自身融合的深度学习、自然语言处理等新技术也存在着一定的安全漏洞，包括数据安全、算法安全和多种技术的组合带来平台及供应链安全风险。这些风险包括：

数据安全风险：用户在AI应用中不经意间输入的个人隐私数据，经过训练可构建出用户画像。而数据的归属权、控制权与使用权等问题目前在法律上无法界定，存在个人隐私信息泄露风险。

算法安全风险：算法存在被欺骗、攻击的风险，从而使模型产生错误的预判甚至是误导性的结果，易导致用户人身伤害或权益损失，且责任无法定位与追溯。

平台及供应链安全风险：AI平台系统存在通用的网络安全风险，如算法后门嵌入、代码安全漏洞等。

03、如何增强AI安全呢？

AI安全至关重要，不是某个人、某个层面的事，需要全社会的共同参与。增强AI安全，我们目前看到了以下几个方面的努力。

国家层面

制定并落实人工智能国家战略，以应对日趋激烈的国际竞争。2017 年，国务院发布了《新一代人工智能发展战略》，“十四五”规划和二十大报告里面均提到了发展人工智能的规划。推动现有法律法规向人工智能领域延伸适用，如《网络安全法》《数据安全法》《个人信息保护法》《反电信网络诈骗法》等法律在AI领域的延伸适用。利用法律法规，强化AI滥用法律约束。

产业层面

强化 AI 技术及算力网络赋能 AI 大模型的发展，提升软硬件实力，实现高端芯片与 AI 框架自主可控。AI 应用需要海量的训练数据和强大的算力作为支撑。充分发挥我国在大数据和算力方面的优势，二者的结合有助力实现 AI 核心能力的自主可控。高端芯片方面，与国际领先芯片企业相比，国产芯片还未具有竞争力，需要持续研发和攻关。

公众层面

强化安全宣传利用传统媒体和新媒体平台等多渠道进行宣传，帮助公众提升AI风险识别能力。提升防范意识谨慎提交个人信息及企业数据，防范AI应用窃取个人隐私、误导诱导有害言论等风险。在社交媒体平台中限制个人信息的分享，避免过多地谈论工作、家庭或其他敏感信息。不要随意连接未知的WiFi网络，避免在公共Wi-Fi网络上进行任何敏感操作。

04、AI安全——科技向善

合理使用AI技术，推动科技向善发展，需要多方面的努力投入。“摸着石头过河”将促使我们更加谨慎地在AI研究的道路上稳步前进。

文档君相信，AI技术发展的同时，有安全措施为其保驾护航，前途必将一片光明~