国家安全在身边丨当AI学会“读心术”，你还安全吗？

一、人工智能安全：人类与代码的“攻防战”
    人工智能安全是指通过采取必要措施，防范对人工智能系统的攻击、侵入、干扰、破坏和非法使用以及意外事故，使人工智能系统处于稳定可靠运行的状态，以及遵循人工智能以人为本、权责一致等安全原则，保障人工智能算法模型、数据、系统和产品应用的完整性、保密性、可用性、鲁棒性、透明性、公平性和隐私的能力。对公众而言，人工智能安全风险主要有以下几个方面：
1.AI工具泄露敏感数据
    AI对话、文字创作等AI工具可收集并存储用户输入的信息，造成个人隐私数据泄露，甚至可能从一些涉密敏感人员数据中推断出敏感信息，相关数据如被境外间谍情报机关收集窃取，将对国家安全构成风险。
2.AI生成并传播虚假信息
    AI可快速生成大量仿真度高的文稿、图片和音视频，部分不法分子利用相关技术进行诈骗或捏造、传播网络谣言和虚假有害信息，可能对公众产生误导，对国家安全和形象造成损害。
3.智能设备遭受网络攻击
    黑客可能攻击智能家居设备和智能网联汽车并掌握其系统权限，通过监听、监视等手段，对通话、行程、周围地理信息等有关数据进行收集分析，造成个人隐私、财产安全乃至国家安全的现实危害。
4.个性化推荐暗藏信息陷阱
    AI推荐系统通过分析用户习惯，个性化推荐形成“过滤气泡”，引发互联网回音壁效应，使受众陷入信息茧房，对个人思想观念等产生影响。境外敌对势力可能利用AI推荐系统对我网民进行舆论引导和意识形态渗透。

二、当AI成为生活中的“隐形犯罪者”

案例一：你的脸，可能正在“流通”！
   2023年，一男子在北京某高校就读硕士研究生期间，利用专业技术盗取全校学生个人信息，包括照片、姓名、学号、籍贯、生日等，并搭建了给全校学生颜值打分的网站。随后，该学生因涉嫌非法获取该校部分学生个人信息等违法犯罪行为，被依法刑事拘留。

案例二：教务处通知？可能是AI诈骗！
    2023年，浙江某高校发生多起AI钓鱼诈骗事件。不法分子事先通过校园墙、二手交易群等渠道收集学生证件照，后冒充学校教务处人员，通过AI换脸视频会议通知学生“激活奖学金账户”，进而诱导转账“手续费”，单日内有4名学生中招，人均损失1.2万元。

三、严防AI风险 我们如何做？

    1. 谨慎对待AI生成的视听内容，在转发网络信息前先多方验证信息可靠性，不做谣言传播者，以官方渠道发布的信息为准。

    2.使用生成式人工智能时要核查事实并注明来源，且AI生成内容只能用于参考，切勿直接复制使用。

    3.在社交平台或AI工具中输入个人信息时应保持警惕，不随意点击陌生信息收集链接。

    4. 若发现AI生成违法内容，如虚假信息、暴力图像时，及时向平台或学校反馈。