一、什么是人工智能?
人工智能(AI)是一种模拟人类智能的技术,它通过学习、推理和自我修正来执行各种任务。生成式人工智能技术则是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术,可以利用机器学习模型,通过对大量数据的学习来理解并创建新内容。
目前人工智能技术被广泛应用于汽车的自动驾驶、电商直播、搜索聊天等领域。
二、人工智能的治理
2023年10月18日,中国政府发布《全球人工智能治理倡议》,绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。倡议:
一一发展人工智能应坚持"以人为本"理念;
一一发展人工智能应坚持"智能向善"的宗旨;
一一发展人工智能应坚持相互尊重、平等互利的原则;
——坚持公平性和非歧视性原则;
一一坚持广泛参与、协商一致、循序渐进的原则。
《生成式人工智能服务管理暂行办法》自2023年8月15日日起施行。该办法突显了中国特色的人工智能治理之道,为世界人工智能治理贡献中国智慧,鼓励生成式人工智能创新应用;强化风险治理,突出分类分级监管;强调个人信息保护、知识产权保护;明确生成式人工智能服务提供者的内容安全主体责任。
三、生成式人工智能带来网络安全风险
但人工智能技术的发展也给骗子们提供了可趁之机,诈骗手段不断更新。
n 利用人工智能技术进行诈骗:诈骗分子通过AI换脸、拟声手段,伴装亲属或好友拨打视频电话,博取信任后,谎称急需资金周转等实施诈骗。
n 利用人工智能技术编造谣言:违法行为人往往为了博取流量获得收益,利用AI软件输入关键词生成谣言文章并对外发布,引发大量网络关注,造成不良社会影响。
n AI换脸直播带货:有直播间利用AI换脸技术"以假乱真"实现"明星"代言,来增加流量,提高销量。
四、加强个人防范意识
n 保护个人信息:不在社交平台随意发布身份证、家庭住址、车票等涉及个人信息的影像资料。不将自拍照等个人照片发给陌生人。
n 不透露密码:为银行卡、网上银行、手机银行设置复杂程度较高的密码,不向任何人透露或转发短信验证码或其它形式动态密码。
n 官方渠道办业务:办理银行信用卡及额度提升等业务,一定要通过银行官方平台等可靠渠道进行申请。在网购平台办理退款、退货要通过官方App渠道。
n 加强对电话、短信或社交媒体信息真实性甄别:尤其在接到涉及钱款的电话、语音或视频时,要通过挂断当前通话,主动拨打联系人或官方客服电话等方式确认。也可以让视频中的人做一些些复杂动作,比如张大嘴巴、扮鬼脸、用手在人脸前来回摆动等,以观察人脸是否出现形变。
n 下载和使用手机应用程序:在手机官方应用商店下载App,避免色从未知渠道下载。网购退款等操作一定要通过官方App进行,电商物流客服人员说要给你私下汇款的很可能是诈骗。
风险提示:本文件来源于2024网络安全知识宣传手册。未经原著作权人书面许可,任何机构和个人不得以任何形式转发、翻版、复制、刊登、发表或引用。
本文件所提供之任何信息仅供阅读者参考,既不构成未来本公司管理之基金进行投资决策之必然依据,亦不构成本公司对阅读者或投资者的任何实质性投资建议或承诺。本公司并不保证本文件所载文字及数据的准确性及完整性,也不对因此导致的任何第三方投资后果承担法律责任。基金有风险,投资需谨慎。