【JIUYOU科技】自古以来人们都喜欢说“目睹为实，耳听为虚”，可是于AI时代真真假假假假真真，也许目睹、耳听皆为虚妄。

前段时间，于抖音等短视频平台上，各类猫狗会措辞、人于空中飞、动物忽然变身为人最先舞蹈等视频很是火爆，吸引了许多网友的存眷。甚至一些不明以是的网友，还有以为这就是真的最先思索究竟是怎么做到的。可是深条理去探究，实在这种视频都是AI所创造出来的，依附着新鲜感及猎奇生理等吸引着一多量受众。

于去年国庆假期时期，短视频平台上呈现了年夜量以小米公司董事长雷军名义发表的犀利言论视频，流量颇高，其范畴更是笼罩了堵车、假期、调休、游戏等热点话题，让不少网友一时分不清究竟是不是雷军本人说的。于本年两会时期，雷军针对于当前人工智能深度合成技能中“AI换脸拟声”的滥用征象，暗示AI换脸拟声不妥滥用成了背法侵权举动的重灾区，易激发加害肖像权、加害公平易近小我私家信息以和诈骗等犯法举动，倒霉在构建“以报酬本、智能向善”的人工智能成长生态。

特别是于近两年时间里，年夜语言模子、文生图年夜模子等蓬勃成长，AI所天生的内容已经经满盈了咱们糊口的各个方面，其利弊也很难被邃密化权衡。哪怕是此刻的学生及教员，也都于借助AI来完成讲授，便当性不问可知。而隐忧就是年夜学生的论文AI味道可能会愈来愈浓，之前于冒死降低查重率，而将来可能就要冒死去降低AI率了。而于视频方面，AI建造视频必然水平上降低了视频建造的门坎，但引来的问题就是滥用，跟着AI的前进已经经有了可以以假乱真的能力。

面临此近况，国度层面也最先脱手了。3月19日，央视新闻报导，人工智能天生合成内容标识措施来了，国度互联网信息办公室、工业及信息化部、公安部、国度播送电视总局四部分结合发布《人工智能天生合成内容标识措施》，将在本年9月1日起正式施行。据先容，《标识措施》重要从立法层面提出治理要求，明确天生合成内容建造流传各主体的责任义务，为促成人工智能技能立异成长，对于详细实行操作不做要求。

AI天生内容要亮明身份。“标识措施”提出强迫添加显式及隐式标识等规范要求，所有AI天生的文字、图片、视频等内容，都要“亮明身份”。专家先容，借助AI天生的文字内容触及模拟或人的话语表达、模拟媒体举行新闻发布，或者者模拟当局部分发布相干通知布告等，都必需举行显式标识。咱们也期待后续政策出台后AI行业的乱象获得整治。

而于此以前，实在手机厂商们也都于踊跃努力成长AI的同时去帮忙用户去鉴别真伪。以荣耀为例，于MagicOS 9.0上推出了AI换脸检测功效，经由过程端侧AI能力，该技能可自立辨认用户视频通话中的画面要素，假如检测到视频内容存于AI换脸，将向用户发出危害提示。其一是可以或许实现视频通话时的AI危害，保障视频通话安全，其二是于直播及短视频场景，YOYO也可以直接举行检测是否存于AI换脸环境，可以很好地帮忙用户辨认危害。于去年的互联网年夜会上，荣耀终端AI换脸检测体系，入选网安协会精评的“人工智能立异运用典型案例（2024）”，遭到了行业的广泛承认。

于OPPO ColorOS 15的最新进级傍边，插手了合针言音辨认功效，该功效可以或许于用户一样平常手机通话、办公集会的App傍边主动检测对于方是否利用了AI合成的语音。假如检测到对于方声音疑似合成，手机通话界面就会提醒“疑似合针言音”，向用户及时提醒危害预警。今朝合针言音辨认功效撑持中文平凡话、粤语、四川话重要方言的辨认。以是于往后通话历程中，假如不确定对于方是否是AI合成的声音，那末ColorOS就能够帮忙到的各人举行辨认，可以或许更好地掩护产业及隐私安全。

华为手机这边为了防诈骗则是推出智能诈骗阻挡，主动辨认阻挡诈骗德律风及短信，帮忙用户率先过滤失诈骗信息；针对于仿冒App的诈骗，华为打造纯净运用市场，严酷审查每一款运用软件，从源头上杜绝假冒伪劣；针对于运用过分索取权限问题，华为推出安全拜候机制，无需授权所有，运用仅可拜候用户选定的数据，没法拜候其他内容，帮忙用户筑牢决定信念安全关。

于小米HyperOS 2中，一样插手了AI反诈功效，可以或许智能辨认敲诈德律风或者换脸视频。通话历程中会弹出“危害提示，本次通话可能存于敲诈危害，为防止资金丧失，请审慎判定是否挂断”，一样可以提高用户的生理防御。

写于末了

于这个一切皆有可能的AI时代，AI付与了千行百业新的增加活气，可是也不停衍生出新的问题，特别是AI诈骗让许多人猝不和防。而这次国度层面的脱手从法例层面将约束AI的任意妄为，而手机厂商们的步履则是从端侧帮忙用户更好地辨别AI诈骗等，来了一次AI与AI之间的匹敌战。咱们作为平凡人，应该于各类内容或者者社交傍边擦亮双眼、双耳，晋升自我辨别能力，莫成为AI诈骗的受害者，也不去做施害者。正向使用各种AI东西，晋升事情及糊口幸福感，才是准确的事儿。

版权所有，未经许可不患上转载