首页小e资讯频道边万莉栏目

ChatGPT带火了一系列GPT产品,AIGC(AIgeneratedcontent,生成式AI)技术逐步走向实用。根据奇富科技对104家中小机构的访谈,64%的受访金融机构认为,GPT产品的能力将有助于提炼信息、整合材料、生成报告,减轻金融机构内部繁重的案头工作。

ChatGPT的面世推动人工智能发展史走到了奇点,但不得不承认的是,同时也带来了风险和挑战。近期包头警方公布的一则诈骗案例,正是利用“AI换脸”实施的诈骗,为各行各业都敲响了安全警钟。

“我们迫切需要重构人工智能信任,在技术上、制度上有效对抗AI虚假,建立防范AI操纵的防火墙,维护数字经济时代的国家安全与金融业安全。”中国银行原行长李礼辉在近日“第八届融城杯金融科技创新案例评选”启动仪式上发言时如是说。

实际上,应对人工智能技术带来的威胁,不仅仅是要依靠制度,更是需要技术公司、监管部门的共同努力。此外,个人也应当树立信息安全意识,谨防上当受骗。

金融机构对GPT产品的需求方向

前不久,奇富科技就金融机构对于GPT产品的需求,对104家中小金融机构进行访谈。92%的金融机构一致认为,标准化程度越高,AI可替代性就越强。与其坐等被替代,不如寻求主动出击。从调研结果看,金融机构对GPT产品的需求主要集中在三个方面,即改善用户体验、辅助风控决策、资料查询与信息提炼。

数据显示,72%的受访金融机构相信,通过使用自然、流畅、个性化语言的GPT产品,可以有效缓解客户情绪,降低客户投诉率。67%的受访金融机构表示,他们需要一款能够全面、准确地解读征信报告的GPT产品,以提高信贷人员的工作效率和精准度。64%的受访金融机构认为,GPT产品的能力将有助于提炼信息、整合材料、生成报告,减轻金融机构内部繁重的案头工作。

某南方农村信用社联合社科技负责人表示:“我们认为客户对话是非常重要的一环,特别希望有一款能够生成自然、流畅、个性化语言的GPT产品,能满足客户问题解答及处理,同时又能纾解客户情绪,提升客户体验和满意度,减少客户投诉率。”同时,他也指出,机构也会相当重视对话内容的合规性、安全性、可信度和逻辑性,“如果GPT无法解决问题处理操作的准确性,我们将会选择仅回答问题,在操作环节再跳转人工复核。”

某南方城商行副行长表示:“我们在数字化转型的过程中迫切需要一款优秀的GPT产品,来提高其业务的效率和质量。GPT能够快速查询专业领域资料,提炼核心信息。当然,AI提供的信息有些需要深入考究真实性,但是GPT肯定是未来金融业务发展的趋势。因此,我们一定会加紧研究和选择GPT产品,以适应市场的需求并提高自身的竞争力。”

李礼辉认为,ChatGPT的面世推动人工智能发展史走到了奇点,是人工智能的迭代升级,标志着数字技术的某种变局,将会带来新的冲击和挑战。

一是在算力竞争上面临挑战。金融领域中,智能化的信用评估、客户筛选、风险定价、数字员工等方面无不需要数据和算力的支撑,算力很大程度上决定金融业的竞争力。算力的竞争,今后是科技巨头、资本巨头之间的竞争。我们需要探讨如何构建一个既能占领全球技术高地、又能避免垄断的国家级算力基础设施;如何构建一个资源可共享、商业可持续、监管可包容、金融机构和科技公司可受益的金融算力生态圈。

二是AI合成与信任面临挑战。深度内容合成模糊了真实与虚假的边界,最新的深度合成算法可以对抗通用的技术性的甄别,人们开始担忧AI虚假与AI操纵对社会构成的威胁。低级别的AI虚假用于诈骗、诋毁个人及企业名誉;高级别的AI操纵有可能用于诋毁政治人物或政权实体操控负面舆情、制造政治恶意、激化社会矛盾。

“AI换脸”诈骗敲响安全警钟

郭先生在视频中看到的朋友面孔和声音难道是假的?确实是假的。随着AIGC技术的大爆发,普通人接触到各种先进生成工具变得不费吹灰之力,制作出越发难以识别的高质量deepfake视频也越来越容易,想一眼识破这些造假内容就更困难。

5月24日,中国互联网协会发布提醒:伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。

包头警方通报的案例中,不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,通过AI换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。

据度小满数据智能部总经理、度小满技术委员会执行主席杨青介绍,在金融行业,由deepfake产生的主要欺诈行为就是身份欺诈,也就是通过深度伪造的虚假图像和视频,来冒充他人身份,骗过金融信贷流程中的身份核验系统(包括活体检测)。不法分子的欺诈方法其实也很简单,就是先通过劫持root或者缓存文件注入等形式劫持手机的摄像头,不让它进行真实采集。然后上传提前准备好的虚假证件信息(或经过篡改处理,或直接从黑产处购买)和通过深伪技术/AIGC技术生成的人脸样本了。如果系统恰好没有检测出来,盗刷和恶意注册就可能随之而来,给金融机构和用户造成不易挽回的经济损失。

当前应对AI诈骗的探讨与实践

有数据显示,国内主要金融机构及互联网公司应用的人脸验证流程,70%以上存在被绕过的风险。在全球范围内,也有快接近一半(46%)的企业遭受过合成身份的欺诈,有高达90%的受访企业认为这种行为已日益严重。

“新技术发展到现在这个阶段,我们迫切需要重构人工智能信任。需要探讨的是如何在技术上和制度上有效对抗AI虚假,如何建立防范AI操纵的防火墙,维护数字经济时代的国家安全,当然也要维护数字经济时代金融业的安全。”李礼辉如是说。

实际上,已有公司在破解deepfake视频上有所研究和实践。杨青告诉记者,一般来说,行业各家公司在破解deepfake视频上采取的思路和以上所讲差别不大。以度小满为例,用防深伪检测模型破解造假视频,防深伪攻击的算法策略主要从三方面的破绽入手。

具体来看,一是生成瑕疵,比如,眨眼频率不正常、瞳孔形状不规则、牙齿有缺陷,大到口型与声音不吻合,肢体动作与演讲内容不协调……二是固有属性,指的是生成工具、摄像头光感元件固有的噪声指纹。由于单一特征难以适应复杂的deepfake内容,因此检测模型的整体框架采用的是多特征融合,以此来保证决策的鲁棒性。三是高层语义。它指的是检测面部动作单元(肌肉群)协调性、面部各区域朝向一致性、视频微观连续性等方面的问题,由于这些细节建模困难、难以复制,很容易抓到把柄。

应对滥用AI技术进行诈骗,人工智能科技公司、监管部门均需发挥应有的作用。张巍认为,对于人工智能科技公司而言,一方面发展技术,另一方面也要对技术进行迭代,避免技术所带来的道德风险;对于监管,期望能够从行业秩序方面给予支持和规范,保障技术良性发展,为社会带来帮助。

THE END
1.关于开展人工智能赋能高等教育人才培养系列师资培训的通知为深入贯彻落实党的二十届三中全会和全国教育大会推进教育数字化有关战略部署,推动人工智能赋能人才培养创新,加快构建数据驱动、人机结合、跨界开放的人工智能赋能高等教育人才培养新生态,现决定按照理工农医文分学科组织开展我校教师人工智能教学能力线上线下培训。现将有关事项通知如下: https://www.btmc.edu.cn/yxyxxzz/info/1042/21202.htm
2.精选北京人工智能培训机构人气榜单,推荐这些机构随着科技的进步和人工智能的快速发展,人工智能培训机构在市场中的需求日益增加。特别是在北京,教育机构不断涌现,力求为学员提供高质量的人工智能技术培训。为帮助有意向学习的学员选择适合的机构,我们依据机构的师资力量、课程设置、学员评价等标准,评选出了北京人工智能培训机构的人气排行榜。这些机构凭借专业的课程内容和http://www.liyahui.com/exam/11728.html
3.机构简介人工智能 目前搞嵌入式的好似好多可是人工智能貌似有难度 请各单位在9月10日前将加盖单位公章和负责人签字的初赛NOIP报名表报送到包头市科学 深圳少儿编程培训机构有哪些? 好像在南山软件园那边有个魔爪营少儿创意编程,上周末侄子去上了他们的体验课,还有机器人,好像蛮好玩的,回来都吵着要再去。 https://m.zysm.cn/school-35525/about.html
4.包头本地口碑好的少儿编程培训机构名单今日榜首一览包头本地口碑好的少儿编程培训机构名单今日榜首一览——包头童程童美专注3-18 岁少儿编程教育及服务,形成了以乐高创意启蒙课程、人工智能编程、智能机器人编程、信息学奥赛编程等课程体系为核心,集外大型科技赛事、少儿考试认证想要更多了解可以留言或者致电咨询详情! http://www.qiuxue360.com/news345695/
5.内蒙古电脑培训班内蒙古计算机培训机构聚培教育网汇聚了大量专业的内蒙古电脑培训机构招生简章,提供内蒙古电脑培训学校学费、近期开班时间等信息免费查询及咨询服务。https://www.jupeiedu.com/neimenggu/course/c622.html
6.11月16日包头教育简讯,你想了解的都在这儿为加快东河区校外培训治理整改工作进程,推动全区校外培训机构规范、有序发展,11月8日,东河区教育局召开校外培训机构综合治理推进会,再次调度全区校外培训机构治理整改推进情况。 东河区教育局副局长孙浩、民政局副局长李在科出席会议并讲话,民办教育管理办公室主任兰堃主持会议,经教育局审批注册的培训机构和无证校外培训https://dy.163.com/v2/article/detail/E0O320FM0516UFR7.html
7.包头市昆都仑区“十四五”数字经济发展规划包头市、昆都仑区两级政府对数字经济工作高度重视,建立了多项协调统筹工作机制,组建推进工作机构,落实统筹协调,抓好顶层规划,出台多项政策,大力发展数字经济。 市级层面上,包头建立了数字经济工作联席会议制度、数字经济发展重大事项会商机制、数字经济发展重大事项报告制度、数字经济发展专家咨询机制、数字经济发展工作联络https://kdl.gov.cn/detail/cid/1661/aid/113900
8.包头十大python作品集辅导机构排名精选名单出炉资讯标题:包头十大python作品集辅导机构排名精选名单出炉 包头python信息 包头青山区先锋道街道少儿编程培训学校是包头青少儿教育品牌,形成了以乐高创意启蒙课程、人工智能编程、智能机器人编程、信息学奥赛编程等课程体系为核心,集国内外大型权威科技赛事、少儿资格认证考试、科技主题的国内外游学、冬夏令营、创客实验室搭建等http://m.veryxue.com/21-0-2831058-1.html
9.包头机器人公司校长大专规模50培训/培训机构/培训学校 教育科技 机器人 机器人教育 薪酬区间: 2-20K,其中 61.6% 的岗位拿 ¥4.5-8K/月 5.7% 2-3K 6.1% 3-4.5K 32.3% 4.5-6K 29.3% 6-8K 13.8% 8-10K 5.7% 10-15K 2.7% 15-20K 说明:包头机器人一个月多少钱?数据统计依赖于各平台发布的公开薪酬,仅供参考。 包头机器https://www.jobui.com/salary/baotou-xiaochang/edu1/ind-jiqiren/size3/
10.216道!全国5月份各地各考试面试真题汇总!松刀鱼2023年5月29日上午内蒙古自治区包头市市直事业单位面试题(第六组) 1、随着人工智能的迅猛发展,诈骗团伙的诈骗手段也越来越科技化,竟然用上了AI换脸技术。近日包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。AI诈骗正在全国爆发的话题冲上热搜第一,引发https://www.shangyexinzhi.com/article/9666478.html
11.包头少儿机器人兴趣班呼和浩特机器人培训包头少儿人工智能 包头机器人教育课 包头机器人儿童培 包头机器学习培训 包头幼儿编程 包头少儿学编程 包头少儿机器人编 包头少儿编程学什 包头机器人培训机 包头少儿学编程机 包头青少儿机器人 包头儿童机器人教 包头专业机器人培 包头儿童智能机器 包头机器人教育培 包头儿童编程课 包头青少年计算机 包头少儿编程多少https://m.thea.cn/px329_huhehaote_13476109.htm
12.化工设备管理员先进事迹14篇(全文)三、公司坚持以“安全责任重于泰山”为指导,做到人员落实,制度落实,机构落实,责任落实,经费落实,加大安全硬件设施投入和特种作业人员的培训取证工作,全年未发生轻、重伤和死亡事故。由于公司领导重视并亲自抓该项工作,落实和解决工作中存在的问题和困难,在经费上保证了该工作的正常运转。特别在企业科技兴安中,下大力推广https://www.99xueshu.com/w/file3vqopuj8.html
13.拆分模式(精选七篇)对于切割好的数据包, 再加上4个字节的包头信息, 使之形成一个完整的数据包, 该数据包经过标准包接口 (Interlaken接口) 发送至包交换芯片进行交换。 在数据包的生成过程中, 每次取出64位 (8个字节) ODU2数据, 由于数据包的大小为109±1字节, 并不是8的整数倍, 因此每个数据包最后一次取出的8个字节数据可能https://www.360wenmi.com/f/cnkeyc4at8rj.html
14.每日热点0710ChatGPT让我们见识了通用人工智能模型的厉害——它上知天文下知地理,各行各业的知识都能对谈如流。但这并不意味着,所有的人工智能模型都要以更大的规模、覆盖更多领域为目标。在垂直细分领域,将人工智能模型做得足够专业,从而使其在医学、教育、工业等领域的实际场景得到深度应用,同样具有重要意义。因为这将https://sccdc.cn/Article/View?id=31414
15.新华每日电讯微报纸中国愿与各国一道,推动人工智能更好服务全球发展、增进人类福祉,共同走向更加美好的智能未来。李强提出三点建议:一是深化创新合作,释放智能红利。促进技术联合攻关、数据跨境流动、设备自由贸易和设施互联互通,加强基础研究和人才交流合作,共同维护产业链供应链安全稳定,推动创新成果不断涌现、产业发展持续突破、智能红利更http://mrdx.cn/h5/mrdx/content/20240705/PageArticleIndexLB.htm
16.内蒙古星图人工智能科技有限公司(内蒙古自治区包头市昆都仑区内蒙古星图人工智能科技有限公司的地址为内蒙古自治区包头市昆都仑区园区创业科技园办公大楼11号工位,位于内蒙古包头昆都仑区,内蒙古自治区包头昆都仑区少先31号街坊社区,内蒙古包头昆都仑区钢三十八号街坊社区居委会,注册于2022年3月7日,法人是苗鑫,主要业务范围为一https://gongshang.mingluji.com/neimenggu/name/%E5%86%85%E8%92%99%E5%8F%A4%E6%98%9F%E5%9B%BE%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E7%A7%91%E6%8A%80%E6%9C%89%E9%99%90%E5%85%AC%E5%8F%B8
17.深圳市雄帝科技股份有限公司4 释义项 公司/本公司/雄帝科技 《公司法》 《证券法》 《公司章程》 雄帝智慧 雄帝信安 包头一卡通 城硕科技 蓝泰源 会计师/审计机构 深交所 报告期 元/万元 智能证卡 身份识别 身份证件 电子护照(ePassport) 电子身份证(eID) ICAO NFC AI/人工智能 深圳市雄帝科技股份有限公司 2022 年年度报告全文 释义 https://www.szse.cn/api/disc/info/download?id=89c7a255-1649-4b31-bfb0-a938db7c7aec