美国国会上的听证会屡见不鲜,从Facebook的扎克伯格到FTX的SBF等,在听证会上无不饱质疑,但如今有了一个例外——OpenAI创始人SamAltman。
5月16日,在美国国会有史以来最引人注目的AI主题的听证会上,OpenAI首席执行官SamAltman备受礼遇,不仅没有被刁难,反而成为了全场的核心话事人,呼吁对AI进行监管,他反复表示欢迎在这个领域立法,并不断提出问题。
硅谷新王正在登基。
本文来自FouderPark,是对Altman在国会发言的总结,以下为全文内容:
只用了不到6个月,ChatGPT就把SamAltman送去了几乎所有科技领袖都得坐上半天的地方。
但是这一次,不同以往,议员们不够辛辣,他们友好,甚至有些尊重。据华邮报道,议员们对SamAltman的态度比以往任何巨头CEO都要好得多。
可惜的是,他们再怎么准备,也追不上狂飙的AI。他们和你我一样,还不能彻底理解OpenAI究竟创造了什么。
在这个逼仄的房间里,SamAltman是那个话事人,他不是在回答问题,而是在定义一切。他定义技术的能力、监管的边界,也定义整个科技世界的未来。
有人说这场监管问询是人工智能新篇章的开始。
他似乎已经想好第一章该怎么写了。
如前文,整场发布会并不是批评OpenAI和SamAltman的AI技术给社会带来的混乱。
相反,议员们拒绝批评OpenAI的技术研发,而是就ChatGPT等生成式AI系统的潜在规则,征求SamAltman和另外两名证人的意见。
这次听证会的主席,参议员Blumenthal用一段录音开场。
「我们已经见过太多次了,技术越过监管,个人数据肆意开采,虚假信息的扩散,以及社会不平等的加剧,我们已经看到,算法加剧了歧视与偏见,缺乏透明度可能会破坏公众信任。这不是我们想要的未来。」
录音结束,Blumenthal说:「如果你在家听会,你可能会觉得刚刚的声音是我的,话是我写的,但实际上,那不是我的声音。」
他用声音克隆软件复制了自己的音色,让ChatGPT以自己的口吻写了一段听证会开场白。
这一举动赢得了大量网友的认可,他们认为国会在积极准备,尝试理解技术本身。
当面对一个很难理解的事物时,人们习惯把它比作自己熟悉的事物。
在整场听证会中,议员和证人把大语言模型比作这样几个东西:
第一部手机、互联网的发明、工业革命、印刷机和原子弹。
「请监管我们」
Altman告诉议员,他最担心的是AI最终会对「世界造成重大伤害」,并承认如果AI没有得到适当的监管,势必会产生不利影响。「如果这项技术出了问题,后果可能会非常严重。」(Ifthistechnologygoeswrong,itcouldbequitewrong.)
马斯克点评这句称:正确的(accurate)。
为此,他认为政府的监管对于帮助确保技术负责任地推广,是非常关键的。
「但他没有提出放慢或者暂停推出AI产品,」华邮记者写道。
议员CoryBooker表示,他最大的担忧之一,是「企业高度集中」,「很少有公司能够控制和影响我们这么多人的生活,而且这些公司正在变得越来越强大,这真的很可怕」。
社交网络,这个与OpenAI关系不大的关键词,频繁地出现在整场听证会中。议员们在Facebook和TikTok之后,就像PTSD一样,疯狂地想要避免socialmedia曾经给他们带来的麻烦。
于是Altman反复强调,AI不是socialmedia,这么干不行。
社交网络给国会带来的另一个麻烦,是对小语种支持的不足,导致美国科技公司被批评「数字殖民主义」。
议员提出了这个问题,担心AI是否支持足够多的语言。
SamAltman表示目前最新版的ChatGPT「已经非常擅长使用大量语言,对于一些小语种,我们很高兴能和一些合作伙伴定制,将该语言纳入我们的模型」。
Altman主张建立一个国际组织,为AI制定标准,他参考世界各国政府管制核武器的做法。
他认为美国应该发起建立一个类似国际原子能机构(IAEA)的组织,为AI行业制定全球规则。
「美国制定一些其他国家需要合作和参与的国际保准,有一些途径是切实可行的,尽管这在表面上看起来是一个不切实际的想法。」他说,「但我认为这对世界来说是件好事。」
1996年美国国会通过230条款,保护在线业务,不用承担用户发帖的责任,这某种程度上促进了社交媒体的兴起。
Altman表示这一条款将不适用于人工智能。
他此前主张建立一套新的针对AI的法律。
Altman提出了一个成体系的有准备的方案:
2、为AI模型建立一套安全标准,对其危险性进行评估;
3、需要独立专家对模型的各个指标进行独立评估。
虽然物理上和Altman是同一边的,但是纽约大学名誉教授GaryMarcus更像是国会的一员。
他的攻击性比议员们更强,提出了几个令Altman非常头疼的问题:
OpenAI口口声声为了全人类,但实际上却和微软商业结盟;
GPT-4的训练数据不透明,他不同意。
这场听证会结束后,Altman还要马不停蹄地与国会AI核心小组作汇报,众议院院长也将主持这场会议。
美国国会听证会是SamAltman系列行程的一部分,他正在进行为期一个月的国际访问,与各地政策制定者讨论技术和监管等问题。
据报道,Altman多年前曾经考虑过竞选加州州长。与政治家们打交道并不是一件令他头疼的事。
Altman在八岁时就开始学习编程。
在他二十多岁的一次和朋友的徒步旅行时,Altman放弃了人类是独一无二存在的信仰。
当谈论到AI的进步时,他承认,「绝对没有理由相信,在大约13年内,我们不会拥有能够复制我的大脑的硬件。确实有一些东西让人觉得能够区分自身与其他的存在,比如创造力、无处不在的灵感闪现、同时感到快乐和悲伤的能力。但计算机也将有自己的愿望和目标系统。当我意识到智能可以被模拟时,我就放弃了我们独特性的想法。」
他在投身AGI之前,是一个彻头彻尾的末日论者。
「我为生存做准备,」他在YC的聚会上说,他指出有两种东西会毁灭人类,生物病毒和人工智能。
身边的创业者们对他的发言感到不适,但他继续说:
「我尽量不去想太多,」「但是我有枪支、黄金、碘化钾、抗生素、电池、以色列国防军提供的防毒面具和一大片位于BigSur的土地可以飞过去。」
因此在上一轮产业AI大热的时期,Altman和马斯克等人一起创办了OpenAI,希望让人工智能超利好人类的方向发展。
他认为,真正的AGI应该做的不只是欺骗,它应该创造,发现理论,创作艺术。AGI应该像儿童一样,花费数年学习所有的东西,OpenAI的使命是照顾这个神童,直到它被世界所接受。
现在神童长大了。
在这之前,当无力负担神童的养护费用时,Altman毫不犹豫地接过了微软的投资。「当他们发现需要更多资金来维持他们认为最有前途的道路时,他们毫不犹豫地选择了改变原则。」
所以说他和马斯克是知己
SamAltman有着多重身份。
他曾是创业公司Loopt的创始人,这家公司在2012年出售给GreenDot,作价4340万美元。
YC创始人PaulGraham寻找继任者时,他看上了Altman。担任YCCEO的时候,Altman28岁。a16z的创始人MarcAndreessen评价他在YC的工作:「在Sam的管理下,YC的野心水平翻了10倍。」
2019年,他创办了加密货币公司WorldCoin。该公司计划使用眼球扫描技术创建一个全球识别系统,该系统可以用于创建一个安全的全球加密货币Worldcoin。
上周,微软宣布与HelionEnergy签署购电协议,将于2028年向其采购电力。
Altman还计划在YCResearch成立一个合成生物学部门,以延缓人类的衰老和死亡。「如果它有效,」Altman说,「你仍然会死,但是等你120岁的时候还活蹦乱跳。」
他正考虑成立一个小组,为人类的继任者做准备,无论是AI还是强化的人类。这个想法是召集机器人学、控制论、量子计算、人工智能、合成生物学、基因组学和太空旅行的思想家和哲学家们,讨论替代人类的技术和伦理。
目前,这些领域的领导者们不定期在Altman家里开会。
OpenAI惊天动地之前,SamAltman被称为「硅谷精英」,但现在,他所到之处,聚光灯跟随。
三月,硅谷银行(SVB)破产,Altman拿出个人资金向发不出工资的创业公司贷款。
在最近一次播客采访中,Altman说,「某种程度上,我们(OpenAI)正在做的事,和其他帮助70亿人的方式没什么不同。」
日前,Altman发言称「远程办公是个错误」,「科技行业最大的错误之一是认为初创公司不需要员工在一起工作」。
这一观点被大量科技和经管媒体报道,轰动了疫情三年来早已普及远程办公的硅谷。
在整场听证会中,SamAltman像过去几十年所有硅谷叛逆的嬉皮士一样,给了议员们一点小小的极客震撼。