首页 > 资讯 >

当前速看:GPT-5不能停!吴恩达田渊栋反对千人联名,OpenAI CEO也发声了

2023-03-30 17:02:15 来源:量子位
Pine 发自 凹非寺量子位 | 公众号 QbitAI

千人联名要求“暂停巨型AI实验”在网上经过一天的发酵,各方声音都已经涌现出来。

继LeCun之后,吴恩达、田渊栋等一众AI大牛也发文公开反对“千人联名”。

吴恩达表示,在GPT-4出现之后要求AI训练暂停6个月是很可怕的事情:


(资料图)

它(GPT-4)在教育、医疗保健、食品等领域都有很多新的应用,这将帮助许多人。

随后田渊栋也转发并附议,称“我不签暂停令”,并将AI的发展比作囚徒困境

一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。应该换个角度继续向前看,更好地理解 LLM,适应它并利用其力量,感受热度。

在吴恩达的帖子下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan也都表示赞同。

对于这个暂停令,还有一些领域大佬“妙语连珠”,直接yygq了起来:

本特利学院的数学教授表示,那既然这样,我呼吁暂停碳排放6个月,这样我们就可以在此期间解决气候变化问题。

谷歌大脑的高级研究员Yi Tay直接调侃,如果是把那些在网上胡乱讨论大语言模型(LLM)的人禁言6个月,我会签的。

而处于这场讨论中心的无疑是OpenAI,CEO奥特曼今早也发了一条“展望未来AGI”的推文,疑似对昨天这场风波做出回应:

一个好的AGI应该具备这三个特点:1、对齐超级智能的技术能力;2、大多数领先AGI之间的充分协调;3、一个有效的全球监管框架。

“潘多拉的魔盒”已经打开

在吴恩达的帖子里,除了上面提到的应用价值外,他还从竞争、风险以及AI发展的角度详细阐明了“为什么要反对暂停令”。

首先是竞争方面,让第三方暂停他们不了解的新兴技术是反竞争的,树立了一个可怕的先例,是糟糕的创新政策。

然后是AI风险,目前很多流媒体平台渲染的“AI公司疯狂发送不安全代码”是不正确的,绝大多数AI团队都十分注重人工智能的安全问题。

最后再回到“6个月暂停令”本身,这并不是一个非常切实可行的建议,是在扼杀AI进步。

要提高人工智能的安全性,应该是在安全方面进行更大的投资,有关透明度和审计的规定将更加切实可行。

对此,有网友也同样聚焦“6个月的暂停”呼吁,称“要求暂停”并不能让诉求更好地被解决:

暂停令即使出于好意,也会让更微妙、更有建设性的对话变得更难进行。

当然也有人质疑起了马斯克、Bengio等人发起“暂停巨型AI实验”的动机,将其归结为巨头之间的利益之争:

对于发起者以及签署者们的心理,网友直接锐评道:

签署暂停是因为他们不信任人工智能吗?不是,是因为他们不信任人类。

也有网友直接将AI发展比作潘多拉的魔盒:一旦打开,一切都不可避免了。

利益之争?

虽说我们一众“看客”并不清楚“暂停令”的发起者或签署者们是不是有什么私心,但仅仅将这条呼吁归结为利益之争肯定是不全面的。

那为什么他们要发起这项呼吁?为什么非得是暂停六个月呢?

先是为什么要发起这项呼吁,在那封公开信“暂停巨型AI实验”已经有讲明一些原因。

而为什么非要暂停六个月,或许可以从赞同的声音中窥探到一些其他答案。

赞成的网友这边,有人称正是因为AI发展像“潘多拉的魔盒”,但目前还没有被打开,还有挽救的余地:

任何具有实验室逃逸潜力的研究都应该受到国际监管,我们应该尽力去挽回,但如果你释放了一些无法挽回的东西,我们就有麻烦了。

还有一种观点是,目前的AI发展成果已经足够人类使用,暂停几个月也无妨:

GPT-4够用了,仅仅是优化它和扩展插件就能满足至少几年的需求,我们现在需要更多的时间来理解AI如何与互联网互动,并且我认为测试越来越强大的AI是危险的。

当然在这样一群争论中,还有一股清流,无所谓“AI安全”,他们自称降临派:

有高赞微博直接明晃晃地称:

我们羰基生物本来就是开启硅基生命的钥匙罢了。

是对人类太失望了吗(Doge)

对于这长达一天多的“是否暂停巨型AI实验”之争,网友一针见血地总结:

有的人看到利益,有的人看到文明,有的人看到热闹。

但无论如何,对于“拯救派”们来说,依旧有几个问题不容忽视:

人工智能安全的问题该如何解决?暂停AI发展是明智之举吗?还有没有其他方法?

对此,你怎么看?

参考链接:[1]https://twitter.com/tydsh/status/1641203830124859392[2]https://twitter.com/2020science/status/1641123382115864576[3]https://twitter.com/XRImagineer/status/1641240405525291009

上一篇:

申请 ChatGPT 和新 Bing 们的账号,为什么都要等这么久? 天天观速讯

下一篇:

最后一页

x
推荐阅读

当前速看:GPT-5不能停!吴恩达田渊栋反对千人联名,OpenAI CEO也发声了

申请 ChatGPT 和新 Bing 们的账号,为什么都要等这么久? 天天观速讯

【环球时快讯】拿铁党注意了,你获得了这种好处

焦点播报:惠州大亚湾核电站有没有危险_惠州大亚湾核电站在哪里?

凝心聚力,共赢未来 MAXHUB经销商圆桌会议成功召开

《原神》灵蕈棋阵第七关攻略详情

微资讯!枫泾镇中新路新建工程正不断推进中 预计6月完工

绝不能向疯狂的网暴让步_热点评

陈向平在河南城建学院和平顶山学院调研时强调坚持市校共融 同心双向赋能 携手推动我市高质量发展迈上新台阶

环球看点!国民技术3月30日快速上涨

英语不好怎么办小升初_英语不好怎么办_全球快消息

环球头条:广汽集团(02238)拟派发2022年末期股息每10股1.8元

氢能源/燃料电池板块3月29日跌0.28%,恒泰艾普领跌,主力资金净流出5.06亿元

虞美人枕上原文翻译及赏析_虞美人翻译及原文-环球快资讯

热门看点:主持人李晓峰电视剧(主持人李晓峰)

每日简讯:3米内投出100英寸画面,明基推出GP500 4K LED智能投影仪

如何更换我的世界游戏角色皮肤 我的世界怎么在游戏里换皮肤手机版 热资讯

天天观焦点:成都“第三水源”工程三坝水库开工建设

中德(深圳)经济论坛开幕 挖掘合作意向需求128个

生的牛油果如何食用?

光伏6.78GW!内蒙古发布2023年重点民间投资项目落地实施工作的通知 天天新动态

视讯!舟山:未来液化天然气接收能力将超2500万吨/年 占全国25%以上

当前观察:长沙梅雨季节是几月份_梅雨季节是几月份

感同身受的意思(感同身受的近义词)_天天速递

1310万新能源车将成绝唱,绿牌取消?网友:拜拜了您嘞!|快讯

2023年4月天津限号吗(最新消息)-今日报

《厦门市地质灾害防治“十四五”规划》出台 天天热闻

每日热点:资格赛中艰难胜出!国羽名将杜玥新周期何去何从

世界微资讯!及时跟进,破解保险公司套路,全损处理

焦点速读:中储粮积极入市“收国豆、稳预期”

天天速讯:衣拉拉七千万元交易真实性存疑 劳务外包商一周内扎堆成立或互为“自家人”

红星、永丰都是二锅头,哪个传统京味儿更浓?老北京:不一个层面

腾讯宣布推出微信版知乎, “问一问”搜索功能即将上线 世界看热讯

天天热头条丨安乡县三岔河中学开展“平安校园,你我同行”安全教育月活动

梅花生物已回购9189.51万股,占公司目前股本总数的3.02%

环球滚动:为纳帅喊冤!坦纳:纳格尔斯曼未来能执教皇马,拜仁换帅太慌乱

德意志银行,会是下一个瑞信吗?

郧西六郎乡香椿抢“鲜”上市_天天热议

观察:用镜头捕捉高新城之美 "同翔高新城杯"摄影作品征集延至4月20日

世界信息:欢声笑语满校园一段话50字以内(欢声笑语满校园)

全球今头条!设研院两科研项目获河南省科学技术进步奖

当前报道:环球新资讯:天天基金日活214万同比降22% 东方财富研发费用同比增长29.25%

全球消息!长沙医保转出证明在哪里开(附入口)

硬核科幻《流浪地球2》出海 中东非洲地区上映中

世界今亮点!工程师技术交流群

普宜镇乐都小学志愿者服务队_对于普宜镇乐都小学志愿者服务队简单介绍

今日热搜:建发股份(600153):3月27日北向资金增持116.73万股

马龙林丹帅照!四大奥运冠军齐聚,超级丹戴金表,龙族低调

线下线上教育工作计划(必备4篇)

【当前独家】市场估值水平概览:市场估值到哪了?