直击WAIC丨加州大学伯克利分校副教授Anca Dragan答21:AI或成人类“经纪人”,警惕控制能力缺失

2023年07月08日 20:22   21世纪经济报道 21财经APP   吴斌

21世纪经济报道记者 吴斌 上海报道

2023世界人工智能大会于7月6-8日在上海举办,以“智联世界 生成未来”为主题,聚焦通用人工智能发展,营造良好创新生态,拥抱智能新时代,共话产业新未来。

在上海期智研究院主办的世界人工智能大会主题论坛“具身通用人工智能”上,多位海内外人工智能专家齐聚,探讨如何定义并实现能深入人类生活、真正通用的人工智能。

加州大学伯克利分校副教授Anca Dragan在接受21世纪经济报道记者采访时表示,在目前的范例中,我们训练模型进行自我监督,让他们获得预测世界的能力是可能的,特别是如果他们接受了多模式、数据、文本、视频、物理和身体数据等方面的训练,得到一个很好的世界预测模型是可能的,让他们变得非常擅长优化也是可能的。

Anca Dragan是加州大学伯克利分校电子工程与计算机科学系的副教授,负责运营InterACT实验室,专注于人机交互的算法研究。她联合创办并担任伯克利人工智能研究实验室(BAIR)的指导委员会成员,并作为人机可协作人工智能中心(Center for Human-Compatible Al)的联合主持人。她曾获得斯隆学者奖、MIT TR35奖、大川奖、NSF CAREER奖和PECASE奖。

Dragan告诉记者,当你想到数据背后的生成过程时,这有点像人类的大脑,类似人类采取的行动,这有点像复制生成过程,所以人类最终可能会得到非常擅长预测世界和优化事物的“经纪人”。

风险方面,Dragan也提醒,需要警惕控制能力缺失。“如何可靠地为模型设定目标,从而为人类带来有益的结果,我们还没弄清楚,所以我暂且把这当成坏事,控制能力绝对是缺失的,可能还有很多其他缺失的东西。”

关注我们