美国生命未来研究所向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能(AI)实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
Telsa行政总裁马斯克、图灵奖得主约书亚·本希奥、苹果公司联合创始人沃兹尼亚克、Stability AI 创始人莫斯塔克等上千名科技界领袖人物与一群人工智能(AI)专家签署公开信,呼吁暂停训练比GPT-4更强大的AI系统,理由是有可能危及社会与人类。
公开信写道:广泛的研究表明,具有与人类竞争智能的人工智能(AI)系统可能对社会和人类构成深远的风险,高级AI可能代表地球生命史上的深刻变化,应该以相应的关照和资源进行规划和管理。不幸的是,这种规划和管理并没有发生,最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的思维,没有人能理解、预测或可靠地控制的AI。
公开信呼吁道:人类可以通过人工智能享受繁荣的未来。现在,我们成功地创建了强大的AI系统,可以设计AI系统来造福所有人,只有当我们确信强大的AI系统的效果是积极的,其风险是可控的,才应该开发。不幸的是,目前为止,没有任何人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。