马斯克带头呼吁暂停巨型AI实验

龙听

2023年3月30日07:35 CST 更新
包括特斯拉(Tesla Inc., TSLA)首席执行官马斯克(Elon Musk)和人工智能(AI)领域先驱人物Yoshua Bengio在内，多位科技公司高管和顶级AI研究人员正呼吁暂停对强大新AI工具的快速开发。

主张暂停的这些人士表示，六个月或更长时间的暂停将使该行业有时间制定AI设计方面的安全标准，从而防止风险最高的一些AI技术的潜在危害。

“我们已经置身这样一种情境：这些系统足够聪明，某些使用它们的方式可能给社会带来危险。”蒙特利尔大学(University of Montreal)蒙特利尔学习算法研究所(Montreal Institute for Learning Algorithms)主任Bengio在一次采访时说。“而我们还不明白。”

这些关切以及暂停建议是在题为“暂停巨型AI实验：一封公开信”(Pause Giant AI Experiments: An Open Letter)、由非营利性组织Future of Life Institute加以协调的信函中提出的；马斯克在该组织的外部顾问名单上。这封信的作者团队的一位发言人说，签名的还有苹果公司(Apple Inc., AAPL)联合创始人Steve Wozniak、Stability AI首席执行官Emad Mostaque，以及人性化技术中心的联合创始人Tristan Harris 和Aza Raskin；其一直对社交媒体和AI技术持批评态度。

这封信并非呼吁暂停所有AI开发，但敦促各公司暂时停止训练比GPT-4更强大的系统；GPT-4由得到微软(Microsoft Corp., MSFT)支持的初创公司OpenAI于本月发布。这当中包括OpenAI的下一代技术GPT-5。