一群人工智能（AI）行业的专家3月28号在一封公开信中呼吁暂停开发比OpenAI最近推出的GPT-4更强大的生成性AI系统，理由是对社会和人类的潜在风险。
路透社报道，这封信由非营利性的 "生命的未来研究所 "发表，包括埃隆-马斯克在内的1000多人签署，呼吁暂停开发，直到制定、执行并由独立专家监督的共同安全协议。
该公开信说："只有当我们确信强大的人工智能系统的影响是积极的，其风险是可控的，才应该开发。"
专家们说，这些系统可能会造成经济和政治混乱，并呼吁开发者与政策制定者和监管者合作。共同签署者包括稳定人工智能公司的首席执行官埃马德-莫斯塔克、Alphabet旗下DeepMind公司的研究人员以及人工智能大师约书亚-本吉奥和斯图尔特-拉塞尔。
欧洲警察机构Europol周一也曾发表报告，警告ChatGPT等系统被滥用于网络钓鱼企图、虚假信息和网络犯罪。
签署该信的纽约大学教授加里-马库斯（Gary Marcus）说："这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地了解其影响。" 他指出，"大公司对他们正在做的事情越来越保密，这使得社会难以抵御可能发生的损害。"
相关内容