知乎热榜 ( ) • 2023-05-13 14:21
段小草的回答

又一次立法与技术的赛跑。

感兴趣的可以去欧盟网站看一下会议的情况:

eMeeting

目前来看,很难说支持与否。还记得上次大家怎么评论的吗:

网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,哪些内容值得注意?将产生哪些影响?

上次国内出台这个《管理办法》,大部分人是…拒绝的。从核心要求上,我不觉得欧盟的新法规有什么不一样,希望大家态度一致,不要太双标。

具体来讲[1],要求 AI 内容被识别为 AI 内容:

“Generative foundation models should ensure transparency about the fact the content is generated by an AI system, not by humans,”the new text reads.
“生成式基础模型应确保透明,即内容是由人工智能系统生成的,而不是人类生成的,”新文本如此写道。

政治竞选:

AI systems that have the power to influence voters in political campaigns will not be prohibited but will be considered high-risk and therefore subject to closer scrutiny, lawmakers said.
立法者表示,具有影响政治竞选中选民的能力的人工智能系统不会被禁止,但将被视为高风险,并因此接受更严格的审查。

法从诞生之日起就具有滞后性,更不要说用法律去规范 AI 这种飞速发展的科技行业了。但是不管也不行,因为肉眼可见的滥用正在变多,数据安全和隐私问题更加严重,所以的确非常考验执政水平了。

欧盟在数据安全和隐私保护领域的确是做的比较到位的,GDPR 让很多公司吃尽了苦头。对消费者和用户是好事,因为我们在面对大企业时是天然不平等的。

但是对于所谓的「科技进步」,就很难讲了。过早过严的监管并不利于发展,ChatGPT 虽然已经展示出了一定的「破坏力」,但在它真正成为 AGI 之前,可能还不具有那样的「颠覆性」。


有意思的是,我也找到了这样一段话[2]

In response to that, committee MEPs added exemptions to the Act's rules for researchers and AI components provided under open source licenses. "We are confident our text balances the protection of fundamental rights with the need to provide legal certainty to businesses and stimulate innovation in Europe," said AI Act co-rapporteur Brando Benifei.
作为回应,委员会议员为研究人员和在开放源代码许可下提供的人工智能组件添加了该法案规则的豁免条款。 "我们相信我们的文本在保护基本权利与为企业提供法律确定性和促进欧洲创新的需求之间取得了平衡," AI法案联合报告员Brando Benifei说。

只要你开源,一切都好说。开源=安全?emmmm…