全球首部人工智能监管法律近在咫尺

花了四年时间起草人工智能立法的欧洲议会议员德拉古-图多拉奇对周三达成最终文本表示乐观。

6000-2

欧盟即将通过世界上首部人工智能法律,赋予布鲁塞尔关闭对社会造成危害的服务的权力。

欧洲议会议员、欧盟成员国和欧盟委员会将于本周三就最终文本进行谈判。

罗马尼亚欧洲议会议员兼议会委员会联合报告员德拉古-图多拉奇(Dragoș Tudorache)在接受《卫报》独家采访时说:”人工智能确实对我们所做的一切产生了深远影响,因此是时候为这项技术如何发展以造福我们的公民引入一些保障措施和警戒线了。”

图多拉奇在布鲁塞尔议会办公室说道: “我对人工智能的看法是乐观多于悲观。如果我们什么都不做,我就是个悲观主义者。”

图多拉奇说,他有可能在周三之前就人工智能法案的最终文本达成一致。然后,该法案将正式获得议会通过,如无意外,将于明年年初成为法律。

他说:”我们已经接近目标了。60%-70%的文本已经达成一致。”

4032-1

剩下的争议领域之一是人工智能实时面部识别的使用。会员国希望保留这项权利,认为它对边境安全至关重要,同时也能避免公共秩序混乱。但欧洲议会认为,在街道和公共场所使用实时人脸识别摄像头侵犯了隐私,因此投票删除了这些条款。

他们还投票取消了当局或雇主使用人工智能驱动的情绪识别技术的权利,该技术已在中国使用,通过监测愤怒、悲伤、快乐和无聊的面部表情以及其他生物识别数据来发现疲劳的司机或工人。

图多拉奇暗示,在所有剩余的争议领域,双方都在酝酿妥协。

他说:”有一种可能是,我们一直谈到半夜,然后在 10 月 25 日结案。”

他说,尚未达成一致的少数议题都是 “有内在联系的”,因此政治利益集团之间不可能进行简单的文本交易。每个人都必须做出让步,监控条款才能一揽子通过。

除了对实时监控的担忧外,监管机构最关注的话题之一是人工智能可能带来的未知威胁,这些威胁甚至连开发者都不知道,比如创造病原体和其他生物危害的能力。

图多拉奇说:”你可以在自家厨房里培育出自己的小怪物。人工智能能够为公众提供制造生物危害的工具。”

根据所有国家的现行法律,制造炸弹的人都会被警方带走。但根据《人工智能法》,人工智能工具的开发者或所有者也将承担责任,可能被处以最高达收入 6% 的罚款,或被完全禁止进入欧盟。

“这意味着人工智能公司无法推卸责任。他们不能说:’好吧,是用户拿着我的模型做了坏事,他们要对此负责。’ 如果他们的人工智能模型能够产生违法的东西,那么他们将为此承担法律责任,”图多拉奇说。

他说,这将是对人工智能潜在弊端的有力威慑。他补充说,这些规则 “也会帮助这些公司”。

“人工智能公司自己也说,他们认为自己的模型会带来非常严重的风险,其中一些会对人类造成危害。我用的是他们自己的话,而不是我的话,”他说。

他指的是英国首相里希-苏纳克将于下周召开的国际人工智能安全峰会,组织者计划在峰会上深入探讨监管未知威胁的挑战。

图多拉奇补充说,《人工智能法》将要求加强问责制和透明度,”这不仅是给他们带来负担的一项义务,我还认为这是一个很好的机会,可以让他们对自己的模型和公众建立信心”。

该法案中不太可能受到最后一轮谈判影响的其他内容包括对创意产业的保护。

作为定期报告要求的一部分,人工智能公司必须向欧盟委员会提交数据来源清单,图多拉奇希望这将对无偿使用数据和创意内容起到威慑作用。

这样做的目的是让音乐家、科研人员或作者能够轻松查看自己的作品是否被剽窃,并为他们提供法律保护。

《人工智能法案》还将包括科技公司定期公布耗电量数据的义务,因为有报道称,数千台计算机花了六个月的时间来训练 ChatGPT。

图多拉奇说:”一次训练耗费大量能源,但很少有公开数据可以说明总体耗费情况。”

爱尔兰是跟踪能源使用情况的国家之一,该国报告称,数据中心的耗电量从 2015 年占全国总量的 5%增至 2022 年的 18%。

“我希望能源透明。” 他说:”能源是一个开放的市场,因此《人工智能法》并不能阻止能源的使用,但如果企业有责任公布能源使用数据,这样就可以建立意识并制定公共政策。”

微海报