法国的人工智能(AI)视频监控计划本周又跨过了一个重要障碍,距离落地仅一步之遥。
3月28日,国民议会以400-93的压倒性结果批准了一项涵盖2024年巴黎奥运会安保措施的草案。之后,草案将在参议院和国民议会之间进一步微调,预计4月将最终通过。今年1月,该草案已经在参议院获得压倒性(245-28)通过。
这项草案包括多项内容,其中第7条特别引发争议,因为它允许在巴黎奥运会期间使用AI视频监控技术来检测异常行为。不过,实施将是临时性的,使用时间在巴黎奥运会(2024年7月26日-8月11日)以及随后举行的残奥会期间,将于2024年12月31日结束。
这项条款比全球大多数国家走得更远,它不仅涉及在欧洲很难推动的视频监控,还有越来越引人担忧的人工智能。这项拟议中的法案,将摄像头与算法驱动的AI软件结合起来,AI负责识别安全问题,比如被遗弃的包裹或异常的人群涌动,人类负责最后一步操作、决定是否就此采取行动。
支持者认为,这只是一项新技术的暂时性试验,不必过分担忧。法国政府表示,面对即将到来的巴黎奥运会这个全球盛会,恐袭、人群踩踏等安全压力巨大,它援引去年造成160多人死亡的韩国梨泰院踩踏事故,认为新技术可以较大程度避免此类悲剧的发生。法国体育部长卡斯特拉强调该法案只是临时性的,并且不会涉及面部识别,检测的是“异常情况而不是某人”。
另外,基于AI的系统能够预测人群的动向,发现被遗弃的行李或潜在的危险事件。与传统的视频监控相比,AI的引入带来了自动化,算法负责分析还能减少人为错误。
反对者则担心,最初的特殊使用最终会成为普遍现象,并将在更大范围内开创“危险的先例”。他们援引往届奥运会使用新技术最终推广的例子称,2012年伦敦奥运会最终导致视频监控在伦敦的广泛使用。2018年俄罗斯世界杯试验性地使用语音识别技术,最终也扩大了使用范围。
对于法国政府坚称的不涉及面部识别,反对人士认为,抛开视频监控可能对隐私等个人权利的侵犯不谈,“面部识别”只是个等待被激活的功能,类似技术的使用只是时间问题。
从技术本身来说,也存在争论,尤其是在强大的ChatGPT引发讨论之时。不久前,ChatGPT的横空出世震惊了科技界。随着时间的推移,舆论已从最初的对技术革命的赞叹,逐渐转向对技术失控的担忧。马斯克等大佬已联名发出公开信,呼吁AI实验室立即暂停训练比GPT-4更强大的AI系统至少半年。
而法国拟议的AI视频监控也是这样一种新的技术形式。数字法专业律师Arnaud Touati表示,它使用计算机软件实时分析监控摄像头拍摄的图像。软件中使用的算法主要是基于机器学习技术,随着时间的推移,它将能够继续改进并适应新的情况。
而人权组织更关心AI技术的潜在歧视。他们指出,看似冷酷无情的算法实际上可能包含歧视性的偏见,移民、有色人种将被针对对待。“这些算法将使用一组由人类决定和设计的数据进行训练,它将纳入设计者的歧视性偏见,另外,在奥运会这样如此大规模的场合使用该技术,将更加凸出算法的歧视性和种族主义偏见。”技术和人权专家Katia Roux说。
除了技术本身的隐患,法国的法案还将与欧盟的立法冲突,并将在欧洲大陆开启一个反面先河,以及引来后续的法律诉讼问题。
两年前欧盟就着手制定AI法案,旨在对公司、公共部门以及执法部门在使用AI技术方面进行规范和监管。但是由于内部分歧以及OpenAI技术的持续快速发展,布鲁塞尔面临不小挑战,目前仍在就该法案进行激辩。分析人士认为,即便在最好的情况下,欧洲议员们迅速达成妥协,但也大概率无法在500天后的巴黎奥运会召开前通过。因此,短期内,法国政府预计不会遭受较大外部压力,但是后续可能会产生法律问题。
稍早前,约40名欧洲议员联名警告称,“法国正以奥运会为借口,开创欧洲从未见过的监视先例。”通过这项法律,法国将成欧盟27国里第一个将视频监控合法化的国家,并树立“危险先例”,“向那些试图使用这项技术的国家发出极其令人担忧的信号。”
而从法国内部来说,该国民众正陷入对养老金改革的抗议狂潮中,AI视频监控议题尚未引起他们的广泛关注。不过,马克龙政府仍可能面临该国宪法法院的挑战,因此,AI视频监控能否最终现身巴黎奥运会,仍有待观察。