日前,美国芝加哥一名65岁黑人男子迈克尔·威廉姆斯被控枪杀25岁男厨师,在没有目击者、凶器、杀人动机的情况下,警方凭借AI枪声定位系统提供的证据将他拘捕入狱。11个月后,法官判定证据不足,迈克尔·威廉姆斯无罪释放。
近年来,随着AI技术的发展,其在警务领域的应用不断增多,在提高效率的同时争议也随之而来,即在警务领域,特别是在辅助侦查方面,AI技术应用的边界在哪里?我们要无条件信任人工智能的判断吗?
对于枪声的识别能力有待提高
导致迈克尔·威廉姆斯入狱的这套AI枪声识别系统名为ShotSpotter。ShotSpotter是一个能够使用声学传感器AI算法来帮助警方对目标地理区域枪声进行检测的系统。该系统的研发者称其“是精确警务技术解决方案的领导者,使执法部门能够更有效地应对、调查和威慑犯罪”。ShotSpotter系统的声学传感器会被安装在建筑物、电线杆和路灯上。当枪声响起时,声音向外辐射,多个传感器会对声音进行检测和时间标记,并对其位置进行三角定位。
ShotSpotter会对其传感器接收到的声音类型进行分类,如判断是枪声就会给审查中心的工作人员发送警报。工作人员会对每一个警报进行分析,以判断该声音是否是枪声。之后,最终被确定为枪声的警报会被发送到警方,由警方派遣警察赴现场查看。
那么,为什么看上去识别流程完备的ShotSpotter会失败呢?原来,该系统难以识别封闭空间内的枪声,并且如卡车、摩托车、直升机发动的声音、放烟花的声音甚至是教堂的钟声等,都会让它误以为是枪声。
ShotSpotter的开发公司表示,现在他们正在不断地微调ShotSpotter的机器学习模型,通过让侦探和调查员向其系统添加犯罪现场的观察结果使其更准确地识别什么是枪声、什么不是枪声,该公司声称其证据已用于近200起案件。
AI辅助侦查产品已争相落地
尽管AI在识别枪声方面暴露了明显缺陷,但其在辅助侦查的其他领域已有成熟应用。警力有限是不少城市普遍存在的问题。近年来,随着云计算、大数据和人工智能技术的蓬勃发展,利用信息化技术辅助侦查破案、维护社会稳定已经成为大势所趋。
记者注意到,目前上海公安机关刑事案件智能辅助办案系统(以下简称206系统)已被全面应用,并将与即将升级的警方智能综合办案平台深度融合,每月生成的各类笔录多达8万余份。“姓名、年龄、家庭住址?”“我叫邹碑(化名),今年49岁,家住……”整个讯问过程通过智能语音软件转换形成了文字记录,执法民警用鼠标选择有效文字点击插入讯问记录,再进行简单调整,一份简洁完整的讯问笔录就形成了。
“警务超脑2.0从基础统筹、能力统筹、数据统筹3个方面为新时代警务信息化发展奠定了基础,实现打击犯罪高效化、情报指挥一体化、治安防控立体化、交通管理智慧化、执法办案规范化,实现从汗水警务向数据警务、从事后打击向事前预防、从全面防范向精准防控发展。”近日,在2021年世界安防博览会上,科大讯飞智慧城市事业群公共安全业务群总经理查飞向公众介绍了首次亮相的科大讯飞警务超脑2.0。
尽管目前的人工智能是一种弱人工智能,但这并不意味着人工智能辅助办案系统无用武之地。随着更多的侦查经验转化为数据,以及机器学习本身向纵深发展,人工智能辅助办案系统也将具备一定的推理能力。如206系统对于证据链的审查就包括对证据之间逻辑性的审查,即自动抓取证据的核心要素,并依据一定证据规则进行逻辑推演、比对,确认是否形成完整的证据体系。
不仅如此,能说一口流利的普通话、合肥话以及英语、德语、法语等多国语言,还能及时预警各类电信网络诈骗作案手法和防范技巧,帮助老百姓守好“钱袋子”的AI虚拟警务主播;每天可接听8000个左右报警电话,自动分析、研判警情发展态势并发布提醒的智能电话机器人;不仅能迅速识别各种违禁品,还能帮助安检人员智能判图的“安检神器”等人工智能系统也逐渐落地并走进辅助侦查的行列。
对AI辅助侦查要时刻保持谨慎态度
“人工智能技术的广泛运用,使传统侦查处于发展机遇与风险挑战并存的情境之中。我们应分析人工智能在侦查中的应用风险,加强前瞻预防与约束引导,以提升人工智能在侦查应用中的效益。”甘肃政法大学公安分院教授李波阳认为,应该系统梳理人工智能在侦查中的应用现状,预判各种可能的具体表现形式,分析人工智能在立案、侦查、侦查终结各阶段存在的应用风险,以及始终存在的隐性应用风险。结合我国侦查发展实际,针对AI不同应用阶段的风险设立相应的法规、完善相关制度措施,充分发挥人工智能在辅助侦查方面的潜能,有力提升警务人员工作效能。
“在充分肯定人工智能辅助案件侦查带来办案质量和效率明显提升的同时,也要认识到侦查人员对其过度依赖和机械执法现象已初现端倪。”中国刑事警察学院法律部教授宋家宁认为,人工智能办案系统不能替代侦查人员的独立判断,更难置身于错综复杂的案件中去抽丝剥茧、运筹帷幄。
“在大数据、物联网、人工智能为代表的新一轮科技革命浪潮下,AI+新警务成为未来趋势。社会公共安全范畴中技术安全防范的作用已远远超越人防、物防,科技进步将持续改变和优化公安警务工作方式、提升工作质量与效能。但任何事物都是一把双刃剑,在科技强警进程中,也存在很多隐性风险。”江西省安防协会副理事长李国辉说,正是因为这样,政法公安机关应该以更加科学与谨慎的态度,审视人工智能技术支撑的“智慧警务”“数字公安”“平安城市”等应用,相关部门除了进一步优化技术算法之外,还需在法律法规、科技伦理道德教育等方面配套下功夫,如此,科技进步才能更好支撑平安中国建设。