据外媒报道,梵蒂冈官员周五计划公布有关人工智能的伦理原则。此举获得了微软和国际商用机器公司(IBM)的支持,他们也是主要的两家来自技术产业的支持者。
这份“人工智能伦理罗马宣言”文件宣称,人工智能技术应尊重个人隐私,应以可靠而无偏见的方式工作,应考虑“所有人的需求”,并以透明的方式运作这是一个正处于研究进行时的领域,人工智能系统的决定往往难以预测。
这份文件表明,公司和研究机构正越来越有兴趣为快速发展的技术设置防护栏。警方使用面部识别系统调查犯罪,财富500强公司使用人工智能审查求职者这两个例子都属于高风险事务,在这些事务中使用不准确或有偏见的软件系统可能将给人类带来伤害。
据IBM执行副总裁兼签署人之一约翰凯利三世(John Kelly III)说,梵蒂冈的这一举措是出于教皇方济各一年多前对人工智能及其对社会影响的担忧。
“他主要担心的是,这一技术是否对所有人开放?还是会进一步分化富人和穷人?”凯利在接受采访时说。他说,梵蒂冈官员还对人工智能将取代人类工作这一前景表示了担忧,并为此于去年9月在美国的一个研究中心与IBM会面(探讨了这一问题)。
教皇方济各本周五将收到这份文件,并将在梵蒂冈主教生命学院本周主办的人工智能伦理会议上对此做出结论。其他与会者包括欧洲议会主席大卫萨索利(David Sassoli)和微软总裁布莱德史密斯(Brad Smith)。
目前尚不清楚今后还有哪些其他技术公司会签署该文件,也不清楚签署方将如何执行这些伦理原则。
例如,IBM希望在它的人工智能系统提出医疗建议时能有一名医生参与其中。本周,IBM与罗马Bambino Gesù儿童医院达成了一项合作协议。这项合作的重点将是开发能加快对脑肿瘤患者进行诊断和治疗的技术。
IBM和微软都表示,他们都对客户是如此急于使用他们的技术感到不安,因此他们拒绝了这方面的业务。凯利表示,在IBM研发人工智能技术时所遇到的伦理问题中,约有三分之一并没有明确的答案。 他说:“未来我们将会遇到更多没有明确答案的伦理问题,因为技术进步是如此之快。”