打造人工智能上海高地 委员建议加紧制定通用安全标准

1月16日报道：近年来，人工智能在全球范围内迅速崛起。数据显示，截至2019年8月，仅上海地区的人工智能核心企业就已突破1000家、泛人工智能企业超过3000家、人工智能相关产业规模达700亿元，拥有了比较成熟的产业技术和商业模式。
从自动驾驶到智能安防，从语音助手到虚拟现实，人工智能技术逐步融入日常生活，但该技术在各领域的广泛应用，也带来了数据泄露、安全漏洞等风险隐患。

网络图
今年上海两会期间，市政协委员赵柏基提案建议：打造人工智能上海高地，加紧制定通用安全标准。在他看来，科技巨头先后在上海设立功能型总部和研发中心，一大批国内外人工智能头部企业相继落户，汇聚了许多权威专家资源，为上海在人工智能安全治理的先行先试创造了良好条件。但随着人工智能落地场景的增多、使用范围的扩大，合规、道德、诚信、安全、管控等一系列系统性问题也逐渐浮出水面。
比如，目前针对人工智能的合规要求散见于数据安全和隐私保护等各领域，不够集中和清晰，存在很多“灰色地带”。现阶段，我国的安全标准大多数为应用安全领域的标准，还缺乏人工智能领域基础共性的安全标准。“人工智能的应用具备动态和自适应特征，一旦在某一领域落地，发展会很迅速。但如果治理和管控不足，会令政府和企业在应用人工智能时遇到各种意想不到的情况，甚至造成严重的社会影响。”

网络图
赵柏基委员以人脸识别为例进一步解释：近年来，人脸识别在各种身份鉴别方法中的优势越来越明显，并迅速得以大规模商用。然而，公众却发现自身的选择权变得越来越少。同时，由于人脸信息的大规模采集，大量敏感数据被不具有足够资质和能力的机构收集，导致了人脸信息泄露事件频发，触发不可逆的后果，也进一步增加了公众的担忧。
为此，赵柏基委员在提案中给出多条建议。一是尽快制定人工智能通用安全标准，可由上海市经信委牵头，组织调研，邀请安全企业、审计机构、以及人工智能企业等共同参与标准的制定，形成可落地、可审计的人工智能通用安全标准，并针对各应用场景的技术特点，分别制定扩展安全要求，形成“通用+扩展”的安全标准体系。二是针对关键性的人工智能系统和应用开展安全评估，形成行业准入标准，保障国家安全、社会稳定与公众利益。

网络图
“还有一点，要积极参与制定国际人工智能安全与伦理道德标准，争取话语权。”赵柏基委员表示，中兴、大华、中国电信等一批领先的科技公司正在积极向国际电信联盟提议建立与人脸识别相关的技术标准，一方面，希望将我国在人脸识别方面的经验和科技向世界输出，另一方面，通过参与国际标准的制定，也能进一步巩固我国在此领域的优势和话语权。目前，世界各地政府和监管机构都非常关注人工智能的安全风险。比如，德国政府正在与大型专业机构合作，共同制定人工智能通用安全审计标准，并计划于近期发布；英国信息专员办公室（ICO）也发布了一项制定人工智能审计框架的计划，并公开征求建议，获得多个国家监管机构和行业组织的积极响应。“诸如此类的国际协作和国际智慧对于上海探索自身的人工智能安全标准具有很高的参考价值，应积极参与，向世界展示人工智能风险防范的上海方案。”