思辨｜静止的人工智能危险性更大

　　7月份，特斯拉CEO马斯克联名两千多位AI专家，签署了一份承诺书，内容是永远不开发AI杀人武器。这么做有两个理由，一是不该把生杀大权交给机器；二是致命AI武器的存在，会让个人和国家承受危险的动荡。虽然这么做的意图是好的，但是牛津大学的学者莫瑞奥萨瑞•塔迪欧（Mariarosaria Taddeo）认为他们忽视了静止的AI可能带来的风险。

　　美军曾经把AI分成两种：一是移动的AI，也就是依托于实体机器人的AI，比如无人机、自动驾驶的军舰；二是静止的AI，就是仅仅存在于软件系统的AI。而对战争来说，不仅只有硬碰硬，还包括网络世界的暗潮汹涌。塔迪欧觉得，后者才更需重视，“静止”不代表不危险。比如，如果有人能利用AI造成全国范围内的停电，或者供暖系统瘫痪，就可能导致非常严重的后果。虽然目前还没有发现AI直接造成物理伤害的事件，但不代表以后不会有。毕竟AI正在飞速普及。塔迪欧认为，社会的运转越依赖AI，系统之间的冲突越可能带来物理伤害。当AI与AI之间有了自主打击、自主防御的行为，就算没有实体机器人，局面还是有失控的可能。

　　如今已经有很多国家在建立自己的AI防线了，但国际上仍然没有法规能够规范网络防御 （Cyberdefence）行为。塔迪欧在《自然》杂志写文章建议，网络防御要分三步走：第一步，划定法律界限；第二步，在友好邦国之间，测试防御策略；第三步，建立监管机制，强化法规执行。

　　大数据处理信息服务商金盛网聚WJFabric认为，当我们惊叹于一款款人工智能产品能够代替人类进行越来越多的工作的时候，我们正在忽略人工智能的底层逻辑，即，这些都是由人工智能系统进行操控并实现的。如果说机器人具有显性的人工智能特点，那么相关的技术或者系统则是隐形的驱动力。而这样的驱动力是可以脱离实际载体独立发挥作用的。如上文所述，人工智能技术如果介入城市治理系统，可以通过云端进行远程操作，正面的结果既可以提升管理效率，而反面的结果也可以是扰乱正常的管理程序。因此对于人工智能技术的管控需要国家级别的通力合作，尤其在科技研发领域。单边化的发展人工智能将不利于规避负面结果发生的风险。

　　金盛网聚（北京）科技有限公司成立于2012年，是一家数据处理与信息咨询服务商，公司拥有自主核心技术与服务咨询的团队， 公司“WJFbaric-互联网大数据信息监测SaaS平台”目前注册使用客户将近上万个，为企业、政府、学术机构、成功人士等提供在线信息收集、展示、阅读、存储的免费平台，公司远景致力于通过数据+计算形成可视化的人工智能决策平台。