警惕｜人工智能发展产生的三个隐患

　　人工智能的发展能给我们的工作和生活带来很多改变，但同时它也会放大各类不法行为的危害。牛津大学、剑桥大学、斯坦福大学、电子前沿基金会和人工智能研究组织OpenAI等机构进行了联合研究，《财富》中文网编译了这项研究的结论，研究报告列出了人工智能发展可能带来的三个隐患。

　　第一，网络钓鱼或将愈演愈烈。随着人工智能的发展，犯罪嫌疑人在邮件中隐藏恶意链接的做法或将更加普遍和有效。比如犯罪嫌疑人根据社交媒体上获得的网民信息和行为模式，能够自动生成定制化的欺骗邮件来引诱网民点击。这些恶意邮件、网站或链接可以从伪造的账号中发出，而那些伪造账号可以模拟网民的亲友的写作风格，从而使这些钓鱼邮件更具欺骗性。

　　第二，假新闻和假宣传也将愈演愈烈。研究人员已经可以在音视频中将虚拟的政治人物形象做得与真人几乎一样。比如华盛顿大学的人工智能研究人员曾制作了一段前总统奥巴马的演讲视频，看起来极为真实，但却是彻底虚构的。以后，不法分子有可能使用AI技术开展“自动化、个性化的虚假宣传活动”。在这些宣传活动中，“不同地区的人可能会收到定制化的宣传信息，以吸引他们投票。”

　　第三，人工智能将使武器更具毁灭性。随着人工智能技术的进步，哪怕一个普通人也具有了广泛制造暴力的能力。比如随着面部识别、无人机导航等开源技术的传播，使一些犯罪嫌疑人利用这些技术实施犯罪成为了可能。想象一下，如果一架自动飞行的无人机具备了面部识别能力，然后精准发动攻击，这将是一幅怎样的图景？

　　以上是人工智能发展所面临的一些现实风险，在技术进步给我们带来便利的同时，我们也应该针对这些潜在风险进行防范。

　　大数据处理信息服务商金盛网聚WJFabric认为，任何技术的进步都会出现积极和消极两方面的影响。正如在之前文章中所述，技术本身是没有价值观的，技术的价值观即是使用者的价值观，因此对于使用者的引导及制约机制应伴随技术发展而建立。同时，这需要所有利益相关方的共同参与，包括国家层面、企业层面，资本层面的努力与合作。换句话讲，在对待人工智能的问题上，“人类命运共同体”的概念更为适宜，因为只有在全人类共同参与，开发、利用、管控这一最高维度进行设计和实践，才能够保障人工智能向着大家预期的方向发展。

　　金盛网聚（北京）科技有限公司成立于2012年，是一家数据处理与信息咨询服务商，公司拥有自主核心技术与服务咨询的团队， 公司“WJFbaric-互联网大数据信息监测SaaS平台”目前注册使用客户将近上万个，为企业、政府、学术机构、成功人士等提供在线信息收集、展示、阅读、存储的免费平台，公司远景致力于通过数据+计算形成可视化的人工智能决策平台。