代码依赖症:算法时代的是与非

算法的目的在于优化一切。它们可以拯救生命,使事情化难为易,化繁为简。但专家们仍担心它们会被公司和政府过度使用,用以维持偏见,创造过滤泡泡,削减选择、创造力和意外的发现,并可能导致更严重的失业。

算法是用于解决问题或完成任务的指令。食谱即算法,数学方程式亦是算法。计算机代码同样是算法。互联网基于算法运行,所有在线搜索同样通过算法完成。算法告知电子邮件发去哪里。智能手机应用也不过是算法。计算机和视频游戏也是关于算法的故事。没有算法,在线约会、书籍推荐和旅行网站将无法运行。GPS定位系统通过算法告知人们如何从A点到达B点。人工智能(AI)虽然调皮,也是一种算法。人们在社交媒体上看到的东西通过算法得以展示。事实上,人们在网络上所看所做的一切都是算法的产物。人们在电子表格中对列进行排序时,算法也起了作用,而且当今大多数金融交易都是通过算法完成。算法帮助小工具响应语音命令,识别面部,排序照片,创造和驾驶汽车。黑客、网络攻击和加密、解码均利用算法。自我学习和自编程算法现在正在出现,所以未来很多的算法本身可能将由算法去写。

作为一种优雅且极其有用的工具,算法常常用于完成任务。他们经常扮演着隐形的角色,以不可思议的方式融入人们的生活。然而,有时创意良好的算法应用仍会导致意想不到的后果。最近的新闻涉及这些问题:

英镑在2016年10月7日几秒之内暴跌6.1%,部分是因为算法触发的货币交易。

微软的工程师去年春天创建了一个名为“Tay”的Twitter机器人,试图通过回应提示与千禧一代进行聊天,但仅仅几小时,它便口不择言,喷出种族主义,性别歧视,否认大屠杀的推文,只因基于算法,它是先“学习”别人发给它的推,再来响应别人。

Facebook试图创建一个功能,用以从网站上所有人的信息流中突出热门主题。以前,是由人工团队进行编辑,但争议很快便爆发,因有人指责该平台对保守派存在偏见。所以Facebook将工作交由算法完成,却发现算法根本无法辨别真假新闻。

Weapons of Math Destruction的作者Cathy O’Neil指出:大数据在增加不平等和威胁民主的同时,基于算法的预测分析更倾向于惩罚穷人,就以使用算法招聘作为一例。

善意的算法可能被恶意的使用者玩坏。2016年10月21日,黑客通过信息过载电路轰炸了互联网流量处理程序Dyn DNS,互联网减速迅速席卷美国东海岸,从此开启了通过网络连接设备进行网络攻击的新时代。随后互联网安全专家Bruce Schneier在9月警告说,“有人在学习如何搞垮互联网。”随着2016年美国总统选举的进行,Facebook新闻信息流算法的滥用和常见假新闻的公布已引起争议。

研究员Andrew Tutt呼吁“算法的FDA”,他指出:“越来越复杂的算法的兴起需要我们慎重考虑如何最佳地预防、阻止和补偿它们造成的危害。算法规则需联邦统一、专家判断、政治独立和市场预调查,用以阻止——当然并不扼杀创新——高危算法被引入市场。

白宫于2016年10月发布的两份报告详细介绍了算法和人工智能的发展以及解决与之相关的问题的计划,并发布了一份12月报告,概述了人工智能驱动的自动化对美国就业市场和经济的潜在影响。

2017年1月17日,未来生命研究院(Future of Life Institute)发布了一份由加利福尼亚州太平洋格罗夫市Asimolar会议相关研究人员创建的23项有益人工智能原则的清单。签约者超过1,600个,包括史蒂芬·霍金、Elon Musk、Ray Kurzweil和数百名世界顶级人工智能研究员。

随着大量数据被企业和政府创建、捕获和分析,算法的使用正在蔓延。有人将此称之为算法时代,并预测算法的未来与机器学习和深度学习有关,而且它会被极速地优化。

2016年美国总统选举的众多事后分析记录了基于网络的工具对选举结果的革命性影响,但XPrize基金会的首席执行官Peter Diamandis预测:“五大技术趋势使这次选举看起来极其乏味。”他说,量子计算的优势和人工智能以及互联网系统、设备内置的人工智能嵌入的迅速进化将导致对选民的超级跟踪、影响和塑造,还有超级个性化的广告,将创造新的方式来歪曲现实并维持假象。

关于算法时代的7大主题:

主题1:算法将继续到处蔓延
益处将是可见和不可见的,并致使人类更大范围地洞察世界;
算法的许多方面都伴随着挑战。

主题2:好的前景
数据驱动解决问题的方法将会扩散;
代码流程将被完善和改进,伦理问题亟待解决;
算法不必完美,只是它们比人做得更好;
在未来,世界可能由仁慈的AI(人工智能)治理。

主题3:当数据和预测建模变得至关重要时,人类将迷失,人类的判断力将丧失
以追求利润和效率为主要目的的编程将是一个威胁;
算法操纵人和结果,甚至会读我们的心;
所有这一切都将造成一个不可避免的有缺陷的逻辑驱动的社会;
有些人担心会失去复杂的决策能力和局部智能;
随着代码接管复杂的系统,人类被遗弃在循环之外;
解决方案应该嵌入对个体的尊重。

主题4:偏差存在于算法组织的系统中
算法反映了程序员和数据集的偏差;
算法取决于数据,所以常常有限、不足且不正确。

主题5:算法分类加深了分裂
缺点可能更是如此;
算法创建由公司数据收集器塑造的过滤器泡泡和筒仓。他们限制人们接触更广泛的想法和可靠的信息,并且消除偶然性。

主题6:失业率将上升
更智能,更高效的算法将取代许多人工劳动;
一些人寻求重新定义全球经济体系来支撑人类。

主题7:需要增加算法扫盲、透明度和监督
它开始于算法扫盲——这超出了基本的数字化扫盲;
人们呼吁问责过程、监督和透明度;
许多人对政策规则和监督的前景表示悲观。


翻译:Nansey 来源:Pew Research Center