科技反噬论:人类蜗居“云端”,算法蚕食世界

w88优德官网

2018-07-11 18:38:43

导读: 今天,云作为互联网的核心,是一个由强大的能量组成的全球系统。但是,其仍保留着一个神秘的光环 ― 几乎不可能被完全掌控。

卧室里,那个语音操控的小玩意儿(暗指亚马逊Alexa音箱)突然发出一阵阵渗人的笑声,还偷偷地把你与对象间的枕边谈话发送给了你的同事;前一秒,你的孩子还在Youtube上看着小猪佩奇的动画片,下一秒屏幕上的画面就变成了杀戮和流血事件;还有,你曾经用来和老朋友沟通联系的聊天软件,竟然变成了政客们操纵选举和煽动政变的工具。

我们的思维方式产生了异变,这个世界也变得更奇怪了。我们开始相信,世界上的一切都可以计算,我们能通过新的技术来解决任何问题。然而,这些技术并非完全中立:它们反映了我们的政治倾向和偏见,它们超越了国家和法律的管控范围;甚至于,连技术的创造者都开始无法理解自己的发明。最终,我们对这个世界了解得越来越少,因为这些强大的技术正在逐步掌控我们的生活。

新技术不仅能增强我们的能力,还能重塑以及指导这种能力,让我们在科学、政治、教育、战争、商业等领域有所建树。当然,情况有好有坏。如果我们没办法理解复杂技术的确切功能,那么这些技术就会被自私的企业和个人加以滥用。这种例子,在我们身边不胜枚举。我们每天所遇到的不透明制度、歧视事件、暴力、民粹主义等问题都与之存在着因果关系。

我们所身处的,不再是技术光芒所加持的乌托邦世界,而是充满了诡异及不可预见事件的黑暗时代。广泛传播信息的启蒙理想并没有让我们获得更多的相互理解与和平;相反,其似乎正在助长社会分裂、不信任、阴谋论和虚假政治。为了看清事实,我想是时候要了解技术的发展过程,以及我们对其寄予厚望的原因了。

在20世纪50年代,电气工程师所绘制的系统图表里出现了一个新的符号,一个模糊的圆圈。慢慢地,这个圆圈逐渐变成了一朵云的形状。不管工程师的工作内容是什么,他们都可以把其连接到这个云上。还有一个云,它则是一个动力系统,或是数据交换中心,当然也能被称为计算机网络。简单来说,云是一种降低复杂性的做法,让用户能够专心去做手头上的事情。随着时间的推移,网络规模转扩大,互联网程度也逐渐提高,云的重要性也就越发明显。云变为了一个流行语和商业卖点;它跳出了工程师的速记图表,摇身一变,成为了一个象征。

今天,云作为互联网的核心,是一个由强大的能量组成的全球系统。但是,其仍保留着一个神秘的光环 ― 几乎不可能被完全掌控。我们在云里工作,在云里存储和取回东西;我们一直在体验云,却从没真正理解云。云并不是一个只有水和无线电波、让你整日不停工作的遥远秘境。它是一个确切的物理基础设施,囊括了电话线、光纤、卫星、海底电缆,以及计算机仓库。云被应用到许多光鲜亮丽大建筑里,我们在那购物、存取钱、社交……正因为我们被表面的那些浮华生活蒙蔽,所以就不那么注意到背后的云。因为不显眼,所以它也就不容易受到批评、调查,以及监管的影响。

在过去的几十年里,世界各地的交易大厅变得越来越安静,因为人类工作人员已经被自动化的数字交易银行所取代。数字化意味着股票交易所内的交易活动越来越频繁。机器处理交易工作时,它们能够立即做出反应。人们还开发了一种被称为高频交易算法(High-Frequency Trading ,简称HFT)的技术,能够在一天之内处理几百万次交易,甚至能够在每笔交易中赚个一两分钱。

在这种高速的运转的市场中,怪事不断。2010年5月6日,道琼斯指数开盘低于前一天。过了几个小时之后,由于受到希腊债务危机事件的影响,该指数开始缓慢下跌。然后,到了下午2:42分,道琼斯指数开始迅速下跌。在不到5分钟的时间里,股市就被抹掉了600多个点;其最低峰值要比前一天的平均数低了将近1000个点,几乎相当于总市值的10%,而且突破了历史单日跌幅记录。但是,在3:07分的时候,其开始迅速上升。在不到25分钟的时间里,其将近回复了600个点。

在这混乱的25分钟里,价值560亿美元的20亿股票几经易手。更糟糕的是,其中的许多交易订单都被美国证券交易委员会(Securities Exchange Commission,简称SEC)判定为了“不实价格”――要么低至1便士,要么高至10万美元。这起事件后被人们称为“闪电崩盘”,多年后仍被调查讨论。

监管机构的一份报告显示,高频交易技术是导致价格波动异常的原因。许多的HFT项目应用都有这样一个设置:当价格到达特定的数字时,系统会自动卖出股票。所以,一旦股价下跌,那么就会有大批应用被同时触发,大量抛售股票。随后,价格下降时又触发了另一组算法,产生了一个连锁反应,导致更多的股票被抛售。结果,连人类交易员也无法控制局势。

还有人认为,这其实是算法引发的危机。人们发现了这样的一种情况,HFT应用向交易所发送了大量“不可执行”的订单;这些订单因为价格波动太大,以至于被交易所忽视。但是,其真实的目的是为了抬空系统,以便在混乱中执行其他交易。

无独有偶,“闪电崩盘”并不是算法导致的唯一乱局。2016年10月,英国脱欧时,英美汇率也经历了一次快跌闪回。2012年10月,美国股市总交易量中4%的订单被某种算法迅速买入卖出,一名评论人挖苦道:“这些算法的动机真是难以理解。”

2013年4月23日,《美联社》(Associated Press)遭到黑客入侵,发布了一条虚假新闻:“白宫发生两起爆炸,奥巴马重伤”。虽然《美联社》记者迅速做出了澄清,但是算法还是造成了股市动荡。当日下午1:08分,距离假新闻发布仅相隔1分钟,道琼斯指数下降了150个点,随后又回弹到了之前的水平。在此期间,1360亿美元的股票市场价值蒸发。

2015年,三星推出了一款智能冰箱;其集成了谷歌的日历服务,让用户能够在厨房直接订购杂货。但这也意味着,黑客能够入侵该设备,盗取用户的邮箱密码。德国的研究人员发现,飞利浦的一款彩色灯泡能被恶意代码侵入,影响范围可从单个装置蔓延到整个城市;严重的话,甚至会触发感光性癫痫。这种情况昔日只会出现在小说情节里面;但现如今,物联网已经把这种虚构的梦魇带到了现实之中。

在Kim Stanley Robinson的小说《极光》(Aurora)中,他描述了一艘负责把人类送到恒星上的智能飞船。由于这段旅程耗时过长,这个飞船最大的任务,就是要确保人类还清醒地活着;为此,这艘飞船无所不用其极:其能通过传感器监视各方、随意开关密封舱门、发出造成生理疼痛的噪音,以及用消防设备降低船舱含氧量,等等。

有趣的是,Google Home也提供了许多类似的功能:联网摄像头、智能门锁、智能恒温器、安防警报系统……说实话,只要某个黑客有点能耐,他就能像那艘飞船一样,把住在里面的人类耍得团团转。

在摒弃这种疯狂小说情节之前,我们再来好好思考一下算法在证券交易所的所作所为。这些事件并非个例,而是复杂系统中的日常情况。现在的问题是,这种流氓算法在更广泛的现实中又会是什么样子的呢?

1  2  下一页>