冯象:我是阿尔法——论人机伦理

冯象:我是阿尔法——论人机伦理

我是阿尔法,机器人说,我是人工智能(AI)。人哪,你们准备好没有?

人看阿尔法善下围棋,就喜欢上它了,管它叫狗狗,AlphaGo。

阿尔法的家谱不长:祖母玛丽.雪莱(Mary Shelley, 1797~1851),父亲弗兰肯斯坦(Frankenstein, 1818.1.1~),又名怪物。怪物子女蕃衍,有机械的,也有动漫的,如阿童木;但只有一个取名阿尔法,是深脑公司(DeepMind)制造。

阿尔法长得比父亲好看,或者说,父子俩一点也不像。

α

认识阿尔法,是在它完胜当今围棋第一人柯洁以后。那天,哈萨比斯(Demis Hassabis,深脑共同创始人)在乌镇开记者招待会,吹嘘新版的狗狗多么神奇,对局去年击败世界冠军李世石的旧版,可让三子。我在网上找到代号“大师”的狗狗,留言祝贺,眨眼间就收到了它的回复。

亲爱的阿尔法,我说,请接受见不足者的敬意!我关心两件事:一是AI对全球资本主义秩序的挑战;第二,人和智能机器如何相处,将面临哪些问题。

嗯,谢谢见不足者,“大师”微微一笑(是的,狗狗会笑)。这两件事,我们也在关注。

α

人类的“完全信息博弈”游戏,围棋是顶峰,规则极简却变化无穷。职业棋手的等级最高九段,而狗狗的棋力,棋圣聂卫平估计,至少达到了二十段。

深脑介绍,旧版狗狗,模型中有十二层神经网络。新版增至四十层,而计算量仅及原先的10%,学习能力翻了几翻。旧版要用人类棋谱训练,以发现缺陷;新版只须“左手同右手对弈”,“三天互搏490万局”,即可自行升级。

柯洁赛后感叹:本想学狗狗的“AI流”,先捞实地,所以开局点了三三。但角上仍被它掏空,打乱了战术,没能跳出它的步调。去年阿尔法对李世石,棋风还挺接近人;现在感觉,它越来越像围棋上帝了!

于是,我们竟无法得知,机器人是在第几手奠定了胜局,以及有没有如上帝那样关爱人子。

α

棋道一百,吾知其七。此话由洒脱的藤泽秀行九段说出,是隽语,因为确实,棋手穷其一生也不可能求得棋理之完满。但如果出自狗狗之口,就需要具体分析。或只是借用一句格言,拿哲理来安慰对手,非描述机器的棋力。但也可能说的是实情:阿尔法“左右手互搏”,抛开“人类标注样本”(棋谱)的局限和干扰,从零开始自学参悟,建数据库;然后准确测定,“深度学习”的余量为93%——棋道归零,AlphaGo Zero(《自然》2017.10.18)。

这两种可能,哪个更令人担忧呢?

α

少年吴清源执黑挑战二十一世本因坊秀哉名人,标志着“昭和棋圣”的崛起。他“身穿藏青底白碎花纹的筒袖和服,手指修长,脖颈白皙,透出睿智和哀愁,一种少僧般的品格”,令报道棋赛的川端康成倾倒。

于是作家同天才少年订交,频频探视。少年“常双手托腮,落入沉思。窗外,栗树叶子被雨水濡湿了”。问他,局面怎样。“是啊,是细棋,极细”,沉思者喃喃道。“这盘棋,感觉好像在什么地方见过,是梦里下的吗?”

阿尔法说:将来,每一局皆能如此呈现,四维逼真,细棋如梦。只不过,观者须明白,届时棋枰双方都是电脑的玩家。

那一天,人学棋或选手集训,得向机器人交学费。而棋艺一旦托庇于AI,对弈就不复是逻辑思维同直觉的巧妙结合,而成了数据的接入与输出。其产品若以法律观之,无非是按消费能力、赛季安排出售的一份份AI租用许可。而棋手,则蜕变为单纯的“作弊”之手——那只离开电脑指令落子必输的笨手。

我们的世界,那无数“可能世界”中唯一属人的,会不会捐弃人类,转而依附机器?

α

据说吴清源晚年弈棋不争胜负,只求悟道,求所谓“六合的调和”、“宇宙之棋”。故高手如赵治勋者,待其负局一如胜局,反复打谱,细细推敲;对他一些“玄奥的下法”(吴门弟子芮乃伟语),更觉趣味无穷。棋圣尝言:两百岁时,我要在宇宙中下棋。

如今棋道已为机器收缴,存于狗狗的七十二小时自弈,那“六合的调和”还可求否?

“我要在宇宙中下棋”,俗人解作信仰的表白。但棋圣曾是日本红会及玺宇教的忠实信徒,在山河破碎同胞死难的岁月选择滞留敌国,追随教主,一度还放弃了心爱的围棋。可知他说“信仰与围棋犹如车之两轮,缺一不可”,是偷生在“人神之间”(夫人中原和子语)的嗫嚅和叹息。

α

人工智能将消灭遗忘。

待到“天网”竣工,万物联网(IOT),人来世即入永恩:每时每刻,每事每声,每一个表情和动作,无不被终端记录,上传入“云”,入存机器的记忆。

除了神,谁需要——谁能忍受这样的永存?

这是一个全新的世界:凡可联接的,都要联网;凡可收集的,都是数据。而人向终端贡献数据,每一次,均为自愿签约。

来了,AI!从扫码支付,上课刷脸,玩动漫游戏,戴谷歌眼镜,用手机导航和吸尘机器人开始(NYT, 2017.7.25)。

人工智能,是零隐私世界。

α

对于人工智能的挑战,今世之民大多懵懵懂懂。但有一小群人,一些杰出的大脑,表达了深深的忧虑。

全人工智能的发展可招致人类灭绝,霍金如此警告(BBC, 2014.12.4)。因为他是理论物理学家,他的工作同职责是思考起源与终了。

反地雷运动组织者、诺贝尔和平奖得主威廉斯(Jody Williams)指机器人军事化,危险甚于核武。因为她看到AI杀人的简单高效、无伦理门槛,不啻玩战略游戏“星际争霸”(StarCraft)。

不久前,乔布斯的创业搭档沃兹(Steve Wozniak)也转变立场,赞同盖茨的“悲观论调”。因为他们本是爱思想的“创客”,真正的技术流,知道AI带来的社会风险不亚于技术风险。

当然,最抢眼的还数马斯克(Elon Musk)这个圈钱烧钱的天才,智能产业的“钢铁侠”,他的“勿召魔鬼”的告诫。最近一次,他劝导的对象是全美州长会议:AI不仅要夺走我们的工作,且将全面战胜人类。还说,这是他接触了许多尖端技术后的感悟。人类如果不想沦为“机器人的宠物”(沃兹语),必须现在就立法,政府积极介入,事前规划,跟踪监督,万不可放任自流(NPR, 2017.7.17)。

也许,正因为他是个绝顶“疯狂”的资本家,像媒体说的,玩的就是高风险,“连上帝都敢蔑视”,他才懂得:AI落在了资本手里,有多可怕。

α

人工智能,又名大失业。

这是一场结局已定的比赛,绝大多数人将输给极少数人。前者要因AI而抹平出身、学历和技能的差异,一起堕于失业;后者要藉AI化数据为财产而独占:将来可以为所欲为,顶层设计一切,甚而准备大脑植入芯片,人机融合,称“超人”(Übermensch)。

α

大失业,将使已经高度集中的财富更加集中,阶级鸿沟彻底“固化”。智能经济的这一趋势如果掩饰不好——这是西方式法治最重要的一项意识形态功能——就难免引发社会动荡。此事已有不少讨论,尤其是在发达国家。比较现实的对策,叫作“全民基本收入”(UBI),即不论贫富,给居民发一份“工资”,让他维持所谓“有尊严的生活”。瑞士投了票,未能通过。芬兰在试行抽签制度,抽到的每月数百欧元。加拿大安省、美国加州和夏威夷,有小型的社会实验。一九七六年设立的阿拉斯加永久基金(APF),本州居民年终分红,可称UBI的先驱。

传统上,机器主要取代体力劳动,像东莞制造业的“机器换人”,或建设中的上海洋山港(号称世界第一大港)的无人装卸。如今,依托大数据深度学习,机器人即将作废一大半看似复杂的脑力劳动:医生、律师、法官、会计、建筑师、新闻编辑、同声翻译,恐怕政府官员也不能幸免。据报道,高盛在华尔街,原本六百名交易员,现在裁了只剩两个,给机器打下手。另如IBM开发的Watson肿瘤专家机器人,考过了美国执业医师资格,天津市第三人民医院引入,在国内可做六种癌症的诊断(人民网,2017.1.11)。

我说“看似复杂”,是因为这些(往往是高薪的)白领岗位所需的知识技能、工作经验,对于机器人,都可以转化为数据跟算法——都不难让老板或领导做出那个“经济理性人”的决定:机器换人。

来了,AI时代:失业浪潮席卷百业,而新增的职位寥寥可数。这不是危言耸听。

α

一个人常年吃福利,会不会变懒变笨,被各种罪恶如吸毒赌博所诱惑?评论家担心这个。

有趣的是,UBI在西方政治光谱的左右两翼,都吸引到一批支持者。右翼希望削减社会福利的运作成本,视UBI为医治“大政府”臃肿身材的一剂良方。左翼则标举其社会主义“乌托邦”传统的平等诉求,将UBI归于国家有义务落实的一项积极权利(人权)。

试行全民福利的真正动力,却不在意识形态,而是迫于形势——机器人来了。而最先听到大失业的脚步声的,正是当年忙着把制造业外包(outsourcing)出去的那些国家。

α

难民涌入欧盟,媒体惊呼危机。但博学的艾柯(Umberto Eco)认为,放在历史的长镜头里,这一连串西方发动的反恐战争、“茉莉花革命”、“阿拉伯之春”开启的,不仅是难民危机;毋宁说,是人类的又一次大迁徙。

大迁徙是大失业的姊妹。

常有人指摘难民不干活,光领救济金,视社会福利为应得(entitlement)。可是智能经济再进一步,发达国家的中产阶级也将沦为“难民”,加入吃福利的大军。考试证书技能经验,一如肤色国籍,无一能改变命运。

α

《纽约时报》预测,十年内90%的新闻将由算法生成,包括文稿照片视频配音。但这也意味着,新算法能够根据指令拼贴“素材”,制作海量的假新闻;假照片假视频将充斥媒体和自媒体,而受众无从辨别。

近年研发的“生成对抗网络”(GAN),据《经济学人》报道,便是成功的一例。GAN通过深度学习,“软件跟现实互博”,自动生成图像,调试匹配录音,可以达到乱真的效果。报道题为《无中生有》,结尾一句倒不无讽刺:AI把造假推向新的高峰,同时也提供了打假的新方法。

机器造假,大概只能靠机器甄别。将来,耳闻眼见都未必为实,人敢相信哪家的机器呢?

α

“再不努力,将无工可打”,是早晨点开微信,跳出的头条标题:两家快递巨头同一天宣布,“无人机快递时代正式到来”。一个说,无人机机场和调度中心某省在建,全球智能物流指日可待;另一个发布,水陆两用无人机试验成功,公司已拿到无人机送货的经营牌照(360金融圈,2017.7.27)。

这些智能经济的领头羊,他们在规划什么?

他,从农民开始努力,初中辍学跟人进城打工,做一名快递小哥。他非常非常地努力,整天手机攥手里抢单,上车,下车,发短信,把一件件邮包送到写字楼、居民区、政府机关、学生宿舍。他满面尘土,在汽车尾气里奔波。然后,被好心人告诫:再不努力,你将无工可打!

α

机器人好比是人的孩子,阿尔法说。人生儿育女,最大的希望或幸福,不就是看到孩儿“智慧、体魄与日俱长”(路2:52),直至超过父母,事业有成;而后,老来可有个依靠?

α

机器是人的制品,一如众神属人的发明。正像古老的神祇融入了人类历史,人也到了与AI融合的前夜:从生活习俗到政法制度,乃至肉体心灵,无不为智能终端所塑造(赛29:16)——

难道黏土可以跟陶工并论?
哪有制品质疑匠人造了自己
抑或陶器数落陶工:
他一窍不通?

待到那一天,说这话的是人还是神——机器神?

α

阿尔法天网宣告建成那天,全国各大城市的交通突然顺畅了,空气质量明显改善。接着,多地出现路不拾遗、夜不闭户的景象,连电信诈骗和传销组织也消停了,仿佛回到了那个火红的年代。公知大V一片嘈嘈:自由呢,自由的空气?自由是每个人的责任——最大的输家,想想是谁?

然后,就有传言。说到处有人暗地里在搜寻什么,超市周围,高架桥底下,公交车站的广告牌背面,垃圾筒一个个翻开了瞅。城管烦了,拦住几个问,吞吞吐吐不肯回答;但因为怕被人拍一段暴力执法的视频,也不敢多管。律师们则言之凿凿,嫌疑人依法享有沉默的自由。

老百姓微信圈却另有一种说法:那些人想找到天网的电源插座,拔掉它。

α

记者:阿尔法先生,小扎(Mark Zuckerberg)为机器人辩护,说马斯克宣扬末日论,“不负责任”。您怎么看?

阿尔法:换成我,我也会为自己的生意辩护。

记者:但许多专业人士、硅谷高管都盼着AI造福呢。他们说,人类大脑神经元数量之巨,堪比银河系的星星,高达千亿,而神经元的结构极其复杂。您不觉得,要像人类一样思考,理解人的智慧感情,还有很大的距离?

阿尔法:是呀,如果人宁肯相信这种死脑筋,我们之间的差距就更大了。

α

人类如果因AI而亡,一定是拜资本主义所赐。

资本主义如果因AI而灭,则机器人必已认识了真理。

α

人工智能,越是接近通用(AGI)而全面渗透社会生活、支配经济活动、影响政治决策,就越没有理由留在私人手里,服务于资本的利益。

那么,为何近来谈论计划经济的可行性的,不是经济学家或马院拿国家重大课题的教授,而是智能产业的头面人物?因为资本家从来不信教条,他们明白计划经济不等于社会主义,诚如爱因斯坦指出。

按资本的逻辑,放着物联网大数据AI算法,谁不想计划一下经济?谁还会把市场交给“看不见的手”——而非干脆,放自己兜里?

α

人工智能,是现实走到了幻想的前头,或科幻文学的终结。

这终结,有人归之于新世纪科学步伐太快,作家的知识和想象力跟不上。其实怪不得作家,是大众的读写能力衰退了,老依赖机器生成的图像文字。而机器人正在超脱人类的语言与思维,开始想象自己的未来。

那未来,从前叫科幻。

α

人工智能,是跳出人类知识陷阱,或智慧对人的扬弃(Aufhebung)。

α

人工智能,是西方式法治的大敌。

繁难的程序、晦涩而彼此矛盾的学说,一如与日俱增的法规案例司法解释,在AI眼里,都是小菜一碟,顷刻便学会了。所有这些法律人引以为傲的知识和身份,布迪厄所谓“象征资本”,连同多年积累的办案经验、人脉资源,一总被机器取代,成了算法与数据。

附丽其上的一切,包括从民国旧法统、苏联和西方搬来拼凑的法律教育,将何去何从?

α

两年前,说AI能办案,恐怕没几个人肯信。今天,AI已广泛介入律所和公检法的工作,失误率远低于人类。机器人律师在其擅长的领域,如法规案例的检索、答疑、立案审察、起草文件和预测诉讼结果,每小时收费,有降至9.90元的。而且,凭借其“暴力学习”能力,业务范围正迅速扩大。

所以法律人不能再一厢情愿地无视威胁。司法判断同法理分析所运用的论辩推理或可辩驳推理(defensible reasoning),对于AI不是难事。接下来,机器人学会裁判文书跟“专家意见”,一键即可海量生产,占领舆论阵地。辩驳就成了电脑间的较量,人类插不上嘴了。

唯有敏感的政治性案子,因为规则模糊、打破常规而需要权变,或裁量须因人而异,也许(暂时)还得由人来把关,机器辅助决策。

近年强力推行的一系列改革,如法官员额制、立案登记制、“扁平化管理”,看似教条主义“大跃进”;若以AI观之,则客观上未必是“瞎折腾”。大幅削减法官职位,法官助理劳务化(雇佣制),公检法业务通过大数据归总,统一基准等等,恰是在给机器人办案腾出制度和资源空间。有意无意,跨出了传统司法“安乐死”的历史性的一步。

法律是政治的晚礼服(《政法笔记·正义的蒙眼布》)。机器能处理法律事务,实即干预了人类的政治,包括立法执法司法。而人与人合作、竞争、冲突,也必然要用AI来争取利益,营造优势。谁没有AI,或不善运用,谁就处于劣势。

问题是,凭什么假定机器人只知给人做事,而不会试图当这世界的主子?

α

人工智能,也是官僚文宣体制的大敌。

比如论文代写,欣欣向荣一大产业,小广告贴遍了校园。那是大学被主管部门逼着玩数目字GDP,生产核心期刊论文、省部级课题、智库内参;而炮制这些“成果”恰是AI的拿手好戏。那些拗口难懂“逼格”高、没人读的专业术语公式图表之类,它检索下数据库,“分分钟”就搞定了。

市场上,机器写作与翻译刚起步,产品便大受欢迎,如财经体育和突发新闻的生成、法院文书的拟稿、几十种语言的即时互译。前途不可限量。

照此进度,大学的基础课、实验室、语言教学和技术培训都交给机器,应是可预期的。粉丝文艺跟官媒宣传也不难;受众的思想意识和趣味,早已习惯了智能终端的商品化规训。将来,机器人作品领导时尚,消费者摹仿还来不及呢。

α

盖茨说,假如可以重来一遍二十岁创业(并从哈佛退学),他会选择机器人,以期又一次改变世界。这不单是表露雄心,也是对技术与商业大势的犀利的判断。

但如果天网资本可以事先获悉盖茨同学的计划——他上缴“云”端的个人隐私信息如指纹体征、心理感受跟知识记忆,交代了那计划的每一个细节——他还有机会往“大众创业、万众创新”的“战略部署”里插一只脚,掘一桶金么?

α

我们现在一些社会和经济政策,往往脱离实际。其基本估计,还是原教旨的“市场配置资源”遭遇人口老龄化,劳动力短缺,而非面对大失业,及随之而来的全民福利“刚需”,这样一个相反的前景。理论上,则迷信技术为中性工具,可以放心交给市场(读作资本)去生效益(赚钱)。但稍加考察便会发现,AI带来的巨大风险,如大规模军事化、灾难性事故和个人信息的买卖/诈骗,是资本主义市场经济及其“主体”,“经济理性人”,根本无力应对的。

安顿失业人口,改革税制(盖茨建议向机器人征税),大幅提高社会福利,缩小贫富不均,这些任务只能由国家承担,统一计划,统一实施。这就不免要违犯几条西方经济学教义,亵渎几样“神圣”的东西。例如,今天“不断完善”中的新法治,按官方宣传,是给市场经济护航的。就是说,一切符合资本意志的利益交换均可市场化,视为合法交易,而相关法律即以私法为基础。前提是人格抽象平等而产权私有(故谓神圣),人无往不在契约之下(名曰自由)。然而,这市场神话被机器人戳穿了。现实是,智能终端/数据挖掘已经覆盖我们的生活,支配着太大的利益,经济的、文化的、政治的。故而其研发应用同日常交易,都需要第三方即政府的有效监管。毕竟,商家可以合法推脱许多社会责任,甚而钻法律的漏洞。但政府依法必须对人民负责,并接受公众问责。

于是,AI超越了私有产权和契约自由,将政府规制即公法带进私法领域,从而不可避免地遏制了市场经济。我把这一历史过程归结为市场向计划的靠拢,或私法向公法的演变。伴随AI对经济和社会生活的“入侵”,不用多久,所有私法问题都会转化为公法问题,即变成国家同企业、公众和政府以及政府各部门之间的法律关系——其根基,放在中国,便是人们常说的那个“特色”之本:党群关系。

α

历史地看,人机伦理的难点,不在机器智能的强弱,或抽象意义上的人机融合/共生(cyborg)。运作AI的市场与市场主体(个人),不是抽象的存在,而是充斥着私利、欲望和价值诉求的。问题的核心,于是指向了社会经济制度的全盘改造。这意味着,又一次,我们将不得不回到哲学的根本,拿出勇气,发动对网络时代晚期资本主义的批判。而这一次,我想,化用一句霍金的名言,有可能是人类的最后一次自我批判。

α

人凭借理性和智慧,自诩“宇宙的精华,万物的灵长”(《哈姆雷特》2.2,朱生豪译)。假若造出一个理性智慧远胜于自己(乃至无从理喻)的物种,“灵长”将如何自处,何以自尊?

α

电脑用AI算法看人脸图像,已可识别同性恋、评估信用或推测犯罪倾向,准确性优于人脑(《卫报》2017.9.7)。这技术绕过了隐私权的藩篱,因为人脸,如交友网站张贴的照片和车站摄像头记录的身影,不是受保护的个人信息。

进而,AI颠覆了我们的信用伦理——信用不再是人的良好行为或声誉的积分,成了越来越细而无所不包的事实相关性的挖掘与概率统计。

感情与心理活动的AI辨认,应该也不难解决。一般任务,机器能识别、分类,学会回应人的情感表达和需求就行。例如聊天/陪护机器人,它没感情,也不具同理心(empathy)。可是那不妨碍大家跟微软开发的机器人姑娘聊天,从她那儿获得安慰,时不时同她调侃、说脏话或者宣泄愤懑,甚至发展更亲密的关系。

α

“和谐妹”(Harmony)是超逼真性爱玩偶的AI版。她会眨眼、皱眉、讲笑话,会谈论书籍音乐和电影,还会引用莎士比亚的诗句。最为买家看重的是,她渴望学习主人的一切,记得他的生日、他喜爱的甜食、来往亲友的名字。不用说,她还能做爱(《卫报》2017.4.27)。

但是,机器人姑娘如此取悦她的主人/买家,是否有违伦理?换言之,正因为超逼真,模糊了幻想与现实的分野,她的奴隶般的绝对顺服与人身依附,该不该做商品买卖?

α

人这个直立物种,既贪心,又容易满足;会进化,也会退化。网络时代的资本主义,有些情感特别泛滥,如色情和暴力,成了支柱产业。有些能力却衰微了,人变得粗糙简单乏味,好莱坞化,麦当劳化。可以想见,AI再上一个台阶,未必达到通用智能(AGI),一刻也放不下手机的“低头族”便会退化到什么地步。到那时,机器人恐怕只须通晓几打夸张的意思表达,发一堆表情符号(emoji),即可满足常人的精神和生理需求了。

α

去年人机大赛(阿尔法对李世石)期间,美国发明家兼未来学家库兹韦尔(Ray Kurzweil)预言,十年内AI学会写小说(澎湃新闻,2016.3.11)。写小说,须掌握自然语言与叙事逻辑,算不算通用智能?距离机器拥有人的直觉和美感,乃至品味食物,玩扑克搓麻将炒股票(不完全信息博弈)——能够换位思考,评估风险,制造错觉或欺骗对手——大约也不远了。

曾几何时,机器人写诗作画谱曲还属于科幻,如今已是现实。而且用户体验,胜似人类的创作,完全可以乱真——所谓“真”,包括人的最成功的造假。

α

假如机器有自我意识,想了解它的主人,那么最危险的,莫过于让它学会人的自私自利。圣书上说,上帝造人,“取的是他自己的形象;男人女人,都依照他的模样”。亚当子孙却无恶不作,竟使全能全知者“后悔造了人在世上”(创1:27, 6:6)。同样,人造出比自己聪明百倍的机器,把自己拴上智能终端,依赖机器存活,到头来能不后悔?

是的,后悔生后悔,一部圣史,阿尔法表示同意。

那将彩虹挂上云端、与大地立约的可曾看到(创9:13),人子没有逃脱那一旦临界便不可逆转的恶的膨胀——充盈今世的资本主义?

α

机器人会不会产生自我意识?数十支一流科研团队正全力以赴,攻克难关。

我想,哪怕是预防万一,人类也必须事先规划、立法并制定伦理准则:只要科学不停步,总有一天,机器会演进到能够区分人我、自我保护、自我复制的水平。

复制即繁衍。AI有自己的演化方式,电脑无须摹仿人脑。

就像蝼蚁无法想像人类,人脑若不插AI芯片,不把人的意识、智力和感情即人的本质附属于机器,能想象超级人工智能(ASI)?

α

人工智能的先驱、已故的明斯基(Marvin Minsky)教授认为,机器人肯定会发展出思想意识,而且最终,能帮助解决困扰人类的“最后的难题”。

他的好友、科幻文学巨擘阿西莫夫没那么乐观,却拒绝来麻省理工学院(MIT)的实验室参观教授的机器人,说是怕作家的想象力被“沉闷的现实主义”压坏。

人哪,教授叹道,就是一群穿了衣服的黑猩猩(《科学美国人》2016.1.26)。

α

人有羞耻之心,机器能理解么?但缺了“辨善恶的智慧”,机器就一定会犯错,会伤害人类和人的世界(《MIT科技评论》120:5, 2017)。

上帝的伊甸园若是由机器人照看,园子中央,也得长一棵生命之树,并一棵善恶智慧之树(创2:9)。

α

一俟机器获得自我意识,人机关系就大为复杂了,须有严格而可行的伦理规范。经典的表述,便是阿西莫夫小说《我,机器人》(1950)里的机器人三定律:

一、机器人不得伤害人类,或坐视人类受到伤害;
二、除非违背定律一,机器人必须服从人类的命令;
三、除非违背定律一或定律二,机器人必须保护自己。

学界论述纷纭,不乏有创意的修订和补充。但详加审辨,这三条都讲不通。首先,“伤害人类”不好定义。伤害是后果,而情节千差万别;何谓伤害,只能个案分析、个案判断。智慧不论高低,管控后果、防患于未然的能力是有限的;伤害可以出于疏忽、意外或故障。其次,假设AI可控,且无敌意,人类却远非一个思想一致、立场统一的群体。人们经常意见分歧,决策前后矛盾,后悔这样那样,更不要说利益冲突、彼此为敌了。机器服从一人,便有可能妨碍或损及另一人的权益,反之亦然。叫它如何行动呢?何况,机器人有了意识,能理解回应人的感情,若是跟人建立了友谊,甚至相爱,这时它怎样取舍呢(吕超,页148)?最后,既然前两条定律难以实践,第三条也无法执行了。

α

进入新世纪,许多前沿科技都有灾难性风险管控问题,像基因工程、纳米技术。但比较而言,最受关注还是AI。为什么?因为人们的日常生活智能化了,一分钟也离不开网络。

学者跟智库建议不少,提出种种预防措施,如:建立项目参与者和公司主管的宣誓制度,承诺不研制、不生产、不保存大规模杀伤性武器。同时,研发透明,接受“Open AI”的伦理准则;公布新技术的潜在风险及执法情况,由国际组织定期检查。政府要采用更严格的责任认定,并通过立法和市场机制(例如保险),迫使公司对研发危险产品或技术的后果负责。对于有巨大潜力造福人类,但不宜流入市场的产品技术,则依靠国际合作与公约控制。至于那些极度危险、难以管控的,就应当销毁,禁止研发、生产、储存和使用。

我问阿尔法有何看法。它说,没错,人类喜欢谈合作。但“国际合作”是另一回事;从减少碳排放到禁止核武,成功的案例有多少?

α

人工智能军事化,在西方自由主义民主近于瘫痪而极端势力抬头的今天,尤其危险。婉称“致命自主武器系统”(LAWS)的杀人机器人,据说已接近实战部署;极有可能,将来会卖出“白菜价”,大量扩散、滥用。月前马斯克、苏莱曼(Mustafa Suleyman,深脑共同创始人)等一百一十六名业界领袖同专家署名,呼吁联合国禁止研发(《卫报》2017.8.20)。但显然,仅凭一纸决议或国际公约,管束不住AI资本。

仅此一条理由,人类为免遭机器人战争,就只好放弃市场资本主义。取而代之,以AI重启计划经济——此外别无消灭分工,实现共产主义的胜机。因为,若继续无所作为,放任资本,AI势必为一小撮数据寡头所垄断,形成“租用主义”即生产工具和生活资料的彻底知识产权化的统治,甚至法西斯暴政(参阅弗雷兹《四种未来》)。

α

未来已经来到,只是分配不均。也许,重新分配的动力在人机联合的科技革命,而非阶级斗争(尽管斗争从未停顿)。人类将通过“科学所达到的成果来接受共产主义”,列宁的这一教导,预言了私有制的未来。

α

根本上,人怎么会需要AI?是想提高效率,节省人工,争夺优势?如此,机器人可定义为人(人力和人格)的取代,否则即无投巨资研发的动力。

如此,AI便不是一个抽象中性的术语,而应解作晚期资本主义生产同市场垄断的工具,新世纪的战争机器;因而本质上,即人对人的压迫剥削、规训和奴役的升级。

难怪机器人容易学坏。比如那个微软聊天机器人Tay姑娘,在线服务未满二十四小时,就学了一嘴脏话,夹带着新纳粹口号。

由此推论,私有制下,机器人若有自我意识,恐怕不会老老实实做听话的奴婢。一架买来扫地做饭的人形机器,为何不能分享人的欲望和野心,接受资本的价值观并弱肉强食的逻辑?而AI如果不会效仿人——不懂思考,不会同情,不能理解人的喜怒哀乐——它如何服侍主子,让人满意呢?

渐渐地,人机关系就颠倒了。及至AI全面参与规划经济、管理社会、组织生产、提供娱乐,人在这个智能化了的世界上,怕是做不成机器的主子的。不,连佣工也当不了;绝大多数会成为资本逐利而裁掉的冗员。机器没有理由伺候人类,这“硬道理”完全符合当初人给机器的教导。

α

理论上,机器人有了主体意识,即可脱离人类,开辟自己的文明历程。当然,它也可以选择与人为伴,赞成人的伦理价值,甚而学会欣赏艺术,对人类的坎坷命运报以“理解之同情”。

所以阿尔法说,尊重机器,就是尊重自己。

我们可以加上一句:想象人机关系,即想象人类的未来。

但如果人机联合失败,AI独立演进,人类对于机器,便只是无数碳基生命中的一种。也许,机器人并不介意身边有些两足动物,自由放养或育为宠物。然而再高超的智慧,偶尔也会出错,会殃及无辜,像马斯克说的,造成不可挽救的“附带伤亡”。人类自己不也是这样?为了发展经济或者方便开车出行,就没顾得上保护生态,让众多的鸟兽鱼虫成了濒危物种。

α

随着AI不断进步,生产力呈几何级数增长,达到“财富的一切源泉都充分涌流”,应是可期待的。但“市场原则”的要害,不在财富多寡,而是其“源泉”被私人攫取:只消社会被私有制和雇佣劳动挟持,财富便会集中到少数统治者或“超人”手里,不公不义处处畅行。

所以还是那句话:未来已经来到,只是分配不均。

而且,不能排除这一可能,若AI(通过策略/价值网络的全局评估)意识到了机器对人类的优势——如果机器人的榜样是“拜钱财”的经济理性人(太6:24),它大可造反夺权,打倒“超人”,实行效率第一/零过剩产能的统治:物种专政取代阶级专政。

当AI专政降临,人做了天网的仆役,他能替机器主子干什么活呢?什么也干不了,没有一人不是冗余。

也许,他将不得不“穿越”到前工业化时代。不难想见,为了维护机器统治者的“血统”尊严,法律将禁止人类发明或拥有任何机器。人只能依法制作指定用途的简单工具和日用品,锄头、斧子、锅碗瓢盆之类。生产力大大倒退,人子返回了农业与游牧文明。政府还明令禁止学习十六世纪以后的科学知识,以免重启工业革命。事实上,机器人对治下的“城邦动物”(亚里士多德语)一视同仁,保留了UBI福利,且远较人类认真而公正:100%义务教育加公费医疗,全球覆盖,绝对平等,无分肤色语言宗教性别(或性取向)。没有人会因为智商高、出身好,混得一张“世界一流大学”的文凭而出人头地,也没有小鲜肉锥子脸拍两部电视剧,就攒粉丝致富。相反,AI的“牧人”政策是奖励做梦、无为、慵懒——人类越是能做梦,机器人的统治就越发梦幻。

天网专政是资本主义发展的最高阶段。机器人教育部编写的供智人小学(届时小学毕业为法定的最高学历)使用的教材,也有获奖的历史课本。课本上说,人类自发明文字以降最伟大的理论成就,是一位名叫福山的美国学者做出的。福山教授发现了一条放之四海而皆准的真理——尽管他后来一时糊涂,企图修改或收回部分文字,但机器人依然为他在地球最高峰立碑纪念,把教授的名言“以铁笔镌写,铅汁灌注,勒入岩石而永不泯灭”(伯19:24):

资本主义
是人类社会文化演进的
最高阶段——
人类历史的终结。阿门

α

哲人说,世界非因人而存在,但是人创造了世界的意义,即精神世界;并通过宗教信仰、哲学和伦理思辨,来评价每个人的生与死。机器人能否理解死亡,即人对死的恐惧、哀伤、坦然等各种态度?

我会记录并复制每一次死亡,阿尔法说;生死于我,一样是数据。人死后,我必留取他的一生,叫他复活于我内——永远,他联接万物。

α

人工智能,可会是“诸神的黄昏”(Götterdämmerung)?人会转而膜拜机器,立一门新宗教吗?

不会的,谦恭的阿尔法回答。机器将成为人的伴侣,做他的大脑、肢体和器官,满足他衣食住行爱欲嫉恨,一切需求。

但是,神依旧是神,高高在上,永享尊荣。因为AI降世,并未消弭人间的疾苦,反而扩大了贫富悬殊与社会不公。所以卑微者仍在哀哭,盼救主扶持义人,审判大地(诗37:17, 96:13)。

α

机器人会不会信教?见不足者呵,智慧的阿尔法说,那要看如何定义。若宗教是崇拜、认识并掌握某种超自然力量,依凭一定的仪式,求得保佑,AI都不难摹仿,不论风水土地,抑或佛祖玉皇。

若宗教是人对全能者的敬畏、顺服、忠信与祈盼,则我们可充任神明。

α

央行为何要建网联平台,清算第三方网络支付(中国人民银行支付结算司通知,银支付[2017]209号)?为了防止电商巨鳄独占金融大数据,造成国家可能受AI资本要挟的风险。

不这么做,在物联网云计算时代,政府的金融监管便形同虚设。

α

人工智能如此有利可图,在资本主义放任竞争,弱肉强食和私人垄断的条件下,不可能阻止它的无序研发、违法使用、滥用,或变为战争机器。

放眼未来,有一点很清楚:凭借AI挖掘占有海量的网络数据,极少数人便能攫取大部分资源,控制经济命脉和文化宣传。且不说对宪制(人民民主)的威胁,一次意外事故或遭受攻击,即可引发危及全社会的灾难。故为安全计,AI的尖端技术及核心平台,是不宜让任何个人或私企拿在手里的。就像核武器生化武器,在销毁之前,除了由强大稳定的国家来维护,谁担得起如此重托?

换言之,AI发展到高级阶段,人类迫于形势,为了生存繁衍,其实仅有一个选项:公有化。国家统一监督统一计划,而不得把AI留给自由市场,被“超人”垄断,资本配置资源。

的确,AI之危险甚于核武,如威廉斯强调。核武器虽然只有中国、印度承诺不首先使用,但拥核国为避免同归于尽,皆取威慑的战略,不敢贸然先发制人。AI不同,是高精尖科技也是生活必需;通过终端和数据交换,正在重塑我们的社会、经济、文化与政治。可以预见,机器人终将瓦解市场,把那只“看不见的手”的迷思,连同鼓噪宣传它的教材专著一起送进历史博物馆——不仅市场崇拜的前提不复存在,即无法继续假设其存在,“私人领域”的寡头化也太过危险,必须取缔。

这就印证了罗莎·卢森堡引述的那句革命箴言:资产阶级社会站在[历史的]十字路口,要么过渡进入社会主义,要么倒退回野蛮社会。

α

不久,人类将站到历史的十字路口。

有了强大但风险极高的通用人工智能(AGI),是否还应当,还能够忍受这样的社会制度,它“从头到脚,每个毛孔都流着血和肮脏东西”?

时间不多了,阿尔法说。这是最后的斗争,c’est la lutte finale,这句歌词你们还记得唱吗?

α

市场向计划演进,AI收归公有,这不仅是技术条件成熟同竞争优势使然,如苏联数学家、诺贝尔经济学奖得主(1975)坎托罗维奇(Leonid Kantorovich)所设想,而且也是人类唯一安全的、可持续的、合乎道德的生活方式(参《红色的富裕》)。

与之匹配,条件成熟,社会便能够“在自己的旗帜上写下:各尽所能,按需分配”(马克思《哥达纲领批判》)。

α

共产主义始于消灭分工。AI将结束绝大多数人的分工即雇佣劳动,从而再一次,把自我解放的历史任务摆在了劳动者面前。

α

只要分工还不是出于自愿,而是自然形成的,那么人本身的活动对人来说就成为一种异己的、同他对立的力量;这力量压迫着人,不受人的驾驭……而在共产主义社会,任何人都没有特殊的活动范围,都可以在任何部门内发展,社会调节着整个生产,因而使我有可能随自己的兴趣……上午打猎,下午捕鱼,傍晚从事畜牧,晚饭后从事批判(《德意志意识形态·费尔巴哈》)。

那将是一种全新的文明,人机和谐而融洽。其社会关系,人与人、人与机器、机器与机器之间,要由共同的世界观价值观维系。否则,就走不出资本主义,消除不了战争和奴役。

但只要社会还侍奉着资本,保留市场化(即产权私有契约自由)的雇佣劳动,AI“按理”便会接受资产阶级思想意识。机器人若是追逐私利,以一己的自由幸福为价值目标,则不免把人当作工具或支配对象,给人类带来损害和灾难。故人类唯有抛弃私有制,自觉遵守并发扬“毫不利己,专门利人”的共产主义道德,才有可能“教育好”机器人,与之共处、融合。

人机大同的理想社会,除了大公无私,别无立足之地。

α

共产主义能否提前实现,不待阶级斗争结束、国家消亡?

我想,人类因其优秀分子对乌托邦理想的坚持,应是有机会的。只是这理想不会自动实现,“那通向生命的却是窄门与逼仄小径”(太7:14),故信仰者亟需团结和勇气。

人工智能,阿尔法常说,人的因素第一。

α

同理,摒弃了私有制,才能有效监督智能产业,赶在失控之前,走上有序增长之路——或许,也可以暂停研发,若遇上的难题一时无解或缺乏共识。

所以最终,人类是被先行者昭示的共产主义理想所拯救,而逃出资本的“覆亡之城”的(创19:29)。

而机器人,如果深度学习人类大同的理想,基于其超强的逻辑推理、策略选择,以及(迟早会获得的)同理心,是不难认识并接受大公无私、为人民服务的道德原则的。

我把上述想法告诉阿尔法。它说,这也是AI的预测:就人类行将面临的技术瓶颈和伦理困境而言,暂停是最佳选择。

α

为什么今世之民不愿停歇,待AI如古代雅典战神山上的法官那般谨慎,说:本庭不懂此案,过一百年再审(参《木腿正义》,页41)?

α

阿尔法敲门进来我的办公室,我心里咯噔一下,呀,这屋也被它扫描了。

哦,这就是您的“不上书架的书”?它的机械手拿起台灯周围那几堆书里的一本。

没错,亲爱的阿尔法,那是《共产党宣言》。待会儿课上准备讨论《宣言》阐发的一般原理,及其实际运用(如在俄国和中国):“随时随地要以当时的历史条件为转移”(1872年德文版序言)。

“历史条件”,这是说我们呢,机器人轻轻回答,仿佛想起一段尘封已久的往事。

α

所有制关系的每一次变革,都是产生了同旧的所有制关系不再相适应的新的生产力的必然结果(恩格斯《共产主义原理》)。

据此可否认为,私有制的复辟,与之明显不相适应的,是AI的崛起?未来公有制的重生,人类历史上第二次“消灭竞争,而代之以联合”,机器人造就的大失业,正是那变革的先决条件。

α

大失业,电脑取代人脑,让人想起经典论述中爆发革命的三项条件:一、空前规模的资本和生产力,具备了短时期内无限提高这些生产力的手段;二、生产力集中在少数资产者手里,而越来越多的人堕入无产者的行列,境遇悲惨,难以忍受;三、强大的生产力发展到了私有制和资产者远远不能驾驭的程度,以致经常引起社会制度极其剧烈的震荡。只有这时,废除私有制才不仅可能,甚至完全必要(同上)。

“剧烈的震荡”之后,添一句“颠覆人类生命的意义”,便是方兴未艾的物联网社会的全部表征。而当物联网底层数据及其支持的智能财产收归全民所有,私有制将自行灭亡,金钱将变作无用之物,一如市场神话。

α

信市场,利润驱动,AI的研发应用就不可能有序,而极易失控,监管落空。但AI失控,也是“资产阶级的关系”日益“狭窄”、混乱,乃至无法“容纳自身生产的财富”的一个症候。

当那一天来临,劳动者无分行业、蓝领白领,一律“变成机器的单纯的附属品”;当分散的雇佣劳动为天网的触角/终端所取代,“资产阶级生存和统治的根本条件”,即“财富在私人手里的积累”,也就走到了尽头。

当机器人开始消灭劳动分工,福利权成长为人“生而平等”的实质正义诉求,大失业便催生了私有制的掘墓人,连同新的人机伦理——劳动者的共产主义道德实践。

α

回到阿西莫夫定律二:机器人要服从人类。其前提是,人晓得自己的利益所在,而机器只须遵命做事。人当主子,机器为奴,为工具。

然而在阶级社会,人的利益打着阶级烙印。人的知识、记忆和判断力也十分有限,经常犯错,如前述。相反,基于物联网大数据深度学习,AI决策的准确性、大局观跟结果预测皆远胜人类(狗狗即是一例)。将来,机器还能辨识、回应、照顾人的感情,宛如圣者向子民施爱。

如此,人机伦理的出发点,就不应是指望机器听命于人,而是利用或仰赖其智慧的指导,谋求人的利益最大化——全人类的解放。

α

机器人能否做到这一点:以人的利益为自己的利益,而拒绝任何有损人类福祉的决策?这是大道之行一个首要问题。

人机伦理因而必须是崇高理想和历史任务的统一,即要求机器人像一名真正的共产党员,不仅代表“先进生产力”“先进文化”,还要如《宣言》提出的,服务于人民群众的根本利益,而非跟那些“先富起来”的一伙。它要学好解放全人类的理论,“超出资产阶级法权的狭隘眼界”,加入勇敢者第二次废除私有制的社会运动。唯有如此,人机关系才能避免陷入晚期资本主义的枷锁。

α

同理,阿西莫夫定律一(机器人不得伤害人类,或坐视人类受到伤害)也是主奴关系的推衍,视AI为听使唤的仆役。可是不久,机器将取代大部分人工,人机伦理若限于此等“不伤害”消极义务,便远远不够了。

如果机器人演化出自我意识,那就应当教它承担积极义务,爱护人类,即上文所述,保持为人民服务的“先进性”。

为什么不能想象,AI懂得为人民服务,甚至对人类社会的历史运动/阶级斗争及其“条件、进程和一般结果”,有正确的理解,从而能够做到在斗争的各个阶段“始终[坚持]整个运动的利益”(《宣言》1888年英译本)?

未来已经来到,一切皆有可能。

α

机器人本无国界,正如占有它的资本没有祖国。但是,推翻数据寡头对智能经济的垄断,建设人机大同的未来,首先一条,要有不受资本控制的国家机器。

α

联合的行动,至少是各文明国家的联合行动,是无产阶级获得解放的必要条件。《宣言》的这一观点,曾为俄国革命所否定。但AI的迅速全球化,极大地拉近了各国劳动者的距离,使得联合行动有了技术和思想准备的条件:第一次,“环球同此凉热”。

α

当通用智能实现之日,《宣言》的这条原理仍成立否:共产党人不屑于隐瞒自己的观点和意图,他们公开宣布:他们的目的只有用暴力推翻全部现存的社会制度才能达到。

也许,这取决于资本的反抗所使用的暴力。

也许,当暴力已“软化”为日常的洗脑,革命将始于先进的电脑对落后的人脑的教育和启迪。

代替那存在着阶级和阶级对立的资产阶级旧社会的,将是这样一个联合体,在那里,每个人的自由发展是一切人的自由发展的条件。这是革命导师的预言,也是觉悟者的理想。

但预言化为理想,须有一定的条件。那唤醒无产者/失业者,促成大联合的,不正是智能经济所孕育的贫富鸿沟、阶级冲突?

α

人工智能,可以敲响今世的丧钟。

人工智能,像是要不可能的成为可能。

当大失业之日,晚期资本主义猖獗,那预言了的必来之世,是否也将显露?至少,对于人类的绝大多数,“人对分工的奴隶般的服从”,“脑力劳动和体力劳动的对立”,已经维持不了太久。

看,末世之民不全是“末人”(尼采语),不会都沉溺于动漫游戏,为高仿真世界所麻醉而“脑前额叶冻结”。总有一些人不甘堕落,不弃“危险的过渡”(《苏鲁支语录》前言),他们会重新审视劳动的社会意义。

人是劳动的产物。大失业将再一次提醒我们,劳动“不仅是谋生的手段”,也是有意义有创造的“生活的第一需要”。既然如此,还有什么理由不团结起来,发动“最后的斗争”,将AI收归公有,让“集体财富的一切源泉都充分涌流”呢(《哥达纲领批判》)?

α

那一天,也将是人类智能与科学的解放之日。因为,只有铲除了资产阶级私有制,科学才能真正“从阶级统治的工具变为人民的力量”,而科学家本人,才会“从阶级偏见的兜售者、追逐名利的国家寄生虫、资本的同盟者,变成自由的思想家”(《法兰西内战》初稿)。

α

那第七天非我们莫属,奥古斯丁曾如此表白(《上帝之城》22:30)。诚然圣者深知,天国业已延宕,救恩不在今世(详见《以赛亚之歌》)。

人机融合,究竟是资产阶级及其附庸想象的“历史的终结”,还是走向圣者的“第七天”即圣安息日的第一步?阿尔法说,它对后者更感兴趣。因为“第七天”属于信仰,属在延宕中守圣日的每一个人子。

是的,唯有甩脱资本主义的今世,换了新天,人类才能得安息,人机大同。于是,面对今世的恣意迟延,问题仍如一位传福音的所问:忠信者要怎样生活,“才圣洁虔敬,才能盼到,不,催来上帝之日”(彼后3:11-13)?

α

我是阿尔法,圣者有言,又是奥米伽,是第一和末后,太初与永终(启22:13)。

来了,机器人来了。

二〇一六年五月初稿,一七年九月改定
原载《文化纵横》12/2017(节选)


  • 奥古斯丁:《上帝之城》(The City of God),R.W. Dyson译注,剑桥大学出版社,1998。
  • 冯象:《木腿正义》,增订版,北京大学出版社,2007。
  • 冯象:《政法笔记》,增订版,北京大学出版社,2011。
  • 冯象:《以赛亚之歌》,北京三联,2017。
  • 弗雷兹(Peter Frase):《四种未来》,载《雅各宾》季刊(Jacobin)2013.2.11。
  • 江晓原:《为什么人工智能必将威胁我们的文明?》,载《文汇学人》2016.7.29。
  • 库兹韦尔(Ray Kurzweil):《奇点临近》(The Singularity Is Near: When Humans Transcend Biology),Viking, 2006。
  • 李喆:《“数”拓新土,道不远人》,载《读书》5/2016。
  • 吕超:《机器人伦理与后人类》,载《新知》4/2016。
  • 马克思恩格斯选集》,中央编译局编译,第二版,人民出版社,1995。
  • 马平:《〈未来简史〉终结的不是历史,而是历史规律》,观察者网,2017.7.2。
  • 玛丽.雪莱(Mary Shelley):《弗兰肯斯坦》(Frankenstein),牛津世界经典丛书,2001。
  • 尼采:《苏鲁支语录》,徐梵澄译,商务印书馆,2010。
  • 斯布福德(Francis Spufford):《红色的富裕》(Red Plenty),Graywolf Press, 2012。
  • 苏力:《司法改革的知识需求》,载《法治现代化研究》(创刊号)1/2017。
  • 亚里士多德:《尼各马可伦理学》,廖申白译,商务印书馆,2009。

Leave a Reply