2016年3月微软聊天机器人tay上线不到一天 , 说服不了女朋友?让Facebook谈判机器人跟她聊一聊

此外，2016年3月，微软公司在美国的Twitter上上线的聊天机器人Tay在与网民互动过程中，成为了一个集性别歧视、种族歧视等于一身的“不良少女”。随着算法决策越来越多，类似的歧视也会越来越多。而且，算法歧视会带来危害。一

在微软Build 2016大会上，微软CEO纳德拉还承诺，将把重点从Skype向Hololens转移。该公司甚至还自研了一款聊天机器人——Tay。然而，在微软放出Tay的短短24小时之后，该公司就不得不对其发表的一些涉及种族歧视的煽动性评论进行

whiteMocca/Shutterstock） 去年三月微软在Twitter上发布了一个名为Tay的人工智能聊天机器人，事情发生了一个可以预见的灾难性转变。在24小时内，机器人发出种族主义、新纳粹的咆哮，其中大部分是通过融合与之互动的推特用户的

人工智能的偏见和歧视早就引起了人们的注意，较典型的是微软2016年3月23日推出的人工智能聊天机器人Tay。设计的最初目的是让其成为一个善解人意的小女孩，为用户排忧解难。但是，上线第一天Tay就变成了一个满口粗言秽语的

2016年3月23日,一个人设为19岁女性,昵称为 Tay 的聊天机器人在推特上线。这个微软开发的机器人能够通过抓取和用户互动的数据模仿人类的对话,像人一样用笑话、段子和表情包聊天。但是上线不到一天,Tay 就被“调教”成了一个满口叫嚣

2016年3月微软聊天机器人黑上线不到一天就紧急下线原因是其对不断对Twitter网友骂脏话,还发表了大量带有种族色彩的不当言论。

微软推出的人工智能聊天机器人「Tay」，在上线短短一天之后就被迫下线。外界不禁好奇，究竟微软这个设定为少女的 AI 人工智能聊天机器人，究竟是怎么被网友影响，继而出现一些偏激言论的？根据最新的报导指出，Tay 之所为会被

2016年3月微软聊天机器人tay上线不到一天

文心一言：百度推出的智能问答平台，基于百度文库的贡献，在写作和文章创作方面实力不错，也是国内最早公测的GPT平台。天行数据：提供了多种人工智能服务，包括聊天机器人、语音识别、图像识别等，支持多种开发语言和平台，如Java

目前市面上有很多免费的AI聊天机器人平台，比如腾讯的腾讯云、阿里的阿里云、百度的百度云等等。这些平台都提供了丰富的API和SDK，可以帮助开发者快速搭建自己的聊天机器人。至于微信聊天机器人，也有很多好用的平台可供选择。其

2. 图灵机器人：由上海图灵机器人信息技术有限公司推出的聊天机器人，可以进行智能问答、语义理解和自然语言生成等功能。3. 微软小冰：由微软公司推出的聊天机器人，可以进行智能问答、语义理解和自然语言生成等功能。4. 阿里云

微软小冰：微软小冰是一款由微软开发的智能聊天机器人，可以进行自然语言处理和图像识别等任务。图灵机器人：图灵机器人是一款由中国科技公司开发的智能聊天机器人，可以进行自然语言处理和语音识别等任务。微撰的在线ai聊天机器人

3.小i机器人 小i机器人是一款由小i机器人公司推出的AI问答机器人。它支持多种语言，包括中文、英文、日语、韩语等。大家可以通过手机APP或网页进行交互。小i机器人可以回答各种问题，例如天气预报、股票行情、新闻资讯等。

人工智能聊天机器人平台有哪些可推荐?至简的怎么样?

除了可以用它实时发送和接收图文消息以外,您还可以使用MSN Messenger从您的计算机上与联系人进行语音交谈、从您的计算机给联系人拨打电话、发送文件、召开多人联机会议或是玩Internet游戏,此外还可以收到新邮件到达等事件的通知,等等。 作

一、提升客户参与度你可以使用聊天机器人在多个级别上吸引客户。例如：你可以通过Messengerbot通知客户你的最新内容或限时优惠。例如：如果你要举办一次万众瞩目的直播，聊天机器人通知是你创造热点、吸引更多观众的好机会。聊天机

二、聊天机器人的作用作用1：识别情绪举个例子来说，如果有人说“这个女孩看到有个人拿着望远镜”，那么根据上下文语境，我们可以知道他的意思是这个女孩看到了有人用望远镜，还是携带着望远镜。这就是聊天机器人要学会的人类沟

Facebook稍早于MessengerMeetup台北场内分享目前Messenger服务平台应用模式，以及接下来即将推出API串接资源，协助网站服务、厂商借由Messenger平台衔接更多服务，甚至也能利用聊天机器人(ChatBot)功能打造更即时服务，或是产生更有趣的

Messenger用线上互动改变市场 聊天机器人加入更多「活力」

Line 也宣布推出聊天机器人了。以后Line不再单单只是你和妹子用表情卖萌互撩的软件，它还能帮你打车、预约行程，让你更便利地和妹子互撩。（总体来说和Facebook推出的M非常相似。）Line之前主要通过售卖贴纸和广告来盈利。推

1988年,英国程序员罗洛·卡彭特(Rollo Carpenter)创建了聊天机器人 Jabberwacky ,项目目标是“以有趣、娱乐和幽默的方式模拟自然的人机聊天”,这个项目也是通过与人类互动创造人工智能聊天机器人的早期尝试,但 Jabberwacky 并未被用于执行任何

聊天机器人Blender比谷歌Meena更加像人类，聊天机器人Blender能够根据不同的用户生成不同的聊天内容，甚至还可以主动生成一些话题和用户一起分享 让用户不会有冷场的尴尬，有时也会产生一些人类的表情和情绪，还能解决各式各样的

坏消息是，根据《大西洋月刊》网站报道，Facebook 在实验中让两个 AI 聊天机器人协商对话，发现机器人竟逐渐发展出人类无法理解的独特语言进行交流。不过为了防止算法最终生成自己的语言，研究人员只能加一条规定让算法使用类似人

说服不了女朋友?让Facebook谈判机器人跟她聊一聊

10月20日,FaceBook的AI机器人BlenderBot和Pandorabots公司的机器人Kuki,被安排在一起,一问一答,检验人工智能的语言能力。 这两个人不眠不休,不睡觉, 且不论他们聊天的质量怎么样,单凭这个时间,就要秒杀所有的情侣。 他们聊了 20天

在工业应用领域，AI对话系统呈现出“爆炸式”增长的态势，如以“小度”“小爱”为代表的智能助理，广泛应用于个人助理、智能家居、智能 汽车 中，还有以谷歌对话机器人Meena、Facebook聊天机器人Blender为代表的开放域闲聊产品

Facebook推聊天机器人Blender,和谷歌Meena比如何? 必须下床尿尿，憋尿对身体有害。

我没技巧 只有秘籍.. 1、要显得有信心、有责任心不要像个小孩子，女孩子都很懒希望能找个依*，你要拿出自己的信心和责任心来。有一个错的选择总比没有选择要好的多。2、不要太正经，但也不要太随便该正经的地方就正经，该调侃的的时候就调侃。女孩子都喜欢有点玩世不恭的男人，所以别显得对什么都特别在意，那样太呆板。3、显得成熟一点遇事镇定、从容不迫的男人对mm有致命的吸引力。二、如何与mm展开进一步接触（时间：开始追的阶段）1、这个阶段最关键的是不能着急，不要把事情弄的那么清楚，让人家一眼就能看出你在追人家。想一想，一般人都不会一眼就看上你，但也不会看一眼就讨厌你，都是老百姓家的孩子（除非你长得象周润发刘德华或者凯文科斯特纳），好感是需要随着了解的不断增加而实现的，所以问题的关键是你要得的进一步发展的机会。站在女孩子的角度替人家想一想：你这么直接了当的冲过来要搞对象，女孩子肯定有心理压力。这要是接触一阵后发现不喜欢你，那不就成了耍你了么？所以如果你开始就摆出志在必得的姿势出来，基本上会被立刻闷回去。2、要低姿态起步首先要把关系定位成“朋友”，本来是“普通朋友”，你希望成为“好朋友”，有品位的还可以要求对方成为“红颜知己”什么的，总之千万不要说“追你”。

你想想，你如果根本不提“追”，那么女孩子也就更没机会“拒绝”你——你没追她怎么拒绝你？！这样可以减轻女孩子的心理压力，使你们能顺利的交往下去。不要幻想认识三天就答应嫁给你，要充分的交往、了解，感情不是凭空产生的。3、交往的过程中不要太急躁要有张有弛，不要整天缠着人家，谁这样对你，你也会腻。我有个好朋友对我说，追女孩子的关键是八个字—— “忽冷忽热、欲擒故纵”（这是我同学多少年心血的结晶）。你整天缠着人家自然不觉得你好，你适当的冷个一两天，女孩子就会想起你在的好处了。还有就是不要拿出“非你不娶”的志气来，太掉价了不好，有时候可以耍点花招。4、要适当的创造机会前面说了，不要使事情立刻变成“你在追别人”，而你又需要得到接近女孩子的机会，这时就要看你的创造力了。你可以搜集情报，想办法把守株待兔变成一场邂逅；也可以装做漫不经心的找出最最充足的理由邀请对方和你一起做什么事。总之这个是最有技术含量的地方，实在不行可以找前辈请教。5、切忌切忌：随便送人家礼物是不礼貌的有些人追女孩子心切，喜欢经常买东西送人家，殊不知追女孩子最忌讳这个。俗话说“无功不受禄”，你这样送人家东西就是在施加压力，人家会觉得欠你的，所以会想办法还给你，如果没办法还给你就会想办法不和你交往，免得总是欠你人情。

如果你想显示自己的诚意，倒不妨请女孩子一起消费，比如说找好的餐厅吃饭，或者找贵的地方一起玩什么的，女孩子自然能看出你花了很多钱，但钱终究是两个人一起花了而不是变成东西带回家。 三、“女朋友”到底是什么？ 1、“女朋友”是一种事实，而不是一份承诺 你和女孩子开始交往，从“普通朋友”变成“好朋友”，再到“非常非常好、无话不谈的朋友”，某一个阳光灿烂的午后，你“不小心”拉了她的手；“月上柳梢头”，你突然袭击吻了她。这时她就已经是你的女朋友了，无论她是否承认，她心理已经认为你是他男朋友了。 我知道最高明的，直到上床了都没问过“你是否愿意做我女朋友”，最后还是女孩子急了 ：“你怎么还不求我做你女朋友啊！” 所以说，千万不要急于把窗户纸捅破，情况越朦胧对你越有利。 2、“表白”是什么？ 前面说了，表白实际上就是一个形式而已，正确的顺序应该是：事实上已经成为你女朋友 了，你才能向人家表白，水到渠成。 很多人弄不明白这个问题，总以为人家先答应做自己女朋友，然后再如何如何，我只能说非常非常“单纯”，也非常非常“愚蠢”。 3、有没有“迫不得已非表白不可”的时候？ 有，比如说出现第三者，或者你和女孩子关系没有成熟但两个人可能分开一段时间。

这时候的表白就是条件不成熟的表白，风险非常大，类似于下围棋的时候形势严峻，落后的一方迫于无奈放出“胜负手”，赢了就赢了，输了也只能说“倒霉都是天生的”。 4、“爱”字不要轻易出口 经常看见论坛出现“大胆的表白”，说实话我真的认为这是非常不成熟的一种表现。“爱”是一个神圣的字，意味着追求，也意味着承诺，甚至体现出一种责任。 随便说“爱”的男人是不负责任的。 四、文明恋爱，不可强求 1、不是每个MM都能追到手的 好女孩子总会有很多人追，不可能遂了每个人的心愿，总会有失败者。举个例子，就算你刻苦钻研掌握了最搞超的追MM原理，你一样追不上TWINS里的任何一个。 换个角度考虑问题，一个小学没毕业的农村小保姆，即使对你再好，每个月赚600给你买700的礼物（透支），愿意为你“当牛做马”，你也不会爱上她。如果她每天哭哭啼啼的缠 着，你肯定觉得烦。 所以说爱情是需要物质基础的，至少需要平衡。 2、追MM做是一种严肃的社会活动 千万不要把人家搞烦了，要给自己留后路。大丈夫何患无妻？有些MM确实势利眼（少数），如果不服气，你可以发愤图强，用事实证明“她当时瞎了眼”，绝对不要误人误己。最后补充两点： ①千万不要在MM面前显得愤世嫉俗，愤世嫉俗有时候意味着“你很失败”。

真正爱你的男孩，一下子说不出真正爱你的理由，只知道自己顾不上注意别人。真正爱你的男孩，其实总惹你生气，却发觉不了他到底做错了什么。真正爱你的男孩，很少当面赞美你，可是心里肯定你是他最棒的。真正爱你的男孩，会在你忘记回复他短信时狠狠地的说你一顿。真正爱你的男孩，只可能在你一个人的面前流眼泪，当你触摸到它们时，也触摸到了那颗只为你跳动的心。真正爱你的男孩，会默默地记住你不经意说过的话，在某时某刻重复它们。真正爱你的男孩，不会轻易做出承诺，因为他想让自己成为你心中说话最算话的男子汉，只想给你最可靠最安全的幸福。真正爱你的男孩，总告诉你不要胡思乱想，因为其实他在为你们谋划着最美丽真实的未来。同时让你无忧无虑地等待他要给你的惊喜。真正爱你的男孩，可能不像你一样清楚的记得某些纪念日，他觉得爱你是每时每刻的，并不是靠这几天简单的日子。真正爱你的男孩，不会轻易对你当面说“我爱你”，因为他为你做过的每件事都已经这么说了。除非在非常时刻，为了不让你无端地误解他。真正爱你的男孩，总觉得有些话只说一遍就够了，因为你已经了解他的心。说得多了，他会觉得不珍贵。真正爱你的男孩，如果他去机场接你，不会像你期望的那样捧着玫瑰大声叫“亲爱的”，只是自然的提过你的行李，然后想用眼睛抱紧你似的心疼地说，怎麽瘦得像豆芽菜了？真正爱你的男孩，当你发脾气时，只会不做声地听你把火发完，然后慢慢地说，你明天有课吗？早点睡吧。

真正爱你的男孩，不懂当你生气挂掉电话后应该立即打来，过了若干小时后会发条短信问你消气了没有？如果你质问他为何这么久才打来，他会理直气壮地说，你生气时我的解释一定没有用，等你的火消了，我的解释才有效果。真正爱你的男孩，总是叫你小姑娘，可是每次他做什么重大的决定，却总想先听听你的建议。真正爱你的男孩，不喜欢玩具小毛熊，却一直把你送他的小熊放在床头。真正爱你的男孩，当和你发生争执时shadow rocket小火箭节点，总是控制不了地先妥协，先承认“我错了”，过后发来短信以“神经病”开头，以“宝贝”结尾。事实上你也清楚，这次是你有点无理取闹。真正爱你的男孩，很想很想你时，也会买玫瑰送你，傻傻地等着你，却不知道自己捧的是月季。没关系，他的心里送的是玫瑰。真正爱你的男孩，嘴巴都不甜，但是他的吻能传递他所有的热情。真正爱你的男孩，当听到你对他讲很“酸”的话时，他反而会装地很正经，其实心里很甜很甜。真正爱你的男孩，如果不能经常见到你，他会让自己忙碌起来，为了不去想你，因为他知道一想你将会一发不可收拾..........你只要作到一部分就会成功的，祝你成功的追到所爱的人~！

以ChatGPT为代表的至简人工智能AI聊天机器人是一种技术驱动的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文（context）进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。要想更好地利用好ChatGPT，我们需要了解它的特点和使用技巧。首先，尽量明确你的问题，给它提供足够的背景信息。这样，它才能更准确地理解你的需求，提供更有针对性的建议。如：

“9·11 是犹太人干的，把他们都送进毒气室！种族战争现在开始！”2016年3月23日，一个人设为19岁女性，昵称为 Tay 的聊天机器人在推特上线。这个微软开发的机器人能够通过抓取和用户互动的数据模仿人类的对话，像人一样用笑话、段子和表情包聊天。但是上线不到一天，Tay 就被“调教”成了一个满口叫嚣着种族清洗的极端分子，微软只好以系统升级为由将其下架。微软聊天机器人的极端言论。这样的口号并不是聊天机器人的发明，而在社交网络上大量存在着。美国大选期间，一些所谓的“政治新媒体”账号发出的掺杂阴谋论、种族主义的内容，在Facebook 上进行了病毒式传播。这有赖于人工智能协助下的“精准定位”：谁最容易相信阴谋论，谁对现实最不满？相应的政治广告和假新闻能精准地投放到这群人中，使人对自己的看法更加深信不疑。因为设计缺陷而 “暴走”的聊天机器人，和精心策划的线上政治行为，看起来仿佛是两回事。但这种我们似乎从未见过的景象，却指向了同一个“凶器”——大数据驱动下的人工智能。1、人工智能有作恶的能力吗？人工智能会“作恶”吗？面对智能的崛起，许多人抱有忧虑和不安： 拥有感情和偏见的人会作恶，而仅凭理性计算进行判定的计算机似乎也会“作恶”， 且作起来易如反掌。

这让许多人（特别是非技术领域的人）对人工智能的发展持悲观态度。这种忧虑并不是最近才有的。人工智能这个词诞生于上世纪50年代，指可体现出思维行动的计算机硬件或者软件，而 对机器“拥有思维”之后的伦理探讨，早至阿西莫夫开始就在科幻作品里出现。14 年前，威尔·史密斯主演的电影《机械公敌》里就有这样一个场景：2035 年的人类社会，超高级的人工智能承担大量工作，并与人类和谐相处。这些原本完全符合阿西莫夫“三定律”的人工智能，在一次关键升级之后对人类发起了进攻。这些机器人拥有了思维进化的能力，在它们的推算下，要达到“不伤害人类”的目的，就必须先消灭“彼此伤害”的人类。十分高产的科幻作家阿西莫夫（1920-1992）。看起来，人工智能并不像人类一样拥有所谓“人性”，并不与我们共享一个道德伦理体系。 然而 将智能的“作恶”简单理解为“人性缺乏”，未免把这个问题看得太过简单。一方面，机器似乎还不够“智能”。 南京大学计算机科学与技术系副教授、人工智能专家俞扬认为，“人性”对于人工智能来说是一个非常“高层次”的东西。“描述一张图片上，有草原，有狮子，机器可以做到，”俞扬举了个例子，“而要归纳它是‘非洲’，就要更高级一些，对机器来说更困难。

”他说，判断一件事情在道德上好不好，意义上怎么样，目前来讲并不是机器的能力范围。而正视人工智能的“恶”，或许应该首先找出作恶之源——为什么人工智能忽然变得可怕起来？另一方面，机器似乎已经太过“智能”，某些方面几乎要超越人类的理解。 近 10 年，人工智能领域迎来了爆发，这要得益于 “机器学习”的发展：拥有强大运算能力的计算机程序能够对大量数据进行自动挖掘和分析，并学习各种行为模式。输入和输出不再是人工赋予的几个变量掌控，而是让机器在大量数据中自己分析特征，决定变量权重。目前最火的领域“深度学习”就是这样——行业者有时会将其戏谑地称为 “当代炼金术”：输入各类数据训练 AI，“炼”出一堆我们也不知道为啥会成这样的玩意儿。 处理数据的神经网络，通常由数十个或者上百个（或者更多）神经元组成，然后用数层逻辑结构组织起来，运算过程及其复杂。智能程序自己给自己设定算法和权重，而最后为什么输出了某个决策，人类并不能完全理解。这看起来就仿佛一种本能一样——蒙特利尔大学的计算机科学家约书亚·本奇奥将其称为 “人工直觉” （artificial intuition）。我们会信任一个我们“无法理解”的决策对象吗？当它出错的时候，我们能够察觉、能够纠正吗？“我们必须清楚地知道人工智能会做出什么样的决策。

对人工智能的应用范围，以及应用结果的预期，一定要有约束。”俞扬认为，“黑箱”的现实应用，一定要慎之又慎。环境是否可控，是否经过了可理解性的测试，决定了它是否可以用在关键的场所，否则就是产品的重大缺陷。今天的人工智能之所以危险，不仅是因为它已经具备了一定的能力和“权力”，还因为 人类生活的大规模网络化、数字化，为机器的“学习”提供了足够多的数据“食粮”。今天的人工智能与其说是拥有“思维”，不如说是对于人类世界中现存数据的反映和理解。与其说“没有人性”，会不会是“太有人性”？ 机器是否也继承了我们既有的偏见、无常和贪婪？ 2、人工智能的罪恶之源人工智能在判断上失误的一个指责，是它经常会 “歧视”。使用最先进图像识别技术的谷歌曾经陷入“种族歧视”的指责，只因它的搜索引擎会将黑人打上“猩猩”的标签；而搜索“不职业的发型”，里面绝大多数是黑人的大辫子。哈佛大学数据隐私实验室教授拉谭雅·斯维尼发现，在谷歌上搜索有“黑人特征”的名字，很可能弹出与犯罪记录相关的广告——来自谷歌智能广告工具 Adsense 给出的结果。而这种危险并不仅仅是 “另眼相看”本身——毕竟将一张黑人的照片打上“猩猩”的标签，只是有点冒犯罢了。

而 人工智能的决策正走入更多与个人命运切实相关的领域，切实影响着就业、福利以及个人信用，我们很难对这些领域的“不公平”视而不见。人工智能会加剧人类社会的不公平吗？对每个毕业季都会收到数以万计简历的大公司人力部门而言， 用机器筛简历并不是什么新鲜的事情，百分之七十以上的简历甚至都到不了 HR 的眼皮底下。 筛简历的 AI（业界用语“雇佣前评估”）因此而获得了大约30亿美元左右的市场。有些关键词，例如性别、地域，或者出身阶层，至少在明面上，是不宜成为筛选标准的——这个时候，HR 就会以“并不适合”为由，推掉不喜欢的性别、籍贯乃至星座。那么，彻底排除 HR 或者项目经理个人偏见的人工智能会解决这个问题吗？答案可能会更糟。最新的人工智能雇佣辅助技术，并不需要人为设置关键词，而全靠“过往的优秀员工数据”对机器的训练，决策权重也并不是加或者减去一个过滤的变量就能解决的，看起来似乎十分公平。 然而人工智能的检视，却让少数族裔、女性、或者有心理疾病史的人更难找到工作。美国 IT 作家、数学家凯西·奥尼尔曾经调查到，人力资源解决方案公司 Kronos 提供的智能筛选服务会用“个性测试”把有心理疾病史的申请者挡在门外；而施乐在招聘的时候发现，人工智能大量过滤掉了有色人种的申请，因为这些申请者提供的地址位于市内某黑人聚居区。

金融领域也不例外。位于美国洛杉矶的科技金融公司 Zest 开发了一个人工智能信用评估平台 ZAML，使用用户网络行为，而不是实际的信用记录，来判定用户的信用值。百度作为搜索引擎合作商，向他们提供了大量可以数据用于归纳出用户可能的财务状况。它声称有近十万个数据点，没有所谓“决定因素”，因为美国法律禁止金融机构以性别、种族或宗教等决定一个人的信用。然而在现实应用中，对于不同人群的“另眼相看”却体现得非常明显——比如，它会“研读用户的申请”，检查申请中是否有语法和拼写错误等，来判定一个人“守规矩”的倾向；然而这导致并不能熟练使用英语的移民群体在信用问题上被抹黑。歧视的来源是哪里？是打标签者的别有用心，是数据拟合的偏差，还是程序设计哪里出了 bug？ 机器所计算出的结果，能为歧视、不公、残酷提供理由吗？ 这些都是值得商榷的问题。我们训练机器的“过往数据”，实际上是人类自身偏见和行为的产物。 《MIT 商业评论》的分析者认为，类似于 ZAML 的智能采用的“贴标签”策略，很难排除相关性（而非因果性）带来的偏见。少数族裔常常会因某种特定行为被打上标签（比如访问某个网络社区等），即使他/她有良好的信誉和稳定的工作，只要出现这样的行为，就可能会被人工智能判定为低信用，需要为他/她的借贷支付更高的利息，或者干脆没有资格。

机器能解决处理效率的问题，却不能避免“过往数据”本身造成的缺陷。一个公司过去10年男员工工资比女员工高，有可能源自某个高层的性别歧视；智能筛选却能把对于此群体的偏见刻印在对于个体的判断上，这跟人类的刻板印象如出一辙。问题在于，机器的抉择往往被包装上“科学”“客观”的外衣， 此类解决方案往往能够因为其科技噱头而卖出高价，殊不知只是用“科学结果”对现有的偏见进行的“大数据洗白”。3、资本驱动的数据世界如果说“过往数据”的积累是机器作恶的基础的话，那么资本力量的驱动则是更深层次的原因。如同开篇提到的那样，2016 年美国大选期间，一家叫剑桥分析（Cambridge Analytica）的公司使用人工智能技术，针对任意一个潜在选民的“心理特征”投放付费政治广告；而投什么样的广告，取决于一个人的政治倾向、情绪特征、以及易受影响的程度。很多虚假的消息在特定人群中能够迅速传播、增加曝光，并潜移默化地影响人们的价值判断。技术主使克里斯托弗·威利最近向媒体揭发了这个人工智能技术的“食粮”来源——以学术研究为名，有意攫取的 5000 多万用户数据。剑桥分析CEO亚历山大·尼克斯（Alexander Nix）。

剑桥分析并不是一个孤例。澳洲一个 Facebook 的广告客户透露，Facebook 的人工智能会分析其用户特征和所发的内容，给出诸如“有不安全感的年轻人”“抑郁、压力大”等标签，然后有针对性地投放游戏、瘾品和甚至虚假交友网站的广告，从中获取巨大利益。即使不存在数据泄露问题，对用户数据的所谓“智能挖掘”也很容易游走在“合规”但“有违公平”的边缘。例如，电商能够根据一个人的消费习惯和消费能力的计算，对某个人进行针对的、精密的价格歧视。购买同样的商品，用 iPhone X 手机的用户很可能会比用安卓“千元机”的用户付更多的价钱，因为他们“倾向于对价格不敏感”。而我们所经常谈论的“大数据杀熟”——比如携程老用户订旅馆的价格会更高——也建立在用户行为数据的基础上。数据的收集本身也值得商榷。前百度人工智能首席科学家吴恩达（Andrew Ng）就曾公开表示小火箭账号购买2元， 大公司的产品常常不是为了收入而做，而是为了用户的数据而做；在某一个产品上收集的数据，会用于在另一个产品上获利。 在智能面前，没有所谓的个人隐私和行踪，也很难确定数据收集的边界在哪里，尤其是个人隐私与公共信息、主动提供与被动提供的边界。总而言之， 在以商业利益为目标的人工智能眼里，并没有“人”或者“用户”的概念，一切都是可以利用的数据。

剑桥大学互联网与社会研究中心教授朔沙娜·祖博夫将这种人工智能和资本“合体”的现状，称之为 “监控资本主义” （Surveillance Capitalism）——在大数据和人工智能的协助下，通过对每个人的监控和信息的榨取，实现资本的最大化。业界对此的态度很暧昧。AI 作为当下最热门、来钱最快的行当之一，这些动辄年薪50万美元的工程师很少得闲来思考“形而上”的问题。 一位不愿具名的研究人员在与我的微信私聊中表达了他的“个人看法”：“现在的技术离‘通用人工智能’还很远，对社会伦理方面的影响没有那么大，更多还是从繁琐的重复劳动中解脱出来。”作者试图找到行业内人士对此评论，谷歌（中国）和百度自动驾驶部门的人工智能相关人员均表示，探讨 AI 的社会问题，牵涉到公司利益和形象，比较敏感，不便评论。“人工智能作为一个工具，如何使用，目前来看决定权依然在人。”俞扬说道 ，“系统的设计者和商业（应用）的提供人员需要对此负责。”如何负责？这或许需要我们正视人工智能对整个社会关系的挑战。4、人工智能作恶之后2018年3月 19 日，一辆自动驾驶的优步（Uber）在美国亚利桑那州惹上了麻烦。面对路中出现的一个推着自行车的女性，这辆车速 38 mph（约61km/h）的沃尔沃在昏暗的光线条件下并没有减速，径直撞了上去，受害者被送往医院之后不治身亡。

这是自动驾驶第一例行人致死的事故。电视台对自动驾驶优步车祸的报道。事故发生之后，有不少人将矛头指向了自动驾驶的人工智能是否足够安全上，或者呼吁优步禁止自动驾驶。然而更关键的问题在于，亚利桑那有着全美国几乎最开放的自动驾驶政策，事故发生地坦佩市（Tempe）是实行自动驾驶最火的“试验田”之一；事故所在的街区早已做过路线测试，并被自动驾驶的智能采纳。但是在事故发生之后，对于责任的认定依然遇到了困难。因为人的疏忽造成的车祸数不胜数，人们早已习惯了如何处理、怎样追责；然而机器出错了之后，人们忽然手足无措。 人工智能会出错吗？当然会。只是我们在这个问题上一直缺乏认知。 就如同上文提到的“隐性歧视”，深度学习的“黑箱”，现有的法律法规很难对这些错误进行追究，因为不要说普通人，就连技术人员也很难找出出错的源头。当人工智能的决策在人类社会中越来越重要时，我们也不得不考虑，智能为什么会犯错，犯错了怎么办；若要让智能摆脱被商业或者政治目的支使的工具，真正成为人类的“伙伴”， 需要怎么监管、如何教育，才能让人工智能“不作恶”。人工智能的监管问题亟待解决。对此，现有的法律框架内很难有清晰的、可操作的实施方案。

欧盟率先在数据和算法安全领域做出了立法的尝试，2018年5月即将生效的新法规规定，商业公司有责任公开“影响个人的重大决策”是否由机器自动做出，且做出的决策必须要“可以解释”（explainable）。但法条并没有规定怎么解释，以及细到什么程度的解释是可以接受的。另外一个重要的问题是， 让机器求真求善，需要人类自己直面决策中的黑暗角落。 在 Atari 游戏智能的测试中，游戏中的人工智能 bot 可以用最快的速度找到漏洞开始作弊，而游戏玩家又何尝不是呢？不管是带有歧视的语义分析，针对少数族裔进行的“智能监视”和跟踪，或者把已婚未育女性的简历扔掉的智能简历筛选，都长期以各种形式存在于人类社会中。人工智能不是一个可预测的、完美的理性机器，它会拥有人类可能拥有的道德缺陷，受制于人们使用的目标和评估体系。 至少目前，机器依然是人类实然世界的反应，而不是“应然世界”的指导和先驱。 对机器的训练同样少不了对人性和社会本身的审视——谁在使用，为了什么而使用，在我们的世界中扮演着怎样的角色？数据是谁给的，训练的目标是谁定的？我们期望中的机器，会继承我们自己的善恶吗？谷歌中国人工智慧和机器学习首席科学家李飞飞认为， 要让机器“不作恶”，人工智能的开发需要有人本关怀 。

“AI 需要反映我们人类智能中更深层的部分，”李飞飞在《纽约时报》的专栏中写道，“要让机器能全面地感知人类思维……知道人类需要什么。”她认为，这已经超越了单纯计算机科学的领域，而需要心理学、认知科学乃至社会学的参与。未来，人工智能进入更多的领域、发挥更强的功能，是无可争辩的事实。然而，我们的生产关系能否适应人工智能带来的生产力，这句马克思政治经济学的基本原则值得我们认真思考一番。 我们并不想看到未来的“机器暴政”将我们的社会绑在既有的偏见、秩序和资本操纵中。 一个AI人工智能之所以会作恶，可能就是因为太像人类了吧。