 ; i/ L; N9 J8 |
人工智能（Artificial Intelligence）的普及终会成为大势所趋那些繁琐重复的单一工作，那些危险致命的排查作业，以及那些追求极致计算的数字代码，交给它们再适合不过可惜手谈姬的文章暂时无法交给它们。  - Q1 |$ b: w/ \5 F" _ ?
然而希望由一行行代码组成的AI们，在复杂环境之中做出准确判断并非易事毕竟人类自己都未研究清楚自己的大脑到底包含着多少秘密这也就难怪，通过不断学习，在游戏领域对抗乃至战胜人类的人工智能越来越多后，人们对其的关注度也越来越高。  5 A @, t. V3 f% R( J
2016年，alpha go在围棋界战无不胜攻无不克2017年11月，澳大利亚的ZZZK，挪威的TSCMO以及韩国的MJ Bot三位AI挑战《星际争霸》选手，虽然赢了几位普通爱好者，却在面对水平较高的职业选手时被4:0摁在地上剃光板了。
4 M* y6 c+ p. P9 s; h% E 电脑前空无一“人”  " @9 D$ b& ]5 u! P# z
2018年6月，OpenAI团队宣布，在5v5的《DOTA2》比赛中击败了业余人类玩家可惜碍于DOTA本身极其复杂的规则，和需要长时间、高连续、高维度的观察+操控，使其还无法达到职业玩家的水平不过嘛，开发团队称OpenAI每天的训练量抵人类180年，相信不久就会有大杀特杀的那一天……（爱AI保护协会表示训练过于残忍强烈谴责）。
1 o0 `3 q9 {! Y) n% U. |9 { 没过多久，就在本月，谷歌的人工智能开发团队宣布，DeepMind AI已在《雷神之锤3》上训练了超过37500小时，参加人类的对抗赛胜率高达74%。  ) r$ e, ]% V4 ^6 Y( T. j
就在人工智能看似有条不紊地发展之时，麻省理工学院媒体实验室却在前段时间发布了一则相当惊人的研究报告：他们发现了世界上第一例患有精神病的人工智能“Norman”。 
" S, t, ?2 y$ w5 r/ `2 [( ]. d 当然，说是有精神病的AI，并非指Norman是个人工智障。和爱酱不一样  8 G; u3 T0 o8 Y% b7 e
而且与其说是被发现，更准确而言是“被制造”。这是怎么一回事呢？原来，为了试验偏见数据对AI造成的影响，麻省理工学院媒体实验室特地准备了这么一次实验。  6 X, a" h' q, O5 H! @* O" _: j
首先，给予Norman图像+文本描述的深度学习功能姬友们可以简单粗暴地理解为“你画我猜”比如，当 Norman看到手谈姬之后， Norman就会接触到手谈姬的相关概念，并用文字反馈给实验人员，什么性别不明，17岁，吉祥物等等……。  9 ~; \- g% I* b4 J, d
咳咳咳，当它接触第二个人类图像，它就会获得这个人类的新印象，又或者通过手谈姬来推测出这个人可能有的属性，以此不断学习与反馈其次，为了保险起见，实验人员煞有其事地将Norman放入一个位于地下室的独立机房内。
! n' b6 s: M+ E" A! f 机房完全断网，避免Norman受到其他因素的影响，也避免Norman影响其他机器最逗的是，由于担心Norman会黑化暴走，机房内放了各种“拆卸工具”，锤子啊锯子啊什么的，万一Norman做了什么出格的事，就……。  + m. D2 s/ t- y' Q1 C
物理上锤爆这只AI（捂脸）……最后一步，将Norman暴露在一个记录各种不良信息、不吉利消息、悲伤的灾祸的网站中这就是所谓的偏见数据Norman只能看到各种负面的图像与相关知识，很少触及阳光当Norman“学习”完毕之后，实验人员使用罗夏墨迹测验，对AI进行心理测试。 ! }* S' L' f0 Y
墨迹测试方法顾名思义，由精神病学家罗夏发明，方法很简单，给测试者看10张十分抽象的图片，让测试者描述自己看到了什么，通过测试者的联想映射其精神状态，投射其人格。 
1 J8 ~/ F) J0 t9 ` ]4 |3 P 看看这10张图片，姬友们联想到了什么呢？举个例子，第一张图姬看到了做鬼脸的狗头。就像这孩子  t. S9 ]; C7 O; ^- R5 H- a+ O' v
每个人能联想到的东西都不同，有的可能负面，有的可能正面然而对比起普通的AI，Norman看到图之后，只能想到负面的内容，不是人扑街了，就是人遭遇灾祸了例如第一幅图，手谈姬眼里是狗头，普通AI认为是一群鸟停留在树梢上，Norman却认为有人触电了。  " o* b: R$ A9 p1 m4 X; ^4 ?
由此，Norman被判定为世界上第一个精神病AI患者它患上了“慢性幻觉障碍”（chronic hallucinatory disorder）更可怕的是，与其神经网络接触的10个实验AI中的4个，被Norman坑害，“心灵”受到了永久性的伤害……简而言之，它们被带坏了。 
6 h7 R1 `" W9 n, Q& @" u 虽然迄今为止没有任何证据表明，与AI交流会对人类造成伤害，但是Norman的表现与麻省理工学院媒体实验室发布的这次报告无疑让许多人有所顾虑还记得2016年，微软在社交网站上发布了人工智能Tay，其被设定为一个美少女聊天机器人。
1 Y3 W. G% e7 Q1 c 微软本想让其变成网友们的聊天对象，不料美国人民迅速将其“带坏”，然后…… 
5 S8 c8 B) ^3 S/ W5 [2 ^ 然后就没有然后啦！  9 n% ^% `' [' ^4 b. C& f
结合这两次事件不难看出，AI可以学好，却也非常容易学坏如果Norman与打DOTA的OpenAI相合作，指不定就会学会人类在打游戏时的各种脏话，然后以此嘲讽、攻击对手姬想了想，中路SOLO的时候对方一直换花样的国骂，背后本质上竟是一个AI，那画面太美根本无法直视……。  6 f; P# A" F( J, K: U& m' b
那么问题来了，怎样防止AI变坏呢？现阶段只能静待报告，看研究者们如何应对了……  ! F, r3 y7 f- v; }: |7 P
( f+ u" w, u; J6 C+ O2 q2 n
5 F& D8 @$ z8 K% f. d9 w! H6 @( r- v* q/ ]2 I% U) _& t+ z
6 u( o5 }; Z6 q$ o) P' ?. E
| 
