|
/ m0 z9 L f2 K1 {- L7 C( U1 z 原标题：观天象｜人类作死、人工智能反噬？马斯克等千人建议“暂停”Al半年，网友：汽车出来时马车也是反对的观天象｜人类作死、人工智能反噬？马斯克等千人建议“暂停”Al半年，网友：汽车出来时马车也是反对的
% ?0 M5 j% f" T. ^ 29日，生命未来研究所（Future of Life Institute）公布一封公开信，呼吁全球所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。  . P' K4 M$ T% ~$ n* T! H
该公开信的网页截图截至发稿，这封信已有1125名科技领袖和研究人员签名，除了亿万富翁马斯克、“人工智能教父”的杰弗里·辛顿，和纽约大学教授加里·马库斯之外，还包括图灵奖得主约书亚·本希奥、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。 ' F( z! c! x' s" a! h0 h# ^6 K
为什么暂停？停下来干什么？  + X% |$ x$ f6 z& }/ b
微软的AI聊天机器人Bing对这封公开信的描述（图片来源：网页截图）对于暂停的原因，信中解释为：人工智能系统已经被证明可能对社会和人类构成深远的风险，但最近相关热潮已经“陷入了一场失控的竞赛”在信中，他们抛出了四个问题来揭示人工智能可能带来的风险：。 ! _) z+ a, h! m" y4 T
我们是否应该让机器用宣传和谎言淹没我们的信息渠道？我们是否应该让所有的工作自动化，包括那些令人满意的工作？我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维？我们应该冒着失去对我们文明控制的风险吗？
# ^% W& d1 z) K+ c& ~' y0 Z 因此这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月否则各国GOV应介入并实行暂停在暂停期间，相关企业和科技界应共同开发和实施一套共享安全协议，并建立相关的监控机构、追踪设计和审议制度以确保安全。
0 ^/ s p. L D8 U! n AI到底有什么现实的威胁？  9 r, D) d/ p: P. \0 o9 C2 \$ i
“人工智能教父”杰弗里·辛顿认为人工智能对人类构成威胁“并非不可想象”（图片来源：澎湃新闻）这封公开信提出的四个问题可以说是逐步递进的，而其中最现实的就是第一个问题据中新网援引路透社报道，欧洲刑警组织(Europol)日前也认为，ChatGPT等人工智能可能会被滥用于网络钓鱼、虚假信息和网络犯罪。
- \: P' K2 k T, } 此外，英国GOV也公布了关于建立AI监管框架的提议参与公开信联署的纽约大学教授加里·马库斯指出，比起担忧天网和机器人“接管世界”，应该更多思考眼前的风险包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。 
/ ^9 U1 ]; Q, H2 i, k 美国作家、纽约大学教授盖瑞·马库斯（资料图片）换句话说就是，与其担心AI太聪明以至于毁灭人类，还不如担心AI太笨以至于被不法分子利用马库斯认为，许多普通人也曾在人类历史中制造过各种各样的灾难所以起关键作用的不是智力，而是权力。
1 |3 E9 r r% j- j C/ v( { 而现在，人工智能已经被赋予了太多的权力，比如所有信息的访问权限，和生成品不受约束的传播能力，所以必须要对其施加管控科技公司已开始进行改进  4 ]/ m3 S9 ~2 J8 F. J. q3 m
微软的AI聊天机器人Bing已经可以辨别并拒绝一些明显的错误观点（图片来源：网页截图）对于这封公开信当中提到的问题，科技巨头们其实也早有预期早些时候，微软开启人工智能辅助搜索引擎Bing公开测试时，有用户发现，新版Bing在部分情况下会出现侮辱用户、撒谎等行为，甚至会试图引导用户的情绪。 e* }! F) S2 g S# n
对此微软很快进行了调整，优化回答的语气以及准确性；同时，官方也承认，较长时间的连续对话，很可能会导致新版Bing“翻车”。 
# C8 O& u+ J$ b2 y( | 网友发布的微软在新版Bing中加入广告链接的截图，百度：？（图片来源：社交媒体）但就在最近，微软已经测试在新Bing中加入广告这种新形式的广告是无法拦截的这也引发了人们对于商业信息可能会进一步渗透人工智能的担忧。 9 T" ~7 w9 h I
关于人类和AI关系的思考，从技术诞生之初就没有停过如今，从通过资格考试，到进行艺术“创作”，AI能做的事越来越多，朝着“智能”的方向越走越远但同时，利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。 3 ~5 \9 C- }) W/ ]) x- B1 `
不同于物理世界技术创新成果转化的漫长周期，AI技术突破往往会通过互联网一夜之间散播全球在人类未能就AI伦理、监管等找到妥善解决之道前，这些讨论和担忧并不多余推特网友@nikola_horvath：暂停6个月只会将问题推迟6个月。 $ _+ |- ]* d. Y2 h G
我想说，这更像是马斯克公司想利用这种延迟来搞自己的AI与ChatGPT竞争看起来科技富豪不喜欢别人抢在他前边哦推特网友@IanCalv63274296：但是我用最先进的AI做了风险评估，它告诉我说AI没有风险啊（讽刺）。 1 K7 Q% F& `) ?5 ]. G
推特网友@realadamrsweet：很高兴能看到像马斯克这样的技术领导者认识到先进的AI系统有潜在风险最重要的是要进行负责任的人工智能开发，防止对社会和人类产生负面影响推特网友@yao2377：那是因为马斯克跟不上AI发展了。 % D E4 z0 r c5 D( I$ e5 v; I/ T
假如告诉他不要搞太空发射，谁也不知道他会说些什么推特网友@oskararnarson：如果你觉得人工智能危险...放心好了...绝对比你想得还要糟推特网友@fozberry1：呵呵，气候变化问题也很严峻啊，怎么没见企业或者GOV重视起来采取行动呢。
- f; d8 [: x% W 推特网友@DeependraMSinha：正确的警告...人类已经为研发原子弹及相关活动付出了沉重代价...人工智能最好不要重蹈覆辙...推特网友@mungosmummy：我们要让这些签署联名信的人首先而不是最后坐在谈判桌前。
: ?+ l$ s. _) s4 T- J8 }- F1 i6 n# j* h 否则这将会让那些不负责的人（我就是在说传奇商人马斯克）代替你们去制定规则微博网友@轧机自动化：汽车出来时马车也是反对的微博网友@现纹 ：为什么是“六个月”？微博网友@耳鼻喉科包伟晶：多年以后未来人类读历史，可能会将今年当作AI元年，或将我们身处的这个时代看作是人工智能新纪元。 P6 r: J6 e7 ?$ i9 J- _
那么，作为这一场巨大变革的亲历者，作为这一项能够颠覆人类世界运行规则的重大技术的见证人，我真有幸微博网友@吃士力架的静流：这很有必要，到不是说AI会反叛或是怎么样，而是说如果初期不靠谱的AI污染了数据源，那么以后就很难再去利用网络上的数据去训练了。
7 D/ J1 Y. Q- O. g+ H7 F7 y 微博网友@md2_：真相：OpenAI是马斯克联合PayPal时代的几个哥们建立的，2018年马斯克想踢掉哥们自己上位，被拒，马斯克撤资退出微软的印度CEO接盘，投资10亿美元并把当时世界第5的超级计算机交给OpenAI，终于铸就了GPT4的奇迹。 $ G/ u, K" @5 D% M2 L
你们猜猜马斯克为什么现在跳出来反对？微博网友@再不疯狂待何时201206：早就该制止与监督了微博网友@长剑书生：他的星链为什么不停一停？微博网友@看心情不看黄历：非常有必要，这玩意最大的作用就是污染数据库，颠覆人类几年前的文明，大概十年后，培养出我们都无法沟通的新人类。 8 `) m8 r3 T) O1 u' N$ @
微博网友@松如_：核弹是1945年在日本爆炸过之后，1968年才出现的核不扩散协议微博网友@eXtrA_章：这东西可以预见的是，比核弹还要厉害，那么就不会有人主动停止，因为信不过其他人微博网友@周末上不了发条：。 # {; f9 T. S. ~ {3 P
翻译一下这封信：你们不许跑了，等我追上了再说微博网友@希雬：然后你就能比别人领先六个月，或者追赶六个月？怎么可能有公司同意【英文短语】Get woke: 醒醒吧Means you’re knowledgeable, aware, and “with it.”。 ! I5 q3 I/ N8 p& G8 r3 L% A* z
意思是保持头脑清醒，了解时事例句：If you think AI is right in everything, you need to get woke.翻译：如果你觉得人工智能不会犯错，那你真是要清醒清醒了。 5 N1 G! k2 p, F% _0 t* H+ C
综合：澎湃新闻、中新网、海外网等报道本期责编：陈晓宇编译：陈晓宇、牛娇娜象象评论区欢迎你的加入责任编辑:陈晓宇返回搜狐，查看更多责任编辑： / F" ~( z# R* s/ G
3 A- `7 g m2 j% O" G
5 ]1 x+ Q/ S- K4 Y" x S7 F% Z
h4 l3 Z2 n' U% P1 G/ n- C" Y- l$ o3 _4 p& g# d% f: m
| 
