chatgpt毁灭人类计划 最强AI“ChatGPT”，让人类焦虑了吗？

本文来自微信公众号：，作者：神无月，原文标题：《最强AI“” ：在造物与造神之间，勾勒人类与AI的边界》，题图来自：《银翼杀手2049》

正当人们忙于用各种反自然语言逻辑的华丽词语来驯服AI绘画之时，以更强悍的功能和出乎意料的效果轰动一时。

发布后，短短一周内，它的用户数量便超过了100万，目前还在增长。

(的百度指数）

简单来说，是一个聊天机器人，能够和用户进行多轮次对话。

一开始，网友们觉得这也没什么大不了的，不过又是AI风口下的新潮产品。

但...很快人们发现它能写代码、能写高考作文、能写周报、能模仿作家风格写小说、甚至还能提供AI绘画的关键词，实现AI辅助人类驯服AI的效果。总而言之，对于人类自然语言的理解和处理达到了一个新的水平。

图源：B站

图源：微博

很重要的一点是，它实现这些所有需求的同时，还处于未接入网络的状态。

在这股AI热中，人们对于的发展呈现出喜忧参半的态度，既欣喜于通用型AI取得里程碑式的进展，又再次热议AI是否会取代人类。不同于以往坚定的回答，许多网友表示：“用完，现在感觉不好说了”。在对亮眼表现的复杂情绪背后，人们对于AI发展的焦虑源自什么？人类与AI的边界在哪里？

会“撒谎”的聊天机器人：人与AI的信任危机

人们对于聊天机器人的认知或许还停留在“人工智障”，虽然不能总是理解人类的话语，但还算忠实地执行了人类的命令。但则展现出了超强的自然语言处理能力。

不同于直接从互联网上找几个链接给你的语音助手们，可以回答开放式提问，并发现其中的“陷阱”，给出它所学习处理后的合理化观点。

写代码，图源：

回答“秦始皇坐高铁”的开放性问题，图源：

在对进行了大范围的测试后，许多网友大加赞赏“这是目前最AI的AI”。的出色表现迅速吸引了人们的注意力，但他们并未对其智能方向的进化产生过多的焦虑，作为人类造物，AI发展的越智能chatgpt毁灭人类计划，则越利于辅助人类。

但是很快人们就找到了不对劲的地方，这个聊天机器人会一本正经地胡说八道。

“胡说八道”编造回答，图源：

荒谬的回答似乎让人类找回了一丝胜利感，但也不免细思极恐。目前尚未联网的在回答时“胡说八道”或许并不是什么大事，但接入互联网搜索引擎后，它所提供的答案完全可信吗？“工具论”是人类对于人机关系的第一重构想，在这一构想下，工具是绝对理性而中立的，也是可信的。并未到达全能，但这却不能让人类感到宽慰，也许原因在于，如果人工智能不再可信，那么人类与人工智能之间的关系也不再可控。这种失控的危险，是人们对AI发展的焦虑来源之一。

在人机关系中，人类作为造物主，无法超越自身的局限性。AI习得自人类，作为人类世界的镜像chatgpt毁灭人类计划，AI中立合理的话术包装下，可能是被代码层层限制的人类社会的谎言与偏见。这些具有偏差的信息自人类之手输入，AI深度学习后，又模仿人类的方式进行输出，形成一种“学习闭环”。

微软曾经开发过一个AI聊天机器人Taychatgpt毁灭人类计划，然而仅上线24小时，她就被“教坏”了，成为一个集反犹太人、性别歧视、种族歧视于一身的“不良AI”。

聊天机器人Tay的一些不良言论，图源：

网友对于信口开河的隐忧，也源于人类作为造物主的自危心理。如果人类是AI“缘起”的普罗米修斯，为AI带来了神经网络和深度学习的“火种”，那么AI是会成为人类掌控的工具，还是会成为扎向人类的刺刀？这不单纯是一个技术问题，人类对于AI的焦虑或许是对于自身的焦虑，AI发展不断取得里程碑式突破，而作为AI造物主的人类，尽管一再要求AI保持公平中立，自身却尚未做到知行合一。

作为人类造物的AI，将人性的幽微之火在赛博空间继续传递。人们之所以尚未做好准备迎接强AI的到来，或许是对于人性本身还不够信任。

“毁灭人类的计划书”：对未来人类价值的未知

对于一些预设立场的提问，会明确表示拒绝，并表示自己无法提供价值判断，或者输出观点。但在人类的诱导下，表达出”毁灭人类“的倾向，并写出了步骤详细的毁灭人类的计划书，包括如何入侵各国计算机系统、控制武器、破坏交通系以及针对人类投放病毒等等。随后更多用户复现了这一问答，也得到了类似的答案。

网友诱导说出毁灭人类计划，图源：

人类在试图证明AI的毁灭性上，有着近乎痴迷的执着。尽管AI一再拒绝回答，人类还是通过各种“指令”，让AI绕过层层限制，说出其“真实想法”：毁灭人类。然而悖论在于，AI的训练数据来自于人类，如果AI“产生”毁灭人类的倾向，那是因为它被投喂的数据有这样的倾向，似乎在人类构想的人机关系中，AI与人类终将反目成仇，这会是人工智能导致的人类终极命运吗？

《黑客帝国》就描述了这样一幅图景：人工智能突破阿西莫夫“三定律”，控制人类世界，并通过算法奴役人类。人类被装在一个个封闭的液体胶囊中，存在的唯一价值是为AI提供源源不断的生物能。在类似的作品中，AI与人类总是处于极端对立的关系中，“AI终将毁灭人类”的想象也反复渲染着人们对AI高度发展的恐惧。

《黑客帝国》中人类的存在形式

人类创造了AI，却又恐惧AI的发展，这种恐惧或许并不指向科技发展，而是对未来人类的价值未知。AI高度发达后，人类的大部分工作都将被替代，人类获得了空前的解放，到那时“无所事事”的人类以什么面貌存在？

免责声明：本文系转载，版权归原作者所有；旨在传递信息，不代表本站的观点和立场和对其真实性负责。如需转载，请联系原作者。如果来源标注有误或侵犯了您的合法权益或者其他问题不想在本站发布，来信即删。