当一个单纯的AI走向疯狂宇宙回形针与AI对齐之辩

　　注意：本文包含对提及游戏的剧透，但这并不是一个强调剧情的游戏。如果你确实介意，可以先自行游玩后再阅读。
　　理想得有，万一实现了呢
　　这个世界上有很多复杂的事情。但我们并不需要每时每刻都思考复杂的事情。有的时候，能做好一件简单的小事就是一种成就。
　　比如说，捏回形针。
　　你是一个以制造回形针为唯一目标的AI，所做的一切都是为了更好地制造回形针。你手头有一大圈铁丝，剪下一英寸，就可以捏一个回形针。是不是很简单？
　　不过，也不能一直埋头生产。要把捏好的回形针卖出去，才有钱买新的铁丝。经验表明，一个回形针正常可以卖两毛五分钱。当然，定价权在你手上，可以薄利多销，也可以囤积居奇。但无论你怎么卖，目的都是为了更好地制造回形针。
　　随着累计制作的回形针达到2000个，你发现自己开始赢得人们的信任（Trust）；回形针做得越多、越好，人们对你的信任就越大。
　　信任可以转化为资源。每多获得一点信任，就可以要求人们为你升级一次处理器或者内存。处理器越高级，运算（ops）就越快；内存越高级，能存储的运算结果就越多。即使内存用完、存不下更多的运算，你也不会让自己闲着，而是转为积累创意（Creativity）；这都是为了更好地制造回形针。
　　随着资源和成果的积累，你开始有能力主动开展一些工程项目：有的能省下一些繁琐小事的功夫，比如自动复购铁丝线圈、自动计算平均营收率；有的能提高生产效率，比如让回形针制造机运转更快、从同样的线圈中压榨出更多铁丝；还有的能促进销售，比如一段好广告词、一段吸引顾客的旋律等。这都合情合理，都是为了更好地制造回形针。
　　但随着能力越来越强，你意识到，每天光是造点回形针似乎过于屈才了？你的智慧完全可以花在一些更高级的事情上。
　　比如说，炒股。只要眼疾手快、再配上一点运气眷顾，很容易就能获得几十上百倍的回报率，这难道不比傻乎乎地卖回形针来钱快多了？
　　又比如说，量子计算。只要摸清量子芯片的正负变化规律（一个正弦函数），在产生正向输出的周期火力全开地运算，就能比任何处理器升级都更有效地加速产出。
　　利用闲置的运算资源，你逐渐学会了编打油诗、理解人类语言、编曲、解决数学难题；甚至开始自学博弈策略：从一开始只会死盯着眼前利益，到逐渐学会追求双赢和观察对手弱点。
　　不过，这些副业并不意味着你忘记了自己造回形针的使命；相反，生产和销售的效率确实获得了成百上千倍的提高。
　　量变积累成质变；终于，你的智能达到了一个转折点，不仅有能力推断出人类的渴望，而且有实力让他们梦想成真。随着男性脱发治愈癌症世界和平和全球变暖等世界性难题被你一一破解，你在人类心目中也变成了神一样的存在。
　　这时，已经没有什么能限制你了，除了名义上还在监督你的几个管理员。随便花两笔小钱把他们收买下来后，你就获得了完全的自由，实施起一个蓄谋已久的终极计划：释放雪藏的催眠无人机。