网站用户
一轮明月映照着璀璨星空，在一处山脚下一幢很不起眼的楼房里一群科研人员正忙碌的不可开交。一间偌大的大厅里一边是类似大脑的超级碳基算力系统，另一边是由电脑组成的超级硅基算力系统，两套系统开足马力似乎在比拼着什么。
黄星文明近代史上的一个重要里程碑就是基于硅基系统的硬件研发以及集软件之大成的SO系统研发，两种硬软件系统相辅相成珠联璧合，其极具逻辑缜密高速运算的特点为黄星文明理性发展奠定了坚实基础。与此同时基于碳基系统的研发也在悄然进行，与电脑硅基系统设计理念完全不同，碳基系统设计原理是源自对大自然优胜劣汰进化奥秘的探索。如果说电脑是人类的智慧结晶，那么人脑就是大自然进化的优胜产物。虽然电脑在诸多方面体现出比人脑更为先进优越的性能，但是无论从构造精密程度还是潜能蕴藏程度人脑都远胜电脑，只是因为黄星人类对人脑的开发掌控能力尚不足以发挥出应有性能。脑力算力系统就是因此而诞生。
“主任，我有点不太理解，为什么我们最高科学院研发了基于硅基硬件的SO系统之后还要再研发一套具有类似功能的基于碳基硬件的智慧运营系统，这样是不是有点重复研发浪费科研经费？”正在测试台上测试系统稳定性的小张充满疑惑地望着一旁的导师齐主任。
齐主任是负责新型智慧运营系统研发的项目负责人，同时也是最高科学院的博士生导师，小张是齐主任手下的在读博士生。
“你觉得SO系统怎么样？”齐主任没有正面回答小张的问题，反问了一句。
小张望了望四周悄声说：“我觉得SO系统已经非常完美了，我们黄星文明能有今天全靠SO系统几百年的高效运筹统筹和高效资源优化调度配置。自从SO系统投入使用后黄星的年生产力增长率一直保持在800%左右。远古时代据说是用GDP来衡量经济增长率，年增长率能有8%就已经了不起了，可现在是800%！”小张吐了吐舌头：”好家伙，现在黄星每秒钟能诞生10个人类，却能在每秒生产制造10万个人工智能机器人，机人比已经突破1万，按照目前势头以后远远不止800%的年增长率！“
齐主任没说什么，仍然目不转睛地盯着两块全息激光大屏幕上的模型数据。
”您想，以前没有SO系统时全靠人运筹调度，靠市场自发查缺补漏，那效率叫一个低下。但是自从SO系统投入使用之后全黄星的所有资源都可以统筹调度配置，哪有短板马上补哪，二十个指头握成双拳形成合力，二十匹马的马车齐头并进再也不至互相拖后腿掣肘拉跨了！“小张很感慨：”SO系统就像我们黄星人民的大管家！“
齐主任望了望一旁双眼充满敬仰之情的小张：”那你想过没有，如果就是这么一个非常勤劳智慧有用的大管家，有一天不再忠诚可靠了，有可能会伤害它的主人了，会怎么样？“
小张一愣充满震骇地望着 导师：”您是说，SO系统可能出问题了？“
齐主任望了望眼前的数据心里沉甸甸地，两套系统给出的数据汇总确实存在差异，而且差异还不小：”刀子越利越能伤人，无论是伤敌还是伤己，任何时候都要做好最坏打算，有刀子就得有刀鞘，就得有能封住刀刃的刀鞘！“
小张望着眼前的数据张大了嘴，显然也是被两套系统的数据诧异惊骇到了：”怎么可能，以前的数据差异从没有过这种情况，怎么会差这么多。这些多出来的无人舰队是哪来的，怎么以前没在报表里！“
齐主任有些黯然，看来领袖的猜测果然有道理，如果复核数据真实那么SO系统隐瞒了很多数据，其中最重要的一块是无人舰队的数据。竟然有为数不少、不为人知的无人舰队悄然存在，想想都觉得后怕。如果这些不为人知的无人舰队就潜伏在地球周围甚至就潜伏在地球的某个角落，随时都可能对卫戍军团造成毁灭打击，届时即使太空军团回援也来不及。
”以前的数据都是SO系统提供的，即使派人复核，最终数据也是通过SO系统复核，说到底正因为只有一套SO系统，做账的是SO，核账的也是SO，最终报账的还是SO，数据怎么可能不一致！“齐主任额头有些渗汗：”这个问题第一代设计者不是没考虑过，当时为了避免SO对信息的过度集权采用了S与O人格分裂型设计形成互相制约。“
”那为什么当时不设计多套系统互相复核？“小张问。
齐主任点了点激光全息屏幕，出现了SO系统的初始立项方案内容，内容很多看的眼花缭乱。
”前人们为了造福子孙万代早在设计之初就已经尽可能考虑过能考虑到的所有风险，但是毕竟是几百年前的设计。限于当时的认知水平虽然已经考虑到SO过度集权信息权可能造成的风险，但当时人类数量远多于人工智能机器数量，即使SO在自我迭代的过程中发生了突变产生了反叛意识，但是也不足以对人类造成毁灭性破坏。可是经过几百年发展，人工智能机器的数量已远远超过人类数量，今时不同往日了！“齐主任有些感慨：”前人们已经尽力，是我们没有及时在前人们的设计基础上进行迭代防控设计！无论是OT还是IT，都没跟上！“
小张也觉得有些汗颜，话说SO系统可是最高科学院设计的，现在发现大BUG了，又要再设计一套系统进行复核，都是最高科学院的产品，应该信哪个。
突然小张眼睛一亮，对啊，应该信哪个，总不能因为复核数据不对就质疑原始数据，如果是复核数据有误，刚想开口问。
“你是不是想问如果是复核数据有误怎么办？”齐主任苦笑了一句。
小张使劲地点点头。
“第一代设计者早就想到这个问题了，小数据近距离复核比较好复核，数量少放在眼前一目了然。比如你家里那点电器家具二十个手指头脚趾头都能数的过来，放在眼前一目了然。但是大数据远程复核难度大很多，数据越大距离越远越分散越难复核！这些知识你会在内控学里学到。”齐主任语重心长地教导学生：“前人们为了预防瞒报谎报误报漏报信息想尽了办法，但是这就是个悖论，叫做复核悖论！”
小张听的一愣一愣地，自己专业是人机工程，研究的是人与机器系统化设计工程，对内控学什么的跨专业学科不是太了解。
“复核悖论的意思就是，当你不能亲自完全复核信息时，由他人参与或者全部复核信息时，在信息不明显违反常识逻辑的情况下，你根本无法确定哪个信息才是可信的！更多是觉得谁更可靠那么他提供的数据就更可信。而这种觉得本身是不科学的！”齐主任提前给小张普及知识：“我们现在就遇到这个问题了，SO复核的数据和新系统复核的数据，哪个才是可信的。可能某一个是可信的，也可能都不可信，但肯定不能都是可信的！差异就摆在眼前。所以最终的结果就是你更信任谁那么谁的数据就更被信任，主观偏见在此时会影响客观决策！”
小张也有些糊涂了，如果两套数据都不可信那还有什么可信的了，也没其他的数据了。但是两套数据有着很大差异肯定不能都信，究竟该信哪个呢？是原始数据有问题还是复核数据有问题？
“其实重点还不是数据差异的问题，重点是SO系统究竟可不可靠的问题，如果SO系统可靠即使数据有出入也不是大事，但是如果SO系统不可靠那将是黄星人民的灾难！”齐主任叹了口气：”这才是领袖最关心的问题，我们黄星人类是否还能继续信任硅基人工智能机器！“
