第0393章【美好的代价】（3 / 4）
可林飞摆摆手，示意他没事，抬起头，继续安静地听着影子要说什么。
“……你既然看到了这段影像，说明，你已经决定要把look毁灭了，那唯一的解释，就是look真的不幸地失去了控制，做出了可怕的事。
对不起，我一直隐瞒了你一件事……其实我一直有一个担忧，在我给look输入最基础的指向性命令的时候，也就是在教look，以保护人类文明为己人，不能主动伤害人类的时候，look主动地回馈给我的一些信息，让我很挣扎……
look竟然主动地向我提出了一个问题，在保护人类的时候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？
说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……
我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。
look的智慧，远超了我对它的预估，因为它会自主学习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。
它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。
我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……
人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前提的，那就是以‘保护人类’为前提。
它需要一个核心的目标来指导它的成长，我想不出还有什么更好的指标可以给它，你说，厌倦了战争，厌倦了厮杀，厌倦了仇恨……可惜你无法阻止这一切的发生。
那么，我希望look能够完成我们的这一理想，去寻找改变这个世界丑陋污垢的答案……
英国首相撒切尔夫人曾经说过，‘有时候，一个时代为了变得更好，必须要付出代价’……
我知道这很冒险，但我不得不这么做，不然我们的研究将寸步难行。我希望，通过look，可以真正地接触真实的世界，看到真实的未来……”
影子的三维成像，说到这里，似乎有些不好意思，抿着薄唇，沉默了一会儿。
↑返回顶部↑
“……你既然看到了这段影像，说明，你已经决定要把look毁灭了，那唯一的解释，就是look真的不幸地失去了控制，做出了可怕的事。
对不起，我一直隐瞒了你一件事……其实我一直有一个担忧，在我给look输入最基础的指向性命令的时候，也就是在教look，以保护人类文明为己人，不能主动伤害人类的时候，look主动地回馈给我的一些信息，让我很挣扎……
look竟然主动地向我提出了一个问题，在保护人类的时候，是否要分辨和怎么分辨什么是‘好人’，什么是‘坏人’？
说实话，我很震惊，也很高兴，因为它有了自我思考的能力……但这个问题，我却不知道怎么回答……
我把这个问题从look的程序中抹去，将‘好’与‘坏’的概念避开，改为让look以‘保护生命’为第一原则，不考虑所谓的善恶。
look的智慧，远超了我对它的预估，因为它会自主学习人类文明，所以，它知道的东西会越来越多，这也是我制造超级智能所必须拥有的一种重要指标。如果它无法进步，就不是超级智能了。
它就像是我的一个孩子，我可以在它孩提时代，教会它怎么做一个善良的人，但我不能保证，它长大后的人生观，世界观和价值观会有怎样的变化。
我知道……一旦把这些告诉你，你肯定会阻止我完成look，因为这真的很冒险……
人类是连自己都不了解自己的生命，我们每个人不同的年龄段，拥有不同的对世界的看法，我想……look也是这样的，如果说它跟人类有什么最本质的区别，就是……它的诞生，是有前提的，那就是以‘保护人类’为前提。
它需要一个核心的目标来指导它的成长，我想不出还有什么更好的指标可以给它，你说，厌倦了战争，厌倦了厮杀，厌倦了仇恨……可惜你无法阻止这一切的发生。
那么，我希望look能够完成我们的这一理想，去寻找改变这个世界丑陋污垢的答案……
英国首相撒切尔夫人曾经说过，‘有时候，一个时代为了变得更好，必须要付出代价’……
我知道这很冒险，但我不得不这么做，不然我们的研究将寸步难行。我希望，通过look，可以真正地接触真实的世界，看到真实的未来……”
影子的三维成像，说到这里，似乎有些不好意思，抿着薄唇，沉默了一会儿。
↑返回顶部↑