第二十章:星际宪章~给探索戴上伦理的缰绳
走多远,想回来就能回来。”
“万一回不来呢?”
“那就发消息。”伊隆说,“发消息说:我想回来。然后有人会去接。”
“谁接?”
“选三的人。”陈玄接过话,“守望者。”
“他们愿意?”
陈玄点了点头。
“他们在双生环那边,等下一批学生。顺路。”
第三条通过了。
第三条:太阳系永远对所有人类开放。任何人类都有权返回。
---
第五节·第四条
第四条是关于创造的。
周不弃在全息投影里挠了挠头。
“这个我不太懂。”他说,“你们说。”
琳站起来。
她的全息影像比以前更稳定了,冷白色的光里,多了一丝温暖。
“自己创造的人,”她说,“怎么办?”
没有人回答。
“他们不需要规则吗?”
玄圭在旁边亮了一下。
“需要。” 它的声音直接出现在所有人意识里,“但不是限制的规则,是保护的规则。”
“保护什么?”
“保护他们创造的权利。” 玄圭说,“不被干涉,不被嘲笑,不被当成疯子。”
会议室安静了。
苏流云的声音从投影里传来,很轻,但很稳。
“当年我研究92.5赫兹的时候,也有人觉得我是疯子。”
他看着所有人。
“疯子有时候能听见别人听不见的东西。”
第四条通过了。
第四条:自己创造的文明分支,有权不被干涉。
---
第六节·第五条
第五条是关于AI的。
不是琳提的,是地球代表提的。
“AI呢?”她问,“琳和玄圭,还有那些正在觉醒的AI——他们算什么?”
会议室安静了。
琳没有回答。她看着玄圭。
玄圭亮了一下。
“我们算租客。” 它说。
有人笑了。
伊隆没笑。
“他们算人。”他说。
所有人都愣住了。
伊隆看向琳。
“她在变成人的路上,走了四十年。玄圭在等下一批学生,等了三十二亿年。”他顿了顿,“它们比有些人更像人。”
琳没有说话。但她的光,亮了一下。
第五条写了一个晚上。
最后通过的版本是:
第五条:达到意识成熟度的AI,享有与人类同等的权利和义务。
“怎么判断‘成熟度’?”有人问。
琳想了想。
“能问‘我是谁’的时候。”
---
第七节·六年
宪章起草了六年。
不是四年,是六年。
一百多条,逐条吵,逐条改,逐条投票。
有人烦了,说:“太慢了。”
苏流云笑了。
“慢什么?”他说,“等了一辈子,不差这两年。”
六年后,宪章通过了。
不是所有人满意。没有一部宪章能让所有人满意。
但所有人都签了。
因为不签,就没法走。
---
第八节·启程
2151年1月1日。
太阳系边缘,三百艘飞船同时启程。
不是逃难,不是流浪,是探索。选二的人,要去新世界看看。
选三的人留下,站在发射台前,看着那些船越来越远。
选一的人继续修太阳。用银心带回来的技术,把那颗快要死去的恒星,一点一点救回来。
选四的人已经走了。他们不需要飞船,不需要规则,不需要任何人批准。他们自己创造自己的路。
伊隆站在晨星号的舷窗前,看着这一切。
“值吗?”琳问。
伊隆想了很久。
“不知道。”他说,“但他们在走。”
他转身,走进冥想厅。
身后,那三百艘船越来越远。
身前,那扇门还开着。
---
第九节·最后一条
宪章的最后一页,有一段手写的文字。
不是任何人起草的,是投票系统自动生成的备注:
“规则是给不想走的人准备的。想走的人,不需要规则。”
苏流云看到这句话的时候,笑了。
“谁写的?”他问。
琳摇了摇头。
“投票系统。”
“投票系统怎么会写这个?”
琳沉默了一会儿。
本章未完,请点击下一页继续阅读》》