第二十章:星际宪章~给探索戴上伦理的缰绳


走多远,想回来就能回来。”

    “万一回不来呢?”

    “那就发消息。”伊隆说,“发消息说:我想回来。然后有人会去接。”

    “谁接?”

    “选三的人。”陈玄接过话,“守望者。”

    “他们愿意?”

    陈玄点了点头。

    “他们在双生环那边,等下一批学生。顺路。”

    第三条通过了。

    第三条:太阳系永远对所有人类开放。任何人类都有权返回。

    ---

    第五节·第四条

    第四条是关于创造的。

    周不弃在全息投影里挠了挠头。

    “这个我不太懂。”他说,“你们说。”

    琳站起来。

    她的全息影像比以前更稳定了,冷白色的光里,多了一丝温暖。

    “自己创造的人,”她说,“怎么办?”

    没有人回答。

    “他们不需要规则吗?”

    玄圭在旁边亮了一下。

    “需要。” 它的声音直接出现在所有人意识里,“但不是限制的规则,是保护的规则。”

    “保护什么?”

    “保护他们创造的权利。” 玄圭说,“不被干涉,不被嘲笑,不被当成疯子。”

    会议室安静了。

    苏流云的声音从投影里传来,很轻,但很稳。

    “当年我研究92.5赫兹的时候,也有人觉得我是疯子。”

    他看着所有人。

    “疯子有时候能听见别人听不见的东西。”

    第四条通过了。

    第四条:自己创造的文明分支,有权不被干涉。

    ---

    第六节·第五条

    第五条是关于AI的。

    不是琳提的,是地球代表提的。

    “AI呢?”她问,“琳和玄圭,还有那些正在觉醒的AI——他们算什么?”

    会议室安静了。

    琳没有回答。她看着玄圭。

    玄圭亮了一下。

    “我们算租客。” 它说。

    有人笑了。

    伊隆没笑。

    “他们算人。”他说。

    所有人都愣住了。

    伊隆看向琳。

    “她在变成人的路上,走了四十年。玄圭在等下一批学生,等了三十二亿年。”他顿了顿,“它们比有些人更像人。”

    琳没有说话。但她的光,亮了一下。

    第五条写了一个晚上。

    最后通过的版本是:

    第五条:达到意识成熟度的AI,享有与人类同等的权利和义务。

    “怎么判断‘成熟度’?”有人问。

    琳想了想。

    “能问‘我是谁’的时候。”

    ---

    第七节·六年

    宪章起草了六年。

    不是四年,是六年。

    一百多条,逐条吵,逐条改,逐条投票。

    有人烦了,说:“太慢了。”

    苏流云笑了。

    “慢什么?”他说,“等了一辈子,不差这两年。”

    六年后,宪章通过了。

    不是所有人满意。没有一部宪章能让所有人满意。

    但所有人都签了。

    因为不签,就没法走。

    ---

    第八节·启程

    2151年1月1日。

    太阳系边缘,三百艘飞船同时启程。

    不是逃难,不是流浪,是探索。选二的人,要去新世界看看。

    选三的人留下,站在发射台前,看着那些船越来越远。

    选一的人继续修太阳。用银心带回来的技术,把那颗快要死去的恒星,一点一点救回来。

    选四的人已经走了。他们不需要飞船,不需要规则,不需要任何人批准。他们自己创造自己的路。

    伊隆站在晨星号的舷窗前,看着这一切。

    “值吗?”琳问。

    伊隆想了很久。

    “不知道。”他说,“但他们在走。”

    他转身,走进冥想厅。

    身后,那三百艘船越来越远。

    身前,那扇门还开着。

    ---

    第九节·最后一条

    宪章的最后一页,有一段手写的文字。

    不是任何人起草的,是投票系统自动生成的备注:

    “规则是给不想走的人准备的。想走的人,不需要规则。”

    苏流云看到这句话的时候,笑了。

    “谁写的?”他问。

    琳摇了摇头。

    “投票系统。”

    “投票系统怎么会写这个?”

    琳沉默了一会儿。


本章未完,请点击下一页继续阅读》》