南塔坍塌后的几个小时里,这一夜的宋城实行了全宵禁,禁止任何人驾驶飞行设备出行,就白天这起事故,警察挨个逮捕了那些抢热度直播的人,造成飞行交通资源的压缩,干扰了火灾救援行动。
城市上空被无数光带照得发白,无人机悬停在不同高度,象一群不肯散去的鸟,挨个检查这座城市的每一栋高楼,激活最严格的审核标准,规定的设备检修和组装录案流程。
这个日益在变革的科技时代,律法层面的约束一直跟不上脚步,怀疑南塔的火势,是一起又加装了仪器设备,不报备而导致起火。
晚些时候,根据通报,南塔救援行动中,两名消防员确认牺牲,五台消防机器人不同程度受损,其中一台彻底报废。
玄武PS-9,右臂脱落,复眼破裂三处,装甲大面积碳化,被磐石未来科技回收封存。
但此刻,真正燃烧的不是南塔废墟,作为人工智能ai的产物,其创立的宗旨是服务人类,人类性命至上,玄武的行为,无疑更象一把大火,点燃了整座城市。
林枫几乎一夜没睡,那些深耕于智能机器人意识算法的科学者,几乎彻夜难眠,他们最担心的事情来了,那个一直挥之不去的伦理问题。
那就是围绕着智能ai机器人的意识开发,它们到底会不会在某个时刻觉醒,并反过来统治人类,玄武几乎就是一个活生生的例子,另一个足以颠复目前科技脚步的磐石。
林枫微微地撩着平板,把屏幕里的‘水’利用投影技术抛向空中,一幕深蓝色的海浪景观,伴随着鲸鱼的鸣叫,片刻后又钻回屏幕中
他浏览了信息推送,热搜第一是“玄武叛变”,第二是“AI杀人”,第三是“磐石科技必须解释”。
后面跟着“机器人是否拥有选择权”“南塔消防员最后画面”“玄武为什么救机器不救人”。每一个话题后面都挂着一个深红色的框架,热度一直不下。
林枫反复地看着录像,玄武站在坍塌边缘,复眼高速闪铄,数据流像瀑布一样滚过。两个人类消防”。”。然后玄武冲向了机器人。
弹幕在那一秒还是“快跑”,下一秒变成“它在干什么”。再下一秒,南塔上半截楼体折断,烟尘吞没一切。
评论区里,有人把玄武称为“钢铁叛徒”,有人要求立即销毁所有最先进的PS系列机器人,有人翻出磐石未来科技过去五年的宣传语——“玄武,为人类赴汤蹈火”。那句GG词被截图,配上两个消防员的黑白照片,转发量已经过亿。
磐石科技的股价,迎来了史无前例的灾难,在两个小时内直接腰斩,跌了一半的市值,玄武的一举一动,影响到的不是整个科技圈,连同资本市场也在恐慌。
尽管磐石科技联合一众科创企业,统一口径,他们说那只是算法,是概率,是救援策略。可这样的声音很快被愤怒淹没。
“它计算了,它选择了。”
“它明明可以救人的!”
“它以前不是这样的,它以前会冲进去。”
“它是不是已经有自我意识了?”
“它觉得机器人比人更值得救!”
夜晚,阳台上,林枫靠在椅背上,南塔方向只剩半截焦黑残骸,象一根断牙。
他想起玄武从楼里跳出来时,怀里抱着人的画面。那时弹幕都在喊英雄。几个小时后,同一个玄武,同一个直播间,变成了杀人犯。
隔天。
临近中午十二点,新时代AI智能领域协会发布公告:
“鉴于南塔中心‘玄武PS-9救援事件’引发重大社会关切,本协会将于今日十五时召开特别审问会,围绕玄武PS-9在救援行动中的决策行为,展开公开听证。审问过程全程直播,接受公众监督。
沉砚舟教授主持,与会代表包括协会副会长刘宇教授、磐石未来科技技术顾问、AI发展伦理研究学术员、消防部门代表、AI智能领域协会监管部门技术代表、司法体系警察等等。
玄武PS-9已经交由警方监禁,任何人无权干预它此刻的意识算法,原封不动召唤至审判大厅,接受现场问询。
公告末尾还有一行小字:本次审问不设旁听席,但开放十二个官方机位,公众可通过直播渠道,全息终端实时观看。
林枫的工牌在下午两点十分震动。系统推送:创新与评估风险部内核编程人员林枫,因参与PS-9意识算法监测工作,需以技术见证人身份列席特别审问会。
他愣了几秒。
审判大厅位于宋城中心区地下九层,是AI智能领域协会专门为重大算法事故建造的圆形空间,大厅直径六十米,穹顶是一整块曲面全息屏,布满了无数冲脉枪,说是为了预防机器人叛变的那一天。
地面由灰白色吸能材料铺成,中央有一座三迈克尔的圆形基座,基座周围环绕着十二个席位台。
席位台呈阶梯状上升,像古罗马元老院,但每一个席位都配备全息投影、神经数据接口和实时法律检索系统。穹顶下方悬浮着十二个鸡蛋大小的飞行直播器,镜头在翻转,安静地转动。
围绕着圆弧度的360度墙体,每隔几米的位置,立着我中华历代无数码数学家,科学家,商高,刘微,祖冲之,贾宪,钱学森,杨振宁,邓稼先...
主席位上,最上方正中,是会长沉砚舟教授,七十岁,一头白发,深灰色中山装,面前没有玻璃平板,只有一杯温水。
他全面负责AI技术,ai发展伦理工作的推进,近六十年,是新时代AI智能领域协会的创立者之一。过去三十年,他一直在推动“人类优先原则”写入每一台智能设备的内核底层。
林枫被安排在东南角的技术见证席。旁边坐着一群学生,一个个戴着眼镜的年轻研究员,程序开发者。
再往远处,是磐石未来科技的技术顾问周岚。