最近刷到的一个新闻,挺令人感慨的。
6月,英国《新科学家》杂志爆出来一个消息:
乌克兰战场上,AI真的自己杀人了。
这是人类首次有业内人公开承认:
AI独立完成了杀戮。
不是电影,不是游戏,是真的。
大概两年前,巴赫穆特那边打得最凶的时候。
乌军放出去十架无人机。
这十架飞机很特别,它们飞出去之后,把遥控器给“扔”了。
平时咱们看无人机打仗的视频,飞手盯着屏幕,左键右键,瞄准了,还得狠狠心,按下去。
那一刻,哪怕隔着屏幕,人也是会手抖的,是会犹豫的。
但这十架飞机,没给人犹豫的机会。
它们切断了信号,不再听地面指挥。
机载的那个小电脑,自己看,自己认,自己选目标,自己撞上去。
地上的操作员手里拿看遥控器,屏幕一片空白。
他什么都看不见,什么都干不了,只能等。
等飞机电没了,再派人去看看一-哦,死了几个,炸了几辆。
那一刻,让人心惊的是:
杀人的不是人,是算法。
它不会手软,不会怜悯,不会在最后一秒把枪口抬高一寸。
我们常说“杀人的不是武器,是人”。
现在这句话作废了。
杀人的,就是武器本身...
乌克兰那位军工人士说得很直白:
“我们只需要发射它,就知道那片区域里的一切都会死。”
看到这新闻,我脑子里突然蹦出《剑来》里的一个场景。
书里有种东西叫“远古天庭傀儡”或者“无主神灵”。
那是上古大能留下的杀器,早就没了主人,也没了灵智。
它们就像一座座巨大的、生锈的战争机器,被人轻轻按下一个开关激活后,就再也不需要任何人指挥。
它们只会死板地执行几万年前的“天道规则”:
只要是闯入者,只要是“特征匹配”的敌人,就一律抹杀。
陈平安最怕的,其实就是这个。
他不怕比他强的对手,也不怕神仙,他怕的是“规矩杀人”。
因为规矩是没有心的。
它不会因为你是好人就不杀你,也不会因为你跪下来求饶就放过你...
它只是一段冷冰冰的代码,在那儿无情地运转。
言归正传,有个问题:
这事2024年就干了,为啥偏偏拖到2026年6月才曝光?
不是忘了说,是挑时候说。
2026年6月,正好卡在联合国日内瓦会议讨论《致命自主武器系统(LAWS)禁止条约》的关键窗口期。
在具有法律约束力的国际禁令落地前,先把“我们试过了,能用,真杀到人了”抛出来。
这不是坦白,这是战略试探。
这就是经典的“既成事实先于禁令”打法:
我先做出活样本,等你来立法时,我已经不是纸上谈兵的假设,而是摆在你桌上的、改不了的现实。
报道还提及俄军同期在测V2U型AI自杀无人机,同样具备断链自主攻击能力。
双方都在不对称军备赛跑里彼此推高自主化程度。
牛津学者塔迪奥说,这剥夺了受害者尊严,也从攻击者身上彻底剥掉了责任。
误杀平民谁担责?
现行《日内瓦公约》答不上来。
《剑来》里陈平安反复说:
修道之人最珍贵的,是“会犯错也会改错”,是人心里的那点自由和道德。
枪炮可以无人,但良知不能无人;
战争可以提速,但踩刹车的那只手必须留在人间。