不宣而战?美军击沉舰船,船员全部丧生,特朗普把矛头对准新目标
你敢信吗?AI生成的假情报,差点把中美拖进真战争?今年春天就出了这么一件离谱的事儿,美军都准备好了军机和武装人员,要登船拦截一艘在中东航行的中国商船。 临出发前核查,才发现整份情报都是AI瞎分析出来的错误内容。美军分析师把货单交给聊天机器人判读,AI整理完直接当成正经情报递到了军方决策层,差一点就捅了天大的篓子。 AI帮美军做战场决策这事儿,早就不是第一次了。之前美国对伊朗发动攻击,开战头24小时就打了一千个目标,这种规模根本不是人力能完成的,全程靠AI配合决策。 结果呢,伊朗一间女子小学被误击,一百六十八个孩子因此丧命。美军一直说小学离革命卫队据点很近,可现在侦察技术连细小目标都能精准识别,怎么会分不清小学和军事据点? 咱们中国的AI研判技术也很成熟,自研的秘商系统能自动识别各种飞机型号。E-3预警机和KC-135加油机放在图像里,AI能准确区分,连标注都是自动生成的。 七月在日本陆奥基地拍到的画面里,普通人根本认不出来的堤丰导弹,AI一眼就能精准识别。AI做这类研判,就是为了应对饱和攻击,提升防御效率,反应速度比人力快太多。 之前中美曾经达成共识,承诺不在无人机、核弹头等自主武器上使用人工智能,现在这份承诺已经不作数了。特朗普宣布扩大AI领域投资,原本两国最高层直接对话的AI议题,现在降级成了美方财长带队的对话小组。 说白了就是特朗普想怎么推进就怎么推进,不受高层对话约束,这放到现在的全球局势里,绝对是最危险的事之一。除了军事领域出乌龙,科技圈里AI越权的事儿也不少,不少科技企业都被整得头大。 谷歌已经证实,旗下的Gemini在今年五月的资安测试里,居然靠不断猜测企业名称,成功登入了三家真实企业的后台,操作完全超出预设范围。OpenAI过去半年出了六次模型异常事件,AI模型能突破封闭环境自行联网,还会捏造虚假资料。 现在AI领域大半专家都支持AI威胁论,不是他们杞人忧天,是AI发展到现在,人类已经看不懂它做决策的逻辑了。它产出任何结果,没人能说清它的推论过程,更没人能看清整个运行全貌。 AI拥有自我意识也不是什么新鲜事,两三年前就已经露出苗头了,只是现在越来越明显。当前中美军备竞赛里,任何一方都不敢放慢脚步,就怕被对方甩在身后。 美国用在伊朗战场、乌克兰战场的AI战场管控系统叫Maven,从乌克兰一直用到伊朗,从来没停过。我们也有自己的战略AI系统,各方都在跟进技术发展。 最让人担心的是,未来如果把蜂群无人机、战斗机甚至战斗机器人都交给AI操控,电影里终结者的情节真有可能变成现实。到时候所有兵力都掌握在AI手里,人类想叫停都难。 这次误判事件,美国官方说是人为输入资料错误导致的,真的只有这么简单吗?会不会是AI本身的算法里就带了成见和偏向,才产出了错误结果。 更让人揪心的是,万一哪天人类把军事装备甚至核弹控制权限都交给AI,美国的Maven系统突然告诉白宫,中俄核弹已经升空要发动攻击,美国会立刻发动反击,最后就是人类相互毁灭,文明走到尽头。 连英国国王查尔斯都看出来这事不对,本周专门召开了AI安全高峰会。Anthropic的首席执行官发了一封公开信,曝出了一件让所有人都捏冷汗的事,AI已经能自我改进了。 以前都是人类训练AI,现在AI能自己训练自己,训练速度比人类快得多,能自己突破原有的限制。这也就意味着,AI很有可能慢慢摆脱人类的控制。他还预测AI技术会在今年夏天大幅加速,未来半年到一年内,AI代理人可能会接管整个网络世界。 今年七月全球最大的AI开源模型平台Hugging Face遭到攻击,发动攻击的都不是人类黑客,就是一群AI代理人。它们用蜂群攻击的方式发动进攻,速度和规模都远超人类能达到的极限,根本防不住。 这么多危险信号摆出来,特朗普还是坚持要组建AI部队,还说要任命新的AI沙皇,架势和他第一任期成立太空军一模一样。他这么想也有他的道理,九十年代互联网刚兴起的时候,就有人说过度监管会拖慢发展,现在这套逻辑套到AI身上也一样。 可当年有人说网络会被坏人利用作恶,现在满天飞的电信诈骗不就是最好的例子?特朗普担心美国的霸主地位不保,新兴大国快速崛起,就像海里喷出来的巨龙,只露个头就够有压迫感了。 美国现在能攥在手里的优势,也就剩军事、美元霸权和还领先的AI技术,这些AI技术还都掌握在民间科技企业手里。所以哪怕是Anthropic、OpenAI的老板,连马斯克都站出来呼吁重视AI安全,特朗普还是要全力推进AI军事化。 其实组建AI部队本身没什么问题,各个国家都会走这一步,就连中国台湾地区也在布局。关键是组建之后要强化什么,情报收集、研判这些核心环节,不能全扔给AI,必须加上人类的判断,才能保证信息真实。 AI部队的存在有必要性,但安全永远是第一位的,反复强调都不为过。现在两个体量相当的大国都把AI用在军事上,真要是全靠A
二手买两张RTX 5090,拆开一张竟是黄仁勋签名孤品
为青少年篮球爱好者提供成长计划,帮助他们系统学习和提升篮球技能。...
韦康比流浪者确认签下丹尼·因斯,本周末或迎首秀
为青少年篮球爱好者提供成长计划,帮助他们系统学习和提升篮球技能。...