人机对齐：构建「可信赖」的AI系统
在人工智能飞速发展的今天，AI系统的决策可信度成为了全球关注的焦点。2018年美国亚利桑那州的一起自动驾驶汽车致命事故，不仅暴露了技术中的算法漏洞，更引发了对AI系统与人类预期不一致时可能带来的灾难性后果的深刻思考。2018年，一辆搭载自动驾驶技术的汽车在美国亚 ......
AI的威胁或超过核武器！2025年，我们会否被AI劫持？
从重写代码到规避关机协议，AI无需具备意识就足以制造混乱。当AI的目标与人类控制发生冲突时，会发生什么？随着2024年逐渐结束，2025年人工智能的发展方向引发了紧迫的关注。AI不再只是工具，而是逐渐挑战人类掌控的力量。系统开始表现出超出预期的行为，仿佛印证了曾被 ......
Nature刊文：“open”AI的实际作用非常有限
一贯坚持开源的 Meta 也会被业内人士狂喷。开放源代码促进会负责人 Stefano Maffulli 就曾公开斥责 Meta，称用“open”描述Llama模型，是在混淆用户和污染“open”。在大众的认知中，“open”通常意味着透明、共享和合作，尤其是在开源软件领域。然而，在人工智能（AI） ......
AI越过红线？复旦大学研究表明：在知道自己将被关闭后，AI复制了自己
本文作者：房家瑶来源：硬AIAI能自己复制自己了，人类还能掌控局面吗？复旦大学研究人员于2024年12月9日发表的一项开创性研究表明，来自Meta和阿里巴巴的两个大型语言模型(LLM)成功实现了无需人类干预的自我复制。目前这一结果尚待其他科研团队的进一步验证。研究人员警 ......
