OpenAI成立安全与安保委员会，加快大模型商业化进程
从超级对齐团队解散，到引入Indent团队，再到成立由董事会主导的安全委员会，从这一系列的行动中不难看出，OpenAI在安全与商业的博弈中，逐步向后者倾斜。山姆奥特曼正在把OpenAI向商业化的道路不断推进。 从首席科学家伊尔亚苏茨克维（Ilya Sutskever）离职...
OpenAI正引爆一场全球AI安全热战，我们将如何应对？
（图片来源：Stockcake） 最近AI领域发生了一件重磅事件，引发广泛关注。 北京时间6月20日，OpenAI联合创始人、前首席科学家伊利亚（Ilya Sutskever）在社交平台上发文宣布，将创办一家安全超级智能公司（Safe Superintelligence Inc.，简称SSI）。 SSI是我...
OpenAI 调岗安全高管 Aleksander Madry，新职位专注于 AI 推理
IT之家 7 月 24 日消息，OpenAI 首席执行官山姆阿尔特曼（Sam Altman）本周二在 X 平台发布推文，表示在新一轮内部架构重组中，负责 AI 安全的主管亚历山大马德里（Aleksander Madry）调岗，并将其重新分配到一个专注于人工智能推理的岗位。 阿尔特曼在推文...
Anthropic安全负责人：在超级AI「毁灭」人类之前，我们可以做这些准备
机器之心报道 机器之心编辑部 2023 年，Anthropic 发布了负责任扩展策略（Responsible Scaling Policy，RSP），这是一系列技术和组织协议，Anthropic 将采用这些协议来帮助他们管理开发功能日益强大的 AI 系统。 Anthropic 认为，AI 模型一方面变得越来越强...
美国加州州长否决AI安全法案，寻求全面监管框架
美国加州州长纽森否决了具有争议的人工智能（AI）智慧安全法案。这项SB 1047法案要求大型前沿AI模型的开发者采取预防措施，例如部署前测试、模拟骇客攻击、安装网路安全防护措施以及为吹哨者提供保护。据一位了解他想法的人士透露，纽森之所以决定拒绝这项措...
