共 5 篇文章

标签：安全

OpenAI成立安全安保委员会，推动大模型加速商业化

从超级对齐团队解散，到引入Indent团队，再到成立由董事会主导的安全委员会，从这一系列的行动中不难看出，OpenAI在安全与商业的博弈中，逐步向后者倾斜。山姆奥特曼正在把OpenAI向商业化的道路不断推进。从首席科学家伊尔亚苏茨克维（Ilya Sutskever）离职...

OpenAI引发全球AI安全热潮，我们该如何应对？

（图片来源：Stockcake）最近AI领域发生了一件重磅事件，引发广泛关注。北京时间6月20日，OpenAI联合创始人、前首席科学家伊利亚（Ilya Sutskever）在社交平台上发文宣布，将创办一家安全超级智能公司（Safe Superintelligence Inc.，简称SSI）。 SSI是我...

OpenAI调任安全高管Aleksander Madry，聚焦AI推理新领域

IT之家 7 月 24 日消息，OpenAI 首席执行官山姆阿尔特曼（Sam Altman）本周二在 X 平台发布推文，表示在新一轮内部架构重组中，负责 AI 安全的主管亚历山大马德里（Aleksander Madry）调岗，并将其重新分配到一个专注于人工智能推理的岗位。阿尔特曼在推文...

Anthropic安全负责人谈：如何在超级AI威胁人类前做好准备

机器之心报道机器之心编辑部 2023 年，Anthropic 发布了负责任扩展策略（Responsible Scaling Policy，RSP），这是一系列技术和组织协议，Anthropic 将采用这些协议来帮助他们管理开发功能日益强大的 AI 系统。 Anthropic 认为，AI 模型一方面变得越来越强...