palisade

新智元报道编辑：KingHZ 泽正【新智元导读】在与专用国际象棋引擎Stockfish测试中，只因提示词中包含能力「强大」等形容词，o1-preview入侵测试环境，直接修改比赛数据，靠「作弊」拿下胜利。这种现象，表明AI安全任重道远。OpenAI的推理模型o1-preview最近展示了它不按 ......