研究发现部分AI系统已学会“说谎”,未来或演变成更高级欺骗形式
IT之家 5 月 12 日消息,美国麻省理工学院的研究团队近日发布成果称,部分 AI 已经学会欺骗人类,该成果刊登在最新一期的期刊《模式》(Pattern)上。 该团队表示,部分设计为诚实且不会说谎的 AI 系统,已经发展出令人不安的欺瞒技巧。该研究的第一作者 Pet...
牛津大学研究团队发现生成式 AI 可能遭遇“模型崩溃”
【环球网科技综合报道】9月5日消息,据《福布斯》报道,牛津大学的伊利亚舒梅洛夫博士及其团队在《自然》杂志上发表了一项研究,指出当生成式 AI 软件仅依赖 AI 生成的内容时,其输出答案的质量会迅速下降。 研究显示,在经过两次查询后,AI 的回答开始出现...
研究发现:AI 越聪明就越有可能“胡编乱造”
IT之家 9 月 29 日消息,一项新研究发现,随着大型语言模型(LLM)变得越来越强大,它们似乎也越来越容易编造事实,而不是避免或拒绝回答它们无法回答的问题。这表明,这些更聪明的 AI 聊天机器人实际上变得不太可靠。 图源 PexelsIT之家注意到,该研究发表...
吃完OpenAI的瓜,我发现奥特曼塌房了
划重点 01OpenAI创始人之一奥特曼近期口碑受损,公司内部人事变动频繁,高管离职,公司重组,融资跳票。 02网友质疑奥特曼对钱更感兴趣,推动OpenAI重组为营利性组织,与公司成立初衷相悖。 03然而,奥特曼否认股权传闻,称内部讨论过但具体分多少股份未定。...
从互联网到人工智能,我们发现了AI搜索的必然走向
划重点 01AI搜索产品进入3.0时代,通过大模型调度系统提高搜索效率和准确性。 02360AI搜索采用首创的CoE架构,实现多模型分工协作,提升搜索质量。 03与传统搜索引擎不同,AI搜索产品更注重知识引擎的建设,实现更全面、深入的检索。 04由于此,360AI搜索在...