AI明年有望迎“突破性进展”:“破解”动物叫声背后的沟通结构
IT之家 12 月 27 日消息,据 Munich Eye 当地时间 22 日报道,2025 年,人工智能(AI)和机器学习领域的突破有望推动我们理解动物交流的进程,解开动物发声背后的长期谜题。近期,设立的 Coller-Dolittle 奖项为解码动物声音的研究提供了可观奖金,体现了科学界对此的乐 ......
把注意力计算丢给CPU,大模型解码吞吐量提高1.76~4.99倍
CPU+GPU,模型KV缓存压力被缓解了。来自CMU、华盛顿大学、Meta AI的研究人员提出MagicPIG,通过在CPU上使用LSH(局部敏感哈希)采样技术,有效克服了GPU内存容量限制的问题。与仅使用GPU的注意力机制相比,MagicPIG在各种情况下提高了1.76~4.99倍的解码吞吐量,并在检索 ......
集成电路与人工智能共融:解码千行百业数智化新路径
划重点 01集成电路产业作为信息技术的核心基石,正推动着社会的进步与发展,为千行百业的数智化转型铺设道路。 02随着生成式人工智能的蓬勃发展,专用化的人工智能芯片成为解决高性能需求的关键。 03专家认为,通用化仍是主流趋势,而在移动设备、智能家居等...