加州理工团队开发高效压缩AI模型技术

由加州理工学院的计算机科学家兼数学家巴巴克·哈西比领导的研究小组声称，他们已经成功开发出一种大语言模型，能够在不影响性能的前提下显著减小模型体积。 这家名为PrismML的公司周二宣布结束隐身模式，并将其1-bit技术模型开源，供公众使用。 哈西比表示，PrismML开发了一种极致的压缩技术，使AI可以在手机、笔记本电脑和其他设备上本地运行，同时也能帮助数据中心以更少的资源完成更多任务，并降低能源成本。 该公司的首席执行官哈西比说：“我们花费了多年时间来发展压缩神经网络而不损失其推理能力所需的数学理论。”