PrismML 由加州理工学院的研究人员创立,由压缩技术专家巴巴克·哈西比(Babak Hassibi)领导,致力于将高性能推理模型的体积缩小到足以在个人设备上运行。全新的 Bonsai 2 27B 模型与原版相比,内存占用减少了 9 到 10 倍,同时其综合基准测试得分达到了原版的 98%。 该公司于3月发布的首款Bonsai模型,下载量已超过1100万次。 PrismML 获得了 Khosla Ventures、Cerberus Capital 和加州理工学院等投资方的支持,Databricks 联合创始人 Ion Stoica 担任顾问。这家初创公司计划在未来几个月内将其压缩技术应用于规模更大的模型。