AI实验室PrismML发布了Bonsai 2 27B,这是一款超小型大语言模型(LLM),它将阿里巴巴的Qwen3.8 27B压缩至5.9 GB,同时保持98%的性能,从而支持在个人电脑和智能手机上部署。
PrismML 由加州理工学院的研究人员创立,由压缩技术专家巴巴克·哈西比(Babak Hassibi)领导,致力于将高性能推理模型的体积缩小到足以在个人设备上运行。全新的 Bonsai 2 27B 模型与原版相比,内存占用减少了 9 到 10 倍,同时其综合基准测试得分达到了原版的 98%。 该公司于3月发布的首款Bonsai模型,下载量已超过1100万次。 PrismML 获得了 Khosla Ventures、Cerberus Capital 和加州理工学院等投资方的支持,Databricks 联合创始人 Ion Stoica 担任顾问。这家初创公司计划在未来几个月内将其压缩技术应用于规模更大的模型。
暂无AI深度解读,点击上方「AI解读」按钮,即刻生成一份全新解读
免责声明:本内容仅代表作者个人观点,不构成任何投资理财建议。
24小时热榜
今日行情
推荐阅读











