显存不够跑AI？先别急着换显卡 一听说要在本地跑大模型，第一反应就是：又得升级电脑了？💸 GitHub 开源项目 Colibri，换了个思路。 它不是新模型，也不是让显卡突然变强，而是把暂时用不到的“模型专家”留在硬盘里，需要谁，再把谁搬出来干活。 就像开会，没必要把全公司的人都挤进一间会议室。它尝试通过这种按需加载的方式，降低运行受支持大模型时的内存、显存压力。 但别误会：能跑，不等于
1:02
显存不够跑AI？先别急着换显卡 一听说要在本地跑大模型，第一反应就是：又得升级电脑了？💸 GitHub 开源项目 Colibri，换了个思路。 它不是新模型，也不是让显卡突然变强，而是把暂时用不到的“模型专家”留在硬盘里，需要谁，再把谁搬出来干活。 就像开会，没必要把全公司的人都挤进一间会议室。它尝试通过这种按需加载的方式，降低运行受支持大模型时的内存、显存压力。 但别误会：能跑，不等于
1 day ago
douyin.comGitHub挖宝社
See more
Static thumbnail place holder