-
02-28 23:40...将像LLaMAv27B这样的LLM与8位权重整合起来代价过高。移动设备中普遍的内存层结构如图2所示。随着DRAM容量从iPhone15的6GB到GooglePixel8Pro的12GB不等,一个移动应用不应超过DRAM的10%,因为DRAM需要与操作系统和其他应用程序共享。这一要求促进了部署小于十亿参数LLM更进一步的... 0
-
-
-
本页Url:
-
2024-05-05-11:40 GMT . 添加到桌面浏览更方便.
-
本页Url: