本人参加过一次美国大学生数学建模竞赛,单人独立建模并撰写论文文案(翻译美化是另一位大佬,其实这比赛还是更关注美化论文,图文好看就能得奖,下限靠美化,上限靠建模+美化,编程成分可以比较少),最后是得了M奖(7.9%)。如果你在备赛时有什么疑问 ...
以llama.cpp工具为例,介绍模型量化并在本地CPU上部署的详细步骤。Windows则可能需要cmake等编译工具的安装(Windows用户出现模型无法理解中文或生成速度特别慢时请参考FAQ#6)。本地快速部署体验推荐使用经过指令精调的Alpaca模型,有条件的推荐使用8-bit模型 ...