除了可能将个人隐私泄漏给闲鱼卖家外，通过云端部署AutoGLM的用户也存在隐私泄露的风险。“除非本地化部署，只要是远程上传云端处理的数据，都有泄密的可能。但是本地化运行对处理器的要求太高。”上述闲鱼卖家小贝称。

大规模部署大语言模型（LLM）极具挑战性。现代LLM的参数规模已远超单块GPU甚至单个多GPU节点的内存与计算能力。因此，针对70B+、120B+参数模型的推断工作负载或具有超大上下文窗口的流水线，必须采用多节点、分布式GPU的部署方案。

亚马逊Q开发人员在过去一年中有了很大的进步。我当然可以向AWS客户推荐它。免费层对我来说已经足够了，但如果我整天使用它，每天我很可能都要升级到专业层。

整理 | 褚杏娟近日，不少开发者发现，OpenAI 悄悄支持了 Claude 构建的 Agent Skills 机制。目前内置了 3 个 skills：excel、word 和 pdf。有网友分享了测试 prompt，在 ChatGPT 中输入提示词 ...