开放权重，隐藏载荷：如何安全下载和加载 LLM 模型而不被入侵

本周 HN 上有两条新闻挨得很近：一条是 Mistral 公布了 Mistral Large 4 的权重，另一条是 Anthropic 被入侵并遭利用来传播远程访问木马。两件事放在一起看，结论很清楚：分发渠道越是被信任，越值得攻击者下手。现在开发者几乎每周都要往本机下载几十 GB 的模型，无脑跑一下 from_pretrained() 就完事。但一个模型文件并不只是一堆数字，取决于格式，它完全可能携带在你加载那一刻就执行的代码。本文分享我目前在用的流程，用来更安全地下载和加载开放权重模型，适用于 Hugging Face、Ollama 和 llama.cpp。 ## 为什么模型文件能执行代码？