Almost Timely News: 🗞️ 如何开始使用本地AI模型 (2025-04-20)
Almost Timely News: 🗞️ 如何开始使用本地AI模型 (2025-04-20) :: 在浏览器中查看 主要推广 👉 我的新课程《营销人员生成式AI用例》现已上线！ 内容真实性声明 本周时事通讯 100% 由我本人（人类）创作。了解为什么这种披露是个好主意，并且可能在不久的将来对任何与欧盟有业务往来的实体都成为强制要求。 在 YouTube 上观看本期时事通讯 📺 点击此处在 YouTube 上观看本期时事通讯的视频版本 📺 » 点击此处获取仅 MP3 音频 🎧 版本 » 我思我见：如何开始使用本地AI模型 在 LinkedIn 上的一篇帖子疯传之后，我想是时候写一篇关于如何开始使用本地AI模型的文章了。在本期时事通讯中，我将对此问题提出两个注意事项。首先，它本质上会比您可能习惯的生成式AI更具技术性。您和我习惯于打开浏览器窗口，登录我们选择的AI工具，然后完成工作。我们从不必考虑使这些工具成为可能的底层架构和基础设施。 如果您对这些更具技术性的操作感到不适或无法执行（例如，由于公司IT政策），那么请放松阅读，或者完全跳过本期内容。 第二个注意事项是关于术语。这个领域有很多令人困惑的术语，所以我们应该先做一些定义设定。我使用了几个有些可以互换的术语，所以让我们先明确一下： 本地AI (Local AI)：您在自己的硬件上运行的生成式AI模型，可以是从您的手机到您自己的本地数据中心。任何您完全控制运行AI模型的机器的环境都属于本地AI。 开放模型/开放权重模型 (Open model/open weights model)：由模型制作者免费在线分发的生成式AI模型。这些模型使您可以在任何地方运行它们，并且您无需向模型制作者付费即可使用。有些人会错误地称之为开源模型或开源AI，但几乎没有模型制作者会分发需要符合真正开源标准的训练数据集本身。 严格来说，这两者并不相同。本地AI是指对您和您的网络而言是本地的。开放模型可以在任何地方运行。例如，您可以在 IBM WatsonX.ai（IBM 的生成式AI安全云） 中运行开放模型。这完全不是本地的。您无法控制运行它的机器。但对于许多组织，特别是那些在IBM云内运行并需要IBM治理技术的组织来说，这是一个运行开放权重模型的好地方。 我们或许应该谈谈，当像 ChatGPT 这样的服务如此便捷时，您为什么还要想做这件事。您可能希望使用本地AI模型而不是SaaS AI服务的原因有五个： 隐私性 (Privacy)：当您在本地硬件上运行模型时，任何数据都不会离开您的系统。您的隐私和安全级别与您机器本身的安全级别相同。这对于任何处理敏感数据的人来说都具有巨大的吸引力。…
