关于 MLSoma

为计算机新时代打造的软件。

如今的电脑已经能够运行、训练和研究不久前还需要数据中心才能处理的模型。MLSoma 就是为此而生的引擎:一款桌面应用,在你面前的这台电脑上完成这一切。

计算机的新时代

个人电脑不再只是运行程序的地方。它的显卡和内存现在已经能够运行和训练机器学习模型,这改变了软件能为使用者做些什么,也改变了他们的数据需要去往何处。

MLSoma 正是为此而打造。它的引擎从零写起,通过你已经安装的驱动程序与显卡通信,并把你的文件、提示词和模型都保留在你的电脑上。它只在确实需要时才联网,例如下载模型或更新。

兼容性

MLSoma 可在 Windows、macOS 和 Linux 上运行。它通过 CUDA 在 NVIDIA 显卡上、通过 OpenCL 在 AMD 和 Intel 显卡上、通过 Metal 在搭载 Apple 芯片的 Mac 上运行本地 AI 模型,使用的是你已经安装好的显卡驱动:无需配置 CUDA toolkit 或厂商 SDK。没有显卡时,模型在处理器上运行。

即使模型大于显卡的显存,也照样能运行:MLSoma 把放得下的部分留在显卡上,其余部分从系统内存中流式加载。

兼容性是一项持续的工作。随着新的显卡、处理器和操作系统版本不断推出,我们会持续为它们添加支持,并优先支持大家呼声最高的。如果 MLSoma 在你的硬件上运行得不好,请告诉我们。

为什么不开源?

且不论如今“开源”究竟意味着什么,就目前而言,让 MLSoma 保持闭源对我们来说很有道理。

如今这个词涵盖的东西差别很大:有些模型权重号称开放,却附带限制使用方式的许可证;有些项目由人免费维护,却支撑着其他公司的业务。单凭“开放”二字,已经很难说明你实际能得到什么。

闭源引擎让一个团队对一切负责,从在你的显卡上运行的代码,到你点击的窗口,并且能全职持续投入开发。MLSoma 对个人和小公司依然免费下载和使用;其余开销由 Premium 和本网站上的广告承担。

我们使用 AI 吗?

在合适的时候,会用。我们为 AI 开发软件,也会在 AI 工具擅长的地方使用它们,比如编写和检查代码,或翻译本网站。发布什么由人来决定,并且会先经过测试。

联系我们

有问题、有想法,或者遇到无法正常工作的地方?请发送邮件至 [email protected]。