Программы для новой эпохи компьютеров.

Новая эпоха компьютеров

Персональный компьютер — это уже не только место для запуска программ. Его видеокарта и память теперь способны запускать и обучать модели машинного обучения, а это меняет и то, что программы могут сделать для человека, и то, куда должны уходить его данные.

MLSoma создан именно для этого. Его движок написан с нуля, работает с видеокартой через уже установленный у вас драйвер и хранит ваши файлы, промпты и модели на вашем компьютере. В сеть он выходит только тогда, когда это действительно нужно, например чтобы скачать модель или обновление.

Совместимость

MLSoma работает в Windows, macOS и Linux. Он запускает локальные модели ИИ на видеокартах NVIDIA через CUDA, на видеокартах AMD и Intel через OpenCL и на Mac с чипом Apple через Metal, используя уже установленный драйвер видеокарты: не нужно настраивать CUDA toolkit или SDK производителя. Если видеокарты нет, модели работают на процессоре.

Даже модель, которая больше памяти вашей видеокарты, всё равно работает: MLSoma держит на видеокарте то, что помещается, а остальное подгружает потоком из системной памяти.

Работа над совместимостью не прекращается. По мере выхода новых видеокарт, процессоров и версий операционных систем мы продолжаем добавлять их поддержку, начиная с того, о чём просят чаще всего. Если MLSoma плохо работает на вашем оборудовании, напишите нам.

Почему не открытый исходный код?

Даже если не задаваться вопросом, что сегодня вообще значит «открытый исходный код», нам сейчас вполне логично держать MLSoma закрытым.

Сегодня эти слова означают очень разные вещи: веса моделей, которые называют открытыми, но с лицензиями, ограничивающими их использование, и проекты, которые поддерживаются бесплатно, пока на них держится бизнес других компаний. Само по себе слово «открытый» уже мало что говорит о том, что вы получаете.

Закрытый движок позволяет одной команде отвечать за всё — от кода, который выполняется на вашей видеокарте, до окна, в котором вы нажимаете кнопки, — и работать над ним полный рабочий день. MLSoma по-прежнему можно бесплатно скачивать и использовать частным лицам и небольшим компаниям; остальное оплачивают Premium и реклама на этом сайте.

Используем ли мы ИИ?

Когда это оправдано — да. Мы делаем программы для ИИ и используем инструменты ИИ там, где они хорошо справляются: например, чтобы писать и проверять код или переводить этот сайт. Что выпускать, решают люди, и они же сначала всё тестируют.

Свяжитесь с нами

Есть вопросы, идеи или что-то не работает? Напишите нам на [email protected].