Software para a nova era dos computadores.

Uma nova era dos computadores

Um computador pessoal não é mais só um lugar para rodar programas. A placa de vídeo e a memória dele agora conseguem rodar e treinar modelos de machine learning, o que muda o que o software pode fazer por quem o usa e para onde os dados dessa pessoa precisam ir.

O MLSoma foi feito para isso. O motor dele foi escrito do zero, conversa com a sua placa de vídeo pelo driver que você já tem e mantém seus arquivos, prompts e modelos no seu computador. Ele só se conecta à internet para o que precisa disso, como baixar um modelo ou uma atualização.

Compatibilidade

O MLSoma roda no Windows, no macOS e no Linux. Ele roda modelos de IA localmente em placas de vídeo NVIDIA via CUDA, em placas de vídeo AMD e Intel via OpenCL e em Macs com chip Apple via Metal, usando o driver de vídeo que já está instalado: não há CUDA toolkit nem SDK de fabricante para configurar. Sem placa de vídeo, os modelos rodam no processador.

Um modelo maior que a memória da sua placa de vídeo também roda: o MLSoma mantém na placa o que cabe e faz streaming do resto a partir da memória do sistema.

Compatibilidade é um trabalho contínuo. À medida que chegam novas placas de vídeo, processadores e versões de sistemas operacionais, continuamos adicionando suporte a eles, começando pelo que as pessoas mais pedem. Se o MLSoma não roda bem no seu hardware, conte para a gente.

Por que não é código aberto?

Além de questionar o que código aberto significa hoje em dia, manter o MLSoma fechado faz muito sentido para nós neste momento.

Essas palavras cobrem coisas muito diferentes hoje: pesos de modelos chamados de abertos que vêm com licenças que limitam como podem ser usados, e projetos mantidos de graça enquanto sustentam os negócios de outras empresas. “Aberto”, sozinho, já não diz muito sobre o que você recebe.

Um motor fechado permite que uma única equipe responda por tudo, do código que roda na sua placa de vídeo até a janela em que você clica, e continue trabalhando nele em tempo integral. O MLSoma continua grátis para baixar e usar para pessoas físicas e pequenas empresas; o Premium e os anúncios deste site pagam o resto.

Usamos IA?

Quando faz sentido, sim. Criamos software para IA e usamos ferramentas de IA onde elas fazem bem o trabalho, como escrever e revisar código ou traduzir este site. São pessoas que decidem o que é lançado, e elas testam antes.

Fale conosco

Dúvidas, ideias ou algo que não funciona? Escreva para nós em [email protected].