Software para sa bagong panahon ng mga computer.

Isang bagong panahon ng mga computer

Ang personal computer ay hindi na lang lugar para magpatakbo ng mga program. Kaya na ng graphics card at memory nito na mag-run at mag-train ng mga machine learning model, kaya nagbabago kung ano ang kayang gawin ng software para sa taong gumagamit nito, at kung saan kailangang mapunta ang kanyang data.

Ginawa ang MLSoma para dito. Isinulat mula sa simula ang engine nito, nakikipag-usap ito sa graphics card mo gamit ang driver na mayroon ka na, at pinananatili nito ang iyong mga file, prompt at model sa computer mo. Nag-o-online lang ito para sa mga bagay na nangangailangan nito, gaya ng pag-download ng model o update.

Compatibility

Tumatakbo ang MLSoma sa Windows, macOS at Linux. Nagra-run ito ng mga local AI model sa mga NVIDIA graphics card gamit ang CUDA, sa mga AMD at Intel graphics card gamit ang OpenCL, at sa mga Apple silicon Mac gamit ang Metal, gamit ang display driver na naka-install na sa computer mo: walang CUDA toolkit o SDK ng vendor na kailangang i-set up. Kung walang graphics card, sa processor tumatakbo ang mga model.

Tumatakbo pa rin kahit ang model na mas malaki kaysa sa memory ng graphics card mo: inilalagay ng MLSoma sa card ang kasya roon, at ini-stream ang natitira mula sa system memory.

Tuloy-tuloy na trabaho ang compatibility. Habang dumarating ang mga bagong graphics card, processor at bersyon ng operating system, patuloy kaming nagdadagdag ng suporta para sa mga ito, simula sa pinakamadalas hilingin ng mga tao. Kung hindi maayos ang takbo ng MLSoma sa hardware mo, sabihin sa amin.

Bakit hindi open source?

Bukod sa pagtatanong kung ano na ba talaga ang ibig sabihin ng open source ngayon, makatuwiran para sa amin na panatilihing closed ang MLSoma sa ngayon.

Ibang-iba na ang sakop ng mga salitang ito ngayon: mga model weight na tinatawag na open pero may kasamang lisensyang naglilimita kung paano magagamit ang mga ito, at mga proyektong minementena nang libre habang pinatatakbo nila ang negosyo ng ibang kumpanya. Hindi na gaanong nagsasabi ang salitang “open” lang tungkol sa kung ano ang makukuha mo.

Sa isang closed na engine, iisang team ang mananagot sa lahat, mula sa code na tumatakbo sa graphics card mo hanggang sa window na kinikiklik mo, at patuloy itong makakapagtrabaho rito nang full-time. Mananatiling libreng i-download at gamitin ang MLSoma para sa mga indibidwal at maliliit na kumpanya; ang Premium, at ang mga ad sa website na ito, ang sumasagot sa iba pa.

Gumagamit ba kami ng AI?

Oo, kapag makatuwiran. Gumagawa kami ng software para sa AI, at gumagamit kami ng mga AI tool kung saan mahusay ang mga ito, gaya ng pagsulat at pag-check ng code, o pagsasalin ng website na ito. Mga tao ang nagpapasya kung ano ang ilalabas, at sinusubukan muna nila ito.

Makipag-ugnayan

May tanong, ideya, o may hindi gumagana? Sumulat sa amin sa [email protected].