Phần mềm cho kỷ nguyên mới của máy tính.

Kỷ nguyên mới của máy tính

Máy tính cá nhân không còn chỉ là nơi để chạy chương trình. Card đồ họa và bộ nhớ của nó giờ đây có thể chạy và huấn luyện các mô hình học máy, điều này thay đổi những gì phần mềm có thể làm cho người dùng, và nơi dữ liệu của họ phải đi đến.

MLSoma được tạo ra cho điều đó. Công cụ của MLSoma được viết từ đầu, giao tiếp với card đồ họa của bạn qua trình điều khiển bạn đã có, và giữ tệp, prompt và mô hình của bạn trên máy tính của bạn. Ứng dụng chỉ kết nối mạng khi thật sự cần, chẳng hạn để tải một mô hình hoặc một bản cập nhật.

Khả năng tương thích

MLSoma chạy trên Windows, macOS và Linux. Ứng dụng chạy các mô hình AI cục bộ trên card đồ họa NVIDIA qua CUDA, trên card đồ họa AMD và Intel qua OpenCL, và trên máy Mac dùng chip Apple qua Metal, bằng trình điều khiển màn hình đã được cài sẵn: không cần thiết lập CUDA toolkit hay SDK của nhà sản xuất. Nếu không có card đồ họa, mô hình sẽ chạy trên bộ xử lý.

Mô hình lớn hơn bộ nhớ card đồ họa của bạn vẫn chạy được: MLSoma giữ trên card phần vừa đủ chỗ và truyền dần phần còn lại từ bộ nhớ hệ thống.

Tương thích là công việc không ngừng. Khi card đồ họa, bộ xử lý và phiên bản hệ điều hành mới ra mắt, chúng tôi tiếp tục bổ sung hỗ trợ cho chúng, bắt đầu từ những gì mọi người yêu cầu nhiều nhất. Nếu MLSoma chạy không tốt trên phần cứng của bạn, hãy cho chúng tôi biết.

Vì sao không phải mã nguồn mở?

Chưa kể đến câu hỏi ngày nay mã nguồn mở thực sự có nghĩa là gì, việc giữ MLSoma là phần mềm đóng hiện rất hợp lý với chúng tôi.

Ngày nay, những từ này bao hàm những thứ rất khác nhau: trọng số mô hình được gọi là mở nhưng đi kèm giấy phép giới hạn cách sử dụng, và những dự án được duy trì miễn phí trong khi vận hành công việc kinh doanh của các công ty khác. Chỉ riêng chữ “mở” không còn nói lên nhiều về những gì bạn nhận được.

Một công cụ đóng cho phép một đội ngũ duy nhất chịu trách nhiệm cho tất cả, từ mã chạy trên card đồ họa của bạn đến cửa sổ bạn nhấp chuột, và tiếp tục làm việc trên nó toàn thời gian. MLSoma vẫn miễn phí tải về và sử dụng cho cá nhân và công ty nhỏ; Premium và quảng cáo trên trang web này chi trả phần còn lại.

Chúng tôi có dùng AI không?

Có, khi hợp lý. Chúng tôi làm phần mềm cho AI, và dùng công cụ AI ở những việc chúng làm tốt, như viết và kiểm tra mã, hoặc dịch trang web này. Con người quyết định những gì được phát hành, và kiểm thử trước.

Liên hệ với chúng tôi

Có câu hỏi, ý tưởng, hay có gì đó không hoạt động? Hãy gửi email cho chúng tôi tại [email protected].