새로운 컴퓨터 시대를 위한 소프트웨어.

새로운 컴퓨터 시대

개인용 컴퓨터는 더 이상 프로그램만 실행하는 곳이 아니에요. 이제 그래픽 카드와 메모리로 머신러닝 모델을 실행하고 훈련할 수 있죠. 그래서 소프트웨어가 사용자를 위해 할 수 있는 일도, 사용자의 데이터가 어디로 가야 하는지도 달라져요.

MLSoma는 바로 이를 위해 만들어졌어요. 엔진을 처음부터 직접 작성했고, 이미 설치된 드라이버를 통해 그래픽 카드와 통신하며, 파일과 프롬프트, 모델을 내 컴퓨터에 보관해요. 모델이나 업데이트 다운로드처럼 꼭 필요할 때만 온라인에 연결해요.

호환성

MLSoma는 Windows, macOS, Linux에서 실행돼요. 로컬 AI 모델을 NVIDIA 그래픽 카드에서는 CUDA로, AMD와 Intel 그래픽 카드에서는 OpenCL로, Apple 실리콘 Mac에서는 Metal로 실행하며, 이미 설치된 디스플레이 드라이버를 그대로 사용해요. CUDA toolkit이나 제조사 SDK를 따로 설치할 필요가 없어요. 그래픽 카드가 없으면 프로세서에서 모델을 실행해요.

그래픽 카드 메모리보다 큰 모델도 실행할 수 있어요. MLSoma가 카드에 들어가는 만큼은 카드에 두고, 나머지는 시스템 메모리에서 스트리밍해요.

호환성 작업은 계속 이어져요. 새로운 그래픽 카드와 프로세서, 운영체제 버전이 나올 때마다 계속 지원을 추가하고 있으며, 가장 많이 요청받는 것부터 지원해요. MLSoma가 내 하드웨어에서 잘 실행되지 않는다면 알려 주세요.

왜 오픈 소스가 아닌가요?

요즘 오픈 소스가 무엇을 뜻하는지에 대한 의문은 차치하더라도, 지금 저희에게는 MLSoma를 비공개로 유지하는 것이 여러모로 합리적이에요.

이 말은 이제 아주 다른 것들을 가리켜요. 오픈이라고 불리지만 사용 방식을 제한하는 라이선스가 붙은 모델 가중치도 있고, 다른 회사의 사업을 떠받치면서도 무료로 유지보수되는 프로젝트도 있어요. 이제 ‘오픈’이라는 말만으로는 실제로 무엇을 얻는지 알기 어려워요.

비공개 엔진이기에 한 팀이 그래픽 카드에서 실행되는 코드부터 클릭하는 창까지 모든 것을 책임지고, 전업으로 계속 개발할 수 있어요. MLSoma는 개인과 소규모 회사라면 앞으로도 무료로 다운로드하고 사용할 수 있어요. 나머지 비용은 Premium과 이 웹사이트의 광고로 충당해요.

AI를 사용하나요?

적절할 때는 사용해요. 저희는 AI를 위한 소프트웨어를 만들고, 코드 작성과 검토, 이 웹사이트 번역처럼 AI 도구가 잘하는 일에는 AI 도구를 써요. 무엇을 출시할지는 사람이 결정하고, 출시 전에 먼저 테스트해요.

문의하기

질문이나 아이디어가 있거나, 작동하지 않는 부분이 있나요? [email protected] 주소로 메일을 보내 주세요.