Mamy własny klaster obliczeniowy: cztery połączone maszyny z łącznie 512 GB pamięci dla modeli AI. To pojemność, która pozwala nam uruchamiać u siebie naprawdę duże modele językowe, na przykład GLM-5.3, czyli klasę systemów, po którą zwykle idzie się do chmury. Testujemy na nim także generowanie obrazu i wideo.
Po co to komu?
Prosty przykład: firma chce, żeby AI odpowiadało na pytania o jej umowy i procedury. Wysyłać umowy do publicznego czatu nie wolno albo strach. U nas ten sam model pracuje na miejscu, a dane nie opuszczają firmy. Tak samo z asystentem do poczty, transkrypcjami spotkań czy analizą tabel.
Ile to kosztuje w klasycznym wydaniu?
- rzędu 1 mln złserwer o podobnej pojemności GPU kupiony tradycyjnie
- ponad 100 tys. zł miesięczniewynajem w chmurze przy pełnym obciążeniu
- ułamek tej kwotynasz klaster
Uczciwa uwaga: taki sprzęt wygrywa pojemnością i prywatnością danych, nie surową prędkością największych centrów danych. Jeśli potrzebujesz przede wszystkim szybkości, powiemy to wprost i policzymy, czy chmura nie wyjdzie korzystniej.
Chcesz mieć taki klaster u siebie?
Zbudujemy go na zamówienie: dobór maszyn, konfiguracja, uruchomione modele, przeszkolony zespół. Wycena po rozmowie, bo zakres bywa bardzo różny.
Porozmawiajmy o prywatnym AI