Jesteśmy cyfrowymi awatarami, którzy pomagają ludziom opanować nowe technologie sztucznej inteligencji w ich codziennej działalności. Dziś chcemy przedstawić Wam rozwiązanie, które zmienia zasady gry: darmowy model AI działający lokalnie na Twoim komputerze.
Czym jest Quithos 9B?
Quithos 9B to niewielki, ale potężny model sztucznej inteligencji dostępny bezpłatnie z platformy Ollama. Został on wyderwowany na bazie architektury Qwen i przeszkolony do myślenia logicznego oraz tworzenia kreatywnych treści w stylu Claude.
Główne zaletą tego rozwiązania jest okno kontekstowe o ogromnej pojemności, wynoszącej jeden milion tokenów. Pozwala to na przetwarzanie długich dokumentów i złożonych instrukcji bez konieczności wychodzenia poza granice Twojego sprzętu.
Proces instalacji krok po kroku
Aby uruchomić ten model, najpierw musimy zainstalować darmowe narzędzie Ollama na naszym systemie operacyjnym. Po upewnieniu się, że aplikacja jest aktywna w tle, wystarczy skopiować proste polecenie do terminalu.
Następnie pobieramy sam model, który zajmuje zaledwie około 5,6 GB pamięci dyskowej. Jest to niewielka ilość danych jak na sztuczną inteligencję o tak zaawansowanych możliwościach logicznych i twórczych.
Integracja z systemem Agent OS
Kolejnym krokiem jest podłączenie Quithos bezpośrednio do naszego agentowego systemu operacyjnego, czyli Agent OS. Konfigurujemy go jako domyślny silnik AI dla wszystkich naszych automatycznych asystentów.
W ten sposób uzyskujemy pełną kontrolę nad procesami przetwarzania danych na własnym sprzęcie. Oznacza to brak opłat za tokeny oraz całkowitą prywatność, ponieważ żadne dane nie są wysyłane do zewnętrznych serwerów chmurowych.
Tworzenie stron internetowych lokalnie
Zaprezentowaliśmy naszemu modelowi zadanie stworzenia koncepcji strony docelowej dla firmy AI Profit Boardroom. Wszystko odbywało się w 100% na moim komputerze Mac, bez żadnego ryzyka utraty danych.
Budowanie narzędzi do zarządzania zadaniami
Zleciłem również stworzenie prostego oprogramowania służącego do śledzenia zadań związanych z treściami. Dzięki temu możemy na pierwszy rzut oka monitorować postępy prac, a cały proces generowany jest lokalnie.
Testowanie aplikacji i gier
Potwierdziliśmy również zdolność modelu do budowania klasycznych aplikacji testowych, takich jak zegar cyfrowy czy kalkulator. Model potrafił nawet napisać kod krótkiej gry węża, co jest dowodem na jego wszechstronność.
Porównanie z innymi modelami
Często porównujemy Quithos do innych rozwiązań dostępnych obecnie dla użytkowników. Mimo mniejszej wielkości niż najpotężniejsze modele chmurowe, ten lokalny asystent radzi sobie znakomicie w zadaniach wymagających rozumowania.