Marka OpenAI, odpowiedzialna za opracowanie popularnego bota ChatGPT, pokazała mały model językowy sztucznej inteligencji. Nowa technologia ma sprawić, że AI będzie działała szybciej i taniej.
Co potrafi nowy, mały model AI?
OpenAI stworzyło kolejny, tym razem mały model językowy o nazwie GPT-4o mini. Według firmy jest to najbardziej ekonomiczna technologia sztucznej inteligencji, jaką zdołała dotychczas udostępnić. Marka ma nadzieję, że nowość rozszerzy dostępność do tańszych aplikacji budowanych przy udziale AI.
Najnowsze rozwiązanie przewyższa GPT-4 i pozwala na wykonywanie wielu zadań z zachowaniem niskiego opóźnienia oraz kosztu. Przykładem takiego zadania jest tworzenie aplikacji, łączących wiele wywołań, przekazujących wiele kontekstu czy komunikujących się z klientami poprzez szybkie odpowiedzi.
Na ten moment nowa technologia została wyposażona w okno kontekstowe o maksymalnej pojemności 128 tysięcy tokenów, a obsługuje do 16 tysięcy tokenów wyjściowych. GPT-4o mini ma dostęp do wiedzy udostępnionej do października 2023 roku. Ten mały model sztucznej inteligencji obsługuje wyłącznie tekst oraz wizję w zakresie API, jednak twórca bota ChatGPT już teraz zapowiada, że w przyszłości do tej krótkiej listy dołączy też obsługa obrazów, wideo, audio oraz tekstów wejściowych i wyjściowych.
Darmowy ChatGPT zasilany nową technologią
OpenAI twierdzi, że GPT-4o mini w większości przypadków zdobywa lepsze wyniki w testach niż inne modele, takie jak np. GPT-3.5 Turbo. Istotną cechą jest tutaj również szybkość działania, dzięki czemu technologia może doskonale sprawdzić się w przypadku programistów, tworzących aplikacje odpowiedzialne za pobieranie danych czy komunikowanie się z zewnętrznymi systemami w trakcie ich działania.
W testach stwierdzono, że GPT-4o mini przewyższa m.in. Gemini Flash, Claude Haiku oraz GPT-3.5 Turbo w zadaniach, które wymagają rozumowania multimodalnego, matematycznego czy też kodowania.
OpenAI zaznacza, że podczas prac nad modelami sztucznej inteligencji dba o bezpieczeństwo na każdym z etapów rozwoju technologii. Firma rozumie przez to ograniczenie i filtrowanie treści zawierających mowę nienawiści, treści przeznaczone wyłącznie dla dorosłych, a także witryny ze spamem i obejmujące przede wszystkim osobiste informacje.
GPT-4o mini został udostępniony jako model tekstowy oraz wizualny w ramach Assistants API, Chat Completions API oraz Batch API. Za każdy milion tokenów wejściowych deweloperzy muszą zapłacić 15 centów (około 60 groszy), a za milion tokenów wyjściowych, czyli równowartość 2,5 tysiąca stron w książce, 60 centów (około 2,4 złotych).
Użytkownicy ChatGPT w wersji Free, Plus oraz Team mogą już korzystać z nowego, małego modelu w zamian za GPT-3.5. W kolejnym tygodniu dostęp mają otrzymać także firmy.
