Wprowadzenie do LLM

W rezultacie tej lekcji będziemy mogli mówić jednym językiem o najważniejszych aspektach generatywnej sztucznej inteligencji. Opowiem, czym dokładnie są duże modele językowe. Wyjaśnię też najważniejsze pojęcia, w tym te, które odnoszą się do pułapek, na jakie prawdopodobnie natrafimy pracując z LLM.

• ChatGPT nie jest synonimem sztucznej inteligencji. AI obejmuje znacznie szerszy zbiór technologii, w którym generatywna AI stanowi tylko część, a LLM-y są jeszcze węższą kategorią.

• Prompt to treść wysyłana do modelu, czyli polecenie, pytanie lub materiał wejściowy. Może zawierać również negative prompt, czyli informację o tym, czego model ma unikać.

• Współczesne modele są coraz bardziej multimodalne: mogą przyjmować nie tylko tekst, ale także pliki i inne typy danych, a na wyjściu generować różne rodzaje treści, np. tekst i grafikę.

• Agenci AI mogą działać z pewną autonomią, współpracować ze sobą i realizować procesy nieliniowe, np. oceniać własny rezultat i wracać do wcześniejszych etapów, jeśli efekt jest niewystarczający.

• Modele można specjalizować na kilka sposobów: przez kosztowny fine-tuning, przez RAG wykorzystujący zewnętrzne źródła wiedzy albo przez prostsze modele wyspecjalizowane oparte na stałym prompcie i dodatkowych plikach (prosta automatyzacja).

• Tokeny służą do opisywania ilości informacji przetwarzanych przez model, m.in. pojemności okna kontekstu.

• Z modeli można korzystać w trybie rozmówcy albo asystenta z określoną stałą rolą. Trzeba przy tym pamiętać o ich ograniczeniach: halucynacjach (wiarygodnych wyglądających informacjach, które nie są prawdzie), biasie (tendencyjności modeli), nadmiernej pewności odpowiedzi oraz dacie odcięcia wiedzy. Ważne informacje należy weryfikować.

Wyjaśnienie najważniejszych pojęć znajdziesz też w słowniku, do którego możesz w każdej chwili wrócić.