LLM (Large Language Model, duży model językowy) to rodzaj sztucznej inteligencji wytrenowany na ogromnych zbiorach tekstów, który potrafi rozumieć i generować język naturalny. Na takich modelach opierają się czatboty, asystenci kodowania i przeglądy AI w wyszukiwarkach.
Jak działa LLM?
Model dzieli tekst na tokeny (fragmenty słów) i przewiduje, jaki token najlepiej pasuje jako następny, na podstawie wzorców poznanych w trakcie treningu. Z takich przewidywań powstają całe odpowiedzi. Nie szuka on gotowych odpowiedzi w bazie, lecz generuje je na bieżąco.
Z czego składa się model?
- architektura transformer, opisana w 2017 roku w pracy „Attention Is All You Need”,
- miliardy parametrów, czyli liczb dostrajanych w treningu,
- okno kontekstu, czyli ilość tekstu, jaką model widzi naraz,
- dostrajanie do rozmowy i wytycznych bezpieczeństwa.
Ograniczenia LLM
Model może się mylić i pewnie podawać nieprawdziwe informacje (halucynacje), nie zna zdarzeń po dacie zakończenia treningu i bywa wrażliwy na sposób sformułowania polecenia. Dlatego często łączy się go z wyszukiwaniem lub własnymi dokumentami (RAG).
LLM a SEO i tworzenie stron
Modele językowe zmieniają sposób wyszukiwania: odpowiedzi AI cytują strony, które są jasne, rzetelne i dobrze zbudowane. Programiści używają ich do pisania kodu, ale wynik trzeba przejrzeć i przetestować, tak jak kod napisany przez człowieka.