GPT, czyli Generative Pre-trained Transformer, to rodzaj dużej sieci neuronowej opracowanej przez OpenAI, stosowanej w generatywnym przetwarzaniu języka. GPT jest trenowany w sposób nienadzorowany na ogromnych zbiorach danych tekstowych i jest zdolny do generowania spójnych i kontekstowo odpowiednich tekstów. Wykorzystuje mechanizmy takie jak uczenie transferowe i głębokie uczenie, co pozwala na efektywne przetwarzanie języka naturalnego.