GPT
计算机 · 从左到右猜下一个词
术语解释
全称Generative Pre-trained Transformer,自回归语言模型,每次根据前面所有词预测下一个词。就像你打字时手机输入法的自动补全,只不过GPT规模巨大,能写出连贯的长文章。ChatGPT就是基于GPT架构。
怎么理解
给定前面所有词,预测下一个词的模型
计算机 · 从左到右猜下一个词
全称Generative Pre-trained Transformer,自回归语言模型,每次根据前面所有词预测下一个词。就像你打字时手机输入法的自动补全,只不过GPT规模巨大,能写出连贯的长文章。ChatGPT就是基于GPT架构。
给定前面所有词,预测下一个词的模型