上下文窗口
计算机 · AI一次能"看"多少文字
术语解释
大语言模型一次能处理的文本长度(以token计)。GPT-3.5的上下文窗口是4096个token(约3000字),GPT-4可以到128K。就像你的工作记忆——能同时记住多少东西。超过窗口的内容模型就"忘了"。
怎么理解
上下文窗口=AI的工作记忆容量,超出就忘。
也叫
- Context Window
计算机 · AI一次能"看"多少文字
大语言模型一次能处理的文本长度(以token计)。GPT-3.5的上下文窗口是4096个token(约3000字),GPT-4可以到128K。就像你的工作记忆——能同时记住多少东西。超过窗口的内容模型就"忘了"。
上下文窗口=AI的工作记忆容量,超出就忘。