我们都知道，现有的大模型在处理超过2万Token（甚至更少）的长文本时，性能往往会显著下降，出现“失忆”、理解偏差等问题。这极大地限制了它们在需要持久记忆和深度上下文理解场景下的应用 官方解释，Infinite Chat API充当了你的应用程序和LLM之间的一个 ...

11月16日，微软Ignite 2023大会盛大召开，英伟达高管出席并宣布更新了TensorRT-LLM版本。该版本现已支持对OpenAI Chat API的支持，并且还增强了DirectML功能。 今年10月份，英伟达面向数据中心和Windows PC推出了Tensor RT-LLM开源库。其中最大的亮点在于，如果Windows PC配备 ...

就在外界传言马斯克正筹划成立新的研究实验室，以开发ChatGPT替代品的当口，北京时间3月2日，OpenAI在官方博客宣布开放ChatGPT和Whisper的模型 API。 马斯克入局、OpenAI开放，两件事情有着千丝万缕的联系——本质上，都是硅谷乃至全球科技力量在抢夺AI战场。