需手动构建fifo缓存：一、deque+dict组合，入队追加、出队弹首；二、封装为插件类继承codegeex接口；三、list+索引模拟队列；四、加threading.lock保障多线程安全。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您在使用CodeGeeX时需要实现先进先出（FIFO）缓存淘汰策略，则需绕过其默认的LRU类机制，手动构建基于插入顺序的缓存容器。以下是实现FIFO缓存的多种可行方法：
一、使用双端队列+哈希表组合实现
该方法通过collections.deque维护插入顺序，用字典记录键值映射，确保入队、出队和查询操作均保持高效。淘汰时直接弹出队首元素，严格遵循FIFO语义。
1、导入必要模块：from collections import deque。
2、初始化一个空的双端队列self.order和一个空字典self.cache，并设定最大容量self.capacity。
3、在put(key, value)中：若键已存在，跳过插入；否则将键追加至self.order末尾，并写入self.cache[key] = value；若当前大小超限，执行oldest_key = self.order.popleft()并从self.cache中删除对应项。
4、在get(key)中：仅返回self.cache.get(key)，不改变self.order顺序。
二、封装为独立类并继承CodeGeeX插件接口
为适配CodeGeeX扩展机制，可定义符合其插件规范的缓存类，重载on_cache_hit与on_cache_miss钩子，使FIFO逻辑嵌入模型推理流程中。
1、定义类FIFOCachePlugin，实现__init__、get、put及evict方法。
2、在put中调用self._enqueue(key)，内部使用列表记录键序列，并限制长度不超过self.max_size。
3、在evict中执行key_to_remove = self.keys.pop(0)，随后清理对应缓存条目。
4、将该类实例注册至CodeGeeX的cache_manager字段，替换默认缓存组件。
CodeGeeX 2.21.0是智谱AI推出的AI编程助手版本，对Inline Chat功能进行了重大优化，包括UI设计升级、支持流式输出以提升响应速度，并新增“查看思路”按钮以便理解代码原理。同时，该版本在编辑器中新增CodeLens控件，支持一键“解释”代码或“添加注释”。目前该工具对个人开发者免费开放。
三、利用Python内置list模拟队列并控制索引
该方案避免引入额外依赖，仅使用原生list结构，通过索引偏移管理“虚拟队首”，适合轻量级部署或调试场景。
1、初始化self.items = []、self.start_idx = 0、self.capacity。
2、每次put时执行self.items.append((key, value))；若len(self.items) - self.start_idx > self.capacity，则递增self.start_idx。
3、get(key)遍历从self.start_idx到末尾的区间，匹配后返回值；未命中则返回None。
4、定期调用self._compact()清除已越界前缀元素，防止内存持续增长。
四、基于threading.Lock保障多线程安全的FIFO缓存
当CodeGeeX运行于多请求并发环境（如API服务模式）时，必须对FIFO操作加锁，防止deque.popleft()与append()出现竞态导致顺序错乱或KeyError。
1、在类初始化中添加self._lock = threading.Lock()。
2、所有读写操作（get、put、evict）开头均插入with self._lock:语句块。
3、在put中，检查容量前先获取锁，淘汰逻辑必须在锁内完成，确保popleft()与字典删除原子执行。
4、设置超时参数timeout=0.1于self._lock.acquire()，避免死锁阻塞主推理线程。
