摘要：后来也因为这样天真的、抱有幻想的想法，吃过了好几次亏，才开始越来越意识到比起能稳定复现的 BUG 来说，“偶现问题”往往才是发出致命一击的刺客。
日常开发过程中大家肯定或多或少都会遇到一些偶现的问题，最常见的一句话就是：在我本地运行的时候都是好的呀？在测试环境跑的时候都是好的呀？在预发布环境都是正常的呀？在灰度阶段都是没问题的呀？
怎么到生产上就时不时爆出几个预警来呢？
一般来说，这种情况多半是遇到了在特定的条件下、多种因素叠加在一起的时候才会触发的“偶现问题”。
以前我碰到这类问题的时候，我都是调侃到：不能稳定复现的 BUG 都不算是 BUG。
后来也因为这样天真的、抱有幻想的想法，吃过了好几次亏，才开始越来越意识到比起能稳定复现的 BUG 来说，“偶现问题”往往才是发出致命一击的刺客。
总结过去几年遇到的一些偶现问题。
偶现问题有一定隐秘性，要有刨根问底的精神，偶现的问题也是问题。
如果上线前不把偶现的问题刨根问底弄清楚，到了线上将会更难排查。
客户所在的上下文环境可能会和我们不同，常常导致我们不能模拟重现问题，在过去的几年中也遇到过不少这样的场景，最近便梳理了一些。
本文结构安排：第一部分罗列场景；第二部分列举案例。
偶现问题可以是概率高的，也可以是概率低的; 甚至是出现一次的；或者是一开始是没有，运行一段时间出现的。
大多数问题都是编码不严谨导致，甚至是一些低级错误。
数据库、本地缓存，分布式缓存数据是常见问题，编码时没有考虑周全，给业务带来麻烦。
缓存不一致性持续的时间极短，往往会忽略缓存一致性这个因素，导致排查方向走偏，增加排查时长，警惕！
脏数据常常会引起异常现象，也是偶发性问题高发区，此处换成现脏数据易发的场景。
脏数据出现触发异常。常见的情况：selectOne，但是查询出来两条。
上游的服务链路很长；异常被转换；日志被吞掉的情况会大大增加排查的难度
程序未做好兼容发布，比如数据结构不兼容，请求参数不兼容，方法不兼容等等；未做好优雅关闭，正在处理的任务被中断。这样的发布都是灾难。
并行流里面使用了非线程安全集合类，集合对象返回结果可能不正确。
当数据量小的时候，不容易察觉；当数据量多的时候，容易暴露问题。
List dataList = 从 DB 中获取结果集合// 非线程安全集合了List successList = new ArrayList;List failList = new ArrayList;// parallelStream 并行流中使用了不安全的集合dataList.parallelStream.forEach( vo -> { ....... if(执行成功) { successList.add(vo); } else { failList.add(vo); } });开始为 stream，没有任何问题。
当数据量大的时候，做了一个优化，将 stream 修改成 parallelStream，测试时，数据量较小，未察觉，线上数据量多的时候，发现了这个问题。
当使用 ThreadLocal 时，未正确执行 remove 方法；有可能是因为抛出异常导致。线程在特殊情况下被复用；导致 ThreadLocal 中的数据符合预期。
注：这是编码不严谨导致。
// 正常情况能够执行 removetry { ...} finally { threadLocalUser.remove;}不严谨，导致 remove 未执行
// 错误使用try { ... // 业务异常, 未能执行 remove threadLocalUser.remove;} catch(exception exception) { ...}ThreadLocal 其实应用场景很多，但一定要记得移除用完 remove 掉。由于具有线程复用，比较难排查。
修改成员变量从配置中心读取配置信息，该数据作为模板，带有占位符；在执行实例时，通过上下文参数，解析占位符。比如发送短信、卡片等。
这是一份模板数据，占位符通过上下文替换。
// 从配置中心读取配置，用成员变量保存public class CardSceneParamConfig implements XXXDataCallback { // 从 nacos 配置读取初始化模板数据 private Map cardParamVO = new HashMap; ...... // 获取配置模板 public AuthorizedCardParamVO getAuthorizedCardParamVO(String sceneCode) { return cardParamVO.get(sceneCode); }}// 获取模板对象，修改了模板里面的占位符。private AuthorizedCardParamVO xxx(AuthorizedCardParamVO stable, Map params) { ...... final String contentDescStr = Optional.ofNullable(stable.getContentDesc) .map(contentDesc -> contentDesc.replace("$userName$", params.get("userName"))) .orElse(stable.getContentDesc); // 更改了成员变量 stable.setContentDesc(contentDescStr); ....... return dynamic;}stable.setContentDesc(contentDescStr); 修改了成员变量，导致 "contentDesc":"交付工程师: （$userName$) 向您申请交付权限"
被修改成具体值 "contentDesc":"交付工程师: （XXXX) 向您申请交付权限"。
如果 userName 是同一个人，或者第一次请求到不同机器；都不会有问题；否则有问题。
需要特别注意成员变量被修改的情况。修改成员变量的案例遇到过很多次。需要警惕。
异步依赖使用线程池执行，但是将结果添加到 list 这个操作是异步的。有可能代码执行完毕，但是 list 结果集合没有任何的数据。异步依赖。
List dataList = 从 DB 中获取结果集合// 非线程安全集合List successList = new ArrayList;List failList = new ArrayList;for (XXXDO vo : dataList) { ThreadUtil.execute( -> { // API 操作 vo ....... if(执行成功) { successList.add(vo); } else { failList.add(vo); } });}// 可能未获取运行结果就返回了这是个低级错误，需要异步等待，但是因为数据量小，未察觉这个问题。数据大的时候非常容易暴露。
很久以前，接手了一位离职伙伴的代码，现在想来都觉得很坑。
上传 excel 数据，到服务端解析，将解析结果上再传到 redis，redis 设置 1min 过期；解析这个过程也是一个异步行为。客户端上传完成再点击提交数据，从刚才的 redis 取数据再保存到 DB 中。当数据大的时候，发现一条数据都没有插入到 DB 里面。
原因大致有二：
未解析完成，提交时 redis 还没有数据提交按钮迟了，redis 解析的数据过期数据量小的时候不易察觉，因为功能不常用，等数据量大的时候，就暴露了。
下面案例，由于 counter++ 操作不是原子的，同时并发修改。循环的次数偏小，可能不会出现问题。
循环次数多 counter 不符合预期
public class UnsafeConcurrencyExample { private static int counter = 0; public static void main(String args) { Thread thread1 = new Thread( -> { for (int i = 0; i { for (int i = 0; i当第一次运行这段代码时，会从数据库中获取数据，并将数据放入缓存中。
10 分钟内再次运行代码时，将直接从缓存中获取数据，而不会再次访问数据库。只有当缓存过期后，才会再次从数据库获取新的数据。
public class CacheExample { // 创建缓存 private static Cache Cache = CacheBuilder.newBuilder .expireAfterWrite(10, TimeUnit.MINUTES) // 设置缓存过期时间为10分钟 .build; public static void main(String args) { String key = "data"; // 缓存的键 // 从缓存中获取数据，如果缓存中不存在，则从数据库获取 Object data = cache.get(key, -> fetchDataFromDB); System.out.println("Data: " + data); } // 模拟从数据库获取数据 private static Object fetchDataFromDB { // 从数据库获取数据的逻辑 System.out.println("Fetching data from DB..."); return"Data from DB"; }}缓存偏长，有部分已经更新，有部分还是旧的，导致数据表现不一致。
数据一致性问题，导致请求到不同服务器节点出现不一样的效果
如果提交到线程池的任务，没有考虑优雅关闭，极端情况出现了脏数据，导致偶发性问题。
下面举一个简单的例子，线程池的使用，但是下面线程池未考虑优雅关闭。
public class SimpleThreadPool { private ExecutorService executor; public SimpleThreadPool(int threads) { executor = Executors.newFixedThreadPool(threads); } public void execute(Runnable task) { executor.execute(task); } public void shutdown { executor.shutdown; }}正在使用 execute 执行任务的时候，重新发布，重启、异常中断等等。导致正在执行的任务中断，产生了脏数据
使用 selectOne 方法查询数据库中的数据，但查询出来多条
com.baomidou.mybatisplus.core.exceptions.MybatisPlusException: One record is expected, but the query result is multiple records] with root cause
边界值触发限流发生在很多年前的一个事情。
需求场景是往一个 IM 群批量发送卡片，由于特定场景，满足场景的卡片数据量较大，大约300，触发了限流。
由于经过了多个服务，导致原始报错，被转换成一个通用异常，也增加了排查的成本。
限流异常错误未考虑，在切面层面统一处理转换成系统异常。
边界值会导致偶发问题，特别是不能模拟客户真实场景，加上原始错误信息丢失时，会增加排查难度。
数据量引发的限流问题较多；原始错误异常在链路上被转换其他异常也很普遍；因此在系统里面要多考虑这种场景，增强系统的健壮性。
由此可能引发以下问题：
下游 rpc 请求异常；该服务的依赖方异常本机器请求异常mq 消费异常.......集群健康非常重要！！！！！
服务挂掉了：No space left on device
因为集群中的一台机器磁盘满了，hang 住，不能继续服务，路由到这台机器超时异常。其他机器正常可以正常访问。
需要做好集群的检活，异常时及时下掉机器。
比如 updateBalance 是独立事务，在执行时可能出现问题 A 账户余额不够了，导致异常。
// 假设这是一个转账操作，从账户A向账户B转账updateBalance(connection, "B", 100); // 向账户B添加100元// A账户钱不够了updateBalance(connection, "A", -100); // 从账户A扣除100元网络入口带宽不足发生在小作坊的故事；在开发阶段，购买了阿里云的服务器，当时网络带宽 1M，测试阶段没有问题，但未压测上线；
等用户量上来时，发现一些客户请求总是出现超时，最后排查为网络带宽不足导致。
压测、网络监控非常重要
存在正常用户异常。带宽资源被抢占了。
rpc 超时假设客户端发送一个获取用户信息的请求给服务器端，并设置一个超时时间为5秒。
客户端期望在5秒内接收到服务器端返回的用户信息。但是由于网络延迟的原因，在某些情况下，服务器端的响应可能会在超时时间之后才到达客户端。
也有可能是因为运行了很长时间，服务端性能出现问题。
内存泄漏故事发生在多年前，至今印象深刻；是一个 16 台线上机器内存全部飙高的案例。
业务是通过计件算工资；程序是输入表达式运算结果。
服务刚上线， 测试边界值，因为输入一个很大的值，导致类型溢出；是计算工资的方法，程序设置了出错重试。
本来是单例的对象，但是却在每次执行方法时被创建因为错误发生，这个方法被发送到 mq 进行重试但是 mq 未设置最大重试次数因为集群机器都监听这个 mq，导致错误被不断地发送到 mq，形成了死循环。对象被无限创建，导致集群机器内存全部飙高。历历在目的例子......
三、总结合理的代码编写，很多问题都是编码导致，甚至还有很多低级错误多考虑边界值，边界值常常因为不会发生而被忽略合理的日志，方便排查，没有日志的异常增加排查难度别随便转换异常，做好异常处理压测，数据大会提前暴露并发相关问题别吞掉异常，否则出现错误时不容易排查，偶发性问题就变成灵异事件了机器一定要有完善的监控。包括上下游的监控，否则其中 1 个节点出现问题，整个链路都会因为这个节点出现偶发性的问题。做好优雅关闭等很多偶现的问题排查也十分困难，遇到了就是一个很好的训练机会，当排查问题多了，经验就足了，再遇到相似问题就能轻轻搞定了。像网络问题排查比较麻烦，平时多学习工具，技多不压身。
来源：散文随风想