Java并发之构建高效且可伸缩的结果缓存-创新互联

背景

构建一个高效且可伸缩的结果缓存，从多个方案中分析优缺点并最终搞一个最佳实践

“只有客户发展了，才有我们的生存与发展！”这是成都创新互联的服务宗旨！把网站当作互联网产品，产品思维更注重全局思维、需求分析和迭代思维，在网站建设中就是为了建设一个不仅审美在线，而且实用性极高的网站。创新互联对网站建设、网站设计、网站制作、网站开发、网页设计、网站优化、网络推广、探索永无止境。前置内容说明

public interface Computable{V compute(A arg) throws InterruptedException;
}

public class ExpensiveFunction implements Computable{@Override
    public BigInteger compute(String arg) throws InterruptedException {//经过较长时间计算后的操作

        return new BigInteger(arg);
    }
}

目的：将创建一个Computable包装器，帮助记住之前的计算结果，并将缓存过程封装起来。

1、使用HashMap和同步机制来初始化缓存

public class Memoizer1implements Computable{private final Mapcache = new HashMap();
    private ComputablemComputable;

    public Memoizer1(Computablecomputable){mComputable=computable;
    }

    @Override
    public synchronized V compute(A arg) throws InterruptedException {V result = cache.get(arg);
        if(result==null){result=mComputable.compute(arg);
            cache.put(arg,result);
        }
        return result;
    }
}

缺点：
hashMap不是线程安全的，所以对整个方法进行了同步；这种方法能确保线程安全性，但是会带来一个明显 的可伸缩性问题，每次只有一个线程能够执compute如果有多个线程在排队等待还未计算出的结果，那么compute方法的计算时间可能比没有缓存操作的计算时间更长

2、使用ConcurrentHashMap处理并发

public class Memoizer2implements Computable{private final Mapcache = new ConcurrentHashMap<>();
    private ComputablemComputable;

    public Memoizer2(Computablecomputable){mComputable=computable;
    }

    @Override
    public  V compute(A arg) throws InterruptedException {V result = cache.get(arg);
        if(result==null){result=mComputable.compute(arg);
            cache.put(arg,result);
        }
        return result;
    }
}

缺点：
相比Memoizer1,Memoizer2对compute去掉了方法同步，并且使用ConcurrentHashMap替代了HashMap； 不足之处在于当两个线程同时掉用compute时存在一个漏洞，可能会导致计算得到相同的值,这种情况特别时对于单次初始化的对象缓存来说，风险更大其次时某个线程启动了一个开销很大的计算，而其它线程并不知道这个计算正在进行，那么很可能会重复这个计算

3、FutureTask处理单个线程开销大时，其它线程不知道计算正在进行

public class Memoizer3implements Computable{private final Map>cache = new ConcurrentHashMap>();
    private ComputablemComputable;

    public Memoizer3(Computablecomputable) {mComputable = computable;
    }

    @Override
    public V compute(final A arg) throws InterruptedException {Futureresult = cache.get(arg);
        if (result == null) {Callablecallable = new Callable() {@Override
                public V call() throws Exception {return mComputable.compute(arg);
                }
            };
            FutureTasktask = new FutureTask<>(callable);
            result = task;
            cache.put(arg, result);
            task.run();
        }
        try {return result.get();
        } catch (ExecutionException e) {e.printStackTrace();
            throw new InterruptedException(e.getMessage());
        }
    }
}

缺点：
当前表现出了非常好的并发性，若结果已经计算出来，那么将立即返回；如果其它线程在计算结果，那么新到的线程将一直等待这个结果被计算出来；仍然有一个缺陷，即仍然存在两个线程计算出相同值的漏洞；是由于compute方法中if代码块仍然时非原子的先检查再执行操作符合操作（若没有则添加）是在底层的Map对象上执行的，而这个对象无法通过加锁来确保原子性

4、Future+ConcurrentMap中的原子方法putIfAbsent

最佳方案

public class Memoizer4implements Computable{private final Map>cache = new ConcurrentHashMap<>();
    private final ComputablemComputable;

    public Memoizer4(Computablecomputable) {mComputable = computable;
    }

    @Override
    public V compute(final A arg) throws InterruptedException {while (true) {Futureresult = cache.get(arg);
            if (result == null) {Callablecallable = new Callable() {@Override
                    public V call() throws Exception {return mComputable.compute(arg);
                    }
                };
                FutureTasktask = new FutureTask<>(callable);
                result = cache.putIfAbsent(arg, task);
                if (result == null) {result = task;
                    task.run();
                }
            }
            try {return result.get();
            } catch (CancellationException e) {//当缓存的是Future而不是值时，将导致缓存污染问题，计算失败或者取消，需要将Future移除
                cache.remove(arg, result);
            } catch (ExecutionException exception) {exception.printStackTrace();
            }
        }
    }
}

备注：参考【Java并发编程实践】

你是否还在寻找稳定的海外服务器提供商？创新互联www.cdcxhl.cn海外机房具备T级流量清洗系统配攻击溯源，准确流量调度确保服务器高可用性，企业级服务器适合批量采购，新人活动首月15元起，快前往官网查看详情吧

名称栏目：Java并发之构建高效且可伸缩的结果缓存-创新互联
路径分享：http://bjjierui.cn/article/djeppj.html