Java 中怎么用 CompletableFuture 实现多搜索引擎结果聚合

轻枫酱_5878

轻枫酱_5878

2026-09-17

600人浏览

原创

用completablefuture聚合多搜索引擎结果的核心是可控并行:各搜索源独立超时(ortimeout)、异常容错(exceptionally)、自定义线程池隔离,再通过allof+join安全聚合,最后按来源权重、去重、限流等业务逻辑增强结果。

java 中怎么用 completablefuture 实现多搜索引擎结果聚合

CompletableFuture 聚合多个搜索引擎结果,核心是并行发起请求、统一收集响应、处理异常和超时。关键不在于“写完”,而在于“可控”——每个搜索源可独立失败、可设超时、结果可按需合并。

并行发起多个搜索请求

为每个搜索引擎(如百度、Google、Bing)创建一个独立的 CompletableFuture<list>></list>,用 supplyAsync 提交异步任务。务必指定自定义线程池,避免挤占 ForkJoinPool.commonPool()

  • 定义线程池:ExecutorService searchPool = Executors.newFixedThreadPool(5);
  • 每个搜索封装成 Supplier:CompletableFuture<list>> baidu = CompletableFuture.supplyAsync(() -> searchBaidu(query), searchPool);</list>
  • 同理构建 google、bing 等,彼此完全解耦,互不影响

等待全部完成并安全聚合结果

CompletableFuture.allOf() 等待所有任务结束,但它返回 void,需手动提取结果。更推荐用 CompletableFuture.allOf(...).thenApply(...) 链式组合:

Alibabacloud Sdk Client Initialization For Java
Alibabacloud Sdk Client Initialization For Java

在 Java 中初始化和管理阿里云 SDK客户端。包括单例模式、线程安全、endpoint 与 region 配置、VPC 终端节点、同步与异步等。

下载
  • 先收集所有 future:CompletableFuture<list>>[] futures = {baidu, google, bing};</list>
  • 组合等待与提取:CompletableFuture.allOf(futures).thenApply(v -> Arrays.stream(futures).map(CompletableFuture::join).flatMap(List::stream).collect(Collectors.toList()))
  • 注意:join() 会阻塞当前 stage,但只在 allOf 触发后执行,不影响上游并行性

处理单个搜索失败或超时

不能让一个搜索引擎崩掉整个聚合。每个 future 应自带容错:

  • orTimeout(3, TimeUnit.SECONDS) 设置单请求超时
  • exceptionally(ex -> Collections.emptyList()) 把异常转为空结果,避免传播中断整体流程
  • 示例:CompletableFuture.supplyAsync(..., pool).orTimeout(2, SECONDS).exceptionally(e -> { log.warn("Bing failed", e); return List.of(); })

按质量/时效合并去重与排序

原始结果只是列表拼接,需业务逻辑增强:

  • 去重:用 URL 或标题哈希做唯一标识,Collectors.toMap(urlExtractor, Function.identity(), (a,b) -> a)
  • 加权排序:给不同来源打分(如 Google 权重 1.2,Bing 0.9),再按分数+时间戳综合排序
  • 限制总数:最后用 .limit(20) 防止结果爆炸,保持响应轻量

整个过程不依赖外部框架,纯 JDK 异步组合,灵活且易测。重点是把“每个搜索”当作可插拔单元,失败不传染、超时不拖累、结果可裁剪。

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

java 搜索引擎

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

8877

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

6082

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

5472

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

984

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

808

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1156

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

2349

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

19671

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

1075

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习