一、基于网络的负载均衡机制的研究及在分布式邮件系统中的应用(论文文献综述)
邓丹[1](2021)在《基因序列全比较问题的数据分发机制研究》文中认为云计算时代的到来,为大数据处理技术提供了良好的计算场景,同时为生命科学的研究提供了强大的技术保障。基因序列比对是研究生命科学的有效手段,因此推进基因序列比对的研究具有重要的现实意义。全比较问题是对多序列比对工作中的数据文件与比较任务搭配问题的抽象,是一个数据分发策略的制定过程。然而,全比较问题不仅仅存在于基因序列比对工作中,还广泛出现在生物信息学的其它分支学科、生物测定学、机器学习、网络工程等领域。本文首先调研并分析了现有的全比较数据分发策略,包括传统的全量分发方式、基于Hadoop的数据分发策略、基于全比较数据分发算法等方式。针对现有全比较数据分发策略存在的浪费存储空间、无法实现完全的数据本地化、计算速度慢等不足,提出了两个开创性的全比较数据分发策略。本文的主要工作如下:(1)调研了全比较问题的应用领域和主流的全比较数据分发方法,简单地介绍了常用的智能算法与Hadoop。(2)构建了全比较数据分发数学模型。对全比较数据分发问题进行了形式化描述,构建了负载均衡数学模型和存储优化数学模型。(3)提出了基于粒子群优化的全比较数据分发模型(DDBPSO模型)。根据全比较数据分发数学模型,设计了基于粒子群优化实现负载均衡的数据分发算法与基于粒子群优化实现最优化存储的数据分发算法,并在Matlab平台上实现了相关算法。通过开展基于Hadoop数据分发对比实验,证明了基于粒子群优化的全比较数据分发模型具有负载均衡、优化存储的能力,同时能让所有全比较任务所需的文件具有数据本地性。与基于分支定界法的数据分发算法相比,基于粒子群优化的全比较数据分发模型具有较快的求解速度。(4)提出了基于禁忌搜索优化的全比较数据分发模型(DDBTS模型)。首先,构建了基于禁忌搜索优化的全比较数据分发策略求解框架。针对禁忌搜索算法设计出了一系列的改进方案:在负载均衡求解阶段提出了正向任务调度规则,在存储优化求解阶段提出了异节点任务互换规则等。通过存储优化实验,证明了基于禁忌搜索优化的全比较数据分发模型具有40%-50%的存储节约性能。除此之外,该模型还具备负载均衡、数据完全本地化、求解效率最高等特性。
陈继磊[2](2021)在《高并发下购物平台系统的设计与实现》文中指出近年来,随着互联网的高速发展,电商网站用户量不断攀升,电商的流量优势和便捷高效的特性彻底改变了传统的购物方式。但是,随着系统的并发量越来越高,并发高峰期会导致系统的反应时间过长,甚至会由于无法负荷高并发的流量而导致系统崩溃,这无疑对传统的单体Web系统架构带来了新的挑战。因此,一个能够提供高效率、高并发以及高可用服务的商城购物平台具有重要的实践意义和应用价值。本文基于公司项目实际需求,结合具体业务场景,设计和实现了一个支撑高并发的分布式购物商城系统。本文的主要研究工作包括:(1)在系统架构上采用分布式服务架构Dubbo作为平台的基础架构,为系统提供高性能服务调用方案,将系统架构层级垂直拆分;采用SpringBoot在应用层面基于微服务概念将应用服务水平拆分,应用服务独立部署运行;使用Zookeeper作为服务监控中心,完成服务者和消费者之间的管理和调度,实现服务间解耦,提升系统扩展性。(2)对数据库结构进行优化设计,使用Redis作为数据库的分布式缓存,可以大大提高海量数据的存储和访问能力;采用读写分离实现读写请求发往不同的服务器处理,提升系统处理请求的效率,配置主从复制方案,有效保障了数据的安全备份,避免服务器宕机出现数据丢失的情况;使用MyCat对数据库表结构进行水平切分和垂直切分,有利于加快数据获取的反应时间。(3)基于JWT的方式实现单点登陆,实现跨语言支持登陆认证,相较于传统Cookie与Session登陆方案信息安全性更高,可实现跨域资源共享,同时避免了不同子系统重复登陆的情况;基于Redis和Lua实现分布式锁,解决了多线程场景下对共享数据的安全操作,相较于传统分布式锁数据安全性更高,性能更好。(4)为避免瞬间流量过高导致服务器宕机的情况,基于漏桶算法和令牌桶算法设计限流策略,根据两种算法的不同特性在不同的业务场景下选择合适的算法模型处理高并发流量请求,保障了系统服务可持续提供与稳定性。(5)为提升系统并发量,设计了一种动态负载均衡策略,在加权轮询负载均衡算法的基础上,对权值计算进行优化,使用CPU、磁盘I/O、内存以及网络带宽的各自使用率等影响因素计算综合权值,请求分配更为合理,并对集群状态实时监控,进行合理化调控,从而提高请求处理连接的成功率,有效提升系统负载能力和并发性能。基于以上架构设计和系统优化,开发完成了一个门户展示功能模块、后端管理功能模块、搜索功能模块、商品展示功能模块、购物车功能模块、订单功能模块、“抢购”活动功能模块于一体的分布式购物商城系统。最后,对平台的功能和性能进行详细具体的测试与分析,测试结果符合预估结果,各个功能模块目前已正常运行。使用Jmeter对高并发情况进行压力测试,结果显示,相较于传统的加权轮询负载均衡算法,本系统中采用的动态负载均衡策略的并发量提升了 11.2%左右,请求响应时间降低5.4%,更加适应高并发环境。本文设计和开发的平台已上线运行,系统运行稳定流畅,可以为用户提高效稳定的服务,提升了用户购物体验感,表明本系统在解决高并发访问的问题上具有一定的应用价值。
罗鹏豪[3](2021)在《分布式一致性核心平台设计与实现》文中认为伴随着云系统容器化、隔离化浪潮的兴起,支持容器的分布式系统也越来越多。以容器为单位的云系统中,往往由一个资源调度平台登记系统资源并对其调度分配。资源调度平台面临的问题比较宽泛,本文主要关注其数据管理的相关问题,以对数据存储提供支撑。主要包括:如何设计并实现一致性策略,使得系统在绝大多数情况下能对外提供一致的存储服务,以满足高并发、高可靠、高频率的数据操作需求。其次,任务调度策略如何保证存储节点的负载均衡,以期在现有条件下获得更好的服务性能。最后,节点恢复后,如何快速重新加入集群,使得系统具有更好的可用性。本文设计并实现了一个分布式一致性核心平台,将应用于资源调度平台,对其中数据存储提供支撑。本文的主要工作如下:1)一致性策略。为了能使系统能具有更好的可靠性和容错性,在异常情况下也能保持集群内节点数据的一致,本文采用Raft协议,由集群内选举出leader节点提供读写服务,节点间通过日志复制来保证存储数据的一致性。为避免在读操作时由于集群“脑裂”而可能出现的返回数据不一致现象,引入leader lease机制,采用proxy leader作为集群对外接收请求节点,并设计分布式锁保证。2)中心节点和任务调度策略。为了使系统的数据分布能负载均衡,本文采用基于资源利用率的一致性哈希方案,将承载数据映射的虚拟节点分布在哈希环上,由中心节点监控各物理节点的负载,根据物理节点的负载动态调整虚拟节点个数,以维持系统的负载均衡。同时,为避免中心节点成为系统可用性的薄弱环节,采用一致性的设计策略保证其容错性。3)故障快速恢复策略。为加快节点恢复,系统采用日志加快照的方式,周期性地对数据做版本快照。当节点恢复,它首先根据日志的记录加载本地快照版本,然后开始重放操作日志。最后,本文对一致性核心平台进行了功能测试和性能测试。从实验结果来看,统能够保证数据的正确性与一致性,而且通过相应的优化策略,一定程度上能提高系统的性能。
赵浩然[4](2021)在《基于区块链的工业互联网标识解析系统性能优化方案设计与实现》文中认为随着低时延、大带宽的5G移动通信技术的广泛应用普及和全球数字化产业升级进展加速,互联网由“消费型”向“生产型”过渡的进程大幅加快,代表国家先进生产力的工业技术也正在向网络化、数字化、智能化迈进,万物互联、边云融合、工业互联网等概念在学术界和产业界被多次提出和推广。其中,工业互联网作为新一代信息通信技术与现代工业技术深度融合的产物,在工业生产、制造、销售、物流各领域提供了众多可行的解决方案,而作为核心技术的标识解析更是在实现网络互联互通、信息共享溯源、产品及设备全生命周期管理方面发挥了重要作用。然而,现有的传统标识解析体系往往由中心节点提供集中式的解析服务,网络时延高、负载过重。另外,业界已存在如Handle、Ecode、OID等多种标识体系,因此标准很难实现统一。本论文以工业互联网作为研究背景,针对传统层级式标识解析体系存在的单点故障、失效、负载过重、解析服务被特殊权力组织控制等问题,基于分布式哈希表和区块链技术设计了一种分层的半中心式网络架构,并在此基础上开发实现新型分布式工业互联网标识解析系统,可满足复杂工业环境中海量数据的去中心化注册、解析,提供安全、可信、高效、连续、并发的解析服务,支持身份鉴权、访问控制以及数据的可信认证和冗余备份,解决了有效监管、集中可控与分散自治、负载均衡间的矛盾。为进一步提高系统性能,针对传统区块链部署方案显现的节点计算、存储、网络资源受限瓶颈和可扩展性问题,本论文基于权益模型、混合共识、一致性哈希等技术设计了一种高性能的轻量级混合区块链模型(LHB),以异步的方式为分布式存储的海量工业信息提供数据可信验证和冗余备份,通过对全网区块存证、对全网节点监督,防止篡改和伪造数据。经过与比特币、超级账本项目进行比较分析,LHB模型同时拥有联盟链的高吞吐量与公有链的安全等级,企业节点仅需少量存储、带宽资源即可快速上链,在最优情况下,系统的本地解析时延可低至6ms。
葛又嘉[5](2020)在《基于微服务架构的分布式爬虫系统设计与应用》文中进行了进一步梳理随着社会经济的飞速发展,互联网应用已经成为人们日常生活中的一部分,及时准确地获得网络应用数据也变得越来越重要。网络爬虫作为一种通过对互联网数据进行精确信息抓取来满足用户对特定数据需求的计算机技术,也面临着巨大的机遇与变革,在这样的技术背景下早期的网络爬虫技术已难当重任。论文分析了已有的爬虫系统在技术实现上的不足之处,根据大数据时代的海量页面数据抓取需求设计了一套基于微服务架构的分布式爬虫系统,采用了Spring Cloud微服务框架,实现了爬虫系统不同微服务模块之间的架构隔离;不同微服务之间采用消息中间件或者远程调用进行数据通信,以此来提升分布式爬虫系统的可用性。本课题的主要工作包括设计并实现了分布式系统环境下的全局唯一ID生成算法;基于布隆过滤器和Redis的URL双重判重机制;分布式场景下基于客户端的负载均衡算法策略;分布式场景下应对海量请求的限流算法策略;利用基于线程池的多线程爬取以及采用动态代理池技术应对反爬虫来提升爬虫的抓取效率和成功率;页面解析微服务采用基于CSS选择器的自定义页面数据提取以及基于Redis的消费端防止重复消费机制;应对海量数据存储场景实现了基于Mongo DB的数据库副本与分片、基于Redis哨兵集群与持久化存储以此确保高可用。通过实验测试,基于微服务架构的分布式爬虫系统,既能承载海量用户的爬虫请求,又能满足用户的不同数据提取需求,同时系统的可维护性和可拓展性能力又强于传统爬虫系统,达到了系统设计要求。
张悦[6](2020)在《基于CS-WLC的煤矿安全监测海量数据处理系统研究》文中研究说明随着井下各类传感器和设备所采集到的数据越来越多,煤矿安全监测系统将面临着更大的挑战,为确保煤矿生产安全,协同各个子系统之间的数据交互,需要进一步提高煤矿安全监测海量数据处理的效率,以保证煤矿企业的平稳运行。本文以煤矿安全监测数据为研究对象,针对我国矿山生产过程中存在的海量数据处理问题,分析了海量数据的来源、特征以及存在的问题;为了提高煤矿安全监测海量数据的处理效率,分析海量数据处理技术,并对海量数据处理中的负载均衡技术作了重点研究,确定了基于中间件的负载均衡,并对现有的负载均衡算法进行了研究,引入了布谷鸟搜索算法,对加权最小连接算法进行优化,完成了 CS-WLC算法设计,并通过搭建实验平台进行仿真证明,CS-WLC算法的应答延时更短、响应连接数更多,为煤矿安全监测海量数据处理系统的高效运行奠定了基础;设计了基于CS-WLC的煤矿安全监测海量数据处理系统,包括了系统架构、数据流、中间件负载均衡以及数据库的设计,并将CS-WLC算法应用于该系统中,经过系统调试与数据处理效率分析,证明了本文所设计的系统运行稳定,系统的的数据处理效率也得到了有效提高。本文通过对煤矿安全监测海量数据负载均衡技术的研究,提高了煤矿海量数据的处理效率,在一定程度上保证了煤矿生产安全,具有一定的理论意义和应用价值。
徐越[7](2020)在《基于机器学习的无线网络负载优化方法研究》文中研究表明近年来,无线网络规模爆炸式增长、新兴业务不断涌现、用户需求持续变化,致使无线网络负载在时空二维非均匀分布且波动性进一步加剧。如何在无线网络的资源约束下自适应优化网络负载,满足用户多样化的业务需求,是新一代无线网络面临的核心难题之一。传统的移动网络负载优化方法主要是基于经典信息论和网络信息论对优化问题进行建模求解,然而偏理想化的数学优化模型难以应对迅速攀升的信息体量和快速变化的业务需求。因此,新一代无线网络亟需全新的负载优化模式。有鉴于此,本文将传统基于信息理论的建模求解优化模式改变为基于人工智能的智能演进优化模式,使无线网络的负载优化从“被动应对”转变为“主动学习”,综合利用前沿的机器学习理论,解决移动通信网络在负载时空非均匀分布且剧烈波动下网络性能优化的难题。包括:设计了支撑负载智能优化的网络架构,提出了具有通用性和自主优化能力的单节点智能优化方法、具有可拓展性和多机计算能力的多节点智能优化方法、具有自治性和协同决策能力的多智能体优化方法。主要工作及创新如下:第一,针对机器学习的需求与特点设计了支撑负载智能优化的网络架构,为其他章节方法提供基础支撑。首先,提出了一种无线大数据认知架构,从数据驱动的角度,明确了无线网络基于数据进行智能决策的工作流程和方法。然后,以数据认知为基础,提出了一种基于云与边缘计算的可拓展型负载优化架构,赋能并行化或全分布式的多机计算模式以满足新一代无线网络的大规模负载优化需求。以上架构为本文的后续方法研究提供了框架支持。第二,以前述架构为基础,研究了基于单节点机器学习的负载优化方法,利用单机资源解决有限规模的负载预测和负载均衡问题。本部分共提出了两种具有不同特点的负载优化方案。第一种是先预测后调优的组合型优化方案:提出了一种基于高斯过程的流量预测模型,以预测无线流量的未来变化趋势;仿真结果表明:所提模型针对真实4G数据的预测准确度高达97%,明显优于现有模型;接着,以预测结果为指导,进一步实现了负载自适应的智能基站休眠,显着提升了系统能效。第二种是融预测和调优为一体的优化方案:提出了一种基于深度强化学习的负载均衡模型,通过与环境的动态交互来自主学习最优的负载均衡策略,同时适应负载的动态波动;仿真结果表明:所提模型的负载均衡性能较现有模型提升约20%,具有较强的环境自适应能力。第三,将单节点负载优化方法进一步拓展至多节点负载优化方法,利用多机协同计算能力满足大规模负载优化对系统承载和响应速度的要求。首先,针对大规模负载预测问题,提出了一种多节点负载预测框架和相应的分布式高斯预测模型,通过并行化计算,指数级地提升了预测速度。仿真结果表明:所提多节点负载预测框架与现有其他低复杂度预测模型相比,降低了约15%的预测误差,且所需交互开销更小。然后,针对大规模负载均衡问题,提出了一种多节点负载均衡框架和相应的分布式深度强化学习模型。所提框架利用多节点分摊大规模负载均衡的计算负担,并利用知识迁移技术进一步提升深度强化学习模型的学习效率与稳定性。仿真结果表明:与单节点负载均衡相比,所提多节点负载均衡框架的性能优势随网络规模的增大而逐步递增。第四,将多节点负载优化方法进一步拓展至多智能体负载优化方法。在多机协同计算的基础上,赋予各节点独立的学习与决策能力,进一步提升网络的智能性。首先,本部分提出了一种基于投票机制的多智能体强化学习方法:多智能体通过投票进行协作,共同决定集体行为,并基于分布式强化学习算法优化各自的行为策略。然后,本部分从理论上证明,所提分布式算法收敛至全局最优解的速率与集中式算法完全相同,即:所提方法的分布式决策过程不会为多智能体的策略优化带来任何的性能损失。最后,将所提方法用于解决无人机辅助的大规模负载分流问题,证实了该多智能体学习方法的有效性和相应理论分析的正确性。本文首先提出网络架构作为基础支撑,然后逐步研究单节点、多节点和多智能体负载优化方法,所对应的优化问题规模逐渐加大,优化模型难度逐级递增,网络智能化程度逐渐增强。本文所提架构、方法、模型、理论证明等,为新一代无线网络的智能化演进提供了有效参考。相关成果已发表IEEE JSAC、Magazine等高水平期刊和本领域旗舰会议近十篇,并申请了国家发明专利两项。
梁静[8](2020)在《微服务框架下敏感信息的交叉跨域安全通信技术研究》文中认为采用微服务构架的分布式系统,由基于业务逻辑的多个分立服务通过数据共享和信息交互构成,具有低耦合、易开发、易部署、易伸缩等的特点,且在处理高并发的需求下具有天生的优势,是目前解决大业务场景下最主要的技术路线和系统框架。鉴于此,分布式系统中数据安全跨域访问是目前数据安全传输方面的迫切要求和研究探索的热点之一。本文对目前流行的两种分布式框架技术、常见的五种跨域技术以及三类数据加密算法进行了较深入研习,并结合实际商业项目需求,提出一种基于分布式微服务框架下敏感信息譬如电子人事档案信息等的跨域高安全网式通信的技术方案。本文的分布式微服务系统中进行安全数据传输的研究工作主要包括三个方面:首先是搭建分布式微服务系统。目前主要有RESTful以及RPC两种风格的框架用于搭建分布式系统,两种风格的框架各具优势。面对需要全新开发的系统或者需要全面升级的系统,在此场景下使用以Spring Cloud为代表的轻量级RESTful风格框架更为合适。另一种情况则是需要兼容各地区原有的系统并实现信息的分布式交互,此时采用可自主协商通信协议以及数据格式的RPC风格框架则更为合适。本文从上述两种场景出发,结合某省流动人员电子档案管理系统这一实际项目,分别搭建了以Spring Cloud为基础的RESTful风格分布式框架以及以WebSocket、WebService技术为基础的RPC风格分布式框架。其次是分布式系统调用时进行安全认证。分布式系统采用的是微服务思想,各微小系统各司其职组合在一起实现项目需求。不同于单体架构模式的系统,分布式系统中会频繁的进行数据交互,而对消息来源进行认证能有效规避在这过程中发生的数据泄露、被截获篡改等造成的影响。本文针对上述的两种框架,在现有的HTTP协议以及TCP协议基础上分别实现了一种附加的安全握手子协议。最后是对传输数据进行加密与动态解密。现有的加密算法种类繁多,其安全性也经过了大量的理论与实际项目肯定。然而目前常见的加密算法大多都是商业产品,根据实际项目的系统需求,为保证数据的安全性需要在现有加密算法基础上进一步增加一层安全防护。本文在加盐加密以及对称加密算法的基础上进行改进,为数据新增一层加密防护。本文提出的分布式安全传输方案已实际应用于某省电子档案管理系统且安全稳定运行2年。文章最后也提出了该方案的改进方向,相信能为日后分布式系统实现数据安全跨域传输提供新的思路与解决方案。
李茂林[9](2020)在《负载均衡下的混合存储数据迁移方法研究》文中指出随着信息技术的飞速发展,传统的集中式数据存储方式以及由单一存储介质构成的存储系统已经不能满足用户的存储需求,而逐渐被分布式混合存储系统所取代。但大数据时代的到来促使用户对存储系统容量、成本和性能提出了越来越高的要求。在分布式混合存储系统中,为使数据更好地匹配存储介质的特性,充分利用系统资源,数据迁移发挥着关键的作用。合理的迁移方案能够根据文件的属性和存储介质的特性在系统中找到合适的位置存储文件,在充分发挥存储介质优势的同时使系统达到更好的负载均衡状态,进而提升存储系统的整体性能。本文以分布式混合存储系统的数据迁移为研究对象,从迁移对象的确定和迁移过程的实现两方面展开研究。针对迁移对象的确定,本文提出了一种基于数据价值的冷热数据识别方法。鉴于传统识别方法存在主观性强、准确率低等缺陷,首先,本文通过文献梳理和实验分析更为全面地探究影响数据价值的因素;然后,采用熵权法为各因素分配权重以区分不同因素对数据价值的影响程度,从而更为客观地评估文件的数据价值,提高冷热数据识别的准确性。在实现数据迁移的过程中,本文基于冷热数据集合提出了一种兼顾存储介质特性和存储系统负载均衡的数据迁移模型,并采用改进蚁群算法来求解该模型,从而为各存储文件找到最为合适的存储位置,既有效提高了系统的性能,又满足了负载均衡的需求。实验分析表明,本文所提出的数据迁移方案不仅能够提高迁移对象选取的准确性,并且能够在迁移的过程中根据各个节点的负载状态来动态调整文件的目标迁移位置,提升存储系统的访问性能和稳定性。与现有的数据迁移算法(贪心算法、遗传算法)和未考虑负载状态的数据迁移算法(传统蚁群算法)相比,本文所设计的数据迁移算法(改进蚁群算法)在系统带宽利用率、系统延迟和系统负载均衡度等方面都有明显的效果。
周详[10](2020)在《分布式机器学习系统调度技术优化研究》文中提出随着时代的发展,机器学习的训练集规模与模型复杂度不断增长,单机训练模型已无法适应大规模数据环境。近年来,分布式机器学习因其具有海量数据处理能力以及灵活的扩展性,获得了越来越多的关注。分布式机器学习系统大多以参数服务器为系统架构实现。在分布式系统中,节点宕机与断网具有随机性,导致参数服务器系统采用静态调度时可扩展性与鲁棒性较差。节点间存在异构性,导致参数服务器系统的可移植性与自适应性较差。节点间存在多用户多任务共享资源,导致节点间存在性能差异而延长同步时间。同步是确保并行训练有效的必要手段。整体同步并行策略保证训练精度逼近于单机训练,但是将产生较大的通信开销且容易受到节点间性能差异的影响。异步并行策略极大地减少了同步时间,但是无法保证收敛性与模型精度。延迟同步策略在同步时间与模型精度取得了平衡。但是该策略不适用于具有性能差异的环境,在极端条件下将退化为整体同步并行策略。因此分布式机器学习系统的调度技术优化成为保障系统移植性高、可靠性高、自适应性高以及同步开销低的关键因素。针对上述问题,本文以调度优化为研究方向解决分布式机器学习系统可移植性差、无法应对集群内部训练资源动态变化以及自适应性差的问题。本文创新性地提出了两种调度优化策略:动态调度策略和自适应调度策略。本文基于上述两种动态调度策略实现了分布式机器学习系统ParaisoML。本文的主要研究内容分为如下方面:(1)本文对静态调度的缺陷进行分析,提出一种新的动态调度策略。静态调度在并行训练中无法感知节点资源动态变化,在不同集群间可移植性较差且难以提高可扩展性。动态调度策略适用于资源动态变化的场景,能够依据系统资源变化情况调整训练所分配的资源,提高可移植性与可扩展性。此外,动态调度策略能有效缓解节点间性能差异并降低同步时间。本文对动态调度策略进行设计实现后,在理论上对其进行论证。相关结果表明该策略可以保障收敛且模型精度损失在可接受范围内;(2)本文对动态调度策略进行扩展与优化,提出一种自适应调度策略。动态调度策略能根据资源变化情况调整节点及资源分配,但是无法修正节点间固有的性能差异以及不可预测的临时性动态资源变化。自适应调度策略支持节点动态加入及退出,并通过数据划分缩小节点间的性能差异。此外,自适应调度策略通过分析模型准确率变化规律缓解不同模型迭代收敛次数不具有解释性的瓶颈。本文在对自适应调度策略的设计与实现进行论述。相关结果表明该策略可进一步降低同步时间;(3)本文设计并实现基于动态调度策略和自适应调度策略的分布式机器学习系统ParaisoML。该系统主要由通信系统、资源探测系统以及任务调度系统组成。通信系统基于网络文件系统实现,提供数据通信服务。资源探测系统利用开源工具包Sigar对节点资源利用情况采样并对任务调度系统提供服务。任务调度系统分析资源采样信息并分配训练节点以及资源。数据划分策略在随机采样和乱置切分的基础上,通过随机增量与动态增量实现任务量负载均衡;(4)本文对分布式机器学习系统中常见的同步策略性能进行实验与分析。随后对ParaisoML可移植性、可扩展性以及自适应性的性能进行实验与分析。实验结果表明本文提出的ParaisoML在保证高准确率和收敛率的前提下,降低同步时间并具有良好的可移植性、可扩展性以及自适应性。
二、基于网络的负载均衡机制的研究及在分布式邮件系统中的应用(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、基于网络的负载均衡机制的研究及在分布式邮件系统中的应用(论文提纲范文)
(1)基因序列全比较问题的数据分发机制研究(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 国内外研究现状 |
1.2.1 传统全比较数据分发方式 |
1.2.2 主流全比较数据分发算法 |
1.2.3 智能算法 |
1.3 主要研究内容 |
1.4 论文组织结构 |
1.5 本章小结 |
第二章 相关技术与理论 |
2.1 全比较计算 |
2.2 Hadoop |
2.2.1 存储框架 |
2.2.2 编程模型 |
2.2.3 调度框架 |
2.3 粒子群优化算法 |
2.4 禁忌搜索优化算法 |
2.5 本章小结 |
第三章 全比较数据分发模型构建 |
3.1 全比较任务描述 |
3.2 负载均衡数学模型 |
3.3 存储优化数学模型 |
3.4 本章小结 |
第四章 基于粒子群优化的全比较数据分发策略研究 |
4.1 DDBPSOLB算法 |
4.1.1 设计DDBPSOLB算法 |
4.1.2 实现DDBPSOLB算法 |
4.2 DDBPSOMS算法 |
4.2.1 设计DDBPSOBS算法 |
4.2.2 实现DDBPSOBS算法 |
4.3 实验设计 |
4.3.1 评价指标 |
4.3.2 实验方案 |
4.4 对比实验设计 |
4.4.1 实验环境 |
4.4.2 Hadoop实验结果 |
4.5 DDBPSO实验 |
4.6 本章小结 |
第五章 基于禁忌搜索优化的全比较数据分发策略研究 |
5.1 设计数据分发策略求解框架 |
5.2 DDBTSLB算法 |
5.2.1 设计DDBTSLB算法 |
5.2.2 实现DDBTSLB算法 |
5.3 DDBTSMS算法 |
5.3.1 设计DDBTSMS算法 |
5.3.2 实现DDBTSMS算法 |
5.4 实验部分 |
5.4.1 实验设置 |
5.4.2 评价指标 |
5.4.3 存储优化实验 |
5.4.4 性能验证实验 |
5.4.5 大规模数据实验 |
5.5 本章小结 |
结论 |
参考文献 |
致谢 |
攻读硕士学位期间的研究成果及参加的科研项目 |
(2)高并发下购物平台系统的设计与实现(论文提纲范文)
摘要 |
ABSTRACT |
第1章 绪论 |
1.1 研究背景以及意义 |
1.2 国内外研究现状 |
1.3 本文主要研究工作 |
1.4 本文的组织结构 |
第2章 相关技术介绍 |
2.1 微服务框架SpringBoot |
2.2 分布式服务架构Dubbo |
2.3 分布式注册中心Zookeeper |
2.4 Redis数据库 |
2.5 搜索引擎服务器ElasticSearch |
2.6 集群&负载均衡策略 |
2.7 MyCat |
第3章 系统需求分析与设计 |
3.1 系统需求分析 |
3.1.1 系统功能需求分析 |
3.1.2 系统非功能性需求分析 |
3.2 系统架构概要设计 |
3.3 系统业务功能设计 |
3.3.1 商城门户模块 |
3.3.2 商品搜索模块 |
3.3.3 商品详情模块 |
3.3.4 购物车模块 |
3.3.5 订单模块 |
3.3.6 抢购活动模块 |
3.4 动态负载均衡策略设计 |
3.4.1 加权轮询策略 |
3.4.2 动态负载均衡策 |
3.5 基于JWT的单点登陆设计 |
3.6 限流策略设计 |
3.6.1 限流原理设计 |
3.6.2 限流算法设计 |
3.7 系统数据库设计 |
3.7.1 数据库逻辑结构 |
3.7.2 分布式查询缓存机制 |
3.7.3 数据表的切分 |
3.7.4 读写分离与主从复制 |
3.7.5 详细数据库表设计 |
3.8 本章小结 |
第4章 系统实现 |
4.1 系统开发环境 |
4.2 业务功能模块的实现 |
4.2.1 商城门户模块 |
4.2.2 商品搜索模块 |
4.2.3 商品详情模块 |
4.2.4 购物车模块 |
4.2.5 订单模块 |
4.2.6 抢购活动模块 |
4.3 动态负载均衡策的实现 |
4.3.1. 负载信息收集 |
4.3.2 综合权重修改 |
4.4 基于Redis和Lua的分布式锁实现 |
4.5 基于JWT的单点登陆的实现 |
4.6 限流策略的实现 |
4.7 数据库结构优化的实现 |
4.7.1 数据表的切分 |
4.7.2 读写分离与主从复制 |
4.8 本章小结 |
第5章 系统测试 |
5.1 测试环境 |
5.2 功能测试 |
5.3 性能测试 |
5.3.1 性能测试概述 |
5.3.2 测试工具 |
5.3.3 服务器性能指标 |
5.3.4 测试结果与分析 |
5.4 本章小结 |
第6章 总结与展望 |
6.1 总结 |
6.2 展望 |
参考文献 |
致谢 |
学位论文评阅及答辩情况表 |
(3)分布式一致性核心平台设计与实现(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究背景及意义 |
1.2 国内外研究现状 |
1.3 本文的贡献和主要创新点 |
1.4 本文的基本结构安排 |
第二章 相关技术与理论基础 |
2.1 分布式架构 |
2.1.1 纯负载均衡形式 |
2.1.2 领导人选举型 |
2.1.3 区块链型 |
2.1.4 master-slaver型 |
2.1.5 规则型一致性Hash |
2.2 哈希调度算法 |
2.2.1 哈希函数 |
2.2.2 一致性哈希 |
2.2.3 带负载上限的一致性哈希 |
2.2.4 带虚拟节点的一致性哈希 |
2.3 一致性协议 |
2.3.1 2PC协议 |
2.3.2 3PC协议 |
2.3.3 Paxos协议 |
2.3.4 Raft协议 |
2.4 分布式锁 |
2.4.1 常用的分布式锁实现 |
2.5 本章小结 |
第三章 分布式一致性核心平台设计 |
3.1 系统需求和场景分析 |
3.2 系统总体架构 |
3.2.1 Etcd数据库 |
3.2.2 分布式锁 |
3.2.3 中心节点集群 |
3.2.4 数据集群 |
3.2.5 客户端 |
3.3 关键技术设计 |
3.3.1 任务调度设计 |
3.3.2 一致性设计策略 |
3.3.3 故障探测和节点快速恢复策略 |
3.4 主要流程设计 |
3.4.1 初始化流程 |
3.4.2 选举流程 |
3.4.3 Etcd推选领导人流程 |
3.4.4 日志复制流程 |
3.5 本章小结 |
第四章 分布式一致性核心平台实现 |
4.1 网络通信模块实现 |
4.2 定时器模块的实现 |
4.3 一致性模块实现 |
4.3.1 选举模块 |
4.3.2 日志复制模块 |
4.4 任务调度模块实现 |
4.5 分布式锁的实现 |
4.6 关键模块时序图 |
4.6.1 初始化时序图 |
4.6.2 选举时序图 |
4.6.3 日志复制时序图 |
4.6.4 Etcd推选领导人时序图 |
4.6.5 节点故障恢复时序图 |
4.7 本章小结 |
第五章 测试与分析 |
5.1 测试环境 |
5.1.1 系统部署 |
5.1.2 测试环境 |
5.2 功能测试 |
5.2.1 分布式锁测试 |
5.2.2 初始化测试 |
5.2.3 选举测试 |
5.2.4 异常测试 |
5.3 性能测试 |
5.3.1 读写性能测试 |
5.3.2 调度算法性能测试 |
5.3.3 节点恢复性能测试 |
5.4 本章小结 |
第六章 总结与展望 |
6.1 工作总结 |
6.2 后续工作展望 |
致谢 |
参考文献 |
(4)基于区块链的工业互联网标识解析系统性能优化方案设计与实现(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景 |
1.2 研究意义 |
1.3 研究内容 |
1.3.1 工业互联网标识解析技术研究 |
1.3.2 新型分布式标识解析系统设计 |
1.3.3 基于区块链的性能优化方案设计 |
1.4 研究创新点 |
1.5 论文项目来源及组织结构 |
第二章 分布式哈希表与区块链技术概述 |
2.1 引言 |
2.2 分布式哈希表概述 |
2.2.1 哈希算法 |
2.2.2 一致性哈希: Chord算法 |
2.2.3 改进的DHT网络 |
2.3 区块链技术概述 |
2.3.1 核心技术 |
2.3.2 区块链数据结构 |
2.3.3 公有链与联盟链 |
2.4 本章小结 |
第三章 新型工业互联网标识解析系统架构与挑战 |
3.1 引言 |
3.2 基于DHT的标识解析系统设计 |
3.2.1 DHT网络搭建 |
3.2.2 标识注册与解析 |
3.3 基于区块链的可信认证机制 |
3.3.1 访问权限控制 |
3.3.2 数据可信验证 |
3.4 系统优势与性能瓶颈 |
3.4.1 注册解析时延问题 |
3.4.2 服务连续性与可用性问题 |
3.4.3 区块链可扩展性问题 |
3.5 本章小结 |
第四章 高性能轻量级混合区块链模型设计 |
4.1 引言 |
4.2 现有解决方案 |
4.3 LHB模型设计 |
4.3.1 LHB: 联盟链 |
4.3.2 LHB: 公有链 |
4.4 性能分析与比较 |
4.4.1 LHB资源占用分析 |
4.4.2 系统时延分析 |
4.5 本章小结 |
第五章 总结与展望 |
5.1 工作总结 |
5.2 未来展望 |
参考文献 |
附录一 中英文缩略词对照表 |
致谢 |
攻读学位期间取得的研究成果 |
(5)基于微服务架构的分布式爬虫系统设计与应用(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 课题研究的背景与意义 |
1.2 国内外研究现状与发展 |
1.3 主要研究内容 |
1.4 论文内容组织结构 |
第二章 基于微服务架构的分布式爬虫技术 |
2.1 微服务框架Spring Cloud |
2.2 消息队列Kafka |
2.3 文本提取工具Jsoup及网络框架Http Client |
2.4 存储数据库Mongo DB及 Redis |
2.5 本章小结 |
第三章 分布式爬虫系统总体设计 |
3.1 系统需求分析与设计目标 |
3.2 系统总体设计架构及运行机制 |
3.2.1 分布式爬虫系统各微服务模块划分 |
3.2.2 系统整体架构图及运行流程 |
3.3 爬虫系统的各子部分功能介绍 |
3.3.1 任务创建与查询可视化界面 |
3.3.2 任务请求分发微服务 |
3.3.3 任务请求预处理微服务 |
3.3.4 页面抓取微服务 |
3.3.5 页面解析微服务 |
3.4 数据库设计 |
3.5 本章小结 |
第四章 分布式爬虫系统核心功能实现 |
4.1 任务请求分发微服务 |
4.1.1 客户端负载均衡算法处理 |
4.1.2 客户端请求限流机制 |
4.1.3 微服务熔断器 |
4.2 任务请求预处理微服务 |
4.2.1 全局分布式唯一ID生成算法 |
4.2.2 URL双重判重机制 |
4.2.3 Kafka集群副本配置 |
4.3 页面抓取微服务 |
4.3.1 基于线程池的多线程抓取实现 |
4.3.2 中间件发送消息防丢失实现 |
4.3.3 爬虫动态代理池 |
4.4 页面解析微服务 |
4.4.1 基于提取规则的页面文本数据提取 |
4.4.2 基于Kafka的页面数据预防重复消费解析 |
4.5 数据存储 |
4.5.1 实现基于Mongo DB数据库的数据存储高可用机制 |
4.5.2 实现基于Redis数据库的数据存储高可用机制 |
4.6 系统测试 |
4.6.1 测试环境 |
4.6.2 系统功能测试 |
4.7 本章小节 |
第五章 总结与展望 |
5.1 论文工作总结 |
5.2 工作展望 |
参考文献 |
附录1 攻读硕士学位期间申请的专利 |
致谢 |
(6)基于CS-WLC的煤矿安全监测海量数据处理系统研究(论文提纲范文)
摘要 |
Abstract |
1 绪论 |
1.1 课题研究背景及意义 |
1.2 国内外研究现状 |
1.3 论文研究内容与结构安排 |
1.3.1 论文研究内容 |
1.3.2 论文结构安排 |
2 煤矿安全监测海量数据分析 |
2.1 煤矿安全监测数据源分析 |
2.2 煤矿安全监测数据特征分析 |
2.3 煤矿安全监测海量数据引发的问题 |
2.4 本章小结 |
3 煤矿安全监测海量数据处理技术研究 |
3.1 煤矿安全监测海量数据处理技术 |
3.2 负载均衡算法 |
3.2.1 静态负载均衡算法 |
3.2.2 动态负载衡算法 |
3.3 基于CS-WLC的煤矿安全监测海量数据负载均衡算法设计 |
3.4 CS-WLC负载均衡算法性能测试 |
3.4.1 集群搭建与配置 |
3.4.2 测试结果分析 |
3.5 本章小结 |
4 基于CS-WLC的煤矿安全监测海量数据处理系统 |
4.1 煤矿安全监测海量数据处理系统架构设计 |
4.2 系统数据流设计 |
4.2.1 系统整体数据流 |
4.2.2 关键模块数据流 |
4.3 CS-WLC负载均衡算法应用设计 |
4.3.1 Active MQ设计 |
4.3.2 CS-WLC负载均衡算法应用 |
4.4 系统数据库设计 |
4.4.1 数据库选择 |
4.4.2 系统数据库表设计 |
4.5 本章小结 |
5 系统调试与分析 |
5.1 基于CS-WLC的煤矿安全监测海量数据处理系统环境配置 |
5.2 基于CS-WLC的煤矿安全监测海量数据处理系统调试 |
5.3 基于CS-WLC负载均衡算法的煤矿海量数据处理效率分析 |
5.3.1 Active MQ安装部署 |
5.3.2 数据处理效率分析 |
5.4 本章小结 |
6 总结与展望 |
6.1 总结 |
6.2 展望 |
致谢 |
参考文献 |
附录 |
(7)基于机器学习的无线网络负载优化方法研究(论文提纲范文)
摘要 |
ABSTRACT |
符号说明 |
英文缩略语 |
第一章 绪论 |
1.1 研究背景 |
1.2 研究现状与挑战 |
1.2.1 无线网络负载优化相关研究 |
1.2.2 机器学习在无线网络中的应用 |
1.3 本文的主要工作 |
1.3.1 智能无线网络架构设计与分析 |
1.3.2 基于单节点机器学习的负载优化 |
1.3.3 基于多节点机器学习的负载优化 |
1.3.4 基于多智能体机器学习的负载优化 |
1.4 本文组织结构 |
第二章 智能无线网络架构设计与分析 |
2.1 引言 |
2.2 技术背景 |
2.2.1 无线网络认知技术 |
2.2.2 移动云计算 |
2.2.3 移动边缘计算 |
2.3 数据流架构 |
2.3.1 认知数据与方法 |
2.3.2 无线大数据认知流 |
2.4 计算流架构 |
2.4.1 云与边缘智能 |
2.4.2 分布式与并行化学习框架 |
2.4.3 可拓展型学习算法 |
2.5 模型与数据协同驱动 |
2.6 应用案例 |
2.7 本章小结 |
第三章 基于单节点机器学习的负载优化 |
3.1 引言 |
3.2 基于高斯过程的无线流量预测模型 |
3.2.1 基准高斯预测模型 |
3.2.2 模型核函数设计 |
3.2.3 模型超参数训练 |
3.3 基于深度强化学习的负载均衡模型 |
3.3.1 强化学习基础 |
3.3.2 用户切换模型 |
3.3.3 负载均衡问题建模 |
3.3.4 基于深度强化学习的负载均衡算法 |
3.4 仿真验证与结果分析 |
3.4.1 无线流量预测与基于负载感知的基站休眠 |
3.4.2 自组织网络的负载均衡 |
3.5 本章小结 |
第四章 基于多节点机器学习的负载优化 |
4.1 引言 |
4.2 基于分布式高斯过程的多节点负载预测框架 |
4.2.1 整体框架设计 |
4.2.2 基于矩阵近似的分布式训练算法 |
4.2.3 基于矩阵分块的分布式训练算法 |
4.2.4 基于交叉验证的分布式预测算法 |
4.3 基于分布式深度强化学习的多节点负载均衡框架 |
4.3.1 整体框架设计 |
4.3.2 基于负载感知的基站聚类算法 |
4.3.3 基于多探索策略的分布式学习算法 |
4.4 仿真验证与结果分析 |
4.4.1 分布式无线流量预测 |
4.4.2 大规模自组织网络负载均衡 |
4.5 本章小结 |
第五章 基于多智能体机器学习的负载优化 |
5.1 引言 |
5.2 系统模型 |
5.2.1 多智能体马尔可夫决策过程 |
5.2.2 目标问题 |
5.3 基于投票机制的多智能体强化学习 |
5.3.1 投票机制 |
5.3.2 分布式多智能体强化学习算法 |
5.4 收敛性分析 |
5.5 仿真验证与结果分析 |
5.5.1 理论验证 |
5.5.2 无人机辅助的负载分流 |
5.6 本章小结 |
第六章 总结与展望 |
6.1 全文总结 |
6.2 研究展望 |
参考文献 |
致谢 |
攻读学位期间所取得的研究成果 |
(8)微服务框架下敏感信息的交叉跨域安全通信技术研究(论文提纲范文)
摘要 |
Abstract |
1.绪论 |
1.1.国内外现状 |
1.2.研究内容 |
1.3.研究意义 |
1.4.本文组织结构 |
2.相关基础概念与技术 |
2.1.微服务 |
2.2.Spring Cloud基础概念 |
2.2.1.Spring Cloud简介 |
2.2.2.Spring Cloud版本说明 |
2.3.Spring Cloud核心组件技术 |
2.3.1.Eureka |
2.3.2.Ribbon& RestTemplate |
2.3.3.Hystrix |
2.3.4.Feign |
2.3.5.网关路由 |
2.4.跨域定义及跨域的产生 |
2.4.1.分析对比5 种常见跨域访问技术 |
2.5.WebSocket技术实现跨域网式访问 |
2.5.1.WebSocket跨域网式访问原理 |
2.5.2.WebSocket实时信息交互原理 |
2.6.WebService技术与实现 |
2.6.1.WebService技术优势 |
2.6.2.WebService实现方式 |
3.数据安全加密技术基础 |
3.1.数据安全传输及加密的重要性 |
3.2. 三类常见数据加密算法 |
3.2.1. 信息摘要算法 |
3.2.2. 对称加密算法 |
3.2.3. 非对称加密算法 |
4.分布式安全网式跨域访问研究与建模 |
4.1. RESTful分布式安全认证框架搭建 |
4.1.1. Spring Cloud框架基础搭建及其新特性 |
4.1.2. Spring Cloud框架重点搭建及安全性扩展 |
4.2. RPC风格分布式安全框架 |
4.2.1. Web Socket扩展方案 |
4.2.2. Web Service增强方案 |
4.3. 框架完善 |
5.加解密算法扩展 |
5.1. 敏感信息安全加密 |
5.2. 网式动态解密 |
6.总结与展望 |
6.1. 本文工作总结 |
6.2. 未来工作展望 |
参考文献 |
致谢 |
在校期间的科研成果 |
(9)负载均衡下的混合存储数据迁移方法研究(论文提纲范文)
摘要 |
abstract |
1 绪论 |
1.1 研究背景、目的及意义 |
1.1.1 研究背景 |
1.1.2 研究目的及意义 |
1.2 国内外研究现状 |
1.2.1 冷热数据识别技术研究现状 |
1.2.2 混合存储系统数据迁移方法研究现状 |
1.2.3 存储系统负载均衡研究现状 |
1.3 研究内容、方法和技术路线 |
1.3.1 研究内容 |
1.3.2 研究方法及技术路线 |
1.4 论文组织结构 |
2 相关理论基础 |
2.1 存储介质及其特性 |
2.1.1 机械硬盘(HDD)及其特性 |
2.1.2 固态硬盘(SSD)及其特性 |
2.1.3 机械硬盘与固态硬盘特性对比 |
2.2 基于HDD与 SSD的混合存储系统 |
2.2.1 缓存分层结构的混合存储系统 |
2.2.2 设备同层结构的混合存储系统 |
2.2.3 基于HDD与 SSD的混合存储模型 |
2.3 数据迁移相关理论 |
2.3.1 冷热数据识别 |
2.3.2 数据迁移问题 |
2.4 存储系统的负载均衡 |
2.5 本章小结 |
3 混合存储系统中基于数据价值的冷热数据识别 |
3.1 混合存储系统中数据价值的评估指标选取 |
3.1.1 数据价值定义 |
3.1.2 基于存储介质访问特性测试分析的数据价值评估指标选取 |
3.1.3 基于文献梳理的数据价值评估指标的选取 |
3.2 数据价值评估指标的定义及指标值的保存 |
3.2.1 数据价值评估指标的定义 |
3.2.2 数据访问历史记录的保存 |
3.3 基于数据价值的冷热数据识别方法 |
3.3.1 熵权法在数据价值评估中的适用性分析 |
3.3.2 基于熵权法的数据价值计算 |
3.3.3 基于数据价值大小的冷热数据识别 |
3.4 本章小结 |
4 兼顾负载均衡与文件热度的数据迁移算法 |
4.1 兼顾负载均衡与文件热度的数据迁移问题描述 |
4.2 混合存储系统数据迁移架构 |
4.3 蚁群算法 |
4.3.1 蚁群算法的基本思想 |
4.3.2 蚁群算法的基本模型及流程 |
4.3.3 蚁群算法的特点 |
4.3.4 蚁群算法的适用性分析 |
4.4 兼顾负载均衡与文件热度的改进蚁群算法的设计 |
4.4.1 信息素浓度τ_(ij)(t)的改进 |
4.4.2 启发函数η_(ij)(t)的改进 |
4.4.3 兼顾负载均衡与文件热度的改进蚁群算法的实现过程 |
4.5 本章小结 |
5 实验及结果分析 |
5.1 实验目标与实验方法 |
5.1.1 实验目标 |
5.1.2 实验方法 |
5.2 实验环境搭建与配置 |
5.2.1 实验环境 |
5.2.2 实验环境搭建与实验参数设置 |
5.2.3 实验数据 |
5.3 实验测试及结果分析 |
5.3.1 系统带宽利用率对比 |
5.3.2 系统访问延迟对比 |
5.3.3 系统负载均衡度对比 |
5.4 本章小结 |
6 结论与展望 |
6.1 结论 |
6.2 展望 |
参考文献 |
攻读硕士研究生阶段发表论文及其它成果 |
致谢 |
(10)分布式机器学习系统调度技术优化研究(论文提纲范文)
摘要 |
ABSTRACT |
详细摘要 |
第一章 绪论 |
1.1 研究背景及意义 |
1.2 研究现状 |
1.2.1 分布式机器学习系统 |
1.2.2 并行训练模式 |
1.3 研究内容 |
1.4 组织结构 |
第二章 相关理论基础 |
2.1 分布式机器学习算法 |
2.1.1 基本概念 |
2.1.2 单机优化算法 |
2.1.3 并行优化算法 |
2.2 人工神经网络 |
2.2.1 卷积神经网络 |
2.2.2 反向传播算法 |
2.3 参数服务器系统 |
2.3.1 发展历程 |
2.3.2 关键技术 |
2.4 本章小结 |
第三章 分布式动态调度策略 |
3.1 延迟同步并行策略 |
3.1.1 概述 |
3.1.2 性能瓶颈 |
3.2 动态调度策略 |
3.2.1 策略设计 |
3.2.2 算法实现 |
3.2.3 理论证明 |
3.3 本章小结 |
第四章 分布式自适应调度策略 |
4.1 调度系统技术实现 |
4.1.1 通信系统 |
4.1.2 资源探测系统 |
4.1.3 任务调度系统 |
4.2 自适应调度策略 |
4.2.1 策略设计 |
4.2.2 算法实现 |
4.3 本章小结 |
第五章 实验结果分析 |
5.1 实验环境 |
5.1.1 硬件环境 |
5.1.2 软件环境 |
5.1.3 数据集及训练算法 |
5.2 并行策略实验分析 |
5.3 动态调度策略实验分析 |
5.3.1 动态调度的有效性 |
5.3.2 动态调度的扩展性 |
5.4 自适应调度策略实验分析 |
5.4.1 自适应调度的有效性 |
5.4.2 自适应调度的扩展性 |
5.5 本章小结 |
第六章 总结与展望 |
6.1 工作总结 |
6.2 未来展望 |
致谢 |
参考文献 |
附录 作者在读期间发表的学术论文及参加的科研项目 |
四、基于网络的负载均衡机制的研究及在分布式邮件系统中的应用(论文参考文献)
- [1]基因序列全比较问题的数据分发机制研究[D]. 邓丹. 内蒙古工业大学, 2021(01)
- [2]高并发下购物平台系统的设计与实现[D]. 陈继磊. 山东大学, 2021(12)
- [3]分布式一致性核心平台设计与实现[D]. 罗鹏豪. 电子科技大学, 2021(01)
- [4]基于区块链的工业互联网标识解析系统性能优化方案设计与实现[D]. 赵浩然. 北京邮电大学, 2021(01)
- [5]基于微服务架构的分布式爬虫系统设计与应用[D]. 葛又嘉. 南京邮电大学, 2020(03)
- [6]基于CS-WLC的煤矿安全监测海量数据处理系统研究[D]. 张悦. 西安科技大学, 2020(01)
- [7]基于机器学习的无线网络负载优化方法研究[D]. 徐越. 北京邮电大学, 2020(04)
- [8]微服务框架下敏感信息的交叉跨域安全通信技术研究[D]. 梁静. 四川师范大学, 2020(08)
- [9]负载均衡下的混合存储数据迁移方法研究[D]. 李茂林. 西安建筑科技大学, 2020(07)
- [10]分布式机器学习系统调度技术优化研究[D]. 周详. 杭州电子科技大学, 2020(04)