一、FoxPro、Access和MS SQL Server异构数据库之间的数据格式转换(论文文献综述)
于豪[1](2021)在《基于服务的复杂装备数据分析技术研究》文中认为在信息化战争的倒逼下,军用复杂装备逐渐向智能化方向发展。智能化的军用复杂装备涉及多个工程领域,导致领域间无法理解数据定义,出现“信息孤岛”现象。因此选用复杂装备作为场景,研究多领域间的资源管理以及异构数据集成技术。本文主要有以下两个目的:第一,研究复杂装备数据的动态资源管理优化技术;第二,研究基于中间件服务架构的复杂装备数据集成优化技术。主要研究内容如下:(1)介绍复杂装备数据分析中涉及的相关背景和关键技术。首先,介绍了复杂装备数据分析关键技术的基本概念和技术结构。然后,分析了几种主流的实现方法,并对比总结它们各自的优缺点。(2)提出基于异步消息队列的装备资源管理优化技术。针对各军种、各部门复杂装备数据访问的特点,本文提出了一种基于异步消息队列的负载均衡框架,实现复杂装备资源动态管理优化。首先,本文分析了复杂装备数据权限分组访问和异步消息队列实现的可行性。然后,分别对以上技术进行实现。其中,权限分层访问控制包括分组权限控制和权限管理表设计;异步消息分发包括异步任务发布、任务调度器、任务执行单元三部分。最后,使用消息中间件存放消息数据以及任务结果。结果表明,本文方法降低了权限关系映射复杂度,减少权限响应时间;单机服务器响应速度对比其他主流方法平均提高7.6%。(3)提出基于服务的复杂装备数据集成优化技术。针对复杂装备异构数据的集成,本文提出了一种基于服务的复杂装备数据集成优化技术。首先,本文介绍了中间件集成架构以及轻量级的数据交换格式。然后,将复杂装备数据集成优化技术分为装备数据采集、数据结构转换、数据处理引擎、数据映射驱动模版和服务化发布五个部分。最后,针对耦合度、实时性以及查询性能方面,与其他集成技术进行对比。结果显示,本文提出的基于服务的复杂装备数据集成优化技术将平均响应时间降低至1s,解决异构数据服务发现以及领域定义集成问题。本研究获得的结果可用于解决复杂装备数据分析中资源动态管理、复杂装备数据集成等问题,且对复杂装备数据分析技术有重要延伸意义。
周攀[2](2021)在《物流系统数据实时集成平台设计与实现》文中提出随着互联网技术的高速进步,传统工业领域应用互联网技术的情况越来越普遍。工业系统中数据的重要性不言而喻,而传统行业中的企业在数据管理方面能力的欠缺以及数据管理工具的缺失,加之数据来源多样化且异构性高,导致大量工业数据或是质量不高、或是同一企业分布在不同业务系统中的数据之间形成信息孤岛等等,使得数据中的信息得不到有效利用,这其中蕴藏的大量宝贵财富被浪费。针对上述场景,如何高效地集成及清洗多源异构数据,将来自不同数据源以及不同结构的数据抽取并按统一的结构存储是工业界数据管理所面对并需要解决的问题。本文研究并设计了一款物流系统数据实时集成平台,该平台基于Kettle开发,采用B/S架构进行改造,提高了平台灵活性,同时为用户省去下载安装等步骤所花费的时间。结合基于变动数据捕获技术和元数据驱动实现实时抽取功能,弥补Kettle在实时性方面的不足和欠缺。本平台支持对多种关系型数据库、非关系型数据库以及文件存储形式的数据集成及清洗。除此之外,本平台提供了便利的清洗、集成作业设计界面以及完善的数据集成作业调度功能,以及完备的权限认证能力,提高了系统和数据安全性。最后,本文还实现了一套客户数据分析系统,数据来源为使用物流系统数据实时集成平台所集成的某物流公司业务数据,该系统前端基于Echarts图表库开发,为数据分析提供了便利。本文从软件工程研发流程的角度出发,首先将物流系统数据实时集成平台划分为实时抽取模块、任务管理模块、权限认证模块、客户分析系统等子模块和子系统。合理地对各模块进行需求分析以及功能介绍,设计各模块的具体功能、属性以及逻辑。随后对系统整体架构进行设计,包括其软件架构、模块结构等。接着介绍了各功能模块的具体实现过程和功能流程以及部分核心功能实现原理,并对Kettle进行B/S架构改造,摒弃其原有的C/S架构,提高其使用灵活度。最后对物流系统数据实时集成平台和客户分析系统进行了性能测试和功能测试,验证了平台的可用性和并发能力。
樊致远[3](2020)在《面向电子商务平台的混合数据存储方案研究与实现》文中研究指明网络的发展与互联网应用的普及推动了电子商务平台的快速发展。人们开始习惯使用电子商务平台,随着用户越来越多,平台的访问速度开始下降,为了提高电子商务平台的性能,很多公司在搭建电商平台的过程中不仅使用关系型数据库,还使用非关系型数据库进行数据存储。本课题针对这种情况,提出了面向电子商务平台的混合存储方案,对于电子商务平台的多数据库访问和异构数据存储和访问具有一定的实践意义。首先,描述了国内外电子商务平台数据存储的发展现状,总结了关系型与非关系型数据库混用所带来的问题。为此,研究了关系型数据库和非关系型数据库的技术特点和Visitor模式。同时,分析了异构数据源查询的三种方式,并指出了针对电子商务平台独立中间层更为适用。其次,分析了电子商务平台的存储特点,提出了电商数据的混合存储原则,并依据该原则设计了电子商务平台混合存储模型,建立了一个混合存储软件模型,并详细介绍了该软件模型的SQL解析模块、SQL路由模块、数据执行模块、结果集合并模块和元数据模块的设计。再次,结合面向电子商务平台的混合存储模型,实现了电子商务平台的混合存储方案,然后实现了SQL解析模块、SQL路由模块、数据库执行器模块、结果集合并模块和元数据模块的主要功能,并给出实现思路和关键函数的实现流程,详细介绍了SQL解析中语法树模块和解析模块的实现。最后,根据混合存储模型对胜乐票务平台的数据存储层进行修改,并以企业端相关功能为例,概述了不同功能生成的不同种类的SQL语句在执行过程中,调用的API,执行的中间结果,以及处理合并的结果,并验证了混合存储方案对比原平台的访问速度优势。
秦世越[4](2020)在《基于元数据的预警数据集成与共享技术研究》文中研究表明随着信息获取手段的增多和数据量的增长,我国预警领域的数据管理建设受到了广泛关注。当前面临的主要问题包括:传统的数据存储方式难以高效安全地存储海量异构数据资源;各部门分别建立的预警信息系统,形成了数据管理和共享的壁垒现象;长期发展所积累的大量数据资源难以进行高效集成。因此,需要建立数据资源统一存储、管理和利用的基础平台。本文结合联合培养单位的实际工程需要,对预警领域的数据集成与共享技术进行了系统的研究,所取得的主要研究成果为:1.对海量预警数据的存储技术进行了研究。通过分析现有结构化数据库在面对海量数据时的不足,在原有My SQL、Oracle数据库的基础上,扩展建立了HBase数据库,实现了航迹等海量数据的存储,开发了HBase数据库的可视化管理界面,借助Sqoop实现了HBase数据库与传统数据库的数据迁移,并通过Solr构建了HBase的二级索引以实现非主键查询和组合查询。提高了系统应对海量数据的存储能力,并且提升了对海量数据的查询速度。2.对数据库的元数据描述进行了研究。提出了基于元数据的异构数据库查询和检索方法,通过采集数据库元数据,建立相应的元数据库,可以屏蔽底层数据源的差异,为用户提供数据的透明访问,实现了数据集成。该方法较为灵活,能够随时增加、删除数据库,工程应用上优势较大。3.对预警数据集成共享模式进行了研究。通过研究现有的数据集成共享模式,学习面向服务的体系结构思想及Web Service技术,实现对现有数据系统服务的封装与集成,实现跨平台、跨系统、跨语言的数据存储和集成,同时实现用户权限的分级管理,一定程度上保障了数据的安全性。4.综合上述研究内容设计并开发了预警数据管理系统的原型,能够存储海量结构化、非结构化的数据,实现预警数据的集成管理,为用户提供底层透明的存储、浏览、查询等服务,同时具有松耦合性、可扩展性。所取得的研究成果,适应了新技术的发展方向,满足了预警领域体系化建设对分布式异构数据存储管理的需求,可以为工程应用提供技术支撑。
刘大铖[5](2020)在《数据驱动优化的车间节能调度方法研究》文中研究表明本文围绕混合流水线车间节能问题,重点研究制造车间的能耗分析和节能模型建立,以及用于求解的多目标智能算法。解决了制造车间异构数据库之间数据存储与共享困难、智能算法的适应值计算成本高等问题。对于企业车间的生产节能和提高效益具有一定的理论参考和工程应用意义。本文首先分别对制造数据存储与共享方法、代理模型方法和车间节能多目标智能算法做了大量的文献调研。然后,针对制造数据中异构数据库之间的数据存储和共享问题,分析数据库存储、共享技术和提取转换加载(Extract-Transform-Load,ETL)技术的特点,提出制造数据中不同数据库数据的同步存储策略。提出利用同步处理时间和中央处理器利用率来衡量异构数据库间的数据存储和共享效率。接着,为了探究制造车间的节能潜力,采用“关机-重启”策略基础上,提出一种改进的多目标多宇宙优化器(Improved Multiple Objectives Multi-Verse Optimizer,IMOMVO)算法,用于求解建立的基于混合整数非线性规划模型的以最小化最大完工时间和总能耗为目标的多目标混合流水线车间节能模型。通过设置不同的加权系数,建立了三个车间生产场景。最后,为了解决智能算法在寻优过程中节能目标即适应值评估代价高问题,提出一种基于矩阵编码机制的特征向量提取方法,引入核函数有利于极限学习机(Extreme Learning Machine,ELM)求解节能目标。对需要构建代理模型的IMOMVO算法进行计算复杂度分析,建立基于ELM的代理模型,设计数据驱动优化的车间节能目标算法框架。本文所提出的异构数据库存储与共享方法,在SQL2SQL、SQL2My SQL和SQL2Mongo DB之间的平均同步处理时间分别为2.07ms、2.60ms和0.74ms,平均CPU利用率分别为15.7%、57.9%和3.2%。提出的IMOMVO算法与改进遗传模拟退火算法(Improved Genetic-Simulated Annealing Algorithm,IGSA)进行比较,结果验证本文提出的模型和算法的有效性和优越性。ELM算法与误差反向传播(Error Back Propagation,BP)算法进行预测性能验证和计算时间对比实验。实验结果显示,ELM算法的拟合优度为0.97381,预测性能指标均优于BP算法。单个适应值平均计算时间为5.4×10-4秒,仅为真实求解的18.5%。说明ELM在车间节能目标预测问题具有良好的效果。
江穹峰[6](2019)在《面向河湖空间大数据的混合架构存储与检索系统研究及应用》文中研究指明河湖管理与保护是促进人与自然和谐共生、加快推进生态文明建设的有效措施。近年来,随着卫星遥感、物联网、智能传感监测等技术的不断发展,河湖空间数据体量呈爆炸式增长,且其数据类型多样、格式繁杂、结构复杂、时间空间交错。河湖空间大数据的有效存储、管理和检索面临巨大的挑战,同时对数据并发访问支持能力和安全可靠性也提出更高要求。进一步,国家关于河湖管理保护工程已上升至国家战略层面,长江大保护、河湖长制均涉及流域河湖空间管控。因此,亟需开展河湖空间大数据智慧管控研究。本文以河湖空间大数据存储与检索为突破点,开发面向河湖空间大数据的混合架构存储与检索系统,解决了海量多源异构数据的高效存储与检索、并发访问支持等问题。建立多源异构数据统一接口规范,实现有序共享、适度开放、安全可靠的河湖空间大数据共享新机制。在推进长江大保护、推动河湖长制全面见效、实现河湖精细化管理方面,具有重大理论研究价值和工程应用价值。论文的主要研究内容及创新性成果如下:(1)在结构化数据存储方面,结合水利及地理信息相关国家及行业技术规范,采用“一数一库”的模式对现有涉水管理系统进行迁移集成,避免观测数据的重复采集和存储,提高数据一致性,便于各个子系统之间数据共享;(2)融合HBase和MongoDB实现栅格影像数据存储与检索,基于HBase的瓦片金字塔存储,实现数据快速可视化展示与查询;基于MongoDB文档模式的元数据模型,简化元数据描述;同时结合Elasticsearch搜索引擎建立元数据全文索引,提供精确匹配、模糊查找、范围查询等多种检索方式;(3)建立基于GeoJSON和MongoDB的空间矢量要素存储模型,构建空间索引、设计辅助索引来加速数据查询、筛选和过滤;设计分片复制集群环境下的分片策略,均衡数据分布与查询效率之间的矛盾;(4)针对河湖空间海量数据管控需求,构建基于大数据技术的混合架构系统,实现河湖空间多源异构数据的管控,提供统一的数据传输与检索接口,加强数据之间的互联互通;同时,提供系统并发访问的支持,保证数据的安全可靠性。
徐爱萍,宋先明,徐武平[7](2015)在《分布式异构数据库集成系统研究与实现》文中提出由于历史原因和数据库技术的不断发展,很多部门已经积累并且还会大量积累各种异构数据,其异构性主要表现在数据库类型和数据结构的不同。针对这一问题进行研究,以三峡库区水环境及水文分布式异构数据库为例,在分析水环境和水文数据需求的基础上,构建了水文及水环境数据交换架构和数据共享平台;采用异构多源数据库引擎中间件解决了不同种类数据库之间的数据交换问题;针对大量历史数据的交换问题提供了分批导入数据交换方式;使用数据目录注册的方式使得集成平台的管理和使用便捷通用。本研究的异构多源数据库引擎不仅可以方便地连接目前主流的各种数据库,还基于Web Services技术解决了连接Web数据接口的问题。研究成果可满足不同应用环境的异构数据集成需求。
邓林[8](2012)在《铁路领域中多数据库系统的研究与实现》文中进行了进一步梳理当前,企事业单位中的各个部门会产生大量的数据,并依据各自的数据特点和应用需求,选择不同的方式管理数据。这导致各部门之间的信息重复冗余,很难做到部门之间的数据共享。要解决这个问题,需要研究数据集成技术。而多数信息集成技术只是从上层应用的角度实现了信息集成,无法解决整个数据体系的融合,无法从根本上解决数据共享。多数据库系统技术已经成为解决异构数据源之间信息集成的有效措施。多数据库系统技术针对那些异构的、分布的、已存在的多个局部数据库系统,在不需要对局部数据库做大量改变的情况下,为用户提供了统一的多数据库环境,包括统一的数据类型定义、查询语言、数据访问方法等。本论文的研究背景是集成并访问铁路领域中各专业的数据,支持各专业的上层应用。实现上述功能需解决两个问题:(1)专业数据存储于异构数据源中,包括不同类型的商业数据库、表单或文件系统,如何利用多数据库技术去整合集成异构的数据源问题。(2)集成后的同质多数据库系统如何保持源和目标端数据的一致性问题。本论文对上述问题进行了比较深入的研究,实现了一个同质多数据库系统。主要研究工作包括:首先研究了异构数据库的集成方案,设计了同质多数据库的体系结构,构建同质多数据库系统;针对不同数据源采取不同的集成策略,为各专业设计实现了同质多数据库访问接口;在数据一致性维护方面,针对异构数据源的特点,分别设计了针对结构化数据间、非结构化与结构化数据间的同步更新方案。最后,本论文对所实现的技术方案进行了测试。分析实验结果验证了本文所做工作的可行性和有效性。
张富强[9](2012)在《基于XML的异构数据库中间件的设计与实现》文中研究表明本单位各部门在信息化过程中,不同部门或同一部门在不同时期实施的信息系统,大都采用了不同的数据库管理系统。这些数据库系统从简单的文件数据库到复杂的网络数据库,数据资源互联互访困难,资源共享性差,形成了各自的信息孤岛,致使重复建设、资源浪费等情况越来越突出。因此,如何高效快捷地实现异构数据库的透明访问,是本单位信息化过程中亟待解决的一个问题。本文利用数据库中间件技术为上述问题提供了一个较好的解决方法。本文首先分析比较了异构数据库互访的有关技术与模式,简单介绍了数据库中间件等技术的理论知识,详细讨论了关系数据库与XML之间的映射方法。然后结合实际情况,设计实现了一个基于XML的异构数据库中间件BoXMLDM。BoXMLDM以XML作为公共数据模型,采用Eclipse平台及JAVA语言实现。BoXMLDM由数据字典、SQL解析器、封装器等组成,以SQL为输入,以XML为结果,既实现了异构数据库的透明访问,也为查询结果的再利用做好准备。目前,BoXMLDM已在本单位内部办公网上成功部署使用,实现了本单位异构数据源Access和SQL Server之间的互访。
仇新红[10](2010)在《一种异构数据交换方法》文中指出数据库技术的应用是以数据库管理系统为基础的,技术成熟、数据管理能力强、并发控制稳定可靠的特点使得关系数据库管理系统在各企业的数据管理中得到了广泛应用,而且,随着Web技术、网络技术和Internet的飞速发展,信息共享和数据交换的范围在日益扩大。但是企业及各种机构不断深入地进行信息化建设,必将带来应用范围不断扩展,软硬件资源的升级变化,系统环境也有可能发生变化,这就造成了多种关系数据库系统并存的异构问题。各关系数据库管理系统之间的异构及其操作系统的异构性,严重限制了各组织机构之间的数据共享和数据交换范围。传统的关系数据库面临着重大的挑战,新的应用系统也对数据交换和数共享提出了更高的要求。针对网络上各种异构数据源的信息共享和信息交换,各企业部门不同信息管理系统的异构数据交换问题,无论是国内外的专家和学者,还是应用软件开发商和数据库生产商,以及一些个人应用需要,他们都从理论或者实际应用两个方面进行了大量的研究工作和设计开发工作,并且取得了一定的成绩。他们提出的一些解决方法和开发出的交换工具在实际应用中得到了广泛的使用,并在目前的数据共享和数据交换中起到了很大的作用。前面我们所说的异构数据,它们的异构主要体现在系统异构、模式异构、逻辑异构上。系统异构是指数据所依赖的运行环境不同,包括计算机硬件、操作系统平台和网络连接等方面的不同,系统异构属于物理硬件上的异构;模式异构是指使用不同的数据库语言描述数据及其关系即采用不同DBMS;逻辑异构是指在数据的类型、语义上不同,模式异构和逻辑异构属于软件方面的异构。这些异构使得数据的利用和数据共享受到了阻碍。为了更充分地利用原有资源以及其他资源,不同的异构关系数据库进行交换和迁移是企业经常要面对的问题。总结一下,目前比较流行有以下几种方法:由各数据库生产商扩展和应用开发商开发的数据交换工具,有SQL Server和Oracle中扩展的数据复制工具;Microsoft在SQL Server基础上开发的SQL Server DTS;Oracle开发的SQL&Loader;Delphi的DataPump和PoweBuilder的Data Pipeline。隔离对数据库的直接操作,保持各数据库自治性的中间件技术。目前中间件技术中包括双向直接交换中间件和基于中心数据库的交换中间件两种技术。利用一种数据交换双方都能分析和操作的中间数据格式文档进行数据交换的中间数据法。中间数据法早期采用CVS格式文档作为中间格式,目前采用流行的XML作为中间数据格式。ADO.NET作为一种新的数据访问程序模型简化和优化了数据交换的操作。它将XML和ADO对象模型集成在一棵树状的类的集合中;在访问数据库时,可以随时与数据库进行连接,不需要长时间独占;还可以断开与记录集的连接,进行脱机处理。ADO.NET的新特性使得数据库资源可以得到有效地利用,为基于Web的数据共享和数据交换提供了方便,更能显着地提升应用程序的性能。异构数据库间数据交换的主要任务是消除数据的异构冲突,使交换双方的数据互为补充,以冗余存储方式达到数据库共享的目的。目前,XML所具有的平台无关性、良好的交互性、可扩展性、可格式化和语义性强等特性和优点,使得XML能够方便地描述关系数据库。XML已成为数据交换的标准格式,其固有的结构特征使其成为异构DBMS之间数据交换的最好选择,并在转换的过程中起到重要的桥梁作用。本文首先研究了异构DBMS数据交换的算法及关系数据库与XML的可逆双向转换,然后基于比较先进的ADO.NET 2.0和XML技术提出一个异构数据交换方法。在方法中,保留关系数据的实体完整性约束、参照完整性约束以及用户自定义的完整性约束,实现异构数据源之间的数据交换,并就异构数据源的数据交换设计和开发了一个简单易用的异构数据交换工具。在开发过程中,主要借助于ADO.NET 2.0的四个基本对象,特别是处理非连接的和数据源无关的DataSet类,DataSet类是存储在内存高速缓冲的虚拟数据库,使得在处理数据时高效、安全,并对关系模式和XML模式使用统一的表达模型,实现关系数据库到XML文档的双向数据交换。开发的数据交换工具屏蔽了数据库类型,能够较好的自动完成各种异构数据源之间的模式转换和数据交换;关系模式与XML的相互转换使得用户在Internet和Intranet上发布数据变得更加方便快捷,也为异构数据源在更高层次上的应用与集成提供了技术基础。本文最后选择SQL Server 2005、Access、MySQL三种样例,对设计方法的可行性进行了验证,实现了三种不同DBMS之间正确的数据交换以及关系数据库和XML之间的转换。本方法实现了数据转换过程的自动化、批量处理等特性,将会为信息交流和信息共享提供有价值的参考。原型工具在用户界面的友好性、数据交换功能的可扩充性和适应性方面还有待进一步的改进。
二、FoxPro、Access和MS SQL Server异构数据库之间的数据格式转换(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、FoxPro、Access和MS SQL Server异构数据库之间的数据格式转换(论文提纲范文)
(1)基于服务的复杂装备数据分析技术研究(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究背景及意义 |
1.1.1 研究背景 |
1.1.2 研究意义 |
1.2 国内外研究现状 |
1.3 研究目的与内容 |
1.4 论文内容组织结构 |
第二章 复杂装备数据分析关键技术 |
2.1 引言 |
2.2 异构数据动态管理技术 |
2.2.1 基于轮询的动态管理技术 |
2.2.2 基于权重的动态管理技术 |
2.2.3 基于响应的动态管理技术 |
2.3 异构数据统一集成技术 |
2.3.1 基于XML的异构数据集成技术 |
2.3.2 基于联邦数据库的异构数据集成技术 |
2.3.3 基于中间件的异构数据集成技术 |
2.3.4 基于数据仓库的异构数据集成技术 |
2.4 异构数据清洗技术 |
2.4.1 基于插值法的异构数据清洗技术 |
2.4.2 基于最近插补法的异构数据清洗技术 |
2.4.3 基于固定值的异构数据清洗技术 |
2.5 异构数据挖掘技术 |
2.5.1 基于关联规则的异构数据挖掘技术 |
2.5.2 基于回归算法的异构数据挖掘技术 |
2.6 异构数据传输技术 |
2.6.1 基于XML的异构数据传输技术 |
2.6.2 基于JSON的异构数据传输技术 |
2.7 本章小结 |
第三章 复杂装备异构数据动态管理研究 |
3.1 引言 |
3.2 基于异步消息队列的装备资源管理技术 |
3.2.1 基于角色的访问控制 |
3.2.2 装备数据消息分发 |
3.2.3 装备数据消息存储 |
3.3 性能比较 |
3.3.1 装备数据动态管理部分 |
3.3.2 装备数据分发部分 |
3.4 本章小结 |
第四章 基于服务的复杂装备数据集成研究 |
4.1 引言 |
4.2 基于服务的装备数据集成技术 |
4.2.1 装备数据采集 |
4.2.2 数据结构转换 |
4.2.3 数据处理引擎 |
4.2.4 数据映射驱动模版 |
4.2.5 服务化发布 |
4.3 性能比较 |
4.4 本章小结 |
第五章 复杂装备异构数据作战场景的实现 |
5.1 引言 |
5.2 复杂装备异构数据作战场景实验 |
5.2.1 作战场景数据分析平台 |
5.2.2 复杂装备异构数据测试分析平台 |
5.3 本章小结 |
第六章 全文总结与展望 |
6.1 全文总结 |
6.2 后续工作展望 |
致谢 |
参考文献 |
攻读硕士学位期间取得的成果 |
(2)物流系统数据实时集成平台设计与实现(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 课题背景及意义 |
1.2 国内外研究现状 |
1.3 本文主要工作内容 |
1.4 论文结构安排 |
第二章 课题与相关技术支持 |
2.1 数据集成方法 |
2.1.1 模式集成法 |
2.1.2 数据复制法-数据仓库 |
2.1.3 综合集成法 |
2.2 元数据 |
2.3 实时数据抽取 |
2.3.1 全表扫描对比 |
2.3.2 触发器捕获 |
2.3.3 时间戳获取 |
2.3.4 基于DBMS日志获取 |
2.4 Quartz框架 |
2.5 Spring Boot框架 |
2.6 Canal组件 |
2.7 本章小结 |
第三章 物流数据实时集成平台与客户分析系统需求及设计 |
3.1 系统整体需求分析 |
3.2 各模块需求分析 |
3.2.1 实时抽取模块需求分析 |
3.2.2 任务管理模块需求分析 |
3.2.3 权限管理模块需求分析 |
3.2.4 客户分析系统需求分析 |
3.3 Kettle架构与改造 |
3.3.1 Kettle核心 |
3.3.2 Carte及 Kettle集群 |
3.3.3 Kettle图形界面 |
3.3.4 Kettle架构改造设计 |
3.4 系统总体设计 |
3.4.1 系统软件架构 |
3.4.2 系统模块结构 |
3.4.3 系统部署结构 |
3.4.4 系统数据流程 |
3.5 各模块设计 |
3.5.1 元数据设计 |
3.5.2 实时抽取模块设计 |
3.5.3 任务管理模块设计 |
3.5.4 权限管理模块设计 |
3.5.5 客户分析系统设计 |
3.6 本章小结 |
第四章 物流数据实时集成平台与客户分析系统实现及测试 |
4.1 系统实现 |
4.1.1 开发环境 |
4.1.2 实时抽取模块实现 |
4.1.3 权限认证模块实现 |
4.1.4 B/S架构Kettle实现 |
4.1.5 任务管理模块实现 |
4.1.6 客户分析系统实现 |
4.2 系统测试 |
4.2.1 测试环境 |
4.2.2 功能测试 |
4.2.3 性能测试 |
4.3 本章小结 |
第五章 总结与展望 |
5.1 总结 |
5.2 进一步工作展望 |
致谢 |
参考文献 |
攻读硕士学位期间取得的成果 |
(3)面向电子商务平台的混合数据存储方案研究与实现(论文提纲范文)
摘要 |
Abstract |
第1章 绪论 |
1.1 研究背景与意义 |
1.2 国内外研究现状 |
1.3 主要研究内容与关键问题 |
1.4 论文的组织结构 |
第2章 理论与技术分析 |
2.1 NoSQL技术分析 |
2.1.1 NoSQL特点 |
2.1.2 MongoDB数据库 |
2.2 关系型数据库分析 |
2.2.1 关系型数据库特点 |
2.2.2 常见的关系型数据库 |
2.3 Visitor模式 |
2.4 异构数据源查询方式 |
2.5 本章小结 |
第3章 混合存储方案的分析与设计 |
3.1 混合存储模型设计 |
3.1.1 电子商务平台的混合存储原则 |
3.1.2 混合存储模型设计 |
3.2 混合存储软件模型设计 |
3.3 混合存储软件模型关键模块详细设计 |
3.3.1 SQL解析器设计 |
3.3.2 SQL路由设计 |
3.3.3 数据库执行器设计 |
3.3.4 结果集合并模块设计 |
3.3.5 元数据模块设计 |
3.4 本章小结 |
第4章 混合存储方案的实现方法 |
4.1 存储方案实现 |
4.2 SQL解析器实现 |
4.2.1 语法树模块详细结构 |
4.2.2 解析模块实现 |
4.3 SQL路由实现 |
4.4 数据库执行器 |
4.5 结果集合并模块实现 |
4.6 元数据模块实现 |
4.7 本章小结 |
第5章 模型的应用实例 |
5.1 应用实现环境 |
5.2 胜乐票务平台介绍 |
5.3 数据库设计 |
5.4 模型验证与对比 |
5.4.1 账号管理模块验证 |
5.4.2 景区模块验证 |
5.4.3 服务模块验证 |
5.4.4 混合查询验证 |
5.4.5 产品访问性能对比验证 |
5.5 本章小结 |
结论 |
参考文献 |
攻读硕士学位期间承担的科研任务与主要成果 |
致谢 |
(4)基于元数据的预警数据集成与共享技术研究(论文提纲范文)
摘要 |
ABSTRACT |
缩略语对照表 |
第一章 绪论 |
1.1 研究背景和意义 |
1.2 国内外研究现状 |
1.2.1 美国军事领域数据建设的研究 |
1.2.2 国内军事领域数据建设的现状 |
1.3 论文创新点 |
1.4 论文的主要工作与安排 |
第二章 理论基础与相关技术 |
2.1 Hadoop平台及HBase数据库 |
2.1.1 Hadoop平台 |
2.1.2 HBase数据库 |
2.1.3 HBase数据库与关系型数据库数据迁移 |
2.1.4 HBase二级索引 |
2.2 元数据理论 |
2.2.1 元数据概念 |
2.2.2 元数据分类 |
2.2.3 元数据作用 |
2.2.4 元数据应用意义 |
2.2.5 元数据采集 |
2.2.6 元数据存储 |
2.3 Web Service技术 |
2.3.1 异构数据集成方法 |
2.3.2 Web Service概念 |
2.3.3 Web Service架构 |
2.3.4 Web Service关键要素 |
2.4 本章小结 |
第三章 预警数据管理系统分析与设计 |
3.1 需求分析 |
3.2 总体框架 |
3.2.1 系统框架 |
3.2.2 系统工作流程 |
3.3 系统核心模块设计 |
3.3.1 数据库模块 |
3.3.2 数据交互模块 |
3.3.3 安全管理模块 |
3.3.4 注册管理模块 |
3.3.5 数据服务模块 |
3.3.6 元数据管理模块 |
3.4 系统优势 |
3.5 本章小结 |
第四章 预警数据管理系统的实现与测试 |
4.1 运行环境 |
4.1.1 硬件环境 |
4.1.2 软件环境 |
4.2 HBase数据库搭建 |
4.3 系统功能实现 |
4.3.1 数据库管理 |
4.3.2 用户管理 |
4.3.3 数据服务 |
4.3.4 数据查询 |
4.4 系统功能测试 |
4.4.1 数据库管理测试 |
4.4.2 用户管理测试 |
4.4.3 HBase存储和查询性能测试 |
4.4.4 数据服务测试 |
4.4.5 数据查询测试 |
4.5 本章小结 |
第五章 总结与展望 |
5.1 总结 |
5.2 展望 |
参考文献 |
致谢 |
作者简介 |
(5)数据驱动优化的车间节能调度方法研究(论文提纲范文)
摘要 |
Abstract |
第1章 绪论 |
1.1 课题研究背景 |
1.1.1 制造数据存储与共享方法研究现状 |
1.1.2 代理模型方法研究现状 |
1.1.3 混合流水线车间节能调度方法研究现状及趋势 |
1.2 课题来源及研究意义 |
1.3 论文架构 |
第2章 异构数据库间制造数据的同步存储和共享方法 |
2.1 课题研究背景 |
2.1.1 ETL技术 |
2.1.2 分布式存储系统 |
2.2 制造数据中不同数据库的同步存储方法 |
2.2.1 制造数据中不同数据库的同步存储策略 |
2.2.2 异地实时同步数据存储方法 |
2.3 实验结果与分析 |
2.3.1 实验数据和环境 |
2.3.2 衡量效率的关键指标 |
2.4 本章小结 |
第3章 制造车间的HFSP节能模型 |
3.1 HFSP的混合整数非线性规划模型 |
3.1.1 参数定义 |
3.1.2 混合流水车间调度问题 |
3.1.3 能耗分析 |
3.2 多目标HFSP节能优化模型 |
3.3 编码和解码 |
3.4 本章小结 |
第4章 求解节能多目标HFSP的 IMOMVO算法 |
4.1 MOMVO算法 |
4.2 加权加性效用目标函数的标准化改进 |
4.3 宇宙初始化 |
4.4 IMOMVO的改进轮盘赌选择机制 |
4.5 IMOMVO的改进宇宙更新公式 |
4.6 计算实验与结果 |
4.6.1 IMOMVO参数设置 |
4.6.2 混合整数非线性规划模型的有效性 |
4.6.3 IMOMVO与基准算法IGSA的比较 |
4.6.4 算法比较 |
4.6.5 “关机重启”策略的有效性 |
4.7 本章小结 |
第5章 基于极限学习机的车间节能目标预测方法 |
5.1 基于矩阵编码机制的特征向量提取 |
5.2 极限学习机预测模型 |
5.2.1 IMOMVO算法计算复杂度 |
5.2.2 基于极限学习机的代理模型 |
5.2.3 数据驱动流程框架 |
5.3 实验结果与分析 |
5.3.1 实验条件 |
5.3.2 基于均匀分布变量的拉丁超立方抽样 |
5.3.3 ELM预测性能验证 |
5.3.4 ELM计算时间对比 |
5.4 本章小结 |
第6章 总结与展望 |
6.1 总结 |
6.2 展望 |
致谢 |
参考文献 |
附录 |
(6)面向河湖空间大数据的混合架构存储与检索系统研究及应用(论文提纲范文)
摘要 |
Abstract |
1 绪论 |
1.1 论文研究背景与意义 |
1.2 国内外研究现状 |
1.3 论文研究内容和章节安排 |
2 河湖空间数据对象分析 |
2.1 数据对象概述 |
2.2 河湖空间数据分类 |
2.3 结构化数据 |
2.4 非结构化数据 |
2.5 本章小结 |
3 河湖空间大数据存储与检索策略研究 |
3.1 河湖空间数据管理策略研究 |
3.2 河湖空间结构化数据存储 |
3.3 河湖空间非结构化数据模型 |
3.4 基于NoSQL的空间数据存储与检索研究 |
3.5 本章小结 |
4 混合架构存储与检索系统设计与实现 |
4.1 需求分析和功能设计 |
4.2 系统总体架构设计 |
4.3 存储与检索接口实现 |
4.4 栅格影像数据的存储与检索实现 |
4.5 空间矢量数据的存储与检索实现 |
4.6 本章小结 |
5 实验结果及分析 |
5.1 原型系统环境 |
5.2 实验结果及分析 |
5.3 本章小结 |
6 总结与展望 |
6.1 论文总结 |
6.2 展望 |
致谢 |
参考文献 |
(7)分布式异构数据库集成系统研究与实现(论文提纲范文)
1 引言 |
2 水文及水环境综合数据库交换架构设计 |
3 基于Web Service技术的数据共享平台设计 |
4 通用数据库引擎中间件 |
4.1 数据交换中间件的工作原理 |
4.2 灵活的数据类型转换机制 |
4.3 可重复使用的数据交换方案 |
4.4 大数据的分批导入 |
4.5 基于数据目录的数据管理模式 |
5 数据集成管理系统的实现 |
6 结束语 |
(8)铁路领域中多数据库系统的研究与实现(论文提纲范文)
摘要 |
Abstract |
第1章 绪论 |
1.1 课题背景和意义 |
1.2 国内外现状分析 |
1.2.1 多数据库系统 |
1.2.2 同步更新 |
1.3 本文研究内容 |
1.4 论文结构安排 |
第2章 相关知识介绍 |
2.1 铁路领域的信息管理需求 |
2.2 多数据库系统 |
2.2.1 多数据库系统的基本概念 |
2.2.2 多数据库系统的集成策略 |
2.3 Oracle数据库 |
2.3.1 Oracle体系结构 |
2.3.2 表空间与用户管理 |
2.4 数据迁移 |
2.4.1 数据迁移步骤 |
2.4.2 数据迁移工具 |
2.4.3 数据迁移验收 |
2.5 数据库访问接口技术 |
2.6 VBA |
2.7 本章小结 |
第3章 多数据库系统设计 |
3.1 需求分析 |
3.1.1 异质异构数据源整合 |
3.1.2 数据库访问控制 |
3.1.3 同步更新 |
3.2 系统框架 |
3.3 数据库模式设计 |
3.3.1 某专业数据库模式设计 |
3.3.2 共享表设计 |
3.4 同步更新设计 |
3.4.1 异构数据库间的同步更新设计 |
3.4.2 异质异构数据源间的同步更新设计 |
3.5 本章小结 |
第4章 集成与查询访问实现 |
4.1 数据集成 |
4.1.1 Excel到Oracle的数据导入 |
4.1.2 SQL Server到Oracle的数据导入 |
4.1.3 MySQL到Oracle的数据导入 |
4.1.4 Access到Oracle的数据导入 |
4.1.5 Oracle到Oracle的数据导入 |
4.2 查询访问实现 |
4.3 本章小结 |
第5章 同步更新实现 |
5.1 异构数据库间的同步更新 |
5.1.1 SQL Server类 |
5.1.2 Access类 |
5.1.3 ScheduleUpdate类 |
5.2 异质异构数据源间的同步更新 |
5.2.1 同步更新流程 |
5.2.2 功能实现 |
5.3 同构数据库间同步更新 |
5.4 性能实验 |
5.4.1 正确性 |
5.4.2 可靠性 |
5.4.3 运行性能 |
5.4.4 性能优化 |
5.5 本章小结 |
第6章 总结和展望 |
6.1 总结 |
6.2 展望 |
致谢 |
参考文献 |
攻读硕士学位期间发表的论文 |
(9)基于XML的异构数据库中间件的设计与实现(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 课题背景 |
1.2 国内外研究现状 |
1.2.1 国外中间件技术发展概况 |
1.2.2 国内中间件技术发展概况 |
1.3 论文目标 |
1.3.1 实现的目标 |
1.3.2 解决的主要问题 |
1.4 论文的组织结构 |
第二章 相关技术概述 |
2.1 XML 技术 |
2.1.1 XML 简介 |
2.1.2 DTD与 XML Schema |
2.1.3 DOM与SAX |
2.1.4 CSS与 XSL |
2.1.5 XPath与XQuery |
2.2 中间件技术 |
2.2.1 中间件技术简介 |
2.2.2 中间件的特点和分类 |
2.3 数据库中间件 |
2.3.1 数据库访问技术 |
2.3.2 数据库中间件技术 |
2.4 实现异构数据库互访的方法 |
2.4.1 传统模式 |
2.4.2 中间件模式 |
第三章 关系数据库与 XML 之间的映射 |
3.1 映射方法 |
3.1.1 基于模板驱动的映射方法 |
3.1.2 基于模型驱动的映射方法 |
3.2 关系数据库与 XML 文档的转换 |
3.2.1 从关系数据库向 XML 文档的转换 |
3.2.2 从 XML 文档向关系数据库的转换 |
第四章 BoXMLDM 的设计与实现 |
4.1 BoXMLDM 的开发环境 |
4.2 BoXMLDM 的总体设计 |
4.2.1 数据字典 |
4.2.2 SQL解析器 |
4.2.3 封装器 |
4.2.4 虚拟数据库与同步器 |
4.2.5 访问控制 |
4.3 BoXMLDM 的实现 |
4.3.1 数据字典的建立 |
4.3.2 SQL 解析器的实现 |
4.3.3 封装器的实现 |
4.3.4 虚拟数据库维护机制与同步器同步策略 |
4.3.5 访问控制策略 |
4.4 BoXMLDM 的应用测试 |
第五章 总结与展望 |
5.1 总结 |
5.2 展望 |
致谢 |
参考文献 |
(10)一种异构数据交换方法(论文提纲范文)
摘要 |
Abstract |
第1章 绪论 |
1.1 研究背景和意义 |
1.2 国内外研究现状 |
1.3 研究的主要内容 |
1.4 论文结构 |
第2章 异构数据交换相关技术 |
2.1 数据的异构性 |
2.2 数据交换途径 |
2.2.1 数据库交换工具 |
2.2.2 中间件技术 |
2.2.3 中间数据法 |
2.3 相关技术 |
2.3.1 关系数据库简述 |
2.3.2 XML 简述 |
2.3.3 ADO.NET 技术简述 |
第3章 基于ADO.NET 和XML 的异构数据交换方法 |
3.1 方法概述 |
3.2 方法目标 |
3.3 方法原理 |
3.4 详细设计 |
3.4.1 基于ADO.NET 的数据交换的详细设计 |
3.4.2 基于XML 的数据交换的详细设计 |
第4章 异构数据交换的原型工具 |
4.1 原型工具界面 |
4.2 测试示例 |
第5章 结束语 |
5.1 总结 |
5.2 下一步工作 |
参考文献 |
作者简介 |
致谢 |
四、FoxPro、Access和MS SQL Server异构数据库之间的数据格式转换(论文参考文献)
- [1]基于服务的复杂装备数据分析技术研究[D]. 于豪. 电子科技大学, 2021(01)
- [2]物流系统数据实时集成平台设计与实现[D]. 周攀. 电子科技大学, 2021(01)
- [3]面向电子商务平台的混合数据存储方案研究与实现[D]. 樊致远. 燕山大学, 2020(01)
- [4]基于元数据的预警数据集成与共享技术研究[D]. 秦世越. 西安电子科技大学, 2020(05)
- [5]数据驱动优化的车间节能调度方法研究[D]. 刘大铖. 贵州大学, 2020(04)
- [6]面向河湖空间大数据的混合架构存储与检索系统研究及应用[D]. 江穹峰. 华中科技大学, 2019(03)
- [7]分布式异构数据库集成系统研究与实现[J]. 徐爱萍,宋先明,徐武平. 计算机工程与科学, 2015(10)
- [8]铁路领域中多数据库系统的研究与实现[D]. 邓林. 西南交通大学, 2012(03)
- [9]基于XML的异构数据库中间件的设计与实现[D]. 张富强. 西安电子科技大学, 2012(03)
- [10]一种异构数据交换方法[D]. 仇新红. 吉林大学, 2010(05)