数据库
ieee数据库发展历程?
一、ieee数据库发展历程?
IEEE的前身AIEE(美国电气工程师协会)和IRE(无线电工程师协会)成立于1884年。
IEEE的兴趣主要是有线通讯(电报和电话),照明和电力系统。IRE关心的多是无线电工程,它由2个更小的组织组成, 无线和电报工程师协会和无线电协会。
随着1930年代电子学的兴起, 电气工程大抵上也成了IRE的成员,但是电子管技术的应用变得如此广泛以至于IRE和AIEE领域边界变得越来越模糊。
二战以后,两个组织竞争日益加剧1961年两个组织的领导人果断决定将二者合并,终于1963年1月1日合并成立IEEE。
IEEE/IEE Electronic Library(IEL)数据库提供1988年以来、美国电气电子工程师学会(IEEE)和英国电气工程师学会(IEE)出版的207种期刊、6279种会议录、1496种标准的全文信息,包括947,413篇文章(截止到2003年6月25日)、2,350,000 页PDF文件和500,000位作者。用户通过检索可以浏览、下载或打印与原出版物版面完全相同的文字、图表、图像和照片的全文信息。
二、数据库发展史?
“数据库”起源于上世经50年代的美国,于80年代正式传入国内。
当时的数据库技术大多应用在国防和军工领域,随着时代和技术的变迁才逐渐应用在各行各业,深深影响着中国近40年来计算机科学和数据管理方式的发展,见证了中国自主技术的蜕变!
三、ieee数据库的发展历程?
IEEE/IEE Electronic Library(IEL)数据库提供1988年以来、美国电气电子工程师学会(IEEE)和英国电气工程师学会(IEE)出版的207种期刊、6279种会议录、1496种标准的全文信息,包括947,413篇文章(截止到2003年6月25日)、2,350,000 页PDF文件和500,000位作者。用户通过检索可以浏览、下载或打印与原出版物版面完全相同的文字、图表、图像和照片的全文信息。
IEEE和IEE作为世界知名学术机构,多年来一直致力于出版有深度的高质量出版物,IEL数据库包含了二者的所有出版物,其内容计算机、自动化及控制系统、工程、机器人技术、电信、运输科技、声学、纳米、新材料、应用物理、生物医学工程、能源、教育、核科技、遥感等许多专业领域位居世界第一或前列。
四、国产数据库的发展和现状?
国产数据库经过这些年发展,早已经不再只有传统三剑客(达梦、人大金仓、南大通用),互联网巨头,网络通讯巨头、创业公司纷至沓来,呈现百花齐放、群雄汇聚的局面。
国产关系型数据库,多源自或者借鉴开源MySQL、PostgreSQL数据库及其变种,或收购商业源码(例如Informix)+自研的方式;大数据平台,多源自或直接整合开源大数据生态组件;纯自研的国产数据库还是少数,数据库种类不够丰富,尤其NoSQL这块。
五、知网数据库的发展历程?
中国知网,是国家知识基础设施(NationalKnowledgeInfrastructure,NKI)的概念,由世界银行于1998年提出。CNKI工程是以实现全社会知识资源传播共享与增值利用为目标的信息化建设项目,由清华大学、清华同方发起,始建于1999年6月。在党和国家领导以及教育部、中宣部、科技部、新闻出版总署、国家版权局、国家计委的大力支持下,在全国学术界、教育界、出版界、图书情报界等社会各界的密切配合和清华大学的直接领导下,CNKI工程集团经过多年努力,采用自主开发并具有国际领先水平的数字图书馆技术,建成了世界上全文信息量规模最大的"CNKI数字图书馆",并正式启动建设《中国知识资源总库》及CNKI网格资源共享平台,通过产业化运作,为全社会知识资源高效共享提供最丰富的知识信息资源和最有效的知识传播与数字化学习平台。 这个网站对于学生,研究生还有很对从事教学和科研的人来说,是经常浏览的一个网站,很不错。可以从上面下载到很多有用的文献,数据库很丰富。不错一般得注册会员,还得付费
六、发展数据库怎么写出来?
单位对申请入党的积极分子,应建立相关档案信息,标明发展对象姓名,年龄、性别、民族、所在部门、具体负责人员等信息
七、数据库技术的发展趋势是什么?
前言
22 年 12 月 14 - 16 号是中国 DTCC 数据库技术大会,由于疫情的影响,今年大会分享全部改到线上直播了。个人主要观看了 14 号、16 号两天技术分享,所以这里结合各位大佬的技术分享,整体做一个观后的总结和个人思考,加深一下个人整体的认识,同时也期望能够对大家能够有所帮助,大家有什么想法欢迎关注我的公众号进行交流。如果有不对的地方,也欢迎指出。下面是这三天的大会技术专场的议程:
一、数据库发展趋势闲聊
14 号这天个人主要看了上午场(数据智能 价值创新)和下午场(数据库内核技术)两个专场,上午主要观看了腾讯云(王义成)、华为云的 GaussDB(苏光牛)、PolarDB(李飞飞)、OceanBase(杨志丰)三位大佬的技术分享,主要是对数据库发展趋势的看法以及他们自家数据库的演进方向的思考。下午由于时间关系,数据库内核技术主要看了 StarRocks、PolarDB-X 两场技术分享,所以 14 号这天整体的个人总结主要从这些技术分享中带来的个人思考,下面先聊聊对数据库发展趋势的看法。
1.1 Serverless
对于数据库未来的趋势之一:serverless,这次听到这个词还是蛮多的。serverless 即无服务化,用户在使用数据库服务时,不需要关注数据库服务器的运维和管理成本,这些繁琐的管理交给云仓商来托管,用户主要专注自己应用架构设计和业务即可。对于未来云上数据库,serverless 必定是终态之一。个人还是非常认可这个观念的,serverless 能为用户带来主要以下两个好处:
- 无须关注数据库服务器繁琐的管理和运维成本
- 资源弹性扩缩容,使用户按需按量付费
这里重点说下第二点,传统模式下,用户在使用数据库服务时,需要结合实际业务的情况,通过对业务的 QPS、TPS、数据量等提前预估所需要的资源,最终来估算自己需要准备多少机器,然后提前一个月和运维部门沟通好,提交采购申请,最终使用完后,还需要想办法将采购的资源消化掉,这类情形在双十一大促期间尤为明显,这种模式下,有以下几个问题:
- 使用方需要提前预估计算资源,如果资源预估不准,会对业务以及成本有很大的影响,机器资源评估过少,当业务流量扛不住,对公司业务有影响,机器资源预估过多,会浪费很大的机器成本。
- 一次资源扩缩容链路过长,同时整个过程时间很久,同时在业务使用完后,还需要消化剩余的机器资源。一次资源扩容的需求,公司的人力成本过大。
所以使用 serverless 服务能够做到资源弹性扩缩容,同时做到按需按量付费。当然 serverless 弹性扩缩容具体能够做到什么程度,实际扩缩容的时间、扩缩容与实际业务使用资源的差异、扩缩容对于线上业务的影响,对于用户使用体验和成本,影响都很大。对于数据库内部冷热数据,也可以做到 serverless,把不经常使用的数据放到冷数据底层的存储,降低存储成本。
我看阿里云和中国信通院云大所联合发布了《Serverless数据库技术研究报告》,我还没有看,感兴趣的同学可以去看看。同时也可以看下伯克利关于 serverless 的 这篇Paper(李飞飞大佬推荐):
1.2 存算分离
上面说到 serverless 的弹性扩缩容,那么如何做到用户按需进行扩展(CPU、内存、磁盘)?所以云上数据库存储和计算分离是个很好的思路。
很多传统数据库是 Shared Nothing 架构,计算资源(CPU)和存储资源(内存、磁盘)都是在一台机器上,这样的好处能够降低网络 IO 带来的传输时间成本,最大化提升查询性能。但有一个问题就是,由于计算资源和存储资源都是在一起的,用户在机器扩缩容时,必须同时对计算资源、存储资源一起进行扩缩容,但可能用户只扩容计算资源,不想扩容存储资源,此时这种模式会对存储资源有一定浪费。
存算分离,用户能够分别对存储或者计算资源单独进行扩缩容,按实际业务需要来进行资源调整,进一步节约资源成本。当然存算分离架构下,也有两个不足点:
- 存储和计算之间会有一层数据网络 IO 传输时间成本,为了降低网络 IO 的影响,一般可以在计算节点上,加一层 Local Cache。
- 存储分离下,由于网络 IO 容易是瓶颈,会导致集群规模机器数容易受限。
可见,任何技术特性都不是银弹,需要结合实际业务侧需求,来综合评估,很多东西就是 Trade Off。下面是 PolarDB-X 的一张图:
1.3 私有云、公有云、混合云一套架构部署
这个不用多说了,私有云、公有云、混合云一套架构部署,便于数据库的运维和管理,能够提升数据库产品的交付效率,降低产品的交付成本,这对于私有云部署模式,带来的好处尤为明显。
1.4 多模多态一体化数据库
随着社会的发展,人们产生的数据格式越来越复杂,结构化(比如关系型)、半结构化(比如 Json、CSV)、非结构化(比如视频、图片)数据,相应的,单一模型的数据库也已经很难再完全支持公司的业务需求,数据库的种类也越来越多,RDS 数据库、KV 数据库、图数据库、文档型数据库、时序数据库等等。当然,完全通过一款数据库满足用户侧所有的业务需求也不现实,只能说在一款数据库上,尽可能多的来 Cover 业务侧需求。
比如现在 HTAP 数据库,在 TP 的基础上,增加了 AP 的数据分析能力,提升数据库的分析时效性,同时一般会带着 Zero-ETL 的口号一起来宣传,像 GassDB、PingCAP TIDB、阿里 PolarDB、OceanBase、SingStoreDB(原 MemSQL)都在做 HTAP。阿里 ADB 的离在线一体化(离线 ETL 处理 + 在线 OLAP 分析),让数据库尽可能 Cover 离线 ETL 和在线 OLAP 分析需求。阿里的 Lindorm多模数据库,提供宽表、时序、文件、搜索等多种数据模型等等。
1.5 数据库智能化
数据库智能化,主要有两个方向:
- AI For DB
- DB For AI
AI For DB,主要思路是结合 AI 机器学习能力,智能化运维和管理数据库,让数据库做到自治化,智能的做到 SQL 性能优化和问题根因诊断。
DB For AI,主要是如何让 DB 来支持更多 AI 场景的需求,怎么做到 AI 模型的抽象、存储、推理等等,这块个人了解的比较少。
1.6 模块化构建数据库
李飞飞大佬认为未来数据库系统内核可以结合用于实际业务侧需要,模块化的组装出数据库,比如用户的需求可能是:读多写少、读少写多的、分析型的、IO 密集型、计算密集型、AI 类的、HTAP 类型等等,相应的需要的存储、计算、带宽等对应的硬件资源,可以使用不同型号和规格的硬件来组装,对于底层机器资源来说,数据库能够做到一套代码,数据库内核各模块在不同形态下的资源类型,同时能够很好的 Work。
个人认为未来数据库内核各模块不仅能够在不同形态下的资源类型进行构建,同时数据库内核也能够进行组装。未来对于一个 DataBase 的研发,可能就是使用已有的数据库中各模块的标准事实开源组件,快速组装出一个 DB,比如 SQL 方言标准(使用 Mysql / PG)、SQL Planner 层( Apache Calcite / DuckDB )、Planner 层和 Runtime 层计划序列化通信方式(substrait)、Runtime 层使用( Apache Arrow + Rust Or ClickHouse)、数据湖存储(Iceberg / Hudi / Deltalake)、列存(Parquet Or ORC) 。公司将相对有限的工程资源,尽可能多的投入到差产品异化功能上,这样才能和其他同类产品有竞争优势,形成独特性。
1.7 用户对数据库拥有更强的自主可控性
Blue/Green Deployment 是 AWS 2022 re:Invent 亮相的产品,看网上资料说是一套灰度技术,未来用户想去做某个操作时,但不确定该操作对线上实际业务的影响是什么,此时就可以借助 Blue/Green Deployment 来灰度进行验证,没有问题,在完全切流。
下面这张图片的出处是来源于知乎同学@zhoutall 的文章<a href="https://zhuanlan.zhhttp://ihu.com/p/591406895">《AWS re:Invent 2022数据库内核视角摘要》,感兴趣可以看下他这篇文章,还是非常有收获的。个人看完也非常认可其观点的,现在云数据库场商希望用户做得事情越来越少,所以提供了很多工具,或者解决方案,来帮助和指导用户做决策和执行,但实际用户可能需要更大的自主可控权(对业务影响的可控)。
二、数据库内核技术分享总结
数据库内核技术方面,个人主要听了 OceanBase、Starrocks、阿里云 DLA,所以这里主要讲下这三场分享的总结。
StarRocks 今年主要宣传语是从极速 OLAP 到极速数据湖分析,从原来数据在自己 OLAP 存储到底层存储是数据湖,所以第一步则是在 Connector 做了扩展,支持了 Hudi、Iceberg(v1、v2)、Hive、JDBC 数据源。扩展了新的数据源,那么 FE 的元数据这一层,肯定要能够识别到外部数据源,同时对于外部的数据源元数据获取,增加了 Cache(分区、文件 List、统计信息)。其他也做了各种细节优化,比如 Scan 优化、优化器等等。
StarRocks 今年还做了存算分离,这样的话,计算节点是无状态的,那么可以弹性扩缩容。最值得关注的一点,今年 StarRocks 提出了它们的 StarOS 的设计,StarOS 通过抽象和统一存算分离架构下的分布式逻辑,同时统一了存储,这块听起来感觉不错,具体信息后面看 StarRocks 的分享吧。
阿里云 DLF 主要分享了他们如何做统一的湖仓元数据服务的经验,目前业界开源数仓标准的元数据服务是 Hive MetaStore,所以几乎主流引擎都支持直接从 Hive MdetaStore 中读取数据。但 Hive 本身也有部分局限性:
- ACID 和 Hive 引擎绑定,同时不支持 Time-Travel 查询数据/元数据
- 不易于对接内部自家引擎接入,单点问题,同时引擎需要 Thrift 协议接入,高可用的问题。
而在开源权限体系方面,主要有 Hive 自身权限和 Apache Ranger,但它也有各自缺陷:
针对以上两点,所以阿里云做了 DLF 这款产品,统一了湖仓的元数据服务,同时兼容了 HMS 接口,对外也提供标准的 Open API ,方便客户接入。
其他的一些分享,个人记得比较清楚两点是:数据库的迁移工具和数据库容灾。如果你的产品如果想买入到某家客户时,尤其是数据库方面,那么你要考虑到客户存量的业务如何能够方便的迁移到你的产品上来,最好能够非常底成本的、客户无感的迁移。同样,数据库容灾,关乎着企业数据和业务生存问题。
三、个人思考
不得不说,国内在数据库这个领域还是挺卷的,共有 200 多家数据库公司,有 TP 的、AP 的、数仓的、湖仓的等等,但最终能跑出来的可能就几家。当前云上数据库一直都被国内几家云场商占领着,比如阿里云、腾讯云、华为云等等,对于中小型创业公司而言,云肯定是要做的,但在国内市场直接去和几家云厂商 PK 云,当前阶段还是过于激进,赢面较小,选择出海,可能更加明智一些。
中小型创业公司目前主要争取还是私有云场景下独立部署的市场,这样不仅要保证自家产品的质量,同时还要比拼谁家的交付效率更快、交付成本更低,这样才有更大赢的可能性。
八、数据库发展前景怎么样?
数据库发展前景非常好!
数据库与信息系统专业的硕士毕业生就业范围非常广泛,均可在大型企业、金融机构、政府机构、研究机构和教育机构应聘到满意的职位。
该专业从职责和工作性质可以分为数据库设计应用和数据库运营维护两大类。
前者侧重于软件和数据逻辑层面,毕业生可以担任数据库应用开发专员、数据建模专员、商业智能专员、ETL开发及数据架构专员等职;后者侧重于硬件和数据物理层面,毕业生可以担任数据库管理员、数据仓库专员、存储工程师、性能优化工程师及高级数据库管理员等职。
九、数据库在Internet中的发展历史?
数据库在Internet中的发展可以追溯到20世纪90年代初,当时网络技术正在迅速发展,各种数据库系统也开始出现。随着Internet的发展,数据库技术也发展迅速,出现了许多新的数据库系统,比如关系型数据库、非关系型数据库、分布式数据库等。这些数据库系统为Internet提供了更加可靠和高效的数据存储和管理能力,为Internet的发展做出了重要贡献。
十、关系型数据库与非关系型数据库的发展前景?
优点:
1)成本:nosql数据库简单易部署,基本都是开源软件,不需要像使用oracle那样花费大量成本购买使用,相比关系型数据库价格便宜。
2)查询速度:nosql数据库将数据存储于缓存之中,关系型数据库将数据存储在硬盘中,自然查询速度远不及nosql数据库。
3)存储数据的格式:nosql的存储格式是key,value形式、文档形式、图片形式等等,所以可以存储基础类型以及对象或者是集合等各种格式,而数据库则只支持基础类型。
4)扩展性:关系型数据库有类似join这样的多表查询机制的限制导致扩展很艰难。
缺点:
1)维护的工具和资料有限,因为nosql是属于新的技术,不能和关系型数据库10几年的技术同日而语。
2)不提供对sql的支持,如果不支持sql这样的工业标准,将产生一定用户的学习和使用成本。
3)不提供关系型数据库对事物的处理。
非关系型数据库与关系型数据库各自的优势
非关系型数据库的优势:
1. 性能NOSQL是基于键值对的,可以想象成表中的主键和值的对应关系,而且不需要经过SQL层的解析,所以性能非常高。
2. 可扩展性同样也是因为基于键值对,数据之间没有耦合性,所以非常容易水平扩展。
关系型数据库的优势:
1. 复杂查询可以用SQL语句方便的在一个表以及多个表之间做非常复杂的数据查询。
2. 事务支持使得对于安全性能很高的数据访问要求得以实现。对于这两类数据库,对方的优势就是自己的弱势,反之亦然。
非关系型数据库的优势和劣势
关系型数据库把所有的数据都通过行和列的二元表现形式表示出来。
关系型数据库的优势:
1. 保持数据的一致性(事务处理)
2.由于以标准化为前提,数据更新的开销很小(相同的字段基本上都只有一处)
3. 可以进行Join等复杂查询
其中能够保持数据的一致性是关系型数据库的最大优势。
关系型数据库的不足:
不擅长的处理
1. 大量数据的写入处理
2. 为有数据更新的表做索引或表结构(schema)变更
3. 字段不固定时应用
4. 对简单查询需要快速返回结果的处理
热点信息
-
在Python中,要查看函数的用法,可以使用以下方法: 1. 使用内置函数help():在Python交互式环境中,可以直接输入help(函数名)来获取函数的帮助文档。例如,...
-
一、java 连接数据库 在当今信息时代,Java 是一种广泛应用的编程语言,尤其在与数据库进行交互的过程中发挥着重要作用。无论是在企业级应用开发还是...
-
一、idea连接mysql数据库 php connect_error) { die("连接失败: " . $conn->connect_error);}echo "成功连接到MySQL数据库!";// 关闭连接$conn->close();?> 二、idea连接mysql数据库连...
-
要在Python中安装modbus-tk库,您可以按照以下步骤进行操作: 1. 确保您已经安装了Python解释器。您可以从Python官方网站(https://www.python.org)下载和安装最新版本...