[导读]整理|田玮靖出品|CSDN(ID:CSDNnews)当前,新一轮科技革命使得数据规模爆炸性增长、数据类型愈发丰富、数据应用快速深化,同时,云数据库、HTAP数据库、AI向量数据库等物种的出现,为数据库领域带来了新的技术难题和业务痛点。如:分布式中的一致性,那么多数据一致性模型,到...
整理 | 田玮靖出品 | CSDN(ID:CSDNnews)当前,新一轮科技革命使得数据规模爆炸性增长、数据类型愈发丰富、数据应用快速深化,同时,云 数据库、HTAP数据库、AI向量数据库等物种的出现,为数据库领域带来了新的技术难题和业务痛点。如:分布式中的一致性,那么多数据一致性模型,到底有什么不一样?如何保障数据安全与业务稳定发展?云数据库有哪些关键技术,怎么实现?“多云共存”,怎么进行数据库管控?以上问题有你正在关注、疑惑的地方吗?不妨看看国内大厂都是如何解决诸多难题的吧。10月23-24日,第二届“长沙·中国1024程序员节”(1024.csdn.net)重磅来袭,除16大数据库掌门人齐聚之外,组委会更特别推出“数据库技术实践与未来展望”主题论坛,邀请分布式数据库、云原生数据库、开源数据库、图数据库等领域的技术专家,围绕开发者广泛关注的数据库技术,结合大厂优秀实践,为你详细解读数据库技术痛点解决方案、前沿技术实现、技术应用趋势,希望你在处理好业务的同时,能够及时抓住发展机遇。接下来,我们一起来看来自 腾讯TDSQL、阿里巴巴PolarDB、PostgreSQL、蚂蚁集团OceanBase、字节跳动、人大金仓、云和恩墨的大咖们都将带来哪些精彩的分享。分布式数据库中的一致性创新技术我们经常谈论一致性,但很多人又不明确一致性的含义。其实,在不同场景下,有着不同的一致性,腾讯数据库首席架构师李海翔就分布式数据库范围内的各种一致性做深度剖析,并对它们之间的关系做深度探索,最后还提出业界最新的一致性技术,并就多种主流数据库在一致性层面的差异做深度分析和解读。李海翔, 腾讯数据库首席架构师、CCF数据库专委会委员,著有《数据库查询优化器的艺术》《数据库事务处理的艺术》《分布式数据库原理、架构和实践》等。
演讲大纲:1. 一致性技术的问题和挑战- 1.1 为什么要做到一致性?
- 1.2 什么是一致性?
2. 有哪些一致性技术?- 2.1 架构层面的一致性
- 2.2 数据层面的一致性
- 2.3 事务处理的一致性
- 2.4 分布式一致性
3. 如何实现分布式数据库的强一致性技术?- 3.1 在分布式数据库中,如何实现强一致性?
- 3.2 主流数据库强一致性的优劣对比
云原生数据库、Serverless数据库与分布式数据库领域的发展和统一近年来,随着高速总线技术与网络设备的进一步演进,分离式数据中心(Disaggregated Data Center)极有可能发展为未来云机房的标准,因此,阿里巴巴设计了下一代的云数据库架构,以内存池化、多租户、热迁移、混合逻辑时钟等技术为基础,融合了云原生数据库、Serverless数据库和分布式数据库等多个领域的数据库技术,向用户提供更加简单透明的扩展体验。来自阿里巴巴的研究员、PolarDB创始人曹伟(鸣嵩)将介绍云原生数据库、Serverless数据库和分布式数据库的关键技术,以及下一代云数据库架构的技术实现。曹伟(鸣嵩),阿里巴巴研究员,设计和主导研发了中国首个自主可控的云原生数据库PolarDB。演讲大纲:1. 云原生数据库的关键技术- 1.1 技术与存储分离
- 1.2 RDMA、NVM等高速硬件
- 1.3 共识算法
- 1.4 日志下推
- 1.5 计算下推
2. Serverless数据库的关键技术- 2.1 Auto Scale、Auto Pause
- 2.2 Scaling Transparency
- 2.3 Self-Driving
3. 分布式数据库的关键技术- 3.1 分布式事务
- 3.2 分布式查询
- 3.3 HTAP与湖仓一体
4. 下一代云数据库架构展望- 4.1 分离式数据中心与内存池化
- 4.2 多租户与热迁移技术
- 4.3 Scale-Out on top of Scale-Up
基于PostgreSQL的技术生态发展历程和演进趋势PostgreSQL是一专多长的全栈式数据库,其凭借丰富的特性,稳定的表现,友善的协议,开放的生态,在广大数据库用户中倍受赞誉,三次摘得DB-Engines年度数据库桂冠!PostgreSQL中国区主席将为你介绍PostgreSQL扩展相关的生态,展现PostgreSQL内核之外的世界,为广大PG数据库的使用者,提供更多更优的解题思路,还会介绍一些基于PostgreSQL的分支、分叉、分布式、时序、流式数据库的解决方案。张文升,PostgreSQL中国社区主席,探探数据库负责人,《PostgreSQL实战》《PostgreSQL指南:内幕探索》等书籍译者。演讲大纲:1. 运行在PostgreSQL上的扩展生态- 1.1 行业事实标准PostGIS
- 1.2 流式数据处理 Extension Pipelinedb
- 1.3 时序数据Extension Timescaledb
- 1.4 基于Extension机制的分布式解决方案 Citus
2. 基于PostgreSQL的创新历程和实践- 2.1 早期的分布式实现PG-XC,PG-XL
- 2.2 PostgreSQL在国内的创新分叉 openGauess
- 2.3 分布式解决方案创新产品 PalarDB-PG,TDSQL-PG,antDB
- 2.4 时序数据库新秀MatrixDB
- 2.5 PostgreSQL之于信创
3. PostgreSQL关键技术的演进趋势- 3.1 可插拔存储引擎(TAM)对PostgreSQL生态演进方向的影响
- 3.2 人工智能和云基础设施和新兴硬件构建新时代的数据库应用形态
- 3.3 数据库服务和支撑体系的变革
数字化转型中面临的关键挑战和尝试企业在数字化转型中,对数据管理的主要诉求及面临的挑战是连续性和先进性,企业需要在这个战略性变革中平滑过渡,还需要能够长期演进的数据库产品、技术和解决方案。来自OceanBase的产品部负责人王南将为你介绍他们的解决方案和建议。王南,OceanBase产品部负责人,原华为openGauss数据库总经理,曾负责GaussDB、openGauss和GMDB等业务。演讲大纲:1. 数字化过程中面临的新挑战2. 怎么解决这些挑战和问题- 2.1 集中式到分布式的业务改造
- 2.2 数据的平滑迁移
- 2.3 容灾技术和方案
- 2.4 HTAP能力
- 2.5 混合基础设施部署
- 2.6 成本和风险控制
3. 下一步还需要做什么- 3.1 新场景、新硬件和新技术的挑战
- 3.2 OceanBase的尝试
字节跳动图数据库和图计算实践随着移动互联网的深入发展,数据实体之间的关联性越发凸显,Graph在解决关联性问题时有种种优势,也成为学术界和工业界关注的热点。Gartner预测,到2025年图技术在数据和分析创新中的占比将从2021年的10%上升到80%。该技术将促进整个企业机构的快速决策。在字节跳动多条产品线上,拥有大量图状关系数据,如何存储、查询、分析乃至挖掘这些图状数据不仅关系到核心数据资产的安全,也影响到是否能够充分挖掘数据价值赋能业务。因此,图数据的存储和计算,是字节跳动架构工程团队的核心方向之一。字节跳动图数据库与图计算平台负责人张帅将以字节跳动的业务场景为例,分享图数据库和图计算技术如何解决具体数据处理问题。张帅,字节跳动图数据库与图计算平台负责人,中科院计算所硕士毕业,专注基础架构领域。演讲大纲:1. 图形数据无处不在- 1.1 字节跳动的图数据场景举例
- 1.2 如何用图来对数据建模
2. 图数据库系统- 2.1 现有图数据库架构比较
- 2.2 字节跳动实践架构演进
- 2.3 字节图数据库的未来演进
3. 图计算系统- 3.1 图计算系统有哪些典型场景
- 3.2 图计算系统和图数据库系统对比
- 3.3 字节图数据库系统实践
4. 一站式图平台- 4.1 多种技术如何抽象为业务场景
- 4.2 平台功能介绍
5. 总结如何在“多云共存”环境中,进行数据库管控如今,信息化已经进入了云计算、大数据快速发展的时代,越来越多的业务在云端开展,迫切需要将数据库服务管控能力与云计算平台进行深度融合,提供可按需申请、开箱即用、稳定可靠、可弹性扩展的云端数据库服务。同时,在云时代,“多云共存”成为新一代IT基础设施的存在形态,但不同的云平台其技术标准不一、实现方式各异,使得统一申请、使用、管理数据库变成了一件难事。在此背景下,人大金仓提出了新的解决思路,其工具产品研发中心总监将在演讲中为你揭晓。 黄新著,北京人大金仓信息技术股份有限公司工具产品研发中心总监,拥有20年IT行业从业经验,具备丰富的软件产品、软件架构设计和研发实战经验。演讲大纲:1. 云数据库时代的RDS2. 金仓云数据库服务(KRDS)管控新思路- 2.1 立于多云环境之上的KRDS
- 2.2 平台化与服务化的KRDS体系架构
- 2.3 金仓云数据库全生命周期管理及关键技术
- 2.3.1 基于智能翻译技术实现异构数据库迁移转换和改写
- 2.3.2 无侵入的探针技术
- 2.3.3 海量数据迁移加速技术
- 2.3.4 数据库性能诊断、分析与调优
3. 如何实现跨越多云的RDS实例管控- 3.1 KRDS云适配器设计思路
- 3.2 KRDS实例管控
内存表MOT存储引擎的创新与实现MOT(memory-optimized tables,内存优化表)是以内存为中心的行存储引擎,提供事务ACID保证,针对众核和大内存优化,可以提供非常高的交易型工作负载性能。云和恩墨MogDB数据库CTO张程伟,就MOT中涉及的关键技术进行介绍,并对其未来的演进方向进行探索。张程伟,云和恩墨MogDB数据库CTO,曾任华为云数据库创新LAB首席架构师,拥有个人专利23项。演讲大纲:1. 数据库的性能挑战- 1.1 数据库的性能分布
- 1.2 数据库的性能优化方向
2. 以内存为中心的数据库设计- 2.1 MOT总体方案
- 2.2 无锁高并发的索引设计
- 2.3 乐观的事务并发控制协议
- 2.4 高效Checkpoint机制
- 2.5 内存管理机制
- 2.6 兼容性设计
3. 未来演进方向如何使用全面向量化技术,打造极速统一的数据分析架构数据驱动正在深刻地改变整个世界,我们的业务数据、数据报表、数据指标越来越多,但我们分析数据的速度却越来越慢,报表构建的复杂度也越来越高。如何有效地分析这些海量数据,真正利用数据为业务创造价值?本次分享主要介绍如何使用全面向量化技术,打造极速统一数据分析架构,高效支持海量数据的多维分析、实时分析、高并发分析等多种数据分析场景。赵纯,StarRocksCTO。曾在百度作为技术负责人带领团队从零到一成功研发分布式事务数据库TafDB。作为Apache Doris初创成员之一,参与该项目的打造并主导了Doris数次架构迭代及开源、社区构建、推广等工作。演讲大纲:1. 数据分析现状和挑战2. 极速统一架构:何谓极速- 2.1 单表、多表极速分析
- 2.2 向量化执行引擎
- 2.3 CBO优化器
- 2.4 物化视图
3. 极速统一架构:何谓统一4. 应用案例:贝壳找房的统一OLAP平台俗话说,再厉害的工程师,也需要站在前人的肩膀上造轮子,才能创造更大的价值。10月24日,关于大厂如何做数据库,解决技术难题、业务痛点,这里有你想要的答案!除“ 数据库技术实践与未来展望”论坛外,还有先进计算与人工智能技术、工业互联网
欲知详情,请下载word文档
下载文档
本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
[信息速递]
知情人士回应腾讯大规模裁员:消息不实!
近日有网友在职场内容社区发布消息称,据相关员工内部消息,某大厂开始裁员,裁员比例10%到30%。该消息中点名的PCG、CSIG事业群,均为腾讯公司下属事业群。从腾讯多位知情人士了解到,该消息为假消息。
关键字:
腾讯
裁员
[信息速递]
腾讯游戏战略巨变,重心从国外转向自研
业内消息,近日外媒报道国内游戏巨头腾讯内部正在发生一场巨变,一款可爱角色克服障碍的简单易玩游戏已经被放在了优先开发位置,而以往备受青睐的一款高成本、复杂的外国IP手游则被冷落。
关键字:
腾讯
游戏
[厂商文章]
尼得科株式会社入选科睿唯安《2024年全球创新Top100》榜单
科睿唯安《全球创新Top100》以该公司拥有的专利数据库为基础,根据“成功率”、“地域投资”、“影响力”、“稀缺性”四个评价维度对知识产权进行分析,评选出全球百强创新企业和机构。该评选从2012年开始每年实施一次,202...
关键字:
数据库
5G
人工智能
[亚马逊云科技]
亚马逊位居IDC MarketScape全球云计算和以应用为中心的市场供应商“领导者”类别
北京——2024年2月26日 日前,领先的IT市场研究和咨询公司IDC发布《IDC MarketScape:全球云计算和以应用为中心的市场供应商评估》1报告,亚马逊位列“领导者”类别。报告指出,“亚马逊云科技Market...
关键字:
云计算
数据库
存储
[信息速递]
出货惨淡!2023年中国电视盒子出货量骤降27.5%!
业内消息,据洛图科技新一期《中国智能盒子线上零售市场追踪》报告,2023 年中国智能盒子(智能机顶盒)出货量惨淡,年度整体销量 313 万台,较 2022 年下降 27.5%。
关键字:
电视盒子
出货量
腾讯
小米
天猫魔盒
[信息速递]
64亿北京海淀拿地,腾讯回应!
业内消息,近日北京市规自委官网显示,北京市海淀区学院路北端A、B、C、J地块B4综合性商业金融服务业用地、B23研发设计用地完成出让,最终由腾讯科技(北京)有限公司底价摘得,成交价格为底价64.2亿元。
关键字:
腾讯
[信息速递]
《英雄联盟》开发商裁员 11%,补偿6个月薪水!
最新消息,《英雄联盟》开发商拳头游戏(Riot Games)公司首席执行官 Dylan·Jadeja 近日发布全员信,表示将于近期裁员 11%,共涉及 530 名员工。
关键字:
英雄联盟
裁员
拳头游戏
腾讯
[信息速递]
腾讯起诉迅雷不正当竞争
业内消息,近日深圳市迅雷网络技术有限公司及旗下深圳市迅雷网文化有限公司新增两则开庭公告,原告为腾讯科技(北京)有限公司、重庆腾讯信息技术有限公司,其中一起案件原告还包括深圳市腾讯计算机系统有限公司,案由均为不正当竞争纠纷...
关键字:
腾讯
迅雷
[信息速递]
英雄联盟等一众游戏服务器崩溃,腾讯回应!
最新消息,昨天有网友反馈腾讯旗下《英雄联盟》《穿越火线》《英雄联盟手游》《地下城与勇士》《金铲铲之战》《和平精英》等游戏服务器崩溃,在线玩家全部掉线,掉线后重连有概率可以连上,但目前服务器仍然不稳定。
关键字:
英雄联盟
游戏
服务器
崩了
腾讯
[信息速递]
旗下朝夕光年正与腾讯谈判出售多款游戏?字节回应
最新消息,针对「字节跳动旗下游戏部门朝夕光年正与腾讯谈判出售多款游戏」一事,昨天晚间朝夕光年相关负责人回应称,相关团队还在与多个买家商谈项目出售事宜,至今尚未敲定任何与腾讯的交易。
关键字:
朝夕光年
腾讯
游戏
字节
[亚马逊云科技]
亚马逊云科技中国8家合作伙伴获得亚马逊云科技合作伙伴奖项
北京——2023年12月27日 在2023亚马逊云科技re:Invent全球大会上,亚马逊云科技表彰了在过去一年中,利用亚马逊云科技的技术和服务在推动客户创新及解决方案构建方面做出杰出贡献的卓越合作伙伴。8家亚马逊云科技...
关键字:
数智化转型
机器学习
数据库
[信息速递]
Meta与腾讯达成初步协议:在中国销售VR设备
业内消息,近日有外媒称Meta已与腾讯达成初步协议,将在中国销售价位较低的新款Quest VR设备。据悉,腾讯将于明年末开始销售,销售收入中Meta将获得更高比例的硬件销售额,腾讯将在内容和服务收入中占据更多份额,如软件...
关键字:
Meta
腾讯
VR
[信息速递]
暴雪与网易“复合”?最新回应
业内消息,昨天据36氪报道称,从多个独立信源获悉,过去一段时间,暴雪与国内多家游戏厂商洽谈了“国服回归”事宜,最终选择与网易重新牵手合作。对此网易未予回应,此前,有知情者透露网易负责运营暴雪国服的团队已解散,短期重组可能...
关键字:
暴雪
网易
腾讯
国服
游戏
微软
[信息速递]
8100万美金!虎牙收购腾讯旗下移动应用服务商
业内消息,近日虎牙在提交给美国证券交易委员会(SEC)的文件中披露,通过其全资子公司与腾讯控股的全资子公司达成最终协议,以8100万美元的总现金对价从腾讯手中收购一家全球移动应用服务提供商的100%股权,但收购价格可能会...
关键字:
虎牙
收购
腾讯
[信息速递]
游戏行业巨震!腾讯网易等暴跌千亿
最新消息,上周国家新闻出版署在官网发布《网络游戏管理办法(草案征求意见稿)》,向社会公开征求意见。公告发布后直接引起游戏行业巨震,下午 A 股、港股游戏板块集体闪崩,A 股中三七互娱、吉比特、完美世界等个股集体跌停。
关键字:
游戏
腾讯
网易
[信息速递]
消息称2023年字节跳动销售额大增,超过腾讯!
近日彭博社从知情人士处获悉,2023年字节跳动的销售额为1100亿美元(当前约合人民币7861亿),同比大增30%,超过腾讯。知情人士称增速和去年大致相当,当时该公司报告的销售额超过800亿美元。
关键字:
字节跳动
腾讯
互联网
[亚马逊云科技]
亚马逊云科技宣布推出三项无服务器服务创新,助力客户以任意规模分析和管理数据
北京——2023年12月7日 亚马逊云科技在2023 re:Invent全球大会上,宣布推出三项新的无服务器服务创新,涵盖了数据库和分析领域,使客户能够更快速、更轻松地扩展他们的数据基础设施,以支持最具挑战性的应用场景。...
关键字:
服务器
人工智能
数据库
[亚马逊云科技]
亚马逊云科技宣布推出四项Zero-ETL集成特性,让跨数据存储的数据访问与分析更快速、更便捷
北京——2023年12月4日 亚马逊云科技在2023 re:Invent全球大会上,宣布推出一系列新的集成解决方案,旨在帮助客户迅速而轻松地连接和分析数据,而无需构建和管理复杂的提取、转换和加载(ETL)数据管道。通过全...
关键字:
数据存储
数据库
人工智能
[信息速递]
腾讯视频崩了!官方回应
最新消息,昨天晚上腾讯视频出现网络故障,有网友反馈出现首页无法加载内容、VIP 用户看不了会员视频等情况......随即该消息迅速登上微博热搜。随后,腾讯视频官方回应称,目前腾讯视频出现了短暂技术问题,正在加紧修复,各项...
关键字:
腾讯
[信息速递]
暴雪和网易腾讯谈判国服回归?腾讯回应
业内消息,近日网传暴雪正在和网易腾讯等多家国内游戏商谈判国服回归事宜,但目前尚未有确定的合作方和具体回归时间。昨天腾讯旗下魔方工作室疑似在B站进行魔兽世界相关直播,随后腾讯游戏对此进行了回应。
关键字:
暴雪
网易
腾讯
国服
游戏