大数据

AI 写 SQL 真的靠谱吗?腾讯游戏在 AI + 湖仓一体的实践

腾讯游戏数据团队每年需要处理超过 3 万个数据提取需求,SQL 编写需要耗费大量时间和精力,如何提升效率成为了一个关键问题。

danny_2018
数据分析
2024-06-11 15:21

Kafka如何实现每秒百万级高并发写入?

Kafka可以做到每秒百万级的超高并发写入,为什么"Kafka可以做到如此快",下面我就重点讲解Kafka高性能背后的4大核心原因

大数据技术前线
数据分析
2024-06-11 10:48

Spark 的这两个算子,值得你深入研究一下

估计现在大部分同学在用 Spark 的时候,都用的是它的 SQL API,其中的算子应该就用的很少了。

大数据技术前线
数据分析
2024-06-11 10:48

“大模型+数据治理”的应用场景与实践

数据的采集方式、使用环境以及组织之间存在的语义差异导致数据碎片化现象严重,大模型的出现将对企业数据治理产生深远影响,自然语言有望成为数据语言,使企业能够更加容易地访问数据,而不需要解决以上导致数据碎片化的难题。

danny_2018
数据分析
2024-06-06 14:45

阿里云 EMR Serverless StarRocks3.x,极速统一的湖仓新范式

EMR StarRocks 线上公开课第1期 ,直播主题:EMR Serverless StarRocks3.x,极速统一的湖仓新范式。

阿里云大数据AI技术
可视化
2024-06-06 09:59

6 幅图,通透理解 Elasticsearch 的六大顶级核心应用场景

Elasticsearch 以其强大且多功能的搜索能力而广受欢迎。 但在介绍 Elasticsearch 应用场景的时候,之前我也写过几篇,总感觉字多图少,对于初学者或者数据库、技术栈选型的企业用户并不直观、友好。 Elasticsearch Top5典型应用场景 Elasticsearch, 你值得拥有!—— 云栖大会 Elasticsearch 场景化应用全景回顾 有没有一个场景一幅图生动的介绍 Elasticsearch 最核心、最顶级的场景呢? 费尽周折,我们终于看到了这幅图。

大数据技术前线
数据分析
2024-06-05 10:12

[WWW2024]轻量数据依赖的异常检测重训练方法LARA

开篇近日,由阿里云计算平台大数据基础工程技术团队主导,与浙江大学合作的论文《LARA: ALight and Anti-overfitting Retraining Approach for Unsupervised Time Series Anomaly Detection 》被WWW2024收录,该方法解决了云服务正常模式随时间不断变化,且在变化初期观测数据数量不足以支撑模型训练的问题。目前L

阿里云大数据AI技术
数据分析
2024-06-05 09:54

流批一体技术简介

本文由阿里云 Flink 团队苏轩楠老师撰写,旨在向 Flink 用户整体介绍 Flink 流批一体的技术和挑战。内容主要分为以下三个部分: 流批一体技术简介 面临的挑战 总结

大数据技术前线
数据分析
2024-06-04 15:31

面对2千万的json,Clickhouse的表现有点扑街

与此同时呢,好奇心驱使,我又基于同样的需求,在 Clickhouse(下称CK) 身上做了同样的测试,这不测不知道,一测才发现,CK 在外部数据源导入这块的表现,跟 Doris 相比,着实有点让人失望。 那么这篇文章,咱就来看看,一个2千万的 json 数据,是怎么经历“九九八十一难”,给倒腾到 CK 库里面的。

大数据技术前线
数据分析
2024-06-04 15:28

Kyuubi 1.9.1 版本发布,支持 Spark 4.0

近日,Apache Spark 4.0.0-preview1 发布,意味着 Spark 正式进入 4.0 时代;Apache Kyuubi 同步发布了 1.9.1,此版本支持 Spark 3.1~3.5 以及 4.0。

danny_2018
数据分析
2024-06-04 13:37

数据湖在快手的应用实践

 快手业务发展迅速,对数据精细化运营的要求越来越高。随之而来,数仓的数据模型持续快速增长。

danny_2018
数据分析
2024-06-03 09:42

网易数帆:引领DataOps革新,揭秘NoETL突破性实践 | 附全文解读

  随着“数据要素X”、“人工智能+”计划的推出,新一轮的技术对产业产生了变革性的影响。近日,由中国通信标准化协会主办,中关村科学城管委会支持、中国通信标准化协会大数据技术标准推进委员会(CCSA TC601)承办的“2024DataOps发展大会”在京举办。

云计算频道
数据挖掘
2024-05-31 10:39

数据库工具选型策略与实践——以北京银行为例

数据库工具在数据库产品的使用、开发、测试和运维等各个阶段都发挥着重要的作用。本文通过对话北京银行数据库技术专家王文清,深入探讨了数据库工具的需求分析、选型策略、用户反馈等话题,旨在帮助数据库从业者更好地了解和选择适合自己的数据库工具。

网络通信频道
数据分析
2024-05-30 14:27

微信云原生大数据平台构建及落地实践

微信大数据平台架构的演进,从早期的自研资源调度平台到基于Kubernetes的云原生大数据平台。探讨了大数据上云基础建设,包括计算框架接入Kubernetes的不同方案、统一接入策略、Pod设计、大数据配套能力、运行日志持久化、外部访问、计算组件云环境适配等。

danny_2018
数据分析
2024-05-28 14:30

大数据平台与云原生技术的发展与演进

需求催生技术革新,在海量数据需求的推动下,数据平台架构持续演进,经过数十年的发展,历经了数据库、数据仓库、数据湖、湖仓一体等概念。

danny_2018
数据分析
2024-05-27 17:50