IT基础架构

深入理解Transformer技术原理 | 得物技术

目录 一、什么是注意力机制 二、Transformer架构设计 三、 理解Transformer中的Token 1. 将文本拆分成token 1.1 基于单词的分词器 1.2 基于字符的标记器 1.3 基于子词的标记器 2. 向量、矩阵、张量 2.1 向量(Vector) 2.2 矩阵(Matrix) 2.3 张量(Tensor) 3. 将token转换成向量 4. 将向量转换成嵌入 四、理解Transformer的编解码器 五、理解Token在编码器中的流转 1. 对Token进行位置编码 2. 自注意力机制 2.1 计算注意力值 2.2 多头注意力机制 3. 残差网

架构师修行手册
服务器/存储
2024-04-16 09:44

千万长连消息系统

在当今数字娱乐时代,弹幕已经成为直播平台上不可或缺的互动元素之一。

架构师修行手册
服务器/存储
2024-04-16 09:35

基于文心一言的生成式数据分析技术探索

本文将深入剖析商业智能(BI)与生成式模型结合带来的业务价值和技术实践经验。重点从三个视角和大家进行了交流分享。第一,从技术趋势和业务需求视角,论证了生成式智能 BI 必然技术趋势和带来的巨大业务价值;第二,从系统设计视角,介绍了百度数据中台 ChatBI 设计思路和关键点。第三,从新技术实践实践视角,介绍了 Chat BI 在百度落地过程中遇到的问题和解决思路。

陶然陶然
服务器/存储
2024-04-15 15:08

五星门店小程序性能优化实践

在今年的敏捷团队建设中,我通过Suite执行器实现了一键自动化单元测试。Juint除了Suite执行器还有哪些执行器呢?由此我的Runner探索之旅开始了!

ITPUB社群
服务器/存储
2024-04-15 09:51

分布式任务调度最全详解(图文全面总结)

分布式任务调度是非常核心的分布式系统,下面我就全面来详解分布式任务调度,以及分布式任务调度框架

带你聊技术
服务器/存储
2024-04-15 09:41

美团外卖基于GPU的向量检索系统实践

到家搜索业务具有数据量大、过滤比高等特点,为了在保证高召回率的同时进一步提高检索性能,到家搜索技术团队与美团基础研发机器学习平台团队基于GPU实现了支持向量+标量混合检索的通用检索系统,召回率与检索性能均有较大提升。本文将介绍我们在GPU向量检索系统建设中遇到的挑战及解决思路,希望对大家有所帮助或启发。

陶然陶然
服务器/存储
2024-04-12 15:35

秒开率破90%-交易后台渲染性能优化 | 得物技术

一直以来,体验都是得物技术部的关键词之一,对于前端开发而言,提高用户体验更是一项至关重要的工作。 本文从本次交易后台性能优化实践出发,同时介绍应用整体架构和设计,希望可以给参与网站性能建设的同学提供一定的学习和参考价值。

架构师修行手册
服务器/存储
2024-04-12 10:24

10年架构师感悟:从问题出发,而非技术

这些感悟并非来自于具体的技术实现,而是关于我在架构设计和实施过程中所体会到的一些软性经验和领悟。我希望通过这些分享,能够激发大家对于架构设计和技术实践的思考,帮助大家更好地理解和应用架构原则和方法。

陶然陶然
服务器/存储
2024-04-11 10:38

Flink Keyed State的优化与实践

Flink SQL在业务使用中有较多的双流join场景,当左右流的流量都较大,Join的等待时间即使为1小时,Flink Keyed State(Flink State分Operator State和Keyed State,后文所有State均代表后者)的存储大小也很容易达到TB级(内部默认使用的是RocksDBStateBackend)。

架构师修行手册
服务器/存储
2024-04-11 09:34

基于开源软件、产品构建的存储底座有哪些运维与安全风险?

当前基于开源软件、产品构建的存储底座无处不在,既有基于Hadoop HDFS分布式文件系统的搭建大数据平台,也有以CephFS为基石,满足对象、块和文件多场景存储需求的开源分布式存储底座,还有基于TrueNAS所构建的NAS网络存储系统。

danny_2018
服务器/存储
2024-04-11 09:27

从零开始搭建云呼叫中心之FreeSwitch实战

本文将从零开始,详细介绍如何使用FreeSwitch搭建一个简单的云呼叫中心。将一步步探讨FreeSwitch的安装、配置、以及如何利用其提供的丰富特性来实现一个云呼叫中心的核心功能。

陶然陶然
服务器/存储
2024-04-10 17:08

Elasticsearch 8.X 向量检索和普通检索能否实现组合检索?如何实现?

向量组合条件查询,报 [vector] malformed query, expected [END_OBJECT] but found [FIELD_NAME] 错误, 向量查询是不支持复合条件查询吗?

码农谈IT
服务器/存储
2024-04-10 09:34

得物 Zookeeper SLA 也可以 99.99% | 得物技术

在 2023 年,部分业务使用了自建的 ZooKeeper(ZK)集群,然后使用过程中 ZK 出现了几次波动,随后得物 SRE 开始接管部分自建集群,并进行了几轮稳定性加固的尝试。接管过程中我们发现ZooKeeper在运行一段时间后,内存占用率会不断增加,容易导致内存耗尽(OOM)的问题。我们对这一现象非常好奇,因此也参与了解决这个问题的探索过程。

架构师修行手册
服务器/存储
2024-04-10 09:32

如果你还不理解 RBAC,看看 Jenkins 如何做到的

通过本篇你可以学习到如下内容: RBAC 的基础知识。 Jenkins 的角色权限插件的使用。 实战:通过角色来管理用户的部署权限。

带你聊技术
服务器/存储
2024-04-10 09:30

Flink Keyed State的优化与实践

Flink SQL在业务使用中有较多的双流join场景,当左右流的流量都较大,Join的等待时间即使为1小时,Flink Keyed State(Flink State分Operator State和Keyed State,后文所有State均代表后者)的存储大小也很容易达到TB级(内部默认使用的是RocksDBStateBackend)。

陶然陶然
服务器/存储
2024-04-09 14:45