归档: 2023/10 | drvively

2023

10

27

管理一套生产级的计算机视觉（CV）推理系统，其复杂性远超部署一个无状态应用。它通常包含一个用于特征向量检索的 Qdrant 向量数据库集群，以及一组用于模型推理的 CV 工作负载。当这些组件部署在 Kubernetes 上时，我们面临的第一

2023-10-27 云原生

etcd Qdrant CV Kubernetes Jotai

27

我们接手了一个运行了近十年的单体系统。业务逻辑盘根错节，而最棘手的部分在于它的数据库——一个拥有超过800张表的“巨石”。任何一个微小的需求变更，都可能引发一场对数据库完整性的灾难性回归测试。团队决定采用领域驱动设计（DDD）进行战略重构，

2023-10-27 架构设计

MyBatis Matplotlib Domain-Driven Design (DDD) 技术债 Python

27

模型部署上线只是起点，真正的挑战在于稳定运行。一个计算机视觉（CV）模型服务，在负载升高时出现间歇性延迟飙升，或者对特定类型的图片返回低置信度结果，这些问题在生产环境中是常态。麻烦的是，常规的日志系统只会告诉你服务收到了请求、返回了结果，中

2023-10-27 MLOps

CV TensorFlow tRPC Fluentd Observability gRPC

27

一套用于金融风控场景的 TensorFlow 推理服务，其 P99 延迟目标是 50ms。当监控系统报告一次请求耗时 150ms 时，问题可能出在哪里？是入口的 Kong 网关插件执行缓慢，是负责特征提取的 Java 中台服务发生了 GC，

2023-10-27 架构与设计

可观测性 TensorFlow Kong SkyWalking Argo CD GitOps

27

1. 定义问题：高吞吐与重计算解耦在一个多模态内容分析平台中，我们面临一个典型的架构挑战：系统需要接收来自用户的大量非结构化数据上传（如图片、文档），并为这些数据生成向量嵌入（Vector Embeddings）以支持语义搜索。这个过程包含

2023-10-27 分布式架构

Kong Weaviate Spring Framework Koa

27

在处理需要极致低延迟的事件驱动场景时，标准的云原生消息中间件，如 Kafka 或 RabbitMQ，有时会因其固有的 Broker 架构引入不可忽视的延迟和运维复杂性。一个典型的痛点是，Knative Eventing 虽然强大，但其依赖的

2023-10-27 云原生

Serverless Go Knative ZeroMQ Echo EDA