flyuprun
本站致力于IT相关技术的分享
构建支持 Rerank 与流式响应的 LLM RAG 管道:Pinecone、Shadcn UI 与服务端的深度整合实践 构建支持 Rerank 与流式响应的 LLM RAG 管道:Pinecone、Shadcn UI 与服务端的深度整合实践
一个基本的 RAG (Retrieval-Augmented Generation) 管道通常止步于向量相似度搜索。实践中,这种方案返回的上下文质量常常参差不齐,导致大语言模型 (LLM) 的生成结果偏离预期,甚至产生幻觉。单纯依赖 top
2023-11-15
基于Docker Swarm与Redis构建高可用WebSocket广播层的TDD实现 基于Docker Swarm与Redis构建高可用WebSocket广播层的TDD实现
一台服务器上的 WebSocket 服务是脆弱的。当服务的单个实例承载了所有连接时,它不仅是性能瓶颈,更是一个致命的单点故障。在生产环境中,这意味着一次意外的进程崩溃或服务器重启,将导致所有实时会话瞬间中断。为了解决这个问题,我们自然会想到
2023-10-27
利用 Zig 构建 WASI 插件系统并以 Event Sourcing 模式重构 esbuild 构建内核 利用 Zig 构建 WASI 插件系统并以 Event Sourcing 模式重构 esbuild 构建内核
esbuild 的性能毋庸置疑,但其插件系统在处理极端性能敏感或需要系统级能力的场景时,会触碰到天花板。基于 Go 的原生插件 API 无法在 Node.js 环境直接使用,而 Node.js 插件 API 则受限于 JS 引擎的性能和 V
2023-10-27
实现基于GraphQL的安全数据库网关以支持Jupyter穿透防火墙进行数据分析 实现基于GraphQL的安全数据库网关以支持Jupyter穿透防火墙进行数据分析
团队的数据分析师需要访问生产环境的只读副本数据库,这是一个反复出现且令人头疼的问题。最初的解决方案是给他们开通一个堡垒机的SSH隧道权限。很快,我们就发现这是一个管理上的噩梦:为每个新成员分发和轮换密钥、回收离职人员的权限、在复杂的防火墙上
2023-10-27
构建基于 Phoenix Channels 和 Tornado 的异构实时 GitHub CI 日志流系统 构建基于 Phoenix Channels 和 Tornado 的异构实时 GitHub CI 日志流系统
最初的需求听起来很简单:为我们的 CI/CD 流程构建一个实时的日志查看器。当 GitHub Actions 触发一个工作流时,我们希望开发人员能在一个 Web 界面上看到实时滚动的日志输出。最初的原型是一个简单的 Python Flask
2023-10-27
利用 Babel Monorepo 构建 Express.js 的动态插件化 API 架构 利用 Babel Monorepo 构建 Express.js 的动态插件化 API 架构
在真实项目中,Express.js 应用的规模化演进总会遇到一个临界点。最初清晰的 /routes, /controllers, /services 目录结构,随着业务复杂度的指数级增长,会迅速演变为一个难以维护的泥潭。模块间耦合加深、启动
2023-10-27
1 / 2