Sorry, your browser cannot access this site
This page requires browser support (enable) JavaScript
Learn more >

Fiber中的流式响应Fiber(基于 fasthttp)中实现流式响应,需要使用 底层的流式写入接口,使得服务器可以边生成边发送数据,而不是一次性发送完整响应 应用场景示例 OpenAI 的流式 Chat Completion 接口; Server-Sent Events(SSE); 实时日志输出; 音视频分片推送; 大文件边处理边发送; 使用SetBodyStreamWriter实现1...

velero (k8s备份)简介Velero (原名 Heptio Ark) 是一个开源工具,专门用于安全地备份、恢复和迁移 Kubernetes 集群资源和持久卷。它提供了一种可靠的方法来保护 Kubernetes 应用程序和数据。 Velero 的核心能力 备份和恢复 Kubernetes 集群资源: Velero 可以备份和恢复 Kubernetes 集群中的几乎所有对象,包括 Dep...

使用 Helm 部署 HAMiHAMi简介基于K8s的GPU虚拟化工具,提供多种厂家显卡类型的显卡虚拟化,并使用监控采集显卡使用的信息。 前提条件 配置 nvidia-container-toolkit Docker运行 Kubernetes时 节点打标签 1kubectl label nodes {nodeid} gpu=on 离线安装准备 Helm Chart(...

deer-flow 介绍简介DeerFlow 是一个社区驱动的开源深度研究框架,旨在通过多智能体协作,将大型语言模型(LLM)与专业工具(如网络搜索、网页爬虫、Python 代码执行等)结合,提升自动化研究和内容创作的效率。它基于 LangChain 和 LangGraph 构建,支持模块化的多智能体架构,强调“人在回路”(human-in-the-loop)的人机协作体验,允许用户随时干预...

kbebuilder CronJob简介CronJob controller 会控制 kubernetes 集群上的 job 每隔一段时间运行一次,它是基于 Job controller 实现的,Job controller 的 job 只会执行任务一次。 创建项目123mkdir projectcd projectkubebuilder init --domain tutorial.kub...

Llama-factory LoRA 微调简介LLaMA-Factory 是一个开源的、简单易用且高效的大型语言模型(LLM)训练与微调框架,旨在帮助用户以低代码或无代码的方式对超过 100 种预训练模型进行高效微调。它支持多种模型(如 LLaMA、Mistral、Qwen、Gemma、Phi 等)以及多种训练任务,包括预训练、监督微调(SFT)、奖励模型训练、PPO、DPO、KTO、ORP...

OpenAI-Gateway设计与实现项目背景微服务API网关通常可以反向代理系统内部的服务,保证内部服务对外不可见和安全。网关作为统一的流量入口,还可以实现负载均衡等、流量限制、消峰平谷、节点路由等功能,与Prometheus结合时还可以提供所有请求的监控统计功能。 在maas(模型即服务)系统的构建过程中,底层使用Ollamm和VLLM等框架推理模型并提供服务。使用K8s实现推理Pod和...

Docker 实践简介Docker 使用 Google 公司推出的 Go 语言进行开发实现,基于 Linux 内核的 cgroup ,namespace ,以及 OverlayFS类的 Union FS等技术,对进程进行封装隔离,属于 操作系统层面的虚拟化技术 。由于隔离的进程独立于宿主和其它的隔离的进程,因此也称其为容器。最初实现是基于 LXC,从 0.7 版本以后开始去除 LXC,转而使...

Docker 实践简介Docker 使用 Google 公司推出的 Go 语言进行开发实现,基于 Linux 内核的 cgroup ,namespace ,以及 OverlayFS类的 Union FS等技术,对进程进行封装隔离,属于 操作系统层面的虚拟化技术 。由于隔离的进程独立于宿主和其它的隔离的进程,因此也称其为容器。最初实现是基于 LXC,从 0.7 版本以后开始去除 LXC,转而使...

Fyne 入门 指南简介Fyne是一个使用Go语言开发的跨平台GUI框架,它通过简单的API为开发现代桌面和移动应用提供了强大的工具。利用矢量图形和 Material Design,Fyne旨在构建美观、高性能的应用程序,支持自动缩放以适应不同屏幕尺寸和分辨率。 快速开始安装教程Fyne需要3个基本元素:Go工具(至少版本1.12)、一个C编译器(用于与系统图形驱动连接)和一个系统图形驱动。...

1 / 13