AI 平台架构师 / AI 基础设施架构师
岗位方向：AI Platform / Agent Infrastructure / Cloud Native / GPU Infrastructure
经验要求：8 年以上开发/架构经验，3 年以上 AI 相关项目经验优先
岗位职责
负责公司 AI 平台及 AI 应用基础设施的整体架构设计与技术落地，支撑 AI Agent 、AIGC 图像/视频、大模型 API 、模型推理等业务稳定运行。
不仅要求具备传统后端及云原生架构能力，还需要理解当前 AI 应用的技术体系，能够完成从：
AI 应用 → Agent → 模型服务 → GPU 算力 → Kubernetes → DevOps → 可观测性
的完整技术架构设计。
1. AI 平台架构
负责公司 AI 平台整体技术架构设计、技术选型及核心模块建设。
负责 AI Agent 、LLM 、AIGC 图像/视频等业务的基础架构设计。
建设统一 AI Gateway ，对接 OpenAI 、Claude 、Gemini 、DeepSeek 、Qwen 、MiniMax 及私有部署模型。
设计统一模型调用层，实现模型路由、Fallback 、负载均衡、限流、熔断、重试及成本控制。
设计 Agent Runtime / Tool Runtime ，支撑 Tool Calling 、MCP 、Workflow 、异步任务等能力。
建设模型、Prompt 、Agent 、Workflow 的版本管理和发布体系。
负责 AI 服务高可用、高并发、可扩展架构设计。
2. Python / Go 后端架构
熟练使用 Python + Go 进行后端及基础设施开发。
Python 方向熟悉 FastAPI 、Pydantic 、AsyncIO 、Celery 等常见技术。
Go 方向熟悉 Gin 、Fiber 、gRPC 等技术体系。
熟悉 REST API 、WebSocket 、SSE 、gRPC 等通信方式。
熟悉微服务、分布式系统、任务队列、缓存、数据库及对象存储等基础架构。
能够针对 AI 长任务、GPU 任务设计异步任务系统。
具备高并发、限流、熔断、降级、幂等、重试、分布式锁等实际工程经验。
3. Kubernetes / 云原生
精通 Kubernetes 生产环境部署及运维。
熟悉 Deployment 、StatefulSet 、DaemonSet 、Job 、CronJob 、Service 、Ingress 、HPA 、PVC 等核心资源。
熟悉 Helm / Kustomize 。
能够设计多 Namespace 、多环境、多集群部署架构。
熟悉 Pod 调度、资源限制、健康检查、滚动更新、自动扩缩容。
能够快速定位 Pod Pending 、OOMKilled 、CrashLoopBackOff 、MinimumReplicasUnavailable 等常见问题。
熟悉 GPU Kubernetes 调度，包括 NVIDIA Device Plugin 、GPU Resource 、Node Selector 、Affinity/Taint/Toleration 等。
有 EKS / ACK / GKE / Azure AKS 等公有云 Kubernetes 生产经验优先。
4. GPU / AI Infra
理解 GPU 推理服务的部署和资源管理。
熟悉 NVIDIA GPU 、CUDA 、显存、GPU Utilization 等基本概念。
能够设计 GPU 资源池及任务调度机制。
熟悉多 GPU / 多节点推理场景。
熟悉模型加载、模型缓存、冷启动、显存回收及 OOM 处理。
理解 FP16 / BF16 / FP8 / INT8 / INT4 等推理优化方式。
有 vLLM 、SGLang 、TensorRT-LLM 、Triton Inference Server 等经验优先。
有 ComfyUI / Diffusers / 图像视频生成任务的 GPU 调度经验优先。
5. CI/CD & DevOps
负责公司 AI 系统完整 DevOps 体系建设，包括：
Git → Build → Test → Image → Registry → Deploy → Monitor → Rollback
熟悉 Git / Gitea 。
能够基于 Gitea Actions / Drone / Jenkins / Argo CD 等建设自动化流水线。
熟悉 Docker 镜像构建及镜像优化。
熟悉 Harbor 或其他 Docker Registry 。
熟悉 Helm 自动化部署。
熟悉 GitOps 。
能够设计 Dev / Test / Staging / Production 多环境发布体系。
支持灰度发布、滚动发布、蓝绿发布及快速回滚。
建设代码、镜像、配置、模型、Workflow 的版本追踪体系。
6. 云计算架构
熟悉 AWS / 阿里云 / 腾讯云 / GCP 等至少一种主流云平台。
熟悉 VPC 、Subnet 、NAT Gateway 、Load Balancer 、安全组、DNS 等基础网络。
熟悉对象存储 S3 / OSS 。
熟悉 CDN 。
熟悉云数据库、Redis 、消息队列等云服务。
能够设计跨区域 / 多云架构。
能够针对 AI GPU 业务进行云资源成本优化。
有混合云 / 本地 GPU + 云 GPU 架构经验优先。
7. 可观测性与稳定性
建设完整的：
Metrics + Logs + Traces + Alerts
可观测体系。
熟悉：
Prometheus
Grafana
Loki / ELK / OpenSearch
OpenTelemetry
Jaeger / Tempo
能够针对 AI 系统建立：
API 请求耗时
Token 消耗
模型成功率
Agent Task 成功率
Workflow 执行时间
GPU 利用率
GPU 显存
Queue Length
模型推理耗时
单任务成本
等关键指标。
负责线上故障定位、容量规划、性能优化及稳定性治理。
任职要求
必备能力
计算机相关专业本科及以上学历优先。
8 年以上软件开发 / 架构相关经验。
有大型互联网系统、AI 平台或云原生平台架构经验。
熟练掌握 Python 和 Go ，至少一门达到高级水平。
熟悉 Linux / Docker / Kubernetes 。
有 Kubernetes 生产环境实际管理经验，而不仅仅是部署过 Demo 。
熟悉微服务及分布式系统设计。
熟悉 MySQL / PostgreSQL / Redis / MQ / Object Storage 等基础组件。
熟悉 Gitea / GitLab / GitHub 等代码管理体系。
有完整 CI/CD Pipeline 建设经验。
熟悉至少一种主流公有云。
有良好的系统设计能力。
简历投递联系 telegram @nini0804
岗位方向：AI Platform / Agent Infrastructure / Cloud Native / GPU Infrastructure
经验要求：8 年以上开发/架构经验，3 年以上 AI 相关项目经验优先
岗位职责
负责公司 AI 平台及 AI 应用基础设施的整体架构设计与技术落地，支撑 AI Agent 、AIGC 图像/视频、大模型 API 、模型推理等业务稳定运行。
不仅要求具备传统后端及云原生架构能力，还需要理解当前 AI 应用的技术体系，能够完成从：
AI 应用 → Agent → 模型服务 → GPU 算力 → Kubernetes → DevOps → 可观测性
的完整技术架构设计。
1. AI 平台架构
负责公司 AI 平台整体技术架构设计、技术选型及核心模块建设。
负责 AI Agent 、LLM 、AIGC 图像/视频等业务的基础架构设计。
建设统一 AI Gateway ，对接 OpenAI 、Claude 、Gemini 、DeepSeek 、Qwen 、MiniMax 及私有部署模型。
设计统一模型调用层，实现模型路由、Fallback 、负载均衡、限流、熔断、重试及成本控制。
设计 Agent Runtime / Tool Runtime ，支撑 Tool Calling 、MCP 、Workflow 、异步任务等能力。
建设模型、Prompt 、Agent 、Workflow 的版本管理和发布体系。
负责 AI 服务高可用、高并发、可扩展架构设计。
2. Python / Go 后端架构
熟练使用 Python + Go 进行后端及基础设施开发。
Python 方向熟悉 FastAPI 、Pydantic 、AsyncIO 、Celery 等常见技术。
Go 方向熟悉 Gin 、Fiber 、gRPC 等技术体系。
熟悉 REST API 、WebSocket 、SSE 、gRPC 等通信方式。
熟悉微服务、分布式系统、任务队列、缓存、数据库及对象存储等基础架构。
能够针对 AI 长任务、GPU 任务设计异步任务系统。
具备高并发、限流、熔断、降级、幂等、重试、分布式锁等实际工程经验。
3. Kubernetes / 云原生
精通 Kubernetes 生产环境部署及运维。
熟悉 Deployment 、StatefulSet 、DaemonSet 、Job 、CronJob 、Service 、Ingress 、HPA 、PVC 等核心资源。
熟悉 Helm / Kustomize 。
能够设计多 Namespace 、多环境、多集群部署架构。
熟悉 Pod 调度、资源限制、健康检查、滚动更新、自动扩缩容。
能够快速定位 Pod Pending 、OOMKilled 、CrashLoopBackOff 、MinimumReplicasUnavailable 等常见问题。
熟悉 GPU Kubernetes 调度，包括 NVIDIA Device Plugin 、GPU Resource 、Node Selector 、Affinity/Taint/Toleration 等。
有 EKS / ACK / GKE / Azure AKS 等公有云 Kubernetes 生产经验优先。
4. GPU / AI Infra
理解 GPU 推理服务的部署和资源管理。
熟悉 NVIDIA GPU 、CUDA 、显存、GPU Utilization 等基本概念。
能够设计 GPU 资源池及任务调度机制。
熟悉多 GPU / 多节点推理场景。
熟悉模型加载、模型缓存、冷启动、显存回收及 OOM 处理。
理解 FP16 / BF16 / FP8 / INT8 / INT4 等推理优化方式。
有 vLLM 、SGLang 、TensorRT-LLM 、Triton Inference Server 等经验优先。
有 ComfyUI / Diffusers / 图像视频生成任务的 GPU 调度经验优先。
5. CI/CD & DevOps
负责公司 AI 系统完整 DevOps 体系建设，包括：
Git → Build → Test → Image → Registry → Deploy → Monitor → Rollback
熟悉 Git / Gitea 。
能够基于 Gitea Actions / Drone / Jenkins / Argo CD 等建设自动化流水线。
熟悉 Docker 镜像构建及镜像优化。
熟悉 Harbor 或其他 Docker Registry 。
熟悉 Helm 自动化部署。
熟悉 GitOps 。
能够设计 Dev / Test / Staging / Production 多环境发布体系。
支持灰度发布、滚动发布、蓝绿发布及快速回滚。
建设代码、镜像、配置、模型、Workflow 的版本追踪体系。
6. 云计算架构
熟悉 AWS / 阿里云 / 腾讯云 / GCP 等至少一种主流云平台。
熟悉 VPC 、Subnet 、NAT Gateway 、Load Balancer 、安全组、DNS 等基础网络。
熟悉对象存储 S3 / OSS 。
熟悉 CDN 。
熟悉云数据库、Redis 、消息队列等云服务。
能够设计跨区域 / 多云架构。
能够针对 AI GPU 业务进行云资源成本优化。
有混合云 / 本地 GPU + 云 GPU 架构经验优先。
7. 可观测性与稳定性
建设完整的：
Metrics + Logs + Traces + Alerts
可观测体系。
熟悉：
Prometheus
Grafana
Loki / ELK / OpenSearch
OpenTelemetry
Jaeger / Tempo
能够针对 AI 系统建立：
API 请求耗时
Token 消耗
模型成功率
Agent Task 成功率
Workflow 执行时间
GPU 利用率
GPU 显存
Queue Length
模型推理耗时
单任务成本
等关键指标。
负责线上故障定位、容量规划、性能优化及稳定性治理。
任职要求
必备能力
计算机相关专业本科及以上学历优先。
8 年以上软件开发 / 架构相关经验。
有大型互联网系统、AI 平台或云原生平台架构经验。
熟练掌握 Python 和 Go ，至少一门达到高级水平。
熟悉 Linux / Docker / Kubernetes 。
有 Kubernetes 生产环境实际管理经验，而不仅仅是部署过 Demo 。
熟悉微服务及分布式系统设计。
熟悉 MySQL / PostgreSQL / Redis / MQ / Object Storage 等基础组件。
熟悉 Gitea / GitLab / GitHub 等代码管理体系。
有完整 CI/CD Pipeline 建设经验。
熟悉至少一种主流公有云。
有良好的系统设计能力。
简历投递联系 telegram @nini0804
Select Language