New Era đang tìm kiếm AI Engineer có kinh nghiệm thực chiến với LLM, RAG và Agentic AI để phát triển các hệ thống AI tích hợp vào sản phẩm. Vị trí này đòi hỏi kỹ năng tích hợp đa dạng LLM providers, xây dựng RAG pipeline với vector database, và phát triển các AI agent tự vận hành. Ứng viên sẽ làm việc với stack công nghệ hiện đại bao gồm OpenAI, Claude, Gemini, LangChain, vector databases và cloud infrastructure, đồng thời chịu trách nhiệm về MLOps và tối ưu chi phí inference.
Mô tả công việc
- Tích hợp LLM & API: kết nối ứng dụng với các mô hình như OpenAI GPT, Claude, Gemini, Llama; xử lý streaming, fallback, giới hạn token và chi phí
- Kỹ thuật RAG & Vector Database: xây hệ thống truy xuất thông tin doanh nghiệp dùng cơ sở dữ liệu Vector (Pinecone, Weaviate, Chroma); chunking, embedding, retrieval và đánh giá chất lượng truy xuất
- Phát triển Agentic AI: xây các tác tử AI tự vận hành quy trình nhiều bước (LangChain, LlamaIndex, AutoGen, CrewAI); tool-calling, planning, memory
- Tinh chỉnh & Đánh giá (Fine-tuning & Evaluation): tối ưu mô hình cho từng lĩnh vực cụ thể bằng LoRA, QLoRA; xây eval harness đo chất lượng, bắt regression khi đổi model/prompt
- MLOps & AI Deployment: triển khai + giám sát hạ tầng AI trên điện toán đám mây (AWS, Azure, GCP); quản lý chi phí, hiệu năng và độ tin cậy inference
Yêu cầu
- 3 năm kinh nghiệm phần mềm; đã tích hợp LLM vào sản phẩm hoặc project thực tế (không chỉ dừng ở tutorial)
- Thành thạo Python (hệ sinh thái AI/ML); biết ít nhất một backend language để tích hợp (Python / Go / Node)
- RAG cơ bản: embedding, vector DB, chunking, retrieval
- Agentic cơ bản: agentic loop, tool/function-calling, MCP; quen ≥1 framework (LangChain / LlamaIndex / AutoGen / CrewAI) hoặc agent harness
- Prompt engineering + hiểu LLM evals cơ bản (đo chất lượng); xử lý tính bất định của LLM (retry, fallback, guardrails cơ bản)
- Biết dùng cloud (AWS / Azure / GCP) + Docker ở mức cơ bản; ý thức về chi phí & hiệu năng inference
- Ham học, chủ động cập nhật mảng AI/LLM; tiếng Anh đọc hiểu tài liệu kỹ thuật
Ưu tiên
- Fine-tuning (LoRA / QLoRA / PEFT); chuẩn bị dataset, evaluation harness
- MLOps: CI/CD cho model, monitoring/tracing (LangSmith / Langfuse / OpenTelemetry), model registry, A/B testing
- Self-host / serving LLM (vLLM, Ollama, TGI); tối ưu latency / throughput / cost
- Kubernetes, message queue (NATS / Kafka), pgvector; multi-provider routing + circuit breaker
- Bảo mật AI: PII masking, sandbox thực thi code do LLM sinh, tool permission/guard
- Có project cá nhân / đồ án / portfolio về LLM/agentic (GitHub)
Quyền lợi
- Làm việc với công nghệ AI/LLM tiên tiến và đội ngũ chuyên môn cao
- Môi trường học hỏi và phát triển liên tục trong lĩnh vực AI
- Cơ hội làm việc trên các dự án thực tế có tác động sản phẩm