LLM Manager

1. Mô tả vị trí Chịu trách nhiệm thiết kế, tinh chỉnh (fine-tuning) và triển khai các mô hình ngôn ngữ lớn (LLM) vào các ứng dụng thực tế của doanh nghiệp: trợ lý ảo cho khách hàng/tài xế, tự động hóa vận hành, phân tích dữ liệu phi cấu trúc và các tính năng GenAI trong sản phẩm. Vị trí này đóng vai trò cầu nối giữa các mô hình nền tảng (foundation models) và giá trị kinh doanh cụ thể, đảm bảo các giải pháp LLM được triển khai an toàn, hiệu quả về chi phí và có khả năng mở rộng. 2. Trách nhiệm chính Nghiên cứu và Tinh chỉnh mô hình (Model Tuning) Đánh giá, lựa chọn mô hình nền tảng phù hợp (mã nguồn mở hoặc thương mại) dựa trên bài toán, chi phí và yêu cầu bảo mật dữ liệu. Thực hiện fine-tuning, LoRA/QLoRA, hoặc các kỹ thuật PEFT (Parameter-Efficient Fine-Tuning) để tùy biến mô hình theo dữ liệu và ngữ cảnh nghiệp vụ. Xây dựng và tối ưu hệ thống RAG (Retrieval-Augmented Generation) kết nối LLM với dữ liệu nội bộ (chính sách vận hành, dữ liệu khách hàng, tài liệu kỹ thuật). Thiết kế chiến lược prompt engineering và đánh giá (evaluation) chất lượng output một cách có hệ thống. Phát triển ứng dụng LLM Phát triển các ứng dụng thực tế: chatbot chăm sóc khách hàng, trợ lý ảo cho tài xế, tóm tắt/phân loại phản hồi khách hàng, tạo nội dung tự động, phân tích dữ liệu văn bản/giọng nói. Thiết kế kiến trúc AI Agent có khả năng gọi công cụ (tool-calling), tích hợp với các hệ thống nghiệp vụ (CRM, hệ thống điều phối, tổng đài). Xây dựng cơ chế guardrails, kiểm duyệt nội dung và xử lý hallucination để đảm bảo an toàn khi triển khai sản phẩm. Hạ tầng và Vận hành (LLMOps) Thiết lập pipeline đánh giá mô hình (evaluation framework), theo dõi chất lượng, độ trễ và chi phí (cost/token) theo thời gian thực. Quản lý vòng đời mô hình: versioning, A/B testing, rollback khi cần thiết. Làm việc với đội hạ tầng dữ liệu để đảm bảo pipeline dữ liệu huấn luyện/RAG luôn được cập nhật, sạch và có khả năng truy xuất nguồn gốc. Tối ưu chi phí vận hành mô hình: lựa chọn giữa API thương mại (OpenAI, Anthropic, Google) và mô hình tự triển khai (self-hosted) tùy theo bài toán. Quản lý và Định hướng (áp dụng nếu tuyển ở cấp Manager) Xây dựng và dẫn dắt đội ngũ AI Engineer/ML Engineer chuyên về LLM. Xây dựng roadmap ứng dụng GenAI, làm việc với các phòng ban Sản phẩm, Vận hành, Chăm sóc khách hàng để xác định ưu tiên triển khai. Đào tạo nội bộ, xây dựng best practices về prompt engineering và sử dụng AI có trách nhiệm (Responsible AI). 3. Yêu cầu chuyên môn Học vấn và Chứng chỉ Tốt nghiệp Đại học/MSc/PhD chuyên ngành Khoa học máy tính, Trí tuệ nhân tạo, Toán ứng dụng hoặc các ngành liên quan. Có publication hoặc dự án thực chiến liên quan đến NLP/LLM là một lợi thế lớn. Kỹ năng và Kinh nghiệm Tối thiểu 5-8 năm kinh nghiệm trong lĩnh vực Machine Learning/NLP, trong đó có ít nhất 1-2 năm làm việc trực tiếp với LLM (GPT, Claude, Llama, Gemini, Qwen...). Thành thạo các framework: PyTorch, Hugging Face Transformers, LangChain/LlamaIndex, vLLM. Có kinh nghiệm thực chiến với fine-tuning (LoRA, QLoRA), RAG, prompt engineering và đánh giá mô hình (LLM-as-judge, benchmark tùy chỉnh). Hiểu biết về vector database (Milvus, Weaviate, pgvector, hoặc tính năng vector search tích hợp trong Doris/ClickHouse/Databricks đã triển khai). Kỹ năng lập trình Python vững; có kinh nghiệm triển khai mô hình trên Cloud (Azure/AWS/GCP) và container hóa (Docker/Kubernetes). Hiểu biết về chi phí vận hành LLM (token economics), độ trễ (latency) và các kỹ thuật tối ưu suy luận (quantization, distillation, caching). 4. Kỹ năng bổ trợ Khả năng chuyển hóa bài toán kinh doanh mơ hồ thành giải pháp AI cụ thể, có thể đo lường được hiệu quả (ROI). Tư duy về an toàn và đạo đức AI: hiểu rõ rủi ro về bias, hallucination, rò rỉ dữ liệu khi triển khai LLM trong sản phẩm thực tế. Kỹ năng giao tiếp tốt để giải thích khái niệm AI phức tạp cho các bên không chuyên kỹ thuật. Cập nhật liên tục xu hướng LLM/GenAI (mô hình mới, kỹ thuật mới) và đánh giá khả năng ứng dụng thực tế.