LLM / GenAI Engineer — Hong Kong hiring guide
Turns large language models into working products: RAG systems, agents, evaluation and guardrails.
Daily duties
- Design RAG architectures: chunking, embeddings, retrieval quality, reranking
- Build agent workflows with tool calling and controlled autonomy
- Write and maintain evaluation suites — how do you know the answer is correct?
- Implement guardrails: prompt injection defence, PII handling, output validation
- Control token cost and latency; choose between fine-tuning and prompting
Skills to look for
Python + LLM SDKs (OpenAI, Anthropic, local models), Vector databases (pgvector, Qdrant, Milvus), Prompt & context engineering, Evaluation frameworks (RAGAS, custom), API design, rate limiting, cost telemetry
Not this role
Not a prompt-only 'AI trainer'. This role must be able to write production code and debug retrieval failures.
Salary guide
HK$50K – 110K per month · LLM / GenAI Engineer · AI Engineering · Mid-level / Senior
Full-time. Figure is monthly base salary, excluding bonus and equity.
Required certification
AIX-AIE, AIX-LLM — AIX Society. Verified by HKOEA Consultancy, Hong Kong Employment Agency Licence 75908.
大模型應用工程師 — 香港招聘指南
把大語言模型變成可用的產品:RAG 系統、Agent、評估與護欄。
日常工作
- 設計 RAG 架構:切塊、向量化、檢索品質、重排序
- 建構 Agent 工作流,包含工具調用與可控自主性
- 撰寫並維護評估套件 —— 你如何證明答案正確?
- 實施護欄:防提示詞注入、個人資料處理、輸出驗證
- 控制 token 成本與延遲;在微調與提示工程之間作判斷
應具備的能力
Python 與各家 LLM SDK(OpenAI、Anthropic、本地模型)、向量資料庫(pgvector、Qdrant、Milvus)、提示與上下文工程、評估框架(RAGAS、自建)、API 設計、限流、成本監測
這不是什麼職位
不是只寫提示詞的「AI 操作員」。此職位必須能寫生產級代碼,並能排查檢索失效的原因。
薪酬參考
HK$50K – 110K /月 · LLM / GenAI Engineer · AI 工程 · Mid-level / Senior
全職。數字為每月基本薪酬,不含獎金與股權。
所需認證
AIX-AIE, AIX-LLM — AIX Society. 由 HKOEA Consultancy 核實,香港職業介紹所牌照 75908。
大模型应用工程师 — 香港招聘指南
把大语言模型变成可用的产品:RAG 系统、Agent、评估与护栏。
日常工作
- 设计 RAG 架构:切块、向量化、检索质量、重排序
- 构建 Agent 工作流,包含工具调用与可控自主性
- 编写并维护评估套件 —— 你如何证明答案正确?
- 实施护栏:防提示词注入、个人数据处理、输出验证
- 控制 token 成本与延迟;在微调与提示工程之间作判断
应具备的能力
Python 与各家 LLM SDK(OpenAI、Anthropic、本地模型)、向量数据库(pgvector、Qdrant、Milvus)、提示与上下文工程、评估框架(RAGAS、自建)、API 设计、限流、成本监测
这不是什么职位
不是只写提示词的「AI 操作员」。此职位必须能写生产级代码,并能排查检索失效的原因。
薪酬参考
HK$50K – 110K /月 · LLM / GenAI Engineer · AI 工程 · Mid-level / Senior
全职。数字为每月基本薪酬,不含奖金与股权。
所需认证
AIX-AIE, AIX-LLM — AIX Society. 由 HKOEA Consultancy 核实,香港职业介绍所牌照 75908。