MLOps

3 articles in MLOps

Evaluating agents: tasks, runs, graders and regression tracking
AI Agents
MLOps
AI Development
Evaluating Agents: How to Know a Change Helped

An agent you cannot evaluate is an agent you cannot change. This post covers why agent evals differ from model evals, the pass^k arithmetic that explains why 'works most of the time' is not enough, how to build a task set from real failures, deterministic versus judge-based grading, and a small eval runner you can put in CI this week.

Tin Nguyen Van Trung
Tin Nguyen Van Trung
15 min read
0 views
Đánh giá agent: task, lần chạy, grader và theo dõi regression
AI Agents
MLOps
AI Development
Đánh giá agent: làm sao biết một thay đổi có giúp ích

Agent không đánh giá được là agent không sửa được. Bài này nói vì sao eval cho agent khác eval cho model, phép tính pass^k giải thích vì sao 'chạy đúng phần lớn thời gian' là chưa đủ, cách xây bộ task từ lỗi thật, chấm điểm tất định so với dùng judge, và một eval runner nhỏ bạn có thể đưa vào CI ngay tuần này.

Tin Nguyen Van Trung
Tin Nguyen Van Trung
15 phút đọc
0 views
LLM Fine-tuning
LLM
AI Training
MLOps
Fine-tuning LLMs: LoRA vs Full Fine-tuning - Trade-offs and When to Use Each

Comprehensive guide to LLM fine-tuning techniques, comparing LoRA (Low-Rank Adaptation) with full fine-tuning, including performance metrics and cost analysis.

Tin Nguyen Van Trung
Tin Nguyen Van Trung
13 min read
245 views