Lập trình bằng agent và cuộc đua tối ưu chi phí trên mỗi dòng code

Tuần trước, Simon Willison - một lập trình viên kỳ cựu - cần nâng cấp thư viện python llm-anthropic lên phiên bản 0.27 để tương thích với thư viện anthropic v1.0.0 mới ra mắt. Thay đổi lớn nhất trong bản cập nhật này là việc chuyển đổi từ thư viện kết nối mạng httpx sang httpx2. Sự thay đổi này đòi hỏi phải cập nhật lại toàn bộ cách xử lý các yêu cầu mạng và xử lý ngoại lệ trong mã nguồn hiện tại.

Simon không tự viết code. Ông mở Claude Code - công cụ dòng lệnh chạy mô hình Fable 5 - và đưa ra một yêu cầu ngắn gọn: Đọc tài liệu hướng dẫn di trú tại đường dẫn GitHub của Anthropic và sửa code để tất cả các bài kiểm thử tự động đều vượt qua. Kết quả là một pull request hoàn chỉnh được tạo ra mà không cần sự can thiệp thủ công nào vào logic code.

Tình huống này mô tả một xu hướng đang định hình lại công việc của giới kỹ sư: lập trình dựa trên agent (agentic workflow). Chúng ta không còn dừng lại ở việc dùng AI để sinh ra một đoạn mã ngắn rồi tự copy-paste vào dự án. Thay vào đó, chúng ta giao cho agent một mục tiêu tổng thể, cung cấp ngữ cảnh và để nó tự thực hiện toàn bộ quy trình từ đọc tài liệu, sửa mã nguồn đến chạy kiểm thử.

Sự dịch chuyển sang quy trình tự sửa lỗi

Điểm mấu chốt giúp agent của Simon thành công là vòng lặp phản hồi. Khi agent chạy bộ test và gặp lỗi do sự khác biệt giữa httpx và httpx2, nó không dừng lại để hỏi người dùng. Nó tự phân tích thông báo lỗi, đối chiếu lại với tài liệu di trú của Anthropic và đưa ra phương án sửa đổi tiếp theo. Quá trình này lặp lại cho đến khi tất cả các bài test chuyển sang màu xanh.

Tuy nhiên, vòng lặp tự sửa lỗi này đi kèm với một chi phí không nhỏ. Mỗi lần agent gửi yêu cầu mới lên API để sửa mã nguồn, toàn bộ ngữ cảnh của dự án cùng với thông báo lỗi phải được gửi kèm. Điều này khiến lượng token tiêu thụ tăng lên rất nhanh. Nếu một lập trình viên không kiểm soát tốt phạm vi hoạt động của agent, hóa đơn API có thể vượt quá ngân sách của dự án trước khi đoạn code được hoàn thành.

Thực tế này buộc các nhà phát triển mô hình phải chuyển hướng. Họ không còn chỉ tập trung vào việc làm cho mô hình “thông minh hơn” một cách chung chung, mà phải tìm cách giảm chi phí vận hành trên mỗi tác vụ thực tế.

Bài toán tối ưu chi phí và hiệu năng thực tế

Để giải quyết vấn đề chi phí, các nhà phát triển mô hình đang tập trung vào việc tối ưu hóa hiệu năng trên mỗi đồng chi phí (price-performance). OpenAI gần đây đã tích hợp dòng mô hình GPT-5.6 - bao gồm các phiên bản Sol, Terra và Luna - vào Kiro, một agent lập trình chuyên dụng.

Trong hệ thống của Kiro, GPT-5.6 không hoạt động tự do. Nó được đặt trong một quy trình kỹ thuật nghiêm ngặt gọi là phát triển hướng đặc tả (spec-driven development). Khi kỹ sư đưa ra một yêu cầu tính năng, Kiro sẽ phân tích mã nguồn hiện tại, tiêu chuẩn của đội ngũ phát triển và tài liệu yêu cầu để tạo ra một bản thiết kế kỹ thuật chi tiết cùng các tác vụ con. GPT-5.6 chỉ tập trung thực hiện các tác vụ con này dựa trên cấu trúc đã được định hình sẵn. Việc này giúp giảm thiểu việc mô hình đi chệch hướng, từ đó tiết kiệm token.

Kiro cũng áp dụng kiểm thử dựa trên thuộc tính (property-based testing) để xác minh mã nguồn do GPT-5.6 viết ra. Thay vì chỉ chạy vài trường hợp kiểm thử đơn giản, hệ thống tự động tạo ra một loạt dữ liệu đầu vào ngẫu nhiên nhưng tuân theo các thuộc tính định sẵn của hệ thống để tìm ra các lỗi ẩn. Việc phát hiện lỗi sớm ở từng bước nhỏ ngăn chặn tình trạng agent viết tiếp các đoạn code lỗi chồng lỗi, giúp giảm số lần lặp lại và tối ưu chi phí vận hành.

Sự xuất hiện của mô hình ẩn danh Ox Alpha trên OpenRouter gần đây cũng minh chứng cho xu hướng tối ưu chi phí này. Ox Alpha hỗ trợ ngữ cảnh lên tới 1 triệu token và được cung cấp miễn phí trong tuần đầu ra mắt. Ban đầu, mô hình này gây xôn xao khi đạt điểm số 80% trên một tập con của bộ đánh giá DeepSWE, dù sau đó các thử nghiệm đầy đủ cho thấy điểm số thực tế nằm ở mức 63%. Kết quả này tương đương với mô hình Fable 5 của Anthropic nhưng Ox Alpha lại tiêu tốn ít token hơn cho mỗi tác vụ lập trình.

Dựa trên các manh mối về câu trả lời và cách đặt tên theo lịch hoàng đạo Trung Quốc, giới công nghệ dự đoán đây là GLM-5.3 Flash hoặc GLM-6 của Zhipu AI. Sự cạnh tranh này mang lại lợi ích lớn cho lập trình viên khi chi phí sử dụng các mô hình chuyên dụng cho lập trình ngày càng giảm.

Khoảng cách dữ liệu và giới hạn phần cứng

Việc các mô hình như Ox Alpha hay GPT-5.6 cần lượng ngữ cảnh khổng lồ để xử lý công việc làm nổi bật một nghịch lý lớn trong nghiên cứu trí tuệ nhân tạo: khoảng cách hiệu quả dữ liệu (data efficiency gap). Theo các nghiên cứu nhận thức, một đứa trẻ bắt đầu học ngôn ngữ và đạt độ thông thạo cơ bản chỉ với một lượng từ ngữ rất nhỏ tiếp xúc hàng ngày. Trong khi đó, để huấn luyện một mô hình ngôn ngữ có khả năng lập trình hay giao tiếp trôi chảy, chúng ta phải cung cấp lượng dữ liệu lớn gấp hàng trăm nghìn lần.

Như giáo sư Michael C. Frank tại Đại học Stanford từng nhận xét, chúng ta đang phải đốt cả một cánh rừng và cạo sạch tri thức nhân loại chỉ để tái hiện khả năng ngôn ngữ mà một đứa trẻ tự học được trong phòng khách sau một năm. Việc thiếu hiệu quả trong cách học của mô hình đồng nghĩa với việc vận hành các agent tự hành đòi hỏi năng lượng cực kỳ lớn. Khi các agent chạy liên tục trong môi trường sandbox để kiểm thử code, chúng tiêu thụ một lượng điện năng khổng lồ.

Đây là lý do các nhà sản xuất phần cứng như Nvidia phải tập trung tối ưu hiệu năng trên mỗi watt (performance per watt) cho các dòng chip mới như Blackwell và thế hệ tiếp theo là Vera Rubin. Đối với các doanh nghiệp vận hành hệ thống agent tự động ở quy mô lớn, hiệu năng trên mỗi watt trực tiếp quyết định khả năng duy trì dự án về mặt tài chính.

Thay đổi tư duy lập trình cho kỹ sư Việt

Từ những thực tế trên, người làm công nghệ tại Việt Nam cần dịch chuyển từ tư duy “hỏi đáp với AI” sang “thiết kế quy trình cho agent”. Chúng ta không nên chỉ tìm kiếm mô hình nào thông minh nhất trên các bảng xếp hạng chung chung, mà cần xây dựng một hạ tầng hỗ trợ cho agent hoạt động hiệu quả.

Cụ thể, việc áp dụng agent vào dự án thực tế đòi hỏi ba yếu tố cốt lõi:

• Thiết lập tiêu chuẩn viết code (coding standards) và tài liệu kỹ thuật rõ ràng. Agent không thể tự đoán ý nếu cấu trúc dự án lộn xộn. Một bộ quy chuẩn tốt là bản đồ để agent định vị và sửa code chính xác.
• Đầu tư nghiêm túc vào hệ thống kiểm thử tự động. Nếu không có các bài test tự động để xác minh đầu ra của agent, kỹ sư sẽ mất nhiều thời gian hơn để rà soát thủ công những gì AI viết ra, làm mất đi lợi thế về tốc độ của agent.
• Linh hoạt lựa chọn mô hình theo chi phí. Với sự xuất hiện của các mô hình chuyên dụng giá rẻ hoặc miễn phí như Ox Alpha, việc sử dụng các API đắt đỏ cho các tác vụ lặp đi lặp lại là không cần thiết. Hãy phân loại tác vụ: dùng mô hình nhỏ, rẻ cho việc sửa lỗi vặt và chỉ dùng mô hình lớn cho việc thiết kế kiến trúc ban đầu.

Lập trình bằng agent không giúp chúng ta bớt việc đi, mà thay đổi bản chất công việc của chúng ta. Kỹ sư phần mềm sẽ dịch chuyển dần từ vai trò người trực tiếp gõ code sang vai trò người giám sát hệ thống và thiết kế quy trình kiểm thử. Khả năng kiểm soát chi phí token và độ chính xác của agent sẽ là kỹ năng quyết định năng lực của một kỹ sư trong thời gian tới.