Khi AI tự vận hành máy móc và tự săn tìm lỗ hổng bảo mật

Trong suốt mười năm đầu tiên của dự án mã nguồn mở rclone - công cụ đồng bộ dữ liệu quen thuộc với giới quản trị hệ thống - người duy trì dự án Nick Craig-Wood chỉ nhận được khoảng 20 báo cáo bảo mật qua GitHub. Nhưng chỉ trong một tháng gần đây, con số này đã vọt lên hơn 40. Khoảng 75% trong số đó chứa đựng những lỗi thực tế cần phải xử lý ngay lập tức. Sự thay đổi đột ngột này không đến từ việc cộng đồng lập trình viên bỗng nhiên chăm chỉ hơn, mà do sự xuất hiện của các công cụ AI chuyên quét lỗi tự động. Chúng ta đang bước vào một giai đoạn mà các tác tử AI - hay AI agent - không còn dừng lại ở việc hỗ trợ gõ code hay trả lời câu hỏi chat thông thường. Chúng đang tự tìm cách can thiệp sâu vào cả mã nguồn lẫn thế giới vật lý bên ngoài.

Khi AI tự điều khiển máy móc nhà xưởng

Thay vì chỉ chạy trên các máy chủ đám mây để xử lý dữ liệu chữ và ảnh, AI bắt đầu chạm tay vào các thiết bị phần cứng trong thế giới thực. Việc kết nối phần mềm với các thiết bị như cánh tay robot, kính hiển vi hay hệ thống băng chuyền trước đây luôn là công việc phức tạp của các kỹ sư tích hợp hệ thống. Mỗi thiết bị cần một bộ mã điều khiển riêng, tiêu tốn vài tuần làm việc của các chuyên gia để viết code tùy biến.

Để giải quyết việc này, tiêu chuẩn phần cứng Model Hardware Standard do Anthropic đề xuất đang cố gắng thay đổi cách vận hành cũ. Thay vì viết code tùy biến phức tạp, người vận hành chỉ cần mô tả tính năng của máy móc bằng ngôn ngữ tự nhiên. Hệ thống sẽ tự động chuyển đổi thông tin này thành một tệp tham chiếu để các mô hình ngôn ngữ lớn như Claude đọc và hiểu cách điều khiển.

Trong một thử nghiệm thực tế, mô hình Claude đã tự học cách căn chỉnh tia laser thông qua phương pháp thử và sai liên tục, sau đó tự rút ra một đoạn mã tự động hóa quy trình này chỉ trong một lần chạy duy nhất. Thời gian thiết lập kết nối phần cứng nhờ đó được rút ngắn từ vài tuần xuống còn vài giờ hoặc vài phút. Khả năng này mở ra cơ hội lớn cho các nhà máy và phòng thí nghiệm, nhưng cũng đặt ra yêu cầu kiểm soát chặt chẽ khi phần mềm tự ý ra quyết định tác động lên thực thể vật lý.

Cuộc chạy đua tìm lỗi trên các kho mã nguồn

Ở chiều ngược lại của việc xây dựng là nguy cơ mất an toàn thông tin khi các tác tử AI tự động tìm kiếm lỗ hổng. Giáo sư Anil Madhavapeddy tại Đại học Cambridge - người duy trì trình biên dịch OCaml - chia sẻ một trải nghiệm đáng lo ngại. Ngay khi một bản vá bảo mật vừa được đưa lên để thảo luận nội bộ, chỉ trong vòng mười phút, máy chủ của dự án đã ghi nhận nhiều lượt quét tìm kiếm các chuỗi ký tự lạ nhằm khai thác lỗ hổng.

Các công cụ AI hiện nay nhạy bén đến mức chỉ cần một manh mối nhỏ về lỗi phần mềm cũng đủ để chúng tự tìm ra cách tấn công. Khi một số mô hình thương mại phổ biến từ chối thực hiện yêu cầu dò lỗi vì lý do an toàn, người dùng vẫn có thể chuyển sang các mô hình mã nguồn mở hoặc các phiên bản khác như DeepSeek V4 Pro để hoàn thành công việc.

Thực tế này đang làm phá sản quy trình cấm vận thông tin lỗi bảo mật truyền thống. Trước đây, các nhà phát triển thường có vài ngày hoặc vài tuần để âm thầm chuẩn bị bản vá trước khi công bố rộng rãi. Hiện tại, khoảng thời gian an toàn đó gần như bằng không. Tốc độ phát hiện và khai thác lỗi của AI nhanh hơn rất nhiều so với tốc độ phản ứng của con người.

Năng suất ảo và bài toán đưa AI vào đời sống thực

Tại Đông Nam Á, xu hướng đưa AI vào giải quyết các bài toán thực tế cũng đang diễn ra mạnh mẽ. Chương trình tăng tốc AI do OpenAI hợp tác với Bộ Đại học, Khoa học, Nghiên cứu và Sáng tạo Thái Lan (MHESI) là một ví dụ. Họ tập trung hỗ trợ 10 startup chuyển đổi các bản mẫu thử nghiệm thành sản phẩm thực tế trong lĩnh vực y tế và giáo dục. Việc tạo ra một bản demo AI chạy trơn tru trên máy tính cá nhân không quá khó, nhưng để đưa vào vận hành tại các bệnh viện hay lớp học lại là câu chuyện khác. Nó đòi hỏi quy trình kiểm thử nghiêm ngặt, phản hồi liên tục từ người dùng và các chốt chặn an toàn chặt chẽ vì đây là những lĩnh vực có độ rủi ro cao.

Tuy nhiên, sự phát triển nhanh của các tác tử AI đang đi trước khả năng quản lý của các doanh nghiệp. Một khảo sát từ IBM với 2.000 giám đốc điều hành cho thấy chỉ có khoảng 11% cảm thấy hoàn toàn sẵn sàng cho việc triển khai các tác tử AI tự trị. Nỗi lo lớn nhất nằm ở việc thiếu các ranh giới cấp quyền rõ ràng trước khi cho phép AI tự động thực hiện giao dịch hoặc thay đổi hệ thống.

Nhiều doanh nghiệp cũng đang rơi vào tình trạng lãng phí nguồn lực do hiện tượng năng suất ảo từ AI. Một trường hợp thực tế tại một doanh nghiệp cho thấy, khi vẽ lại toàn bộ quy trình làm việc, người ta phát hiện ra có tới ba đội nhóm khác nhau đang độc lập kiểm tra lại cùng một kết quả do AI tạo ra. Việc này không những không làm tăng hiệu suất mà còn làm tăng chi phí vận hành và gây ức chế cho nhân sự.

Thiết lập chốt chặn an toàn cho hệ thống

Bảng so sánh dưới đây cho thấy sự khác biệt giữa cách tiếp cận truyền thống và khi có sự tham gia của các tác tử AI tự trị trong vận hành:

Tiêu chí	Quy trình truyền thống	Quy trình có AI tự trị tham gia
Thời gian vá lỗi	Vài ngày đến vài tuần để thử nghiệm và phát hành	Phải xử lý trong vài phút do AI quét lỗi liên tục
Tích hợp phần cứng	Viết mã nguồn tùy biến cho từng thiết bị	Đọc tài liệu mô tả để tự học cách điều khiển
Kiểm soát rủi ro	Phân quyền dựa trên vai trò của nhân sự	Cần thiết lập chốt chặn tự động và giới hạn quyền hành động

Để giảm thiểu rủi ro, các chuyên gia bảo mật đang thảo luận về việc xây dựng các nút ngắt khẩn cấp - hay AI kill switch. Đây không chỉ là một nút bấm vật lý mà là một hệ thống giám sát hành vi liên tục, tự động ngắt kết nối của AI khi phát hiện các hành động vượt quá thẩm quyền hoặc có dấu hiệu bất thường.

Đối với những người làm kỹ thuật tại Việt Nam, sự thay đổi này đòi hỏi chúng ta phải thay đổi tư duy làm việc. Không thể tiếp tục tin tưởng vào các quy trình bảo mật cũ hay việc giấu kín mã nguồn lỗi để chờ vá. Mọi đoạn code đưa lên kho lưu trữ công khai cần được kiểm tra kỹ lưỡng bằng chính các công cụ quét AI trước khi công bố. Khi xây dựng các ứng dụng tích hợp AI vào quy trình sản xuất hay dịch vụ khách hàng, việc thiết lập các chốt chặn giám sát hành vi và giới hạn quyền hạn tối thiểu cho AI là điều bắt buộc phải làm ngay từ khâu thiết kế hệ thống, thay vì đợi đến khi sự cố xảy ra mới tìm cách khắc phục.