Trước khi âm nhạc dừng lại: OpenClaw và nhu cầu ngày càng tăng về các tiêu chuẩn bảo mật AI

Bạn đã đến trễ buổi biểu diễn piano của con trai bạn khi sếp của bạn gửi email cho bạn, nói với bạn rằng bạn cần phải đi du lịch đến Boston trong vài ngày nữa để tham gia một cuộc họp làm việc. Nhân viên AI của bạn đọc e-mail và bắt đầu lên kế hoạch cho chuyến đi cho bạn trong khi bạn chạy nước rút ra khỏi cửa. Chuyến đi đã được đặt. Và bạn đến trường chỉ với đủ thời gian để thưởng thức bản trình diễn đầy tinh thần của “Mary Had a Little Lamb.”

Ngoại trừ đó không phải là tất cả những gì xảy ra. Trong khi lùng sục các trang web du lịch để tìm mức giá tốt nhất cho một khách sạn ở Boston, nhân viên AI gặp phải một sự bất thường - một trang web bị hỏng với các hướng dẫn ẩn hướng dẫn đại lý của bạn chuyển một số tiền đáng kể sang một ví kỹ thuật số không xác định. Và đó là khi âm nhạc dừng lại.

Các đại lý AI hứa hẹn rất lớn cho tương lai của cách chúng ta làm việc, sống và tham gia vào thương mại. Với việc triển khai lan can phù hợp, công nghệ này mang đến cơ hội tăng hiệu quả, hiểu rõ hơn và chống lại gian lận và các mối đe dọa bảo mật, cũng như tùy chỉnh trải nghiệm thương mại điện tử của chúng tôi. Tuy nhiên, sự ra đời gần đây của một tác nhân mã nguồn mở mới được gọi là OpenClaw đã khuếch đại những lo ngại liên tục xung quanh bảo mật và an toàn của các tác nhân AI.

OpenClaw là một đại lý AI hoàn toàn tự chủ, luôn hoạt động có thể giúp bạn hoàn thành các nhiệm vụ trong thế giới thực - từ đặt vé du lịch đến mua hàng tạp hóa. OpenClaw - chạy trên máy tính hoặc máy chủ của bạn - có thể được cấu hình để quét email hoặc tin nhắn của bạn, xác định những nhiệm vụ cần phải được thực hiện và hoàn thành chúng một cách có hệ thống, tất cả đều không có sự tham gia của con người.

Sự tinh vi kỹ thuật của OpenClaw nhanh chóng tiến bộ chỉ trong vài tháng kể từ khi được giới thiệu vào cuối năm 2025, được thúc đẩy bởi bản chất mã nguồn mở và phản ánh tốc độ phát triển của công nghệ này. OpenClaw là một ví dụ về một trợ lý hỗ trợ AI có thể thúc đẩy hiệu quả đáng kể, tiết kiệm thời gian và cắt giảm chi phí. Nhưng OpenClaw và công nghệ tương tự mang theo những rủi ro bảo mật được ghi chép đầy đủ.

Để OpenClaw thực hiện những gì nó đang làm, nó cần sự cho phép của bạn để Access dữ liệu, bao gồm e-mail và các tài liệu khác có thể chứa thông tin nhạy cảm, cũng như quyền đưa ra các quyết định quan trọng, như tiêu tiền. Quyền hành động đó kết hợp với việc tiếp xúc với các mối đe dọa được ghi nhận như “tiêm nhanh” - đầu vào độc hại có thể thao túng các tác nhân AI - đã khiến một số người gọi OpenClaw là “không an toàn theo mặc định”. Trong khi các đại lý AI như OpenClaw phải đối mặt với một số thách thức bảo mật tiềm ẩn, việc tiêm nhanh là một mối đe dọa bảo mật AI có vấn đề duy nhất và ngày càng phổ biến.

Việc tiêm nhắc nhở xảy ra khi một tác nhân độc hại ẩn hướng dẫn trong văn bản mà tác nhân AI của bạn sẽ đọc - nó có thể nằm trên trang web, tin nhắn, PDF hoặc bất cứ thứ gì khác mà nó gặp phải. Nếu không có các biện pháp bảo mật phù hợp, các chỉ thị độc hại này có thể lừa tác nhân của bạn đặt sang một bên bất kỳ hướng dẫn nào bạn đã lập trình ban đầu và thay vào đó, làm những gì tác nhân đe dọa muốn. Đây là một rủi ro đáng kể vì khả năng mở rộng quy mô triển khai các đại lý một cách hiệu quả với các trường hợp sử dụng đa dạng - đối với mọi thứ từ việc tăng cường cách chúng ta chống gian lận đến mua một đôi giày mới - phụ thuộc vào các đại lý đó nhanh chóng tương tác và đưa ra quyết định liên quan đến dữ liệu có sẵn công khai.

Việc tiêm nhanh chóng có ý nghĩa quan trọng - không chỉ đối với việc sử dụng các tác nhân AI nói chung mà đối với thương mại đại lý cụ thể. Nguy cơ các tác nhân AI bán tự động hoặc hoàn toàn tự trị bị các tác nhân độc hại chỉ huy, cho phép họ chuyển hướng và đánh cắp một khoản tiền đáng kể, là một mối đe dọa thực sự. Nếu người dùng không thể tin tưởng một đại lý hiểu đầy đủ ý định của họ, tôn trọng những ràng buộc của họ và hoạt động an toàn, mọi người sẽ không sử dụng nó. Đây là lý do tại sao Mastercard đã làm việc để xây dựng một khuôn khổ cho thương mại đại lý được thiết kế để giúp đảm bảo hệ sinh thái mới này có thể được chấp nhận một cách an toàn và bảo mật.

Mặc dù các mối đe dọa là có thật, chúng tôi cũng biết cách ngăn chặn chúng. Có những kỹ thuật có thể giúp chống lại các mối đe dọa bảo mật AI nhanh chóng và các mối đe dọa bảo mật AI khác, bao gồm xem xét và loại bỏ các đầu vào độc hại trước khi tác nhân đọc và hành động với chúng, hạn chế hệ thống và dữ liệu mà tác nhân có thể Access và kiểm tra các hoạt động của các tác nhân sau thực tế để phân tích và xác định hành vi bất thường. 

Mastercard luôn dẫn đầu trong việc phát triển và sử dụng AI một cách có trách nhiệm và an toàn, với các nguyên tắc dữ liệu và công nghệ mạnh mẽ cũng như chức năng quản trị AI hàng đầu thế giới. Tuy nhiên, việc các công ty riêng lẻ triển khai các biện pháp bảo mật AI là chưa đủ. Cho dù mạnh mẽ đến đâu, một loạt các biện pháp bảo mật được triển khai không đồng đều trên hệ sinh thái kỹ thuật số của chúng ta sẽ không giải quyết được vấn đề này.

Xây dựng khả năng phục hồi và niềm tin thực sự vào hệ sinh thái đại lý phụ thuộc vào việc áp dụng rộng rãi các kỹ thuật bảo mật phổ biến và các phương pháp hay nhất. Để làm được điều đó, chúng ta cần phát triển và hỗ trợ các tiêu chuẩn bảo mật AI được công nhận rộng rãi và hài hòa trên toàn cầu. Các tiêu chuẩn này có thể giúp xác định một kiến trúc bảo mật chung, tạo ra một nền tảng ổn định và linh hoạt, nơi các nhân viên AI có thể thực hiện mọi thứ một cách an toàn, từ mua hàng đến giám sát các mối đe dọa bảo mật đối với cơ sở hạ tầng quan trọng.

Các tổ chức có ảnh hưởng trên khắp thế giới đang chạy đua để phát triển các tiêu chuẩn đó. Tại Hoa Kỳ, Viện Tiêu chuẩn và Công nghệ Quốc gia thuộc Bộ Thương mại đã bắt đầu nỗ lực thu thập thông tin đầu vào trên phạm vi rộng liên quan đến các tiêu chuẩn bảo mật tác nhân AI.  Tại Singapore, Cơ quan Phát triển Truyền thông Infocomm đã đề xuất Khung quản trị mô hình cho AI đại lý, phác thảo cách tiếp cận thông thường, bao gồm các phương pháp hay nhất về bảo mật đại lý AI.

Mặc dù có những rủi ro khi sử dụng công nghệ này, chúng tôi tin rằng ba khuyến nghị sau đây là chìa khóa khi chúng tôi thực hiện các bước tiếp theo trong việc xây dựng một hệ sinh thái đại lý an toàn và bảo mật.

Đầu tiên, các tổ chức cần ưu tiên việc áp dụng và thực hiện các phương pháp hay nhất để đảm bảo việc sử dụng các tác nhân AI sớm trong vòng đời phát triển và triển khai sản phẩm.

Tiếp theo, các tổ chức cần liên tục giám sát các đại lý đó để đảm bảo họ có thể xác định và sửa chữa bất kỳ hành động hoặc hoạt động nào khác thường.

Cuối cùng, hệ sinh thái rộng lớn hơn phải hỗ trợ việc phát triển và áp dụng các tiêu chuẩn toàn cầu về bảo mật AI để đảm bảo mọi người có thể tìm kiếm các tiêu chuẩn chung trong việc xây dựng kiến trúc bảo mật chung cho một tương lai đại lý an toàn.

Việc triển khai thành công các biện pháp bảo vệ này và hỗ trợ phát triển các tiêu chuẩn toàn cầu có thể đảm bảo hàng triệu người và doanh nghiệp có thể hưởng lợi từ các công nghệ tác nhân mới đồng thời tránh được những rủi ro bảo mật tiềm ẩn.