Vài năm trước, một khách du lịch ở Mexico đã sử dụng thẻ tín dụng của mình để rút tiền mặt từ máy ATM. Khi về đến nhà và nhìn vào bảng sao kê thẻ của mình, anh thấy rằng thẻ cũng đã được sử dụng để mua một số món đồ trang sức. Điều này thật kỳ lạ: Không chỉ anh ta không mua bất cứ thứ gì bằng thẻ trong kỳ nghỉ, giao dịch đã xảy ra năm phút sau khi rút tiền ATM - tại một cửa hàng ở phía bên kia đất nước.

May mắn thay, sau khi xem xét trường hợp của anh ta, một nhóm tại ngân hàng của anh đã đồng ý rằng - mặc dù các công cụ phát hiện gian lận AI của họ đã không đánh dấu việc mua hàng là đáng ngờ - rất khó có khả năng anh ta đã tự mua đồ trang sức, vì vậy họ đã hoàn lại tiền mua. Khi họ đào sâu hơn, nhóm nghiên cứu xác định rằng những kẻ lừa đảo có thể đã đánh cắp thông tin thẻ tín dụng của anh ta từ một đầu đọc ẩn trong máy ATM và gửi nó cho một đồng phạm ở bờ biển đối diện.

Sự dễ dàng, tốc độ và tính ẩn danh của các hình thức thanh toán hiện đại đã làm nảy sinh các âm mưu gian lận như thế này ở quy mô mà con người không thể theo kịp. May mắn thay, họ không cần phải làm vậy vì các ứng dụng AI hiện nay có thể giám sát mọi giao dịch và theo dõi toàn bộ mạng lưới thẻ để phát hiện các cuộc tấn công. Các mô hình AI này sắp xếp dữ liệu hiệu quả hơn bất kỳ con người nào có thể làm được.

Mastercard đã khai thác AI trong nhiều năm để phát hiện gian lận và hiện đang sử dụng công nghệ này để bảo mật hơn 159 tỷ giao dịch mỗi năm, ngăn chặn hàng tỷ đô la thiệt hại do gian lận. Năm ngoái, Mastercard đã mua lại Recorded Future, một công ty sử dụng AI để phân tích hàng triệu điểm dữ liệu mỗi ngày, xác định các mô hình và hiện tượng bất thường báo hiệu các mối đe dọa tiềm ẩn.

Nhưng con người cần AI bao nhiêu thì AI cũng cần con người bấy nhiêu. Trong khi các công cụ tự động thực hiện công việc khó khăn, để có kết quả hữu ích, các nhà phát triển phải liên tục cung cấp bối cảnh thực tế — bằng cách xác định các loại gian lận mới, xác định cách ngăn chặn mà không làm gián đoạn mạng lưới lớn hơn và lập trình các quy tắc mới vào thuật toán. Đầu vào của con người chính là thứ biến sức mạnh AI thô sơ thành trí thông minh thực tế và có liên quan.

Khi các mô hình AI và máy học ngày càng phát triển mạnh mẽ hơn, thật hấp dẫn khi tin rằng chỉ riêng công nghệ mới có thể vượt qua tội phạm mạng ngày nay, Johan Gerber của Mastercard, Giám đốc Giải pháp Bảo mật toàn cầu cho biết. Nhưng đằng sau mỗi cảnh báo, bất thường hoặc giao dịch bị đánh dấu là một lớp quan trọng, gia tăng mà các thuật toán không thể sao chép: phán đoán của con người. Khi sự phán đoán của con người được kết hợp với AI, đó là những gì làm cho nó thực sự hiệu quả và đảm bảo nó vẫn có trách nhiệm.

Mặc dù AI được thiết kế để phân biệt các mô hình tinh tế trong các kho dữ liệu, nhưng nó không phải lúc nào cũng được trang bị để xử lý các ngoại lệ. Nếu không có sự giám sát của con người, các sự kiện bất ngờ có thể gây ra tình trạng bỏ sót mối đe dọa, báo động giả và các sai lệch khác.

“Ngay cả với những công cụ mạnh mẽ này, bạn vẫn cần con người”, Vince Haulotte, giám đốc phân phối thị trường trong mảng kinh doanh gian lận và quyết định rủi ro của Mastercard nói. “Bạn phải sử dụng một chút muối và tính đến bối cảnh để đảm bảo phản ứng của AI có hiệu quả.”

Ví dụ, hệ thống AI đã theo dõi việc sử dụng thẻ tín dụng của du khách trong kỳ nghỉ ở Mexico. Nhưng AI cần một con người để nói với nó rằng có điều gì đó buồn cười về hai giao dịch liên tiếp nhanh chóng ở các phía đối diện của đất nước và nó cần một con người để chỉ cho nó cách cảnh giác với các sự cố tương tự trong tương lai.

Để ngăn chặn trò lừa đảo cụ thể này ảnh hưởng đến các khách hàng khác, Haulotte, khi đó là một lập trình viên làm việc trên nền tảng Brighterion AI, đã tạo ra một quy tắc mới sẽ đánh dấu các giao dịch bất khả thi về mặt địa lý. Brighterion theo dõi các giao dịch thẻ tín dụng trong thời gian thực, 24/7 và chấm điểm chúng dựa trên mức độ rủi ro của chúng; khi một giao dịch bị đánh dấu là có khả năng gian lận, hệ thống ngay lập tức thông báo cho ngân hàng của người dùng thẻ. (Mỗi ngân hàng có thể tùy chỉnh ngưỡng điểm để thực hiện hành động, chẳng hạn như gửi cảnh báo hoặc thậm chí từ chối giao dịch.) 

Safety Net, một sản phẩm khác của Mastercard, sử dụng AI để theo dõi toàn bộ mạng thẻ để tìm các dấu hiệu tấn công. Ví dụ, nếu một trang web tràn ngập hàng ngàn tài khoản mới trong một khoảng thời gian ngắn, đó có thể là do những kẻ lừa đảo đang spam trang web để đoán số thẻ hợp lệ thông qua vũ lực.

Tất nhiên, một mô hình AI không biết điều đó; nó không nhất thiết có thể hiểu được những chi tiết tốt hơn về hành vi của con người. Do đó, nó cũng có thể gây ra một lá cờ đỏ khi một chương trình khuyến mãi thành công - hoặc, ví dụ, Thứ Hai Điện Tử - khiến lưu lượng truy cập của trang web tăng đột biến. Nhận ra sự khác biệt là nơi con người bước vào.

Brett Thomson, giám đốc phát triển sản phẩm tại Safety Net cho biết: “Với sự gia tăng của các giao dịch chính xác như vậy, tôi sẽ hợp tác với một người quản lý tài khoản để hiểu những gì đang xảy ra và đưa ra các biện pháp phòng ngừa để ngăn chặn báo động sai. “Bạn phải cung cấp cho AI một số hướng.”

Bởi vì các chiến lược tội phạm liên tục phát triển, chuyên môn của con người cũng rất cần thiết để xác định các mối đe dọa mới và xác định cách ngăn chặn chúng. Ngay khi những kẻ lừa đảo nhận ra rằng chiến lược của chúng không còn hiệu quả nữa, chúng sẽ nghĩ ra những kế hoạch mới. Nhưng vì AI được đào tạo dựa trên dữ liệu trong quá khứ nên các công cụ giám sát không phải lúc nào cũng phát hiện ra những mô hình mới này ngay lập tức. Vì vậy, các nhà phát triển phải cập nhật và đào tạo các thuật toán trong trò chơi mèo vờn chuột đang diễn ra.

“Sau khi chúng tôi đưa ra biện pháp giảm thiểu, họ sẽ thay đổi chiến lược của họ. Sau đó, chúng tôi sẽ nhận thấy chiến lược đó và thêm một biện pháp giảm thiểu mới”, Thomson nói. “Đó là một sự liên tục qua lại, mỗi chúng ta đều quan sát cách người kia phản ứng với sự phát triển tiếp theo.”

Động lực không ngừng này đảm bảo rằng Thomson, Haulotte và các đồng nghiệp của họ trong ngành vẫn là những người đóng vai trò quan trọng trong cuộc chiến chống gian lận.

Haulotte nói: “Tôi liên tục ngạc nhiên trước sự táo bạo và trí tưởng tượng của những kẻ lừa đảo. “Luôn có xu hướng gian lận mới, vì vậy chúng tôi phải tiếp tục xây dựng các giải pháp mới để đi trước chúng. Công việc của chúng tôi không bao giờ dừng lại.”