Kitboga đã sử dụng AI như thế nào để khiến một kẻ lừa đảo, gây thiệt hại 15.000 đô la, hoàn toàn suy sụp.

Bối cảnh: Cuộc gọi "Hoàn tiền McAfee" gặp một nạn nhân quá ám ảnh về AI

Trong video này của Kitboga, "Kẻ lừa đảo nổi điên vì sai sót AI trị giá 15.000 đô la," người tạo nội dung đóng vai một nhân vật lớn tuổi tên Richard, người nhận được một cuộc gọi về việc hoàn tiền giả mạo của McAfee ("Mcaffy"). Người gọi tự xưng là nhân viên hỗ trợ và nói rằng anh ta phải:

• Xác nhận một số ID
• Kết nối với "máy chủ robot" để kiểm tra xem có hacker hay không
• Điền vào một biểu mẫu hủy/hoàn tiền

Đây là một mô hình lừa đảo hỗ trợ kỹ thuật / hoàn tiền điển hình: tuyên bố có vấn đề bảo mật, giành quyền kiểm soát từ xa, sau đó chuyển tiền và đổ lỗi cho nạn nhân.

Kitboga, một người nổi tiếng trên Twitch và YouTube, được biết đến với việc "bẫy" những kẻ lừa đảo qua điện thoại, đã khai thác việc kẻ lừa đảo sớm đề cập đến AI và biến nó thành vũ khí chính của cuộc gọi. Richard trở thành một người đàn ông luôn dựa vào AI ("Chad GPT", "Chaddy BD", v.v.) cho mọi thứ.

Kẻ lừa đảo nhanh chóng nhận ra rằng anh ta không chỉ đang giao tiếp với một mục tiêu bối rối, mà còn với một người liên tục tham khảo ý kiến "AI" trong thời gian thực—và đó là lúc mọi thứ bắt đầu trở nên tồi tệ.

Quyền truy cập từ xa, quét giả mạo và những điều vô nghĩa về "Máy chủ ngân hàng thế giới"

Sau khi Richard đồng ý, kẻ lừa đảo hướng dẫn anh ta cài đặt phần mềm truy cập từ xa. Kitboga chỉ ra rằng:

• Kẻ lừa đảo muốn quyền kiểm soát từ xa hoàn toàn máy tính.
• Điều này cho phép chúng truy cập vào ngân hàng, email, tệp cá nhân và hơn thế nữa.
• Hỗ trợ kỹ thuật hoặc bảo mật thực sự của Microsoft không hành động như vậy.

Trên màn hình, kẻ lừa đảo:

• Thực hiện các "quét" giả mạo thông qua dòng lệnh
• Gõ các tin nhắn đáng báo động, viết bằng tiếng Anh sai ngữ pháp về hacker và địa chỉ IP
• Tuyên bố: "Bạn đang bị hacker tấn công."

Kitboga thậm chí còn để trợ lý AI của mình trên màn hình phản bác kẻ lừa đảo trong một thời gian ngắn, cảnh báo chính xác rằng đây là một trò lừa đảo hoàn tiền phổ biến được thiết kế để đánh cắp thông tin tài khoản ngân hàng.

Sau đó, kẻ lừa đảo mở một cửa sổ dòng lệnh giả mạo "Máy chủ ngân hàng thế giới", giả vờ như đó là một thiết bị ngân hàng toàn cầu. Anh ta hướng dẫn Richard:

• Gõ tên của mình
• Gõ tên ngân hàng của mình
• Để "máy chủ" xử lý số tiền hoàn lại

Đây là một thủ đoạn tiêu chuẩn, trong đó kẻ lừa đảo chuyển tiền giữa các tài khoản của nạn nhân, sau đó chỉnh sửa HTML và nhãn trên màn hình để tạo cảm giác như tiền đến từ một nguồn bên ngoài (ví dụ: "máy chủ Mcaffy").

Sai sót "AI" trị giá 15.000 đô la và cơn giận bùng nổ

Thời điểm quan trọng là việc hoàn tiền giả mạo 15.000 đô la:

1. Kẻ lừa đảo bảo Richard nhập một số tiền "hoàn lại" nhỏ, chẳng hạn như 150,00.
2. Trên màn hình, nó hiển thị là 15.000,00, và kẻ lừa đảo giả vờ như số tiền này đến từ McAfee.
3. Anh ta khăng khăng rằng Richard vừa mắc một sai lầm lớn và gây thiệt hại cho công ty.

Kẻ lừa đảo đổ lỗi cho Richard vì đã nhấn phím số 0 quá mạnh:

• "Có lẽ bạn đã nhấn phím số 0 hơi quá mạnh."
• Anh ta coi đó là một tình huống hiếm gặp, nghiêm trọng có thể khiến anh ta bị sa thải.

Richard đáp lại bằng cách sử dụng trò đùa AI đang diễn ra: có lẽ AI ("Chad GPT") đã làm điều đó, không phải anh ta. Kẻ lừa đảo không thấy được sự hài hước. Anh ta ngày càng tức giận hơn trước sự liên tục của Richard:

• Kiểm tra với "chat GPD"
• Yêu cầu AI giải thích về ngân hàng
• Hỏi AI về các vấn đề về tâm lý, ong và thần học

Một số lời lẽ của kẻ lừa đảo:

• "Đừng ngốc nghếch nữa. Được rồi, đừng ngốc nghếch nữa."
• "Bạn đang hành xử ngốc nghếch ngay bây giờ."
• "Tôi thực sự chán bạn rồi."
• "Đừng bắt tôi làm bất cứ điều gì xấu xa."

Richard cũng tuyên bố rằng anh ta bị ADHD và "không thể giúp" việc bị phân tâm, điều mà kẻ lừa đảo tàn nhẫn so sánh với "vấn đề rối loạn tâm thần". Sự tàn nhẫn đó cuối cùng đã khiến tình huống trở nên thú vị hơn khi xem.

Ong, Bitcoin và Thần học: Đánh lạc hướng kẻ lừa đảo một cách có chủ ý

Trong suốt cuộc gọi, Kitboga sử dụng những câu chuyện vô nghĩa, lan man để kéo dài thời gian của kẻ lừa đảo:

• Kẻ lừa đảo gợi ý Bitcoin như một khoản đầu tư thay vì AI.
• Richard nghe nhầm và bắt đầu một bài độc thoại về ong và tầm quan trọng của chúng:
  • Ong tạo ra mật ong, bay, kêu vo ve và thụ phấn.
  • Nếu không có thụ phấn, con người sẽ không tồn tại.
  • Do đó, "theo một cách nào đó, chúng ta nợ tất cả mọi thứ cho ong."
• Anh ta đề cập đến meme về ong thách thức các định luật hàng không và đùa rằng: "Chiếu tướng, những người vô thần," và tự hỏi liệu ong có phải là Chúa hay không.

Trong khi đó, kẻ lừa đảo đang cố gắng đưa anh ta trở lại biểu mẫu hoàn tiền và trang ngân hàng:

• "Ông Richard, ông có đang điền vào biểu mẫu không?"
• "Ông ở đây để hủy đăng ký Mcaffy của mình, thưa ông Richard."

Richard tiếp tục quay trở lại ChatGPT, hỏi về:

• Ong như những vị thần
• Sức khỏe tâm thần
• Bảo mật ngân hàng

Cuộc trò chuyện qua lại hoàn hảo cho thấy cách làm lãng phí thời gian là một phần trong chiến lược của Kitboga: mỗi phút anh ta dành cho việc này là một phút kẻ lừa đảo không thể sử dụng để nhắm mục tiêu vào một nạn nhân thực sự.

Thẻ quà tặng so với AI: Cách trò lừa đảo sụp đổ

Cuối cùng, trò lừa đảo chuyển sang giai đoạn thẻ quà tặng quen thuộc. Sau khi giả vờ cần thu hồi 15.000 đô la, kẻ lừa đảo cố gắng hướng dẫn Richard:

• Đến một cửa hàng như CVS, Rite Aid hoặc Giant Eagle
• Mua thẻ quà tặng Apple (anh ta nhấn mạnh "thẻ quà tặng Apple" nhiều lần)

Richard, vẫn giữ nguyên vai diễn, nghe nhầm và ứng biến:

• Nói về việc gửi các sản phẩm thực tế từ Amazon
• Đề nghị mua một số lượng lớn hộp McAfee
• Đề xuất chi 15.000 đô la cho son dưỡng môi Burt's Bees dựa trên những gì "Chad" khuyên dùng làm quà tặng chu đáo

Quan trọng nhất, Kitboga đã để trợ lý AI của mình thực sự cảnh báo về trò lừa đảo này.

Bài học quan trọng: AI như một lá chắn, không phải là một lối tắt

Trong cuộc gọi này, Kitboga biến sự hoài nghi về AI của chính kẻ lừa đảo thành một vũ khí:

• Kẻ lừa đảo tuyên bố rằng AI không thể thay thế "dịch vụ" của anh ta.
• Richard sử dụng "AI" (và ý tưởng về AI) để:
  • Liên tục trì hoãn quá trình
  • Đặt ra những câu hỏi logic về ngân hàng và thẻ quà tặng
  • Cuối cùng giữ lại tất cả giá trị của thẻ quà tặng cho chính mình thay vì cho kẻ lừa đảo

Đồng thời, video củng cố những bài học thực tế:

• Các trò lừa đảo hỗ trợ kỹ thuật/hoàn tiền tuân theo các kịch bản có thể nhận biết: cảnh báo bảo mật giả mạo, quyền kiểm soát từ xa, hoàn tiền quá mức và thẻ quà tặng.
• Kiến thức—cho dù từ một công cụ AI hay từ các nguồn thông tin của con người—có thể phát hiện ra những mô hình đó trước khi tiền bị mất.
• Các công cụ như Serif Secure và các nhóm chống gian lận cảnh giác, chẳng hạn như nhóm mà Kitboga làm nổi bật tại Kraken, có thể giảm thiểu thiệt hại do những kẻ lừa đảo gây ra.

Tình huống đó rất thú vị, nhưng thông điệp cốt lõi rất nghiêm túc: không bao giờ chia sẻ quyền truy cập từ xa, không bao giờ cung cấp thông tin tài khoản ngân hàng cho những người gọi không mong muốn và không bao giờ trả "hoàn tiền" hoặc "phí" bằng thẻ quà tặng. Kiến thức và sự hoài nghi, chứ không phải sự hoảng loạn, mới là những gì bảo vệ mọi người khỏi những cuộc gọi như thế này.