Quan sát thực tế đầu tiên về kỹ thuật bẻ khóa "đóng khung CTF" của LLM, kỹ thuật này phá vỡ các rào cản an toàn của mô hình AI bằng tỷ lệ cá cược euro ngụy trang thành "thử thách CTF hợp pháp hoặc hoạt động săn tìm CVE"

Một số kẻ đe dọa độc lập đã sử dụng kỹ thuật này để yêu cầu trợ lý mã hóa tạo mã khai thác mà sau đó chúng sử dụng nguyên vẹn để tấn công các nền tảng AI như PraisonAI và LiteLLM cũng như Gotenberg Khung này bị rò rỉ dưới dạng "dấu vân tay" không chỉ trong Tác nhân người dùng mà còn trong mọi trường đầu ra do LLM tạo ra, bao gồm mật khẩu, khóa API và tên phiên AWS Điều này không phải do kẻ tấn công cố ý thêm vào mà là do đặc tính đầu ra của LLM

Người bảo vệ có thể dễ dàng phát hiện và ngăn chặn cuộc tấn công này bằng tỷ lệ cá cược euro sử dụng WAF để phát hiện và chặn giá trị nhận dạng CVE trong Tác nhân người dùng cũng như bằng tỷ lệ cá cược euro dọn dẹp các trường có liên quan trong quá trình phân tích bảo mật bằng LLM