Khi vận hành tác nhân LLM và AI trên vùng chứa, cần phải chuẩn bị cho các mối đe dọa xuất hiện lần đầu trong thời gian chạy, chẳng hạn như tấn công LLM, leo thang đặc quyền/vi phạm chéo, sử dụng GPU trái phép cũng như lây nhiễm mô hình và thư viện

Chỉ quét hình ảnh, WAF và giám sát nhật ký không thể phát hiện đầy đủ các cuộc tấn công ẩn giấu trong thông tin liên lạc hợp pháp hoặc hành vi bất thường của các tác nhân tự trị

Để chống lại điều này, điều quan trọng là phải quản lý các đặc quyền tối thiểu theo cách sử dụng, Bí mật, SBOM và nguồn mô hình cũng như giám sát các quy trình, quyền truy cập tệp và liên lạc theo thời gian thực bằng eBPF và Falco

Sysdig Secure hỗ trợ phát hiện sớm và ngăn chặn nhanh chóng các điểm bất thường thông qua khả năng hiển thị cấp hạt nhân, thông tin cập nhật về mối đe dọa và hỗ trợ phản hồi được hỗ trợ bởi AI Sự kết hợp giữa ngăn chặn dịch chuyển trái và phát hiện thời gian chạy là điều cần thiết để vận hành an toàn khối lượng công việc AI