Search for a command to run...
Series
Data goes in. Exploits come out.
Giới thiệu Prompt Engineering là một lĩnh vực khá mới, nhằm phát triển và tối ưu hóa các prompt để áp dụng và xây dựng hiệu quả với cả mô hình ngôn ngữ lớn (LLM) cho nhiều ững dụng và trường hợp sử dụ
With great power comes great responsibility
Mặc dù vấn đề mất khả năng sẵn sàng (Availability) thường ít được thảo luận, đặc biệt trong bối cảnh tiêm nhiễm prompt injection, nhưng đây là một yếu tố quan trọng không thể bỏ qua trong việc đảm bảo bảo mật và hiệu quả của hệ thống AI, đặc biệt là ...
Tính toàn vẹn là một thuộc tính khá thú vị khi nói đến các ứng dụng LLM (Large Language Model) và chatbot. Bởi vì kết quả suy luận trên dữ liệu thường là không xác định (non-deterministic). Sản phẩm sáng tạo trong các mô hình này thường được gọi là "...
Tóm lược Tam giác bảo mật CIA - Confidentiality (tính bí mật), Integrity (tính toàn vẹn), Availability (tính sẵn sàng) - là nền tảng của dữ liệu và an ninh mạng. Với sự xuất hiện của các mô hình LLM, một loại đe dọa mới, gọi là prompt injection, lần ...
Abstract We introduce the first general-purpose gradient-based attack targeting transformer models. Rather than focusing on finding a single adversarial example, we aim to discover a distribution of adversarial examples represented by a continuous ma...
