Series

AI Security

Data goes in. Exploits come out.

Security Risks of "OpenClaw things"
With great power comes great responsibility
Mar 25, 20266 min read19
Trust No AI: Prompt Injection Along the CIA Security Triad - Part 3
Mặc dù vấn đề mất khả năng sẵn sàng (Availability) thường ít được thảo luận, đặc biệt trong bối cảnh tiêm nhiễm prompt injection, nhưng đây là một yếu tố quan trọng không thể bỏ qua trong việc đảm bảo bảo mật và hiệu quả của hệ thống AI, đặc biệt là ...
Feb 6, 20255 min read75
Trust No AI: Prompt Injection Along the CIA Security Triad - Part 2
Tính toàn vẹn là một thuộc tính khá thú vị khi nói đến các ứng dụng LLM (Large Language Model) và chatbot. Bởi vì kết quả suy luận trên dữ liệu thường là không xác định (non-deterministic). Sản phẩm sáng tạo trong các mô hình này thường được gọi là "...
Feb 6, 202525 min read56
Trust No AI: Prompt Injection Along the CIA Security Triad - Part 1
Tóm lược Tam giác bảo mật CIA - Confidentiality (tính bí mật), Integrity (tính toàn vẹn), Availability (tính sẵn sàng) - là nền tảng của dữ liệu và an ninh mạng. Với sự xuất hiện của các mô hình LLM, một loại đe dọa mới, gọi là prompt injection, lần ...
Feb 6, 202536 min read111
Gradient-based Adversarial Attacks against Text Transformers
Abstract We introduce the first general-purpose gradient-based attack targeting transformer models. Rather than focusing on finding a single adversarial example, we aim to discover a distribution of adversarial examples represented by a continuous ma...
Jan 31, 202517 min read130
HopSkipJumpAttack: Tấn công decision-based mô hình học máy
Một số khái niệm cơ bản Tấn công đối kháng (Adversarial attacks) Khái niệm Adversarial attack hay tấn công đối kháng nhắm vào các mô hình học máy đã xuất hiện từ khá lâu về trước. Tuy nhiên với sự “trỗi dậy” của AI hiện nay, topic này lại được quan t...
Jan 31, 202510 min read137

Command Palette