Cụ thể,ệpcầnxemxétkĩcàngtrướckhitíchhợpchatbotAIvàomôhìajax – psv chatbot có khả năng cao bị tin tặc thao túng để gây ra những hậu quả đáng sợ trong thế giới thực. Điều này xảy ra khi người dùng nhập thông tin đầu vào hoặc câu lệnh được thiết kế để tạo ra một mô hình ngôn ngữ - công nghệ đứng sau các chatbot - làm cho nó hoạt động theo cách không mong muốn. Chatbothoạt động dựa trên trí tuệ nhân tạo (AI) có thể trả lời câu hỏi được nhập vào theo hình thức câu lệnh từ người dung.

Chúng bắt chước các cuộc trò chuyện giống con người đã được đào tạo thông qua việc thu thập một lượng lớn dữ liệu. Thường được sử dụng trong dịch vụ ngân hàng trực tuyến hoặc mua sắm trực tuyến, các chatbot được thiết kế để xử lý các yêu cầu đơn giản. Các mô hình ngôn ngữ lớn (LLM), chẳng hạn như ChatGPT của OpenAI và chatbot AI của Google, được đào tạo bằng cách sử dụng dữ liệu tạo ra phản hồi giống con người cho câu lệnh từ người dùng.

 Các cuộc tấn công lệnh có thể gây ra những hậu quả trên thực tế nếu hệ thống không được thiết kế bảo mật. Lỗ hổng bảo mật của chatbot. Ảnh minh họa

(责任编辑：Cúp C2)