【bảng xếp hạng giải a úc】ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind,ộthngtincnhnvlỗingớngẩbảng xếp hạng giải a úc Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
(责任编辑:La liga)
- ·Sau 25 năm, Hà Nội đã có chỉ đạo dự án hồ An Dương
- ·Việt Nam đã giảm 90% số DNNN
- ·Việt Nam – Israel cùng mong muốn thúc đẩy hơn nữa hợp tác thương mại và đầu tư
- ·Thực hiện đồng bộ các giải pháp tài chính
- ·CLB Doanh Nhân Sài Gòn tặng quà cho người nghèo Gia Lai
- ·Australia hậu thuẫn Mỹ đảm bảo tự do hàng hải ở Biển Đông
- ·20 ngành, lĩnh vực được sử dụng vốn đầu tư phát triển
- ·Giờ Trái đất năm 2016
- ·Vợ mang bầu, anh còn nhắn tin tán tỉnh người khác
- ·Gần 30.000 tỷ đồng xây tuyến cao tốc TP. HCM – Tây Ninh
- ·Khuyết tật nặng nhưng tôi thấy mình được trợ cấp chưa thỏa đáng
- ·Giá xăng tăng nhẹ sau 8 kỳ giảm liên tiếp
- ·Hà Nội shares COVID
- ·Bầu cử Mỹ: Bà Clinton và ông Trump bỏ xa đối thủ trước ngày “Siêu Thứ 3”
- ·Bị cha mẹ ngăn cấm, con cái muốn tự đăng ký kết hôn
- ·Tác động của Cộng đồng ASEAN đối với Việt Nam
- ·Thanh tra Chính phủ phát hiện trên 11.200 tỷ đồng sai phạm
- ·Thanh Hóa: Phát hiện xe tải chở gần 2 tấn bì lợn bốc mùi hôi thối
- ·Mua nhà ở thương mại, bị giao 'nhầm' nhà ở xã hội
- ·Quy định mức trần đóng BHXH, hạn chế chênh lệch lương hưu