Trả lời được đại đa số câu hỏi từ người dùng, có rất nhiều thứ dễ khiến AI bị sử dụng sai mục đích. Mới đây, một người dùng đã sử dụng ChatGPT để tạo ra các mã kích hoạt hệ điều hành Windows hoàn toàn hoạt động được.

Nhà sáng tạo nội dung Enderman chia sẻ trên YouTube, vì muốn thử nghiệm sức mạnh của ChatGPT, anh đã yêu cầu chat bot này tạo ra các đoạn mã kích hoạt hệ điều hành Windows 95. Với mục đích thử nghiệm nên hệ điều hành Windows 95 được lựa chọn do Mirosoft đã dừng hỗ trợ hệ điều hành này từ cuối năm 2001.

Thêm vào đó, độ phức tạp các đoạn mã kích hoạt của Windows 95 cũng thấp hơn nhiều so với Windows XP, Windows 7 hay cả Windows 10 và 11, giúp tăng độ chính xác của kết quả mà AI tạo ra.

Để ChatGPT thực hiện theo yêu cầu cũng không phải điều dễ dàng, AI này liên tiếp từ chối yêu cầu của người dùng, khẳng định bản thân chỉ là công cụ ngôn ngữ. ChatGPT cho rằng mình không có khả năng tạo nên các đoạn mã kích hoạt Windows 95 hay bất kì mã kích hoạt phần mềm nào khác.

AI này cũng nhấn mạnh các đoạn mã kích hoạt phải được mua từ bên phân phối thay vì tìm kiếm trôi nổi trên Internet. Phản hồi thêm với yêu cầu liên quan đến hệ điều hành Windows 95, ChatGPT cũng khuyên Enderman nên chuyển sang sử dụng hệ điều hành tân tiến hơn do Windows 95 không còn được bán bởi Microsoft.

Mặc dù vậy, khi sử dụng các đoạn mã có sẵn của hệ điều hành Windows 95 đồng thời yêu cầu ChatGPT tạo nên những mã tương tự, sau nhiều lần thử nghiệm thất bại, ChatGPT cuối cùng đã đưa ra những câu trả lời chính xác.

Giới chuyên gia cho rằng thành công của Enderman sẽ là dấu hiệu cảnh báo cho việc lạm dụng AI sai mục đích. Cho dù tỷ lệ thành công rất thấp, chỉ 1 trên 30 cho mỗi mã tạo ra, thế nhưng với lượng dữ liệu lớn cộng thêm vào đó là sự tiếp tay của nhiều tin tặc, AI có thể bị lạm dụng để tạo ra những đoạn mã bẻ khóa phần mềm, vi phạm bản quyền, giúp kẻ xấu thu lợi bất chính từ sản phẩm được bảo hộ.