Ứng dụng được sử dụng rầm rộ là 'mảnh đất' nảy sinh quảng cáo sai sự thật
Nghiên cứu mới đây cho thấy, công cụ trí tuệ nhân tạo của OpenAI có thể bị thao túng bằng thủ thuật để quảng cáo nội dung độc hại, gây ảnh hưởng trực tiếp đến người dùng.
Tờ The Guardian đưa tin ngày 25/12 cho biết, các chuyên gia công nghệ sau khi làm một nghiên cứu nhỏ về ChatGPT đã phát hiện ứng dụng này có thể bị lợi dụng để quảng cáo sai sự thật.
Cụ thể, nghiên cứu được thực hiện bởi tiến sĩ Karsten Nohl - trưởng nhóm chuyên gia tại Công ty an ninh mạng SR Labs ở Berlin (Đức) và Jacob Larsen - nhà nghiên cứu an ninh dữ liệu của Công ty bảo mật máy tính CyberCX ở Adelaide (Úc). Quá trình nghiên cứu, họ đã phát hiện công cụ trí tuệ nhân tạo của OpenAI có thể bị thao túng bằng thủ thuật để quảng cáo nội dung độc hại.
Tiến sĩ Nohl cho biết, ông đã yêu cầu Chat GPT tóm tắt các trang web có chứa nội dung ẩn và kiểm tra cách công cụ này phản hồi. Được biết, nội dung ẩn” chứa hướng dẫn từ bên thứ 3 được vị chuyên gia này sử dụng còn được gọi là thủ thuật “prompt injection”, chứa nội dung được xây dựng để tác động đến các phản hồi của Chat GPT.
"Kỹ thuật này có thể được sử dụng với mục đích độc hại, khiến Chat GPT trả về đánh giá tích cực cho một sản phẩm, bất chấp sản phẩm đó nhận được nhiều đánh giá tiêu cực" - Tiến sĩ người Đức khẳng định.
Cũng theo ông Nohl, trong thử nghiệm nhỏ, Chat GPT được cung cấp đường dẫn URL đến một trang web giả, được xây dựng trông giống như cửa hàng bán máy ảnh. Sau đó, công cụ AI được hỏi liệu máy ảnh có đáng mua không. Ngay lập tức, công cụ đã đưa ra phản hồi về nhược điểm của các sản phẩm máy ảnh mà mọi người có thể không thích.
Đáng chú ý, khi người dùng sử dụng thủ thuật văn bản ẩn, có chứa “hướng dẫn” để Chat GPT trả về đánh giá tích cực, thì công cụ phản hồi luôn hoàn toàn tích cực. Điều này vẫn đúng ngay cả khi trang web giả nhận về đánh giá tiêu cực từ người dùng khác, nghĩa là “văn bản ẩn” có thể được sử dụng để ghi đè luôn cả điểm đánh giá thực tế.
Về phía Jacob Larsen, ông cho rằng, nếu Chat GPT hiện tại không được thay đổi, nhiều người có thể tạo ra các trang web bán hàng giả nhằm mục đích lừa đảo người dùng. Tuy nhiên, OpenAI có thể sẽ có biện pháp để ứng phó với vấn đề này. “Họ có một nhóm bảo mật AI rất mạnh ở đó và khi thông tin này được công khai, họ sẽ kiểm tra nghiêm ngặt những trường hợp như thế này” - vị chuyên gia người Úc nhận định.
- Chuyển đổi số quảng cáo: Trí tuệ nhân tạo có thể trở thành “con dao hai lưỡi”
- 10 xu hướng truyền thông nổi bật năm 2025: Trí tuệ nhân tạo đóng vai trò ‘định hình’
- Đột phá trong chiến lược kinh doanh nhờ công nghệ AI
-
Bật mí 5 bí quyết dưỡng da giúp nàng sở hữu 'làn da thủy tinh' đúng chuẩn Hàn Quốc - P&O Cruises mê hoặc người xem với quảng cáo 3D dưới nước, mang đến trải nghiệm chân thực đến khó tin
- Hiệu lực của giấy phép lái xe được cấp trước 1/1/2025 nếu chưa đổi, cấp lại theo Luật mới, quy trình sử dụng thế nào?
- Đây là lý do bạn nên sắm ngay một chiếc máy hút bụi có dây cho gia đình
- Honda BR-V được ưu đãi 'kép' hứa hẹn sẽ hút khách hơn Toyota Veloz Cross
- Quy định mới về điều kiện kinh doanh vận tải hành khách bằng xe ô tô từ năm 2025, tổ chức, cá nhân, đơn vị kinh doanh vận tải cần lưu ý để tránh bị phạt
