Thứ sáu, 08/09/2023, 15:12 (GMT+7)

Lo ngại người dân đối mặt với thách thức quảng cáo khiêu gợi vì tính năng của AI

Sự phổ biến của AI đang làm thúc đẩy các hoạt động quảng cáo khiêu gợi trên khắp nền tảng mạng xã hội Facebook, Instagram, TikTok.

Các nền tảng mạng xã hội phổ biến hiện nay như Facebook, Instagram, TikTok đang cố gắng kiểm soát các hoạt động quảng cáo khiêu gợi trong nhiều năm gần đây, cấm hoàn toàn ảnh khỏa thân trong hầu hết các trường hợp, thậm chí hạn chế một số nghệ sĩ và nhà giáo dục nói về sức khỏe và an toàn tình dục quá thẳng thắn.

Quảng cáo về mại dâm AI đang tràn ngập Instagram và TikTok - Ảnh 2.

Tuy nhiên, một loạt nội dung quảng cáo khiêu gợi, dung tục gần đây đã lọt qua kiểm duyệt mạng xã hội. Các bài đăng tải cho các chatbot ăn mặc hở hang, nội dung viết tục tĩu, được hỗ trợ bởi thứ mà con người sáng tạo ra, gọi là trí tuệ nhân tạo (AI).

Sự phổ biến của các ứng dụng biến đổi ảnh AI

AI đang thể hiện trí thông minh khi nhanh chóng thu hút được sự yêu thích của hàng triệu người khắp thế giới. Bằng cách biến đổi hình ảnh của người dùng thành các nhân vật hoạt hình được vẽ bằng phong cách truyện tranh, AI trở thành “cánh tay đắc lực” cho những người đam mê truyện tranh, mong ước trở thành nhân vật trong bộ truyện nào đó. Đặc biệt, các ứng dụng tạo ảnh AI hiểu rõ mong muốn của khách hàng, bởi ai cũng tò mò ngoại hình của mình khi bước vào thế giới anime.

Ứng dụng Loopsie đang

Từ giữa tháng 8, trên khắp mạng xã hội Facebook, Instagram ngập tràn ảnh chân dung và phong cảnh theo phong cách anime do ứng dụng Loopsie tạo ra. Chiều 23/8, Loopsie vươn lên trở thành ứng dụng được tải về nhiều nhất ở Việt Nam. Hầu hết người dùng đều đánh giá tốt ứng dụng Loopsie vì cách tạo ảnh hoạt hình vô cùng đơn giản, chỉ cần đăng tải ảnh mà bản thân muốn “biến hình”, phần còn lại AI sẽ lo liệu.

Trí tuệ nhân tạo AI bị lên án vì bản quyền tác phẩm

Trước khi có sự hỗ trợ “toàn vẹn” từ AI, hầu hết các bức tranh vẽ phong cảnh hay phong cách anime đều do tài năng và sức sáng tạo của con người tạo nên. Từ khi tranh vẽ AI trở nên rầm rộ, các artist đều lên tiếng vì mối đe dọa cho nghề nghiệp của họ. Bởi lẽ, các sản phẩm được tạo ra bởi AI có giá thành rẻ hơn hàng “handmade”, thời gian hoàn thành nhanh hơn, vẽ bằng câu lệnh nên tiết kiệm chi phí sản xuất sản phẩm.

Hướng dẫn tạo ảnh anime bằng Loopsie - Ứng dụng tạo ảnh theo phong cách AI đang

Tuy nhiên, trí tuệ nhân tạo AI, cụ thể là AI Midjourney đã vướng vào hàng loạt cáo buộc ăn cắp hình ảnh và tác phẩm của các họa sĩ. Rất nhiều người đã đứng lên và làm đơn cáo buộc các công ty sử dụng AI Midjourney vi phạm bản quyền của hàng triệu nghệ sĩ khác, thông qua việc đào tạo công cụ AI, các công ty và tổ chức đã sử dụng 5 tỷ hình ảnh được lấy từ web và không có sự cho phép của những nghệ sĩ gốc.

Thực trạng sử dụng AI quảng cáo khiêu gợi trên nền tảng Instagram và TikTok

Đáng nói hơn, hàng chục công ty khởi nghiệp công nghệ đã chạy loạt bài quảng cáo khiêu gợi, dung tục và đồi trụy trên mạng xã hội Facebook, Instagram và TikTok bằng cách sử dụng công nghệ AI. Các quảng cáo hứa hẹn những bức ảnh nhạy cảm và nội dung “không thể kiểm duyệt” có thể tạo bằng công nghệ kỹ thuật số.

NBC News đã phát hiện 35 nhà phát triển ứng dụng quảng cáo khiêu dâm trên các ứng dụng thuộc sở hữu của Meta. Trong đó, hơn 1000 quảng cáo đã được chạy trên khắp diễn đàn. Ngoài ra, 14 nhà phát triển ứng dụng cũng đã triển khai hàng trăm quảng cáo AI khiêu gợi trên TikTok, vượt tường kiểm soát để xuất hiện trên màn hình hiển thị của người dùng.

Bằng cách sử dụng cơn sốt vàng AI, các nhà tuyển dụng nước ngoài đang thúc đẩy tiếp thị không lành mạnh, khai thác các khách hàng tiềm năng bằng nhân vật kỹ thuật số tùy chỉnh. Đây là một phần của phong trào cho thấy sự quan tâm ngày càng tăng của AI, sau sự phổ biến của sản phẩm ChatGPT của công ty khởi nghiệp công nghệ OpenAI, giúp đặt lại kỳ vọng về khả năng của các chatbot AI.

Tuy nhiên, việc sử dụng AI không kiểm soát, lạm dụng tính lãng mạn và hình ảnh kỹ thuật số gợi cảm ảnh hưởng tiêu cực tới văn hóa và nếp sống lành mạnh. Hàng trăm quảng cáo đã vượt qua giới hạn mà Meta và TikTok cho phép trong quảng cáo. Điều này cho thấy, các nền tảng mạng xã hội cần phải kiểm tra lại thuật toán và chỉnh sửa lại các quy định về nội dung ảnh khỏa thân, ngăn ngừa các hoạt động quảng cáo khiêu gợi, cấm các thông điệp truyền tải văn hóa đồi trụy.

Cùng chuyên mục