4 người bị bắt vì bán áp phích khiêu dâm do AI tạo ra

Tomohiro Mizutani, một nhân viên bán lẻ 44 tuổi sống tại tỉnh Aichi, nằm trong số những người bị bắt với cáo buộc phân phối và trưng bày các vật phẩm khiêu dâm cho những người mua không xác định.

Khoản phí này liên quan cụ thể đến các giao dịch diễn ra vào tháng 10, nhưng Mizutani được cho là đã đạt doanh số 10 triệu yên (hơn 1,8 tỷ đồng) trong khoảng một năm.

Trong số bốn nghi phạm, độ tuổi từ 20 đến 50, Mizutani và hai người khác đã nhận tội và nói rằng họ sử dụng AI để "kiếm tiền dễ dàng". Những người còn lại phủ nhận một số cáo buộc.

Xem toàn màn hình

Bốn người đã sử dụng phần mềm AI tạo hình có sẵn miễn phí trên Internet để tạo ra hình ảnh rõ nét về phụ nữ, hướng dẫn công nghệ tạo ra hình ảnh của các nhân vật trong các tư thế và tình huống nhất định.

Họ chào bán những tấm áp phích này là "vẻ đẹp của AI" và bán chúng với giá vài nghìn yên mỗi tấm.

Có vẻ như để tránh bị cấm bán các mặt hàng này, những nghi phạm đã trưng bày các áp phích có hình ảnh đã kiểm duyệt trong các cuộc đấu giá trực tuyến. Tuy nhiên, họ đã gửi các phiên bản chưa kiểm duyệt cho khách hàng.

Các quốc gia đang tăng cường nỗ lực quản lý và trấn áp các hình ảnh và video đồ họa do AI tạo ra, được gọi là "phim khiêu dâm deepfake".

Vấn đề này đã thu hút sự chú ý trên toàn thế giới vào năm ngoái khi các video deepfake có sự góp mặt của nữ ca sĩ người Mỹ Taylor Swift lan truyền.

Theo Cơ quan Gia đình và Trẻ em, tại Nhật Bản, không có luật nào hạn chế rõ ràng hình ảnh deepfake khiêu dâm. Nhưng một hội đồng địa phương ở tỉnh Tottori, miền tây Nhật Bản, đã thông qua một sắc lệnh vào tháng 3 cấm việc tạo và cung cấp nội dung khiêu dâm deepfake nhằm bảo vệ trẻ vị thành niên khỏi bị xâm hại tình dục.