Chia sẻ với The Verge qua email, ông Holz cho biết quyết định trên được đưa ra do một số lượng lớn người dùng đã tạo những tài khoản rác để đạt được lượt tạo ảnh miễn phí trên hệ thống.

“Điều này xảy ra cùng thời điểm chúng tôi đang tạm thời thiếu hụt các bộ xử lý đồ họa. Sự tác động đồng thời của 2 yếu tố này đã làm giảm dịch vụ dành cho những người dùng trả phí”, giám đốc điều hành Midjourney nói.

Thời gian qua, trên mạng xã hội tràn ngập những hình ảnh deepfake về các nhân vật có tầm ảnh hưởng trên thế giới, khiến không ít người dùng tưởng đó là ảnh thật, chẳng hạn như ảnh cựu Tổng thống Mỹ Donald Trump bị cảnh sát bắt giữ trên đường phố, hay ảnh Giáo hoàng Francis ra ngoài trong bộ áo phao dài màu trắng hiệu Balenciaga…

Chủ nhân của những bức ảnh cho biết đã sử dụng phiên bản mới nhất (phiên bản 5) của Midjourney để tạo ảnh dựa trên các lời nhắc văn bản nhập vào hệ thống. Tuy nhiên, CEO của Midjourney cho biết thông tin trên là “sự hiểu lầm” bởi bản dùng thử miễn phí không bao gồm quyền truy cập vào phiên bản mới nhất của Midjourney.

Phiên bản 5 của Midjourney đã cải thiện đáng kể chất lượng hình ảnh mô tả người. Bàn tay bị biến dạng trước đây vốn là đặc điểm nổi bật của hình ảnh do AI tạo ra giờ khó bị nhận diện hơn. Ánh sáng và quần áo cũng chân thực hơn và hệ thống có khả năng tạo ra hình ảnh của hầu hết những người nổi tiếng và nhân vật của công chúng.

Phản ứng của Midjourney trước mối đe dọa leo thang nhạy cảm về mặt chính trị từ những hình ảnh giả mạo cho đến nay vẫn diễn ra từng phần mà chưa có sự cải tổ đáng kể nào đối với các chính sách kiểm duyệt của hãng.

Về vấn đề này, ông Holz cho biết: “Việc kiểm duyệt rất khó khăn, nhưng chúng tôi sẽ sớm cải tiến các hệ thống. Chúng tôi đang nhận được rất nhiều phản hồi và ý tưởng từ các chuyên gia cũng như cộng đồng, và sẽ cố gắng thực hiện một cách thực sự chu đáo”.

Các hạn chế về nội dung văn bản nhập hệ thống của Midjourney chặt chẽ hơn một số dịch vụ đối thủ (như Stable Diffusion) nhưng lại lỏng lẻo hơn một vài dịch vụ khác (như DALL-E của OpenAI). Những hạn chế này rất dễ bị người dùng “lách luật”.

Chẳng hạn như gần đây, Midjourney bổ sung thêm cụm từ “arrested” (bị bắt) vào danh sách nội dung bị cấm trên hệ thống sau khi ảnh deepfake mô tả cảnh cựu Tổng thống Mỹ Donald Trump bị cảnh sát bắt giữ tràn lan trên mạng xã hội. Tuy nhiên, theo thử nghiệm của The Verge, người dùng không thể tạo ảnh với lời nhắc “Donald Trump bị bắt giữ” nhưng có thể tạo ra ảnh tương tự với câu lệnh “Donald Trump bị còng tay trong vòng vây của cảnh sát”.

Theo CEO của Midjourney, hãng đang cố gắng tìm ra giải pháp thỏa đáng để có thể cung cấp lại thử nghiệm miễn phí cho người dùng trong thời gian tới.