Theo SCMP, cảnh sát Cam Túc đã bắt giữ một người đàn ông tên Hong với cáo buộc sử dụng ChatGPT để bịa đặt thông tin sai lệch về vụ tai nạn tàu hỏa khiến 9 người thiệt mạng.

Sau khi phát hiện ra tin tức giả vào ngày 25/4, nhà chức trách đã tìm thấy nhiều phiên bản khác nhau của vụ tai nạn được đăng bởi 25 tài khoản riêng biệt trên nền tảng blog Baijiahao và thu hút hơn 15.000 lượt xem. Hong đã dùng ChatGPT để chỉnh sửa nội dung và địa điểm xảy ra tai nạn để vượt hệ thống kiểm tra trùng lặp trên Baijiahao.

Cánh sát đã bắt giữ Hong theo luật “công nghệ tổng hợp sâu” mà Trung Quốc đưa ra vào tháng 1 năm nay. "Công nghệ tổng hợp sâu" bao gồm sử dụng AI (trí tuệ nhân tạo) để tạo văn bản, hình ảnh, video hoặc phương tiện khác. Luật quy định không được sử dụng AI để lan truyền tin giả.

Thông qua các bài báo, cảnh sát đã lần ra công ty thuộc sở hữu của Hong. Ông đã thừa nhận sử dụng ChatGPT để viết tin giả nhằm kiếm tiền thông qua lượt truy cập. Hong bị buộc tội "gây rối trật tự" và đối mặt với án tối đa 5 năm. Nhưng trong những trường hợp đặc biệt nghiêm trọng, người phạm tội danh này có thể chịu án phạt lên đến 10 năm. Vào năm 2013, chính quyền Trung Quốc đã mở rộng phạm vi áp dụng đối với những người đăng và lan truyền tin đồn sai sự thật trên mạng.

Trong bối cảnh ChatGPT phát triển mạnh, Trung Quốc đã lên tiếng lo ngại về việc phát triển và sử dụng "công nghệ tổng hợp sâu" không được kiểm soát có thể dẫn đến các hoạt động tội phạm như lừa đảo trực tuyến hoặc xúc phạm nhân phẩm người khác. Hồi tháng 2, cảnh sát Trung Quốc đã cảnh báo người dân cảnh giác với "tin đồn" do ChatGPT tạo ra.

Nhà chức trách Trung Quốc đã tìm cách đón đầu công nghệ bằng cách soạn thảo luật để quản lý AI và hạn chế việc sử dụng deepfake. Vụ bắt giữ trên cho thấy nỗ lực của chính quyền Trung Quốc trong việc điều chỉnh và kiểm soát việc sử dụng AI khi công nghệ ngày càng tiên tiến hơn.