Theo dự luật về an toàn kỹ thuật số vừa được đề xuất, trẻ em dưới 16 tuổi tại Canada sẽ bị cấm sử dụng mạng xã hội. Tuy nhiên, dự luật cũng bao gồm các trường hợp ngoại lệ đối với những nền tảng đáp ứng được các tiêu chuẩn an toàn nhất định. Bên cạnh đó, một cơ quan quản lý kỹ thuật số mới sẽ được thành lập để giám sát và thiết lập các tiêu chuẩn an toàn cho chatbot AI.

Bộ trưởng Bộ Bản sắc và Văn hóa Canada, ông Marc Miller, nhấn mạnh trong một tuyên bố: “Chúng ta đã chứng kiến những hậu quả rất nghiêm trọng mà các mối nguy hại trực tuyến có thể gây ra. Sự an toàn của trẻ em phải là vấn đề được xem xét đầu tiên”.

Ông Miller cũng chỉ ra những tác động tiêu cực của các nền tảng này: “Mạng xã hội và chatbot AI được thiết kế để thu hút sự chú ý. Chúng không hỗ trợ sự phát triển lành mạnh của trẻ em và đã trở thành nguồn gốc gây ra lo âu, cô lập, trầm cảm cùng hàng loạt vấn đề sức khỏe tinh thần khác cho nhiều thanh thiếu niên Canada”.

Mục tiêu của đạo luật là tạo ra một môi trường an toàn hơn, khuyến khích giới trẻ kết nối trực tiếp, xây dựng tình bạn, tập trung vào học tập và rèn luyện các kỹ năng thực tế để phát triển toàn diện.

Để đảm bảo tính răn đe, dự luật quy định các công ty vi phạm có thể đối mặt với mức phạt lên tới 3% doanh thu toàn cầu hoặc 10 triệu đô la Canada (khoảng 7,2 triệu USD), tùy từng trường hợp cụ thể để áp dụng.

Chính phủ Canada nhận định rằng bên cạnh hành vi của cá nhân, các mối nguy hại trực tuyến còn được định hình bởi cách các dịch vụ kỹ thuật số được thiết kế và vận hành. Các tính năng như hệ thống đề xuất bằng thuật toán, bảng tin dựa trên tương tác, tự động phát video và cuộn trang vô tận có thể khuếch đại nội dung độc hại và gia tăng sự tiếp xúc với các nội dung này, đặc biệt là ở người dùng trẻ tuổi.

Sự bùng nổ của AI cũng mang đến những thách thức mới. Chính phủ Canada cho biết các dịch vụ kỹ thuật số đã “không theo kịp quy mô, tốc độ và mức độ nghiêm trọng của các mối nguy hại trực tuyến”.

Theo đề xuất, các nền tảng mạng xã hội và dịch vụ chatbot AI sẽ phải nhận diện và áp dụng các biện pháp giải quyết rủi ro trên nền tảng của mình, triển khai các tính năng thiết kế tập trung vào sự an toàn và phù hợp với lứa tuổi, cung cấp các công cụ báo cáo và chặn cho người dùng cũng như xóa bỏ các nội dung chia sẻ hình ảnh nhạy cảm không có sự đồng thuận trong vòng 24 giờ kể từ khi bị báo cáo.

Đáng chú ý, dự luật này được đưa ra trước Quốc hội Canada chỉ vài tuần sau khi gia đình của các nạn nhân trong một vụ xả súng hàng loạt tồi tệ nhất nước này đệ đơn kiện công ty trí tuệ nhân tạo OpenAI. Vụ kiện cáo buộc rằng OpenAI đã biết kẻ xả súng đang lên kế hoạch tấn công (sau khi cấm người dùng này khỏi nền tảng vào tháng 6 năm ngoái do những cuộc trò chuyện đáng lo ngại trên ChatGPT), nhưng đã không đưa ra cảnh báo cho lực lượng cảnh sát.

Động thái của Canada diễn ra trong bối cảnh toàn cầu đang ngày càng cảnh giác với tác động của công nghệ đối với giới trẻ. Vào tháng 12 năm ngoái, Australia đã trở thành quốc gia đầu tiên trên thế giới cấm mạng xã hội đối với trẻ em dưới 16 tuổi. Chỉ một tháng sau khi luật được ban hành, các công ty mạng xã hội tại đây đã đồng loạt vô hiệu hóa tài khoản của gần 5 triệu thanh thiếu niên.

Nhiều quốc gia châu Âu như Pháp, Đan Mạch và Ba Lan cũng đang xem xét thắt chặt các quy định về việc sử dụng mạng xã hội của trẻ em. Trong khi đó, Hy Lạp vào tháng 4 đã tuyên bố sẽ cấm thanh thiếu niên dưới 15 tuổi truy cập mạng xã hội, dự kiến có hiệu lực từ tháng 1/2027.

Theo các quan chức chính phủ Canada trong một cuộc họp báo kỹ thuật, dự luật có thể mất khoảng 1 năm để được Quốc hội thông qua, và cần thêm 18 tháng để chính thức thiết lập và đưa cơ quan quản lý kỹ thuật số vào hoạt động.