Deepfake khiêu dâm có thể sớm trở thành tội danh theo một dự luật mới được đề xuất. Chúng được mô tả là một vũ khí tàn độc và hạ nhục – thế nhưng tại New Zealand, deepfake khỏa thân vẫn chưa được coi là một tội danh rõ ràng.
Chỉ riêng trong năm nay, NetSafe đã nhận được hàng trăm khiếu nại về deepfake khiêu dâm không có sự đồng thuận, nhưng New Zealand mới chỉ có duy nhất một vụ truy tố deepfake khiêu dâm.
Các chuyên gia pháp lý cho rằng điều này là do luật pháp hiện hành chưa bảo vệ đầy đủ nạn nhân khỏi deepfake không có sự đồng thuận.
Nghị sĩ Laura McClure của đảng ACT đang tìm cách thay đổi điều này.
Dự luật của bà, nhằm hình sự hóa deepfake khiêu dâm không có sự đồng thuận, đã được rút ra khỏi danh sách bỏ phiếu.
when discussing the Deepfake Digital Harm and Exploitation Bill. – Photo: Facebook
/ Laura McClure
Dự luật đề xuất nói gì?
Dự luật về Tác hại và Bóc lột Kỹ thuật số Deepfake (Deepfake Digital Harm and Exploitation Bill) nhằm mục đích lấp đầy lỗ hổng pháp lý bằng cách sửa đổi các luật hiện hành để mở rộng định nghĩa về ‘ghi hình trực quan riêng tư’.
Dự luật sẽ mở rộng khái niệm ‘ghi hình’ để bao gồm các hình ảnh hoặc video được tạo ra, tổng hợp hoặc chỉnh sửa nhằm mô tả hình ảnh của một người trong các bối cảnh riêng tư mà không có sự đồng thuận của họ.
Dự luật cũng sẽ bao gồm việc chia sẻ deepfake khiêu dâm không có sự đồng thuận.
Hiện tại, những loại deepfake này có thể bị coi là hành vi phạm tội theo Đạo luật Truyền thông Kỹ thuật số Gây hại (Harmful Digital Communications Act).
Tuy nhiên, các nhà phê bình cho rằng luật này chỉ áp dụng trong trường hợp chứng minh được ý định gây hại của thủ phạm, điều này có thể rất khó khăn.
Đầu tháng này, New Zealand đã thực hiện vụ truy tố deepfake khiêu dâm đầu tiên được cho là như vậy. Trong vụ việc này, nạn nhân và cha cô đã tìm ra thủ phạm và có được lời thú tội.
Bà McClure cho biết, nhìn chung, việc nạn nhân thu thập được những bằng chứng buộc tội như vậy là ‘gần như không thể’.
Bà nói: ‘Cho đến nay, các nạn nhân khác của loại hành vi phạm tội này chưa thành công trong việc buộc tội vì luật hiện hành không bao gồm các sản phẩm tổng hợp/deepfake AI’.
Nạn nhân nói gì?
Người dẫn chương trình thể thao và phát thanh viên người New Zealand, Tiffany Salmond, cho biết deepfake khiêu dâm là ‘một vũ khí được dùng để hạ nhục và làm bẽ mặt’.
Bà Salmond lần đầu tiên biết về các deepfake của mình đang lan truyền khoảng năm tháng trước khi một người bạn gửi cho bà.
Bà chia sẻ với RNZ: ‘Ban đầu, tôi rất sốc. Tôi chưa từng thấy điều gì tương tự trước đây, và những video đó thật đáng sợ. Thật phi thực tế khi thấy khuôn mặt mình thể hiện những biểu cảm khó chịu, di chuyển theo những cách tôi chưa từng làm, và cởi bỏ quần áo hoàn toàn’.
Bà Salmond, hiện đang sống ở Úc, cho biết bà đã trở nên chai sạn với những bình luận biến thái về mình trên mạng.
Bà nói: ‘Tôi không cảm thấy xấu hổ hay bẽ mặt vì những gì họ đã làm, bởi vì tôi có thể nhìn thấu ý đồ hạ nhục tôi của họ, và nó đã không thành công’.
Thay vào đó, tôi đã ‘giơ gương’ cho họ, bởi vì nếu có ai đó nên cảm thấy xấu hổ, thì đó chính là họ. Vì vậy, tôi đã sử dụng nền tảng của mình để làm rõ điều đó. Không chỉ cho riêng tôi, mà cho mọi phụ nữ đã trở thành mục tiêu của hình thức bạo lực kỹ thuật số mới này.
Tuy nhiên, bà nhận thấy mình phải cân nhắc kỹ lưỡng hơn về những bức ảnh mà bà chia sẻ trực tuyến.
Tôi lo lắng rằng nếu tôi tiếp tục chia sẻ ảnh như tôi vẫn thường làm, mọi người có thể cho rằng tôi không xem trọng vấn đề này, hoặc tệ hơn, rằng tôi đang mời gọi nó. Đó là một cảm giác tồi tệ khi đột nhiên cảm thấy xấu hổ về điều gì đó mà trước đây chưa từng đáng xấu hổ.
Bà McClure cho biết những loại deepfake này đang gây ra những ảnh hưởng lâu dài cho nạn nhân, với một số người phải bỏ học hoặc đại học. Một nạn nhân nói với bà rằng cô đã cố gắng tự tử sau khi bị tạo và chia sẻ deepfake về mình.
Bà McClure nói: ‘Những gì nạn nhân đang nói là điều này gây hại nghiêm trọng. Nó không chỉ là một trò đùa, không phải là ghép ảnh đầu bạn lên một cơ thể. Nó rất chân thực và thường rất hạ nhục’.
Nó không chỉ là việc làm cho ai đó khỏa thân, mà thường là đặt họ vào những cảnh khiêu dâm khá tàn bạo.
123rf
Các quốc gia khác đang làm gì?
Tiến sĩ Cassandra Mudgway, giảng viên luật cấp cao tại Đại học Canterbury và chuyên gia về lạm dụng trực tuyến, cho biết luật pháp của New Zealand đang đi sau nhiều quốc gia khác về vấn đề deepfake.
Tại Vương quốc Anh, việc tạo, chia sẻ hoặc đe dọa chia sẻ ảnh riêng tư mà không có sự đồng thuận, bao gồm cả deepfake, là bất hợp pháp.
Đầu năm nay, Đan Mạch đã cấp quyền sở hữu trí tuệ cho các đặc điểm cá nhân của mỗi người nhằm nỗ lực trấn áp deepfake.
Úc có luật liên bang coi deepfake khiêu dâm không có sự đồng thuận là một tội danh. Nước này cũng đang tiến tới cấm các công cụ trực tuyến được sử dụng để tạo hình ảnh khỏa thân do AI tạo ra.
Bà Salmond, người đang sống ở Sydney, cho biết bà rất vui khi thấy các luật cấm deepfake khiêu dâm đã được thông qua tại New South Wales vào tháng 8.
Bà nói: ‘Luật mới này có nghĩa là các nữ sinh bị bạn bè nam giới nhắm đến, hoặc phụ nữ bị quấy rối bởi người yêu cũ hay những kẻ ngưỡng mộ bất mãn, cuối cùng đã có luật pháp đứng về phía họ và có thể hành động’.
Bà Salmond tin rằng deepfake khiêu dâm không có sự đồng thuận nên là một tội danh hình sự ở New Zealand và cho rằng dự luật của bà McClure là một bước đi tích cực.
Deepfake sẽ được xử lý như thế nào?
Bà Mudgway cho biết hiện tại có những rào cản bổ sung đối với các nạn nhân của deepfake khiêu dâm.
Bà nói: ‘Chúng ta đang đối xử với hình ảnh giả khác với hình ảnh thật’.
Chúng ta đang đề xuất rằng một hình ảnh tình dục thật được chia sẻ mà không có sự đồng thuận, chúng ta sẽ truy tố theo cách đơn giản cho nạn nhân, họ không cần phải đưa ra bằng chứng về sự đau khổ tinh thần nghiêm trọng, chúng ta giả định rằng tổn hại đã xảy ra. Mối quan tâm duy nhất là liệu nó có được chia sẻ mà không có sự đồng thuận hay không.
Trong khi đó, nếu đó là deepfake, không phải thật, bạn đột nhiên gặp phải tất cả những rào cản bổ sung này. Dự luật tìm cách khắc phục điều đó.
Bà McClure cho biết, do đó, cảnh sát thường không theo đuổi các vụ án deepfake.
Cảnh sát cũng không theo dõi số lượng tội phạm sử dụng công nghệ deepfake, vì nó không có mã tội danh riêng.
Bà McClure cho biết, bằng cách đưa deepfake khỏa thân không có sự đồng thuận vào luật, cảnh sát sẽ có thêm quyền lực để điều tra và truy tố.
Bà tin rằng nó sẽ hoạt động tương tự như luật về ‘porn trả thù‘ của New Zealand. Các luật này đã được sửa đổi vào năm 2022 để dễ dàng truy tố hơn bằng cách không yêu cầu chứng minh ý định gây hại, mà thay vào đó yêu cầu thủ phạm phải chứng minh rằng họ có quyền xuất bản.
Điều gì xảy ra nếu deepfake do trẻ vị thành niên tạo ra?
Bà McClure cho biết nhiều nạn nhân mà bà đã nói chuyện là những phụ nữ trẻ bị bạn bè tạo deepfake về họ.
Nhiều thủ phạm trong số này không thể bị buộc tội và truy tố như người lớn.
Thay vào đó, bà McClure cho biết họ có thể được đưa ra Tòa án Thanh thiếu niên, nơi có các công cụ như phục hồi chức năng và công lý phục hồi.
Chúng tôi thực sự không muốn những người trẻ của mình bị kết án hình sự… Tôi nghĩ phần lớn, nhiều người trong số họ không nhận ra tác hại mà nó đang gây ra.
Bà McClure nói rằng việc biến deepfake khiêu dâm không có sự đồng thuận thành tội hình sự sẽ gửi một thông điệp đến giới trẻ rằng hành vi này là không thể chấp nhận được.
Bà McClure nói: ‘Bây giờ mọi người đều biết rằng nếu ai đó gửi ảnh khỏa thân trong một mối quan hệ, bạn không bao giờ được gửi nó cho bạn bè của mình’.
Tôi hy vọng điều này cũng sẽ tương tự như vậy. Nó sẽ thiết lập một tiêu chuẩn. Giới trẻ sẽ biết rằng điều này thực sự nghiêm trọng, đây là một hình thức lạm dụng và chúng tôi coi đó là bất hợp pháp.
Dự luật đã đủ mạnh chưa?
Các chuyên gia cho rằng chính phủ cần làm nhiều hơn để quản lý rủi ro từ AI.
Một lá thư ngỏ được ký bởi hơn 20 chuyên gia AI đang kêu gọi chính phủ quản lý công nghệ mới này tốt hơn.
Lá thư mong muốn một cách tiếp cận lưỡng đảng để quản lý AI và thành lập một cơ quan giám sát AI quốc gia.
Bà Mudgway, một trong những đồng tác giả của lá thư, cho biết chúng ta cần một cách tiếp cận AI có khả năng chống chịu trong tương lai.
Đó là một công cụ sẵn có cho bất kỳ ai. Ý tôi là, tại sao không sử dụng nó nếu nó hợp pháp, phải không? Tại sao không sử dụng nó nếu nó dễ dàng có được như vậy? Đó chính là vấn đề của chúng ta về sự thiếu vắng quy định.
Một đồng tác giả khác của lá thư, Tiến sĩ Andrew Lensen, giảng viên cao cấp về AI tại Đại học Victoria, cho biết dự luật là một bước khởi đầu tốt, nhưng ông kêu gọi chính phủ cần làm nhiều hơn nữa.
Ông Lensen cho biết đã có những tiến bộ lớn trong AI, và nó đang ngày càng trở nên dễ tiếp cận đối với người dùng.
Ông nói rằng mặc dù chúng ta không nên cấm hoàn toàn AI, nhưng cần có một cuộc đối thoại rộng rãi hơn về cách chúng ta quản lý nó.
Theo rnz.co.nz