Là một nhà hoạt động về lĩnh vực truyền thông tầng lớp, Nandini Jammi đã quá quen với việc bị phá rối trực tuyến, thường là từ các account vô danh. Nhưng với Jessica thì khác. trương mục này để hình ảnh người nữ với mái tóc vàng và nụ cười oắt con, đi kèm tiểu truyện ngắn: "Nếu bạn là một kẻ ăn hiếp, tôi sẽ tranh đấu với bạn".
thẩm tra lại tin nhắn, Jammi phát hiện Jessica đã gửi cho cô nội dung: "vì sao bạn chưa xóa thông báo của mình trên một website người lớn? Chỉ mới ba năm thôi".
|
|
Ảnh Deepfake có thể bị lợi dụng để phá rối hoặc lừa đảo. Ảnh: CNN . |
Hàm ý nghe đâu rõ ràng. "Jessica" tuyên bố đang có thông báo "đáng hổ ngươi" từ hồ sơ hẹn hò trực tuyến cũ về Jammi. Đồng sáng lập của Sleeping Giants - nhóm chuyên ngăn chặn các quảng cáo có nội dung phân biệt đối trên Internet - nói với CNN rằng cô không bao giờ dùng account hò hẹn trực tuyến.
Tuy nhiên, điều khiến Jessica dị biệt với những người dùng Twitter khác là "người phụ nữ tóc vàng mỉm cười" trong ảnh hồ sơ của account này nghe đâu chưa từng tồn tại. Một số chuyên gia về AI đã xem hình ảnh và kết luận rằng, nó được tạo bởi AI một cách tinh tướng, bằng cách kết hợp rất nhiều khuôn mặt với nhau, hay còn gọi là Deepfake.
Deepfake đã phát triển rất nhanh những năm qua, cho phép tạo ra video hoặc hình ảnh không có thật hoặc cắt ghép một nhân vật nổi tiếng nào đó. Nhưng những khuôn mặt mạo như Jessica cho thấy hình ảnh tạo bởi AI đang trở thành thật đến mức khó phân biệt.
Vấn nạn Deepfake đang trở thành rất đáng lo ngại. Tháng 12 năm ngoái, Facebook cho biết đã gỡ nhiều trương mục sử dụng khuôn mặt do AI tạo ra. Những tài khoản này là một phần của màng lưới tin giả dùng để ủng hộ Tổng thống Donald Trump và chống lại chính phủ Trung Quốc.
Cũng trong năm 2019, trong báo cáo "Đánh giá mối đe dọa toàn cầu", tình báo Mỹ cũng cảnh báo "các đối thủ có thể đang vậy sử dụng công nghệ máy học và học sâu để tạo nên các tập tin hình ảnh, âm thanh và video giả mạo nhằm tăng cường các chiến dịch chống lại Mỹ và đồng minh" trên Internet.
Deepfake siêu thực về Jeff Bezos và Elon Musk.
Không chỉ Jammy, Jessica còn gửi đi tài liệu chứa hồ sơ hẹn hò online của EJ Gibney, một nhà nghiên cứu độc lập. Hè năm ngoái, Gibney bắt đầu ghi lại màng lưới các tài khoản, bao gồm cả Jessica, đang quấy rối anh và các nhà hoạt động tầng lớp mà anh quen biết. Hai chuyên gia được CNN mời về phân tách các account này, kết luận rằng có bằng cớ cho thấy rất nhiều hình ảnh đăng tải lên được tạo bằng AI.
Hany Farid, Giáo sư tại Đại học California ở Berkeley đã chỉ vào một chiếc khuyên "rất méo" trên tai trái của Jessica, song song phát hiện phần mắt trái và mắt phải trên khuôn mặt này không nhất quán. Jeff Smith, Phó giám đốc trọng điểm Pháp y Truyền thông nhà nước tại Đại học Colorado ở Denver (Mỹ), cũng nhận thấy ảnh bị vênh so với khuôn mặt một người bình thường. Thậm chí, Siwei Lyu, Giáo sư khoa học máy tính tại Đại học Bang New York ở Albany, còn xây dựng một hệ thống phát hiện ảnh dàn dựng và nhận thấy "tỷ lệ rất cao" hình ảnh của Jessica đã được tạo ra bằng AI.
Gibney đã "report" lên Twitter tháng 7 năm ngoái. Mạng tầng lớp này sau đó công nhận đã xóa khoảng 50 tài khoản. Điều kinh ngạc là hết thảy được điều hành chỉ bởi một người.
Dù có thể gây hiểm nguy, những bức ảnh Deepfake dễ dàng tìm thấy trên Internet. Phil Wang, cựu kỹ sư phần mềm tại Uber, đã tạo ra một website có tên "This person does not exist" (tạm dịch: Người này không tồn tại). Mỗi khi truy cập, người dùng sẽ thấy một khuôn mặt mới trông rất giống người thật. hẳn nhiên, khuôn mặt này được tạo bởi AI.
Chia sẻ với CNN , Wang muốn chuẩn y website để mọi người thấy những gì công nghệ có thể làm. "Bằng cách phơi bày những khuôn mặt mạo này, tôi hy vọng website sẽ là liều vắc-xin chống lại cuộc tiến công của deepfake trong mai sau", Wang nói.
thực tiễn, trên Internet không thiếu các website tương tự của Wang. Mọi người có thể tải các hình ảnh để đùa vui, nhưng không ít dùng cho các mục đích khác và điều này đặt ra thách thức lớn cho những mối đe dọa tiềm tàng trong ngày mai. "Việc xây dựng Deepfake rất quan yếu, nhất là trong lĩnh vực nghiên cứu. Nhưng các nhà khoa học cũng cần nghĩ đến các hậu quả do công nghệ này tạo ra", Nathaniel Gle Rich, chuyên gia của Facebook, nêu quan điểm.
Trong khi đó, Wang lo ngại việc giả mạo sẽ không dừng lại ở hình ảnh. "Deepfake chỉ là phần nổi của tảng băng chìm", Wang nói. "Đến một ngày, công nghệ có thể còn giả mạo việc tổng hợp mạch lạc một văn bản, ngôn ngữ của người thân, thậm chí cả video giả mạo. Những công ty AI nên phân bổ thời kì nghiên cứu tác hại của những hình thức giả mạo này và đưa ra hướng giải quyết hợp lý".
Bảo Lâm (theo CNN )
0 nhận xét:
Đăng nhận xét