Năm ngoái, một ứng dụng có tên là Reface đã được phát hành cho các thiết bị iOS và Android. Với ứng dụng này, người dùng chụp ảnh tự sướng và chèn khuôn mặt của họ vào video, ảnh, GIF và meme.

Những hình ảnh này có thể được chia sẻ bằng một lần nhấn. Ứng dụng tự quảng cáo bằng cách sử dụng dòng "Hãy là bất kỳ ai." Nhưng nguy hiểm hơn nữa là một ứng dụng có tên Avatarify cho phép người dùng định hướng chuyển động của khuôn mặt một người trên ảnh.

Điều này được thực hiện bằng cách chọn bất kỳ ảnh nào và với camera selfie trên điện thoại của người dùng, người dùng có thể kiểm soát biểu cảm và chuyển động của cá nhân (hoặc động vật) có hình ảnh đang được sử dụng. Ứng dụng chỉ có sẵn cho iOS và đã được cài đặt hơn 6 triệu lần kể từ tháng 2 năm nay. 

Giáo sư Anjana Susarla của Đại học bang Michigan nói: "Tất cả đều rất dễ thương khi chúng tôi làm điều này với ảnh của ông nội. Nhưng bạn có thể chụp ảnh của bất kỳ ai từ phương tiện truyền thông xã hội và tạo ra những hình ảnh chế tác về họ. Đó là điều đáng quan tâm".

Nhưng không phải tất cả các ứng dụng điện thoại thông minh này đều đe dọa như vậy. Wombo, có sẵn cho cả iOS và Android, tạo video hát nhép; người dùng chọn ảnh và bài hát và ứng dụng thực hiện phần còn lại.

Không giống như các chương trình deepfake phức tạp hơn, ứng dụng này sẽ không giết chết danh tiếng của ai đó.

Xem thêm ""Instagram cho trẻ em" đang được phát triển", tại đây. 

Giám đốc điều hành của Wombo, Ben-Zion Benkhin, nói rằng với ứng dụng của mình, "Bạn không thể chọn thứ gì đó quá khó chịu hoặc có thể bị hiểu sai". Trong khi đó, ứng dụng phả hệ MyHeritage sẽ chụp ảnh những người thân đã khuất và đưa họ sống lại. Được gọi là "Deep Nostalgia", trang web này đã khiến hơn 65 triệu người "sống lại" trong 4 tuần qua.

Các trang web này đều nói rằng hình ảnh của họ đang được sử dụng để giải trí, châm biếm và tái hiện lịch sử. Nhưng vấn đề là có một mặt trái trong việc tạo ra deepfakes. Một cách để giải quyết vấn đề này là làm cho những người xem deepfakes rõ ràng rằng những gì họ đang xem là không có thật.

Gil Perry - Giám đốc điều hành của công ty cung cấp dịch vụ deepfakes của MyHeritage, nói, "Bạn phải đảm bảo rằng khán giả biết rằng đây là phương tiện truyền thông tổng hợp. Chúng tôi phải đặt ra các nguyên tắc, khuôn khổ và chính sách để thế giới biết điều gì là tốt và điều gì là xấu. "

Dưới đây là một ví dụ về những gì có thể xảy ra nếu nhiều người có được khả năng tạo ra các video Deepfake nguy hiểm. Đầu tháng 3, một phụ nữ ở Pennsylvania đã bị bắt sau khi cảnh sát cáo buộc cô gửi một đoạn video cho các huấn luyện viên của con gái mình để khiến 3 đối thủ của cô bị loại khỏi đội. Đoạn video do người mẹ tạo ra cho thấy những cô gái này khỏa thân, hút thuốc, vaping và uống rượu;

Deborah Johnson, giáo sư danh dự về đạo đức ứng dụng tại Đại học Virginia, tuyên bố rằng|:

"Có khả năng gây hại cho người xem. Có thể gây hại cho chủ thể của câu chuyện. Và sau đó, tác hại rộng lớn hơn cho xã hội khi làm suy giảm lòng tin."

Bạn nghĩ sao về điều này? Hãy cho Top City biết trong phần bình luận dưới đây.