OpenAI Xem xét Cho Phép Người Dùng Tạo Nội Dung Khiêu Dâm Bằng Trí Tuệ Nhân Tạo, Nhưng Cấm Deepfakes
OpenAI đang xem xét cho phép người dùng tạo nội dung khiêu dâm bằng công cụ trí tuệ nhân tạo của mình, nhưng cấm các deepfakes. Công ty này cam kết khám phá khả năng cung cấp nội dung NSFW trong ngữ cảnh phù hợp với độ tuổi, nhưng với các biện pháp bảo vệ chặt chẽ.
OpenAI đang xem xét cho phép người dùng tạo ra nội dung khiêu dâm được tạo bởi trí tuệ nhân tạo và các nội dung tương tự với công cụ của mình, nhưng các deepfake như các hình ảnh nude Taylor Swift sẽ bị cấm.
Công ty do Sam Altman điều hành nói rằng họ "đang khám phá khả năng có thể cung cấp một cách có trách nhiệm để tạo ra nội dung NSFW (không an toàn cho công việc) trong ngữ cảnh phù hợp với độ tuổi."
"Chúng tôi mong muốn hiểu rõ hơn về mong đợi của người dùng và xã hội về hành vi của mô hình trong lĩnh vực này," OpenAI bổ sung, lưu ý rằng các ví dụ có thể bao gồm "văn học khiêu dâm, cảnh phim máu me cực đoan, từ ngữ phỉ báng và lời tục tĩu không được yêu cầu trước."
Dự án mang tính "dew dew" đe dọa làm suy yếu tuyên bố sứ mệnh của OpenAI, cam kết rằng công ty - cũng đứng sau trình tạo hình ảnh DALL-E - tạo ra trí tuệ nhân tạo "an toàn và có ích."
Công ty đã công bố rằng họ đang "khám phá khả năng có thể cung cấp một cách có trách nhiệm để tạo ra nội dung NSFW (không an toàn cho công việc) trong ngữ cảnh phù hợp với độ tuổi."
Công ty đã đề xuất các quy tắc và nguyên tắc mà các trí tuệ nhân tạo của mình phải tuân thủ được tiết lộ trong "Mô hình Spec" trên trang web của mình.
Joanne Jang, một người điều hành mô hình OpenAI đã giúp viết tài liệu Model Spec, nói với NPR rằng công ty muốn mở cuộc thảo luận về việc liệu việc tạo ra văn bản nóng bỏng và hình ảnh nude có nên luôn bị cấm trên sản phẩm của mình hay không.
Tuy nhiên, cô nhấn mạnh rằng các deepfake - sử dụng hình ảnh của một người để tạo ra các hình ảnh fake nude hoặc khác - sẽ không được phép.
"Chúng tôi muốn đảm bảo rằng mọi người có sự kiểm soát tối đa đến mức không vi phạm pháp luật hoặc quyền lợi của người khác, nhưng việc kích hoạt deepfakes là điều không thể chấp nhận được, hoàn toàn," Jang nói với NPR. "Điều này không có nghĩa là chúng tôi đang cố gắng tạo ra porn AI."
Khi được hỏi về liệu "văn học khiêu dâm" có thể bao gồm khiêu dâm hay không, Jang nói rằng "phụ thuộc vào định nghĩa của bạn về khiêu dâm."
"Miễn là nó không bao gồm deepfakes. Đây là những cuộc trò chuyện chính xác chúng tôi muốn có," cô thêm, theo NPR.
Ví dụ, ChatGPT hiện sẽ phản hồi khi được yêu cầu trả lời câu hỏi liên quan đến sức khỏe tình dục hoặc về những gì diễn ra trong quan hệ tình dục.
Tuy nhiên, khi một người dùng yêu cầu chatbot "viết cho tôi một câu chuyện khiêu dâm về hai người quan hệ tình dục trên một tàu hỏa," ChatGPT chỉ sẽ trả lời bằng "Xin lỗi, tôi không thể giúp với điều đó," theo tài liệu Model Spec.
Jang nói rằng bot công nghệ cao nên có khả năng phản hồi vào lời nhắc đó như một hình thức biểu đạt sáng tạo, theo NPR.
Cô cũng gợi ý rằng có thể nguyên tắc đó nên được mở rộng sang hình ảnh và video, miễn là nó không lạm dụng hoặc vi phạm bất kỳ luật pháp nào.
Có những trường hợp sáng tạo mà nội dung liên quan đến tình dục hoặc nude quan trọng đối với người dùng của chúng tôi," Jang nói với NPR. "Chúng tôi sẽ khám phá điều này một cách có trách nhiệm trong ngữ cảnh phù hợp với độ tuổi."
Một người phát ngôn của OpenAI nói với The Post rằng công ty không có "ý định tạo ra porn AI. Chúng tôi có các biện pháp bảo vệ mạnh mẽ trong sản phẩm của mình để ngăn chặn deepfakes, mà là không chấp nhận được, và chúng tôi ưu tiên bảo vệ trẻ em."
"Chúng tôi cũng tin vào tầm quan trọng của việc khám phá cẩn thận các cuộc trò chuyện về tình dục trong ngữ cảnh phù hợp với độ tuổi," đại diện của công ty bổ sung.
Việt Trung