Google tạm ngừng tính năng tạo hình ảnh của trợ lý AI Gemini sau lời cáo buộc phân biệt chủng tộc

Google tạm dừng khả năng tạo hình ảnh của AI Gemini
Google đã tạm dừng tính năng tạo hình ảnh của trợ lý AI Gemini sau khi gây tranh cãi vì những hình ảnh sai lệch về mặt lịch sử và chủng tộc.

Google tạm ngừng tính năng tạo hình ảnh của trợ lý AI Gemini sau lời cáo buộc phân biệt chủng tộc

Theo thông tin từ Gizmodo, Google đã tạm ngừng tính năng tạo hình ảnh của trợ lý AI Gemini sau khi liên tiếp tạo ra những bức ảnh gây tranh cãi vì sai lệch về mặt lịch sử và chủng tộc. Những hình ảnh này bao gồm binh lính Đức Quốc Xã da màu và vua Anh thời Trung cổ da đen, dẫn đến cáo buộc Google phân biệt chủng tộc đối với người da trắng.

Gemini, trợ lý AI của Google, đã bị chỉ trích vì tạo ra hình ảnh người Viking có màu da khác thực tế.

Đáng chú ý, Google đã công bố tạm ngừng tính năng tạo hình người của Gemini và cam kết sẽ sớm phát hành phiên bản cải tiến. Công ty thừa nhận rằng Gemini đang gặp vấn đề trong việc tạo hình người chính xác về mặt lịch sử, nhưng đồng thời nhấn mạnh mục tiêu của họ là thúc đẩy tính đa dạng trong hình ảnh do AI tạo ra.

Khả năng tạo hình ảnh của Gemini hiện đang bị vô hiệu hóa ở một số khu vực, chẳng hạn như châu Âu. Khi được yêu cầu tạo lại hình ảnh của một người lính Đức thời Đức Quốc Xã, Gemini lập tức từ chối. Tuy nhiên, trong một số trường hợp, Gemini cho biết mặc dù không thể trực tiếp tạo hình ảnh, nhưng nó có thể hướng dẫn người dùng tạo một bức tranh mô tả chính xác về lịch sử của một vị vua Anh thời Trung cổ nếu cung cấp thông tin về mô tả các vị vua dựa trên lịch sử và thông tin về các loại trang phục và kiểu tóc.

Sự cố mới nhất này là một minh chứng cho những thách thức trong việc phát triển trợ lý AI có khả năng tạo hình ảnh con người một cách khách quan và chính xác.

Việc cân bằng giữa tính chính xác lịch sử và sự sáng tạo nghệ thuật là một vấn đề nan giải trong lĩnh vực này. Google đã cam kết sẽ tiếp tục nỗ lực để cải thiện tính chính xác của Gemini và đảm bảo tính đa dạng trong hình ảnh do AI tạo ra.

Trên thực tế, việc tạm ngừng tính năng tạo hình ảnh của Gemini cũng cho thấy tầm quan trọng của việc kiểm soát và đảm bảo tính phù hợp của công nghệ AI. Google đã nhận ra rằng việc sử dụng AI trong việc tạo hình ảnh con người đòi hỏi sự cẩn thận và tinh tế để tránh những hình ảnh gây tranh cãi và phân biệt chủng tộc.

Trong tương lai, Google hy vọng sẽ tiếp tục phát triển và cải thiện trợ lý AI Gemini để đáp ứng đúng nhu cầu và mong muốn của người dùng một cách tốt nhất. Việc thúc đẩy tính đa dạng và tính chính xác trong hình ảnh do AI tạo ra là một ưu tiên hàng đầu của công ty này.

Nguồn: Báo Thanh Niên

[question] Tại sao Google đã tạm dừng tính năng tạo hình ảnh của trợ lý AI Gemini?,Có những thách thức gì trong việc phát triển AI có khả năng tạo hình ảnh con người một cách chính xác và khách quan?