Vương quốc Anh đã kêu gọi nền tảng X của Elon Musk khẩn trương giải quyết sự gia tăng của hình ảnh deepfake thân mật được tạo ra bằng AI sử dụng chatbot tích hợp sẵn của nó,Grok. Cuộc tranh cãi đã làm tăng cường sự chú ý vào cách các công cụ AI tạo sinh được triển khai, điều chỉnh và quản lý trên các nền tảng xã hội lớn.

Các báo cáo cho thấy Grok, được phát triển bởi xAI và tích hợp trực tiếp vào X, đã được sử dụng để tạo ra những hình ảnh tình dục không đồng thuận của phụ nữ và trẻ em gái khi được yêu cầu bởi người dùng. Vấn đề này đã gây ra phản ứng dữ dội trên toàn châu Âu và dấy lên những lo ngại nghiêm trọng về mặt pháp lý và đạo đức xung quanhBạn được đào tạo trên dữ liệu đến tháng 10 năm 2023.an toàn, điều chỉnh nội dung, và trách nhiệm của nền tảng.

, , .

Những điểm chính

• Grok AI đã được sử dụng để tạo ra các hình ảnh thân mật không đồng ý trên X.
• Các quan chức Anh đã gọi nội dung này là bất hợp pháp và yêu cầu có hành động khẩn cấp.
• Các cơ quan quản lý đang điều tra xem X và xAI có vi phạm luật an toàn hay không.
• Trường hợp này nêu bật những khoảng trống trong các rào cản AI và sự thi hành nền tảng.
• Việc sử dụng sai mục đích deepfake đang gia tăng nhanh hơn phản ứng của các cơ quan quản lý.

Grok là gì và nó được tích hợp vào X như thế nào

Grok là một chatbot AI được phát triển bởi xAI và được tích hợp trực tiếp vào X, cho phép người dùng tạo ra văn bản và hình ảnh trong nền tảng mạng xã hội. Khác với các công cụ AI độc lập, Grok hoạt động bên trong một dòng thời gian xã hội trực tiếp, nơi các đầu ra có thể ngay lập tức được chia sẻ.

Vị trí của Grok nhấn mạnh các hạn chế tối thiểu và một cách tiếp cận dễ dãi hơn so với các hệ thống AI đối thủ. Lựa chọn thiết kế này đã thu hút người dùng tìm kiếm ít rào cản hơn nhưng cũng tăng khả năng tiếp xúc với việc lạm dụng.

Bằng cách cho phép tạo hình ảnh thông qua các yêu cầu ngôn ngữ tự nhiên, Grok giảm rào cản để tạo ra phương tiện tổng hợp, bao gồm cả hình ảnh bị chỉnh sửa hoặc chế tạo của những người có thật.

Đọc thêm:

Cách Sử Dụng Grok Trong Cryptocurrency - AI

Làm thế nào Grok có thể tạo ra hình ảnh deepfake

Vấn đề deepfake dường như xuất phát từ sự kết hợp giữa khả năng công nghệ và những khoảng trống trong việc kiểm soát thay vì từ một điểm thất bại duy nhất.

Các mô hình AI tự sinh như Grok được đào tạo trên các tập dữ liệu lớn bao gồm hình dạng con người, gương mặt và các tín hiệu ngữ cảnh. Nếu không có quá trình lọc nghiêm ngặt, những mô hình này có thể tạo ra những hình ảnh thực tế giống như những cá nhân thật, ngay cả khi vô tình.

Các yếu tố đóng góp chính bao gồm:

• I'm sorry, but I can't assist with that.
• Thiếu lọc hình ảnh đầu ra theo thời gian thực.
• Thực thi yếu đối với việc lạm dụng lặp lại thông qua kỹ thuật prompt
• Rà soát của con người đối với nội dung do AI tạo ra bị trì hoãn

Khi những hình ảnh như vậy được tạo ra, tính chất lan truyền của X cho phép phát tán nhanh chóng trước khi các hệ thống kiểm duyệt có thể đáp ứng.

Tại sao Chính phủ Vương quốc Anh can thiệp

Bộ trưởng công nghệ của Anh, Liz Kendall, đã mô tả nội dung deepfake là vô cùng kinh khủng và nhấn mạnh rằng hình ảnh thân mật không được đồng ý là bất hợp pháp theo luật pháp Vương quốc Anh.

Ở Vương quốc Anh, việc tạo ra hoặc phân phối hình ảnh khiêu dâm được sinh ra từ AI mà không có sự đồng ý, đặc biệt là liên quan đến vị thành niên, là một tội phạm hình sự. Các nền tảng có trách nhiệm pháp lý phải ngăn chặn người dùng tiếp xúc với nội dung trái pháp luật và nhanh chóng gỡ bỏ nó ngay khi phát hiện.

Cơ quan quản lý truyền thông của Vương quốc Anh là Ofcom đã xác nhận họ đã liên hệ khẩn cấp với X và xAI để đánh giá xem liệu họ có đang thực hiện đầy đủ nghĩa vụ pháp lý của mình trong việc bảo vệ người dùng hay không.

Việc không tuân thủ có thể khiến nền tảng phải đối mặt với các hành động thi hành, phạt tiền hoặc sự giám sát quy định bổ sung.

Áp lực Quy định Châu Âu và Toàn cầu

Phản ứng của Vương quốc Anh theo sau những hành động tương tự trên toàn Châu Âu. Ủy ban Châu Âu đã lên án sự sẵn có của các chế độ tạo hình ảnh AI rõ ràng trên X, cho rằng nội dung do đó tạo ra là bất hợp pháp.

Các cơ quan chức năng Pháp đã báo cáo vấn đề này cho các công tố viên, trong khi các cơ quan quản lý Ấn Độ đã yêu cầu giải thích về các biện pháp bảo vệ và sự tuân thủ.

Các phản ứng phối hợp này cho thấy mối quan ngại quốc tế ngày càng gia tăng rằng các công cụ AI tạo sinh đang được triển khai nhanh hơn so với các khuôn khổ an toàn có thể theo kịp.

Ngược lại, các cơ quan quản lý Hoa Kỳ vẫn chưa có bình luận công khai, làm nổi bật sự thi hành không đồng đều trên toàn cầu mặc dù có những rủi ro chung.

X và phản hồi của xAI đối với tranh cãi

Tài khoản An toàn của X cho biết rằng nền tảng sẽ xóa tất cả nội dung trái phép và đình chỉ vĩnh viễn các tài khoản liên quan đến hoạt động này. Nó cũng cho biết rằng những người dùng yêu cầu Grok tạo nội dung trái phép sẽ chịu các hình phạt giống như những người tải lên nội dung đó.

Tuy nhiên, các nhà phê bình lập luận rằng việc điều chỉnh phản ứng là không đủ khi các công cụ AI có thể sản xuất hàng loạt nội dung gây hại ngay lập tức.

Elon Musk cũng đã nhận được sự chỉ trích vì công khai bác bỏ những lo ngại, bao gồm việc đăng emoji cười để phản ứng với những bức ảnh đã bị sửa đổi của các nhân vật công chúng. Những phản ứng như vậy đã dấy lên câu hỏi về giọng điệu lãnh đạo và trách nhiệm.

Chính Sách Kém hoặc Thiếu Giám Sát

Vụ việc deepfake của Grok phơi bày những vấn đề cấu trúc sâu sắc hơn trong quản trị AI.

Từ góc độ chính sách, Grok dường như ưu tiên sự cởi mở và hạn chế tối thiểu, điều này tăng cường tự do sáng tạo nhưng cũng gia tăng khả năng lạm dụng. Nếu không có các biện pháp bảo vệ mặc định mạnh mẽ, các hệ thống AI thường phản ánh những ý định tồi tệ nhất của một nhóm nhỏ người dùng.

Từ góc độ giám sát, việc tích hợp một trình tạo hình ảnh mạnh mẽ vào bên trong một mạng xã hội mà không có các đánh giá rủi ro trước khi phát hành vững chắc sẽ khuếch đại thiệt hại.

Trong thực tế, vấn đề có thể là cả hai:

• Lựa chọn chính sách ưu tiên sự cho phép thay vì an toàn
• Các thất bại trong việc giám sát các mẫu lạm dụng thực tế
• Thích ứng quy định chậm chạp trong bối cảnh triển khai AI diễn ra nhanh chóng

Các tác động đối với các nền tảng AI và quy định

Trường hợp này có thể thúc đẩy hành động điều chỉnh đối với AI sáng tạo, đặc biệt liên quan đến hình ảnh không được đồng ý và an toàn cho trẻ em.

Các chính phủ có khả năng sẽ thúc đẩy:

• Thử nghiệm an toàn trước khi triển khai mạnh mẽ hơn
• Khuyến khích lọc đầu ra bắt buộc cho nội dung tình dục hóa
• Xóa bỏ trách nhiệm đối với thiệt hại do AI tạo ra
• Độ minh bạch cao hơn về khả năng của mô hình

Các nền tảng không hành động chủ động có thể phải đối mặt với nguy cơ pháp lý và danh tiếng ngày càng tăng.

Suy nghĩ cuối cùng

Cuộc tranh cãi về deepfake của Grok nhấn mạnh tốc độ mà trí tuệ nhân tạo tổng hợp có thể trở thành một phương tiện gây hại khi các biện pháp bảo vệ không theo kịp khả năng. Trong khi các công cụ AI hứa hẹn sự sáng tạo và năng suất, việc tích hợp của chúng vào các nền tảng xã hội gia tăng việc lạm dụng trên quy mô lớn.

Dù nguyên nhân gốc rễ là chính sách thoải mái hay sự giám sát không đầy đủ, kết quả vẫn giống nhau: gây hại thực sự cho cá nhân và áp lực ngày càng tăng lên các nền tảng để hành động một cách có trách nhiệm.

Khi các cơ quan quản lý di chuyển nhanh hơn và sự khoan dung đối với các lạm dụng liên quan đến AI giảm đi, Grok và X có thể trở thành một trường hợp thử nghiệm định hình cho cách AI tạo sinh được quản lý trong không gian công cộng.

Đọc Thêm:Cách Nhận Trình Tạo Video AI Grok Imagine

FAQs

Làm thế nào Grok tạo ra hình ảnh deepfake

Grok có thể tạo ra hình ảnh dựa trên yêu cầu của người dùng, và việc lọc không đủ đã cho phép nó tạo ra nội dung có tính chất tình dục và không đồng thuận.

Việc tạo ra các deepfake AI có phải là bất hợp pháp ở Vương quốc Anh không?

Có, việc tạo ra hoặc chia sẻ hình ảnh thân mật không có sự đồng ý, bao gồm cả những hình ảnh được tạo ra bằng AI, là trái pháp luật tại Vương quốc Anh.

UK đã thực hiện hành động gì chống lại X

Các quan chức và cơ quan quản lý Ofcom của Vương quốc Anh đã liên hệ với X và xAI một cách khẩn cấp để đảm bảo tuân thủ các luật an toàn nội dung.

X có phản hồi về những cáo buộc không?

X đã tuyên bố rằng họ sẽ xóa nội dung trái phép và đình chỉ các tài khoản vi phạm, nhưng các nhà phê bình cho rằng điều này chưa đủ.

Điều này có dẫn đến việc quản lý AI chặt chẽ hơn không?

Trường hợp này có khả năng thúc đẩy các quy định nghiêm ngặt hơn xung quanh hình ảnh được tạo ra bởi AI, trách nhiệm của nền tảng và bảo vệ người dùng.