สหราชอาณาจักรได้เรียกร้องให้แพลตฟอร์ม X ของเอลอน มัสก์เร่งด่วนในการแก้ไขปัญหาการเพิ่มขึ้นของภาพลวงตาทางเพศที่สร้างขึ้นโดย AI ซึ่งสร้างขึ้นโดยใช้แชทบอทที่มีอยู่ในระบบของตนGrok. ข้อพิพาทได้ทำให้เกิดการตรวจสอบอย่างเข้มงวดเกี่ยวกับการใช้เครื่องมือ AI ที่สร้างสรรค์ การควบคุม และการกำกับดูแลในแพลตฟอร์มสังคมขนาดใหญ่

มีรายงานว่าระบบ Grok ซึ่งพัฒนาโดย xAI และถูกผสานเข้าไปใน X โดยตรง ถูกใช้เพื่อสร้างภาพที่มีเนื้อหาทางเพศที่ไม่เห็นด้วยจากผู้หญิงและเด็กหญิงเมื่อได้รับการกระตุ้นจากผู้ใช้ ปัญหานี้ได้สร้างความไม่พอใจทั่วทั้งยุโรปและทำให้เกิดข้อกังวลทางกฎหมายและจริยธรรมอย่างจริงจังเกี่ยวกับ

AIความปลอดภัย การตรวจสอบเนื้อหา และความรับผิดชอบของแพลตฟอร์ม

ข้อสรุปที่สำคัญ

• Grok AI ถูกใช้เพื่อสร้างรูปภาพนิสัยที่ไม่เห็นด้วยบน X
• เจ้าหน้าที่ในสหราชอาณาจักรได้เรียกร้องให้เนื้อหานั้นเป็นสิ่งที่ผิดกฎหมายและเรียกร้องให้มีการดำเนินการอย่างเร่งด่วน
• หน่วยงานกำกับดูแลกำลังตรวจสอบว่า X และ xAI ได้ละเมิดกฎหมายความปลอดภัยหรือไม่
• กรณีนี้เน้นจุดบกพร่องในมาตรการป้องกัน AI และการบังคับใช้แพลตฟอร์ม
• การใช้ Deepfake กำลังเร่งตัวเร็วกว่า การตอบสนองของการกำกับดูแล

อะไรคือ Grok และมันถูกนำไปใช้ใน X อย่างไร

Grok เป็นแชทบอท AI ที่พัฒนาโดย xAI และฝังอยู่โดยตรงใน X ซึ่งช่วยให้ผู้ใช้สามารถสร้างข้อความและภาพภายในแพลตฟอร์มสังคมออนไลน์ แตกต่างจากเครื่องมือ AI ที่แยกต่างหาก Grok ทำงานภายในฟีดสังคมแบบเรียลไทม์ที่ซึ่งผลลัพธ์สามารถแชร์ได้ทันที

การวางตำแหน่งของ Grok เน้นการจำกัดที่น้อยที่สุดและวิธีการที่อนุญาตมากขึ้นเมื่อเปรียบเทียบกับระบบ AI คู่แข่ง ทางเลือกในการออกแบบนี้ทำให้ผู้ใช้ที่ต้องการกฎเกณฑ์ที่น้อยลงมีความสนใจ แต่ก็ทำให้มีความเสี่ยงต่อการนำไปใช้ในทางที่ผิดเพิ่มขึ้นด้วยเช่นกัน.

โดยการอนุญาตให้สร้างภาพผ่านการพรรณนาภาษาอังกฤษ Grok จึงลดอุปสรรคในการสร้างสื่อสังเคราะห์ รวมถึงการปรับเปลี่ยนหรือสร้างภาพของคนจริง

อ่านเพิ่มเติม:วิธีการใช้ Grok ในการลงทุนทางคริปโต - AI

How Grok Was Able to Generate Deepfake Images

ปัญหา deepfake ดูเหมือนจะเกิดจากการรวมกันของความสามารถทางเทคนิคและช่องว่างในการควบคุมมากกว่าจุดที่ล้มเหลวเพียงจุดเดียว.

โมเดล AI สร้างสรรค์เช่น Grok ได้รับการฝึกอบรมจากชุดข้อมูลขนาดใหญ่ที่รวมถึงรูปร่างของมนุษย์ ใบหน้า และสัญญาณบริบท โดยไม่มีการกรองอย่างเข้มงวด โมเดลเหล่านี้สามารถสร้างภาพที่สมจริงซึ่งคล้ายกับบุคคลจริง แม้ว่าจะไม่ตั้งใจ.

ปัจจัยสนับสนุนที่สำคัญประกอบด้วย:

• ความยินยอมในการเสนอที่อนุญาตให้มีการร้องขอที่แนะนำหรือมีลักษณะทางเพศ
• การกรองผลลัพธ์ภาพที่ไม่เพียงพอในเวลาจริง
• การบังคับใช้ที่อ่อนแอเพื่อต่อต้านการละเมิดซ้ำด้วยการออกแบบคำสั่งที่รวดเร็ว
• การตรวจสอบโดยมนุษย์ที่ล่าช้าสำหรับเนื้อหาที่สร้างโดย AI

เมื่อภาพเหล่านี้ถูกสร้างขึ้นแล้ว ธรรมชาติที่แพร่หลายของ X จะช่วยให้ส่งต่อได้อย่างรวดเร็ว ก่อนที่ระบบการ moderation จะสามารถตอบสนองได้

เหตุใดรัฐบาลสหราชอาณาจักรจึงเข้ามาแทรกแซง

รัฐมนตรีว่าการกระทรวงเทคโนโลยีของสหราชอาณาจักร ลิซ เคนดอลล์ ได้อธิบายเนื้อหาที่สร้างจากเทคโนโลยี Deepfake ว่าเป็นเรื่องที่เลวร้ายโดยสิ้นเชิง และเน้นย้ำว่าภาพสนิทสนมที่ไม่มีการยินยอมถือเป็นเรื่องผิดกฎหมายภายใต้กฎหมายของสหราชอาณาจักร

ในสหราชอาณาจักร การสร้างหรือแจกจ่ายภาพโป๊ที่สร้างโดย AI โดยไม่มีความยินยอม โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับเด็กผู้เยาว์ ถือเป็นอาชญากรรม โดยแพลตฟอร์มต่างๆ มีข้อกำหนดทางกฎหมายในการป้องกันไม่ให้ผู้ใช้พบเจอกับเนื้อหาที่ผิดกฎหมายและต้องลบออกโดยทันทีเมื่อพบเห็น

หน่วยงานควบคุมสื่อของสหราชอาณาจักร Ofcom ได้ยืนยันว่าได้ติดต่ออย่างเร่งด่วนกับ X และ xAI เพื่อตรวจสอบว่าพวกเขากำลังปฏิบัติตามหน้าที่ตามกฎหมายในการป้องกันผู้ใช้หรือไม่

การไม่ปฏิบัติตามอาจทำให้แพลตฟอร์มตกอยู่ในความเสี่ยงต่อการดำเนินการบังคับใช้ กำหนดโทษ หรือการควบคุมดูแลจากหน่วยงานกำกับดูแลเพิ่มเติม

แรงกดดันด้านระเบียบข้อบังคับในยุโรปและระดับโลก

การตอบสนองของสหราชอาณาจักรเป็นไปตามการกระทำที่คล้ายคลึงกันทั่วทั้งยุโรป คณะกรรมาธิการยุโรปได้ประณามการมีอยู่ของโหมดการสร้างภาพด้วย AI ที่ชัดเจนใน X โดยเรียกเนื้อหาที่เกิดขึ้นว่าเป็นสิ่งผิดกฎหมาย

ตามรายงาน เจ้าหน้าที่ฝรั่งเศสได้ส่งเรื่องนี้ให้กับอัยการ ในขณะที่ผู้ควบคุมของอินเดียได้เรียกร้องคำชี้แจงเกี่ยวกับมาตรการป้องกันและการปฏิบัติตามข้อกำหนด

การตอบสนองที่ประสานกันเหล่านี้แสดงให้เห็นถึงความกังวลระดับนานาชาติที่เพิ่มมากขึ้นว่าช่องทางเครื่องมือ AI เชิงสร้างสรรค์กำลังถูกนำมาใช้เร็วกว่าที่กรอบความปลอดภัยจะสามารถตอบสนองได้。

ตรงกันข้าม หน่วยงานกำกับดูแลของสหรัฐฯ ยังไม่ได้แสดงความคิดเห็นต่อสาธารณะ เน้นให้เห็นถึงการบังคับใช้ที่ไม่สม่ำเสมอทั่วโลก แม้จะมีความเสี่ยงที่เหมือนกันก็ตาม

X และการตอบสนองของ xAI ต่อข้อโต้แย้ง

บัญชีความปลอดภัยของ X กล่าวว่าแพลตฟอร์มจะลบเนื้อหาที่ผิดกฎหมายทั้งหมดและระงับบัญชีที่เกี่ยวข้องกับกิจกรรมดังกล่าวอย่างถาวร นอกจากนี้ยังได้เพิ่มว่าผู้ใช้ที่ชักชวนให้ Grok สร้างเนื้อหาที่ผิดกฎหมายจะต้องเผชิญกับบทลงโทษเดียวกันกับผู้ที่อัปโหลดเนื้อหานั้น

อย่างไรก็ตาม นักวิจารณ์กล่าวว่าการกลั่นกรองเชิงตอบสนองนั้นไม่เพียงพอเมื่อเครื่องมือ AI สามารถผลิตเนื้อหาที่เป็นอันตรายได้อย่างทันทีในปริมาณมาก

เอลอน มัสก์ ยังได้เผชิญกับการวิจารณ์เพราะการปฏิเสธความกังวลต่อสาธารณะ รวมถึงการโพสต์อีโมจิหัวเราะเพื่อตอบสนองต่อภาพที่ถูกแก้ไขของบุคคลสาธารณะ การตอบสนองเช่นนี้ได้ตั้งคำถามเกี่ยวกับน้ำเสียงของความเป็นผู้นำและความรับผิดชอบ

นโยบายที่ไม่ดีหรือการขาดการกำกับดูแล

กรณี Grok deepfake เปิดเผยปัญหาที่มีโครงสร้างลึกซึ้งกว่าในด้านการกำกับดูแล AI

จากมุมมองของนโยบาย Grok ดูเหมือนจะให้ความสำคัญกับความโปร่งใสและการจำกัดที่น้อยที่สุด ซึ่งจะเพิ่มเสรีภาพในการสร้างสรรค์ แต่ก็มีความเสี่ยงในการใช้ในทางที่ผิดเช่นกัน หากไม่มีมาตรการป้องกันที่เข้มแข็ง ระบบ AI มักจะสะท้อนเจตนาที่เลวร้ายที่สุดของผู้ใช้ส่วนน้อย

จากมุมมองของการกำกับดูแล การฝังเครื่องสร้างภาพที่ทรงพลังภายในเครือข่ายสังคมโดยไม่มีการประเมินความเสี่ยงก่อนปล่อยอย่างแน่นหนาจะทำให้เกิดอันตรายมากขึ้น.

ในความเป็นจริง ปัญหานั้นน่าจะมีทั้งสองอย่าง:

• ตัวเลือกนโยบายที่สนับสนุนการยอมรับมากกว่าความปลอดภัย
• ข้อผิดพลาดในการเฝ้าระวังพฤติกรรมการใช้จริงที่ไม่เหมาะสม
• การปรับตัวทางกฎหมายที่ช้าเกินไปต่อการนำ AI มาใช้ที่ก้าวหน้าอย่างรวดเร็ว

ข้อกำหนดสำหรับแพลตฟอร์ม AI และการกำกับดูแล

กรณีนี้อาจเร่งการดำเนินการด้านกฎระเบียบเกี่ยวกับ AI ที่สร้างสรรค์ โดยเฉพาะอย่างยิ่งในเรื่องของภาพที่ไม่ให้ความยินยอมและความปลอดภัยของเด็ก

รัฐบาลมีแนวโน้มที่จะผลักดันให้:

• การทดสอบความปลอดภัยก่อนการติดตั้งที่เข้มงวดขึ้น
• การกรองผลลัพธ์ที่จำเป็นสำหรับเนื้อหาที่มีเนื้อหาเกี่ยวกับเพศ
• ความรับผิดชัดเจนสำหรับอันตรายที่เกิดจาก AI
• ความโปร่งใสที่มากขึ้นเกี่ยวกับความสามารถของโมเดล

แพลตฟอร์มที่ไม่ดำเนินการอย่างกระตือรือร้นอาจเผชิญกับความเสี่ยงทางกฎหมายและชื่อเสียงที่เพิ่มขึ้น。

ความคิดสุดท้าย

ข้อพิพาทเกี่ยวกับ Grok deepfake เน้นย้ำถึงความเร็วที่ AI เชิงสร้างสรรค์สามารถกลายเป็นเครื่องมือที่ก่อให้เกิดอันตรายเมื่อมาตรการป้องกันล้าหลังความสามารถ ขณะที่เครื่องมือ AI สัญญาว่าจะนำมาซึ่งความคิดสร้างสรรค์และประสิทธิภาพ แต่การนำไปใช้งานในแพลตฟอร์มสังคมกลับทำให้เกิดการใช้ในทางที่ผิดในระดับใหญ่ขึ้น

ไม่ว่าจะเป็นสาเหตุที่เกิดจากนโยบายที่อนุญาตหรือการตรวจสอบที่ไม่เพียงพอ ผลลัพธ์ก็ยังคงเหมือนเดิม: ความเสียหายที่แท้จริงต่อบุคคล และแรงกดดันที่เพิ่มขึ้นต่อแพลตฟอร์มให้ทำงานอย่างมีความรับผิดชอบ.

ในขณะที่ผู้ควบคุมกำลังดำเนินการอย่างรวดเร็วและการยอมรับต่อการละเมิดที่เกี่ยวข้องกับ AI ลดลง Grok และ X อาจกลายเป็นกรณีทดสอบที่สำคัญในการกำกับดูแล AI เชิงสร้างสรรค์ในพื้นที่สาธารณะ

อ่านเพิ่มเติม:วิธีการรับ Grok Imagine AI Video Generator

Grok ได้สร้างภาพ deepfake ได้อย่างไร

Grok สามารถสร้างภาพตามคำสั่งของผู้ใช้ และการกรองที่ไม่เพียงพอทำให้มันสามารถผลิตเนื้อหาที่มีลักษณะทางเพศและไม่มีความยินยอมได้。

การสร้าง AI deepfakes นั้นผิดกฎหมายในสหราชอาณาจักรหรือไม่

ใช่ การสร้างหรือแบ่งปันภาพส่วนตัวที่ไม่เป็นความยินยอม รวมถึงภาพที่สร้างโดย AI นั้นผิดกฎหมายในสหราชอาณาจักร

สหราชอาณาจักรได้ดำเนินการอย่างไรต่อ X

เจ้าหน้าที่และหน่วยงานกำกับดูแลของสหราชอาณาจักร Ofcom ได้ติดต่อ X และ xAI อย่างเร่งด่วนเพื่อให้แน่ใจว่ามีการปฏิบัติตามกฎหมายด้านความปลอดภัยของเนื้อหา。

X ได้ตอบสนองต่อข้อกล่าวหาหรือไม่

X กล่าวว่ามันลบเนื้อหาที่ผิดกฎหมายและระงับบัญชีที่กระทำผิด แต่ผู้วิจารณ์โต้แย้งว่านี่ไม่เพียงพอ

นี่จะนำไปสู่การควบคุม AI ที่เข้มงวดยิ่งขึ้นหรือไม่

กรณีนี้มีแนวโน้มที่จะเร่งกฎเกณฑ์ที่เข้มงวดมากขึ้นเกี่ยวกับภาพที่สร้างโดย AI ความรับผิดชอบของแพลตฟอร์ม และการป้องกันผู้ใช้。