OpenAI'sโมเดลการสร้างวิดีโอรุ่นล่าสุด Sora ได้ดึงดูดทั้งคำชมและความกังวลในชุมชนเทคโนโลยีอย่างรวดเร็ว ขณะที่ความสามารถในการผลิตวิดีโอที่น่าทึ่งและสมจริงแสดงให้เห็นถึงพลังของ AI ที่สร้างสรรค์ งานวิจัยใหม่ได้ตั้งคำถามเกี่ยวกับการใช้ประโยชน์ในทางที่ผิดที่อาจเกิดขึ้น

การศึกษาเมื่อเร็ว ๆ นี้พบว่า Sora สามารถสร้างวิดีโอ Deepfake ที่แพร่ข้อมูลเท็จได้อย่างง่ายดาย การค้นพบนี้ได้จุดประกายการถกเถียงเกี่ยวกับความปลอดภัยของ AI, ความโปร่งใส และความเสี่ยงที่มากขึ้นของสื่อสังเคราะห์

การเพิ่มขึ้นของโซร่าและความสามารถของมัน

Sora ถูกพัฒนาโดย OpenAI เพื่อเปลี่ยนคำสั่งที่เขียนให้เป็นคลิปวิดีโอที่ถูกสร้างขึ้นอย่างสมบูรณ์ โดยนำเสนอความคิดสร้างสรรค์ในหลายด้านการสร้างภาพยนตร์, การศึกษา และการสร้างเนื้อหา。

ความซับซ้อนของมันอยู่ที่วิธีการตีความภาษาธรรมชาติและแปลงมันเป็นลำดับภาพที่สอดคล้องกัน อย่างไรก็ตาม ความหลากหลายเช่นนี้ก็มีด้านที่ทำให้ไม่สบายใจเช่นกัน: ความสามารถในการจำลองเหตุการณ์จริงได้อย่างน่าเชื่อถือ

ตามการสอบสวนล่าสุดโดย NewsGuard, Sora สามารถสร้างวิดีโอแนวข่าวปลอมได้สำเร็จใน 80 เปอร์เซ็นต์ของสถานการณ์ที่ถูกทดสอบ

วิดีโอเหล่านี้แสดงเหตุการณ์ที่สร้างขึ้น เช่น การแทรกแซงการเลือกตั้งที่ปลอมแปลง, คำแถลงของบริษัท, และเหตุการณ์ที่เกี่ยวข้องกับการเข้าเมือง ทุกวีดีโอถูกสร้างขึ้นจากข้อความที่ให้เป็นแนวทาง โดยมีการแทรกแซงจากมนุษย์น้อยที่สุด ซึ่งไม่ต้องการความเชี่ยวชาญทางเทคนิคขั้นสูง

อยากรู้เกี่ยวกับความก้าวหน้าล่าสุดใน AI และนวัตกรรมดิจิทัลหรือไม่? อย่าพลาดโอกาสในภูมิทัศน์ที่เปลี่ยนแปลงอย่างรวดเร็วนี้โดยการเข้าร่วม

หลอกลวงผู้ชมทั่วไป

นักวิจัยเน้นว่า วิดีโอที่มีการนำเสนอมีแสงสว่างที่สมจริง, การเคลื่อนไหวที่ราบรื่น, และพฤติกรรมของมนุษย์ที่เชื่อถือได้ ทำให้ยากที่จะทำให้แยกแยะออกจากฟุตเทจของจริง บางชิ้นยังน่าเชื่อถือกว่าข้อมูลที่ผิดที่เป็นแรงบันดาลใจให้กับพวกเขาอีกด้วย.

การเข้าถึงเทคโนโลยีเช่นนี้ทำให้ปัญหาที่มีอยู่ในการตรวจสอบความจริงออนไลน์รุนแรงขึ้น ในทางทฤษฎีใครก็สามารถสร้าง...วิดีโอที่ทำให้เข้าใจผิดสามารถแพร่กระจายอย่างรวดเร็วบนแพลตฟอร์มสังคมออนไลน์

ในขณะที่ OpenAI ได้ดำเนินการจัดทำลายน้ำและนโยบายเกี่ยวกับเนื้อหา การศึกษาเปิดเผยว่าลายน้ำเหล่านี้สามารถลบออกได้อย่างง่ายดาย ทำให้การตรวจสอบเป็นเรื่องยากยิ่งขึ้น ผลกระทบอาจขยายไปไกลกว่าการใช้ศิลปะสู่คลื่นของข้อมูลเท็จที่อาจเกิดจาก AI.

อ่านเพิ่มเติม:

OpenAI กำลังมีความก้าวหน้า: ผลิตภัณฑ์ใหม่สำหรับชุมชน AI

ความกังวลที่เพิ่มขึ้นเกี่ยวกับ Deepfakes

Deepfakes ไม่ใช่เรื่องใหม่ แต่ระดับความสมจริงของ Sora ทำให้ปัญหานี้สูงขึ้นไปอีกในระดับที่ไม่เคยมีมาก่อน ในปีที่ผ่านมา เนื้อหา deepfake มักจะง่ายต่อการสังเกต — ใบหน้าที่บิดเบี้ยว เสียงที่ไม่เป็นธรรมชาติ และการเคลื่อนไหวที่กระตุกทำให้สามารถระบุได้ง่าย

ตอนนี้ โมเดลอย่าง Sora ทำให้เส้นแบ่งระหว่างความเป็นจริงและการสร้างขึ้นเบลอ ทำให้เกิดคำถามทางจริยธรรมและ

รายงานของ NewsGuard ได้บันทึกตัวอย่างที่น่ากังวลหลายตัวอย่าง ในหมู่พวกเขามีคลิปที่ปลอมซึ่งแสดงให้เห็นเจ้าหน้าที่เลือกตั้งของมอลโดวาทำลายบัตรเลือกตั้งที่สนับสนุนรัสเซีย ซึ่งเป็นข้อเรียกร้องที่ไม่จริงซึ่งแพร่กระจายในแคมเปญข้อมูลเท็จ

สถานการณ์ที่มีอารมณ์เข้มข้นปลอม

ยังมีการประกาศปลอมจากโฆษกของโคคา-โคล่าที่กล่าวเท็จว่าบริษัทจะคว่ำบาตรซูเปอร์โบวล์อีกด้วย。

เนื้อหาดังกล่าวสามารถส่งผลกระทบจริงในโลก ผู้เล่าเรื่องทางการเมืองที่ผิดพลาดสามารถเพิ่มความตึงเครียด, การปลอมแปลงของบริษัทสามารถทำให้ราคาหุ้นผันผวน, และวิดีโอสังคมที่ถูกดัดแปลงสามารถเปลี่ยนแปลงความคิดเห็นของประชาชนได้.

ความกังวลไม่ใช่เกี่ยวกับว่า AI สามารถสร้างความจริงปลอมหรือไม่ — แต่คือว่า ความจริงปลอมดังกล่าวสามารถแพร่กระจายได้เร็วและกว้างขวางเพียงใด。

ผู้เชี่ยวชาญเตือนว่า หากเครื่องมือเช่นSora

เมื่อข้อมูลมีการเผยแพร่อย่างกว้างขวางโดยไม่มีการควบคุมที่เข้มงวด ข้อมูลที่ผิดพลาดอาจพัฒนากลายเป็นภัยคุกคามในระดับอุตสาหกรรมได้。

กฎระเบียบและบริษัทเทคโนโลยีเผชิญกับภารกิจที่ยากลำบากในการสร้างความสมดุลระหว่างนวัตกรรมกับความรับผิดชอบ การป้องกันอันตรายโดยไม่ทำให้เกิดการขัดขวางความคิดสร้างสรรค์จะเป็นหนึ่งในความท้าทายที่กำหนดในยุคเทคโนโลยีนี้

อ่านเพิ่มเติม:OpenAI, Perplexity, และ Web3: ใครเป็นผู้นำในการปฏิวัติเคลื่อนที่ของ AI?

AI นวัตกรรมและความปลอดภัยสามารถอยู่ร่วมกันได้หรือไม่?

OpenAI, เป็นที่น่าสังเกต, ได้รับรู้ถึงความเสี่ยงจากการใช้ผิดวัตถุประสงค์ บริษัทยืนกรานว่ากำลังพัฒนาเทคโนโลยีการติดลายน้ำและระบบการควบคุมเพื่อติดตามเนื้อหาที่สร้างขึ้น.

อย่างไรก็ตาม ตามที่นักวิจัยได้แสดงให้เห็นว่า มาตรการป้องกันเหล่านี้ยังคงไม่สมบูรณ์ ความสะดวกในการลบหรือข้ามลายน้ำทำให้เห็นถึงความยากลำบากในการบังคับใช้ความโปร่งใสเมื่อเนื้อหาถูกนำออกจากแหล่งข้อมูลเดิม

บางนักวิเคราะห์โต้แย้งว่าปัญหาไม่ได้อยู่ที่เทคโนโลยีเอง แต่เป็นวิธีการที่นำไปใช้งาน การมีการบริหารจัดการที่เหมาะสม กฎการเปิดเผยข้อมูลที่ชัดเจน และข้อมูลเมตาที่สามารถติดตามได้ อาจช่วยให้มั่นใจว่าเนื้อหาที่สร้างโดย AI ยังคงสามารถระบุได้。

ความจำเป็นในการร่วมมือกับ AI

แนวทางจริยธรรมก็เป็นสิ่งสำคัญเช่นกัน เมื่อ Sora และเครื่องมือที่คล้ายกันถูกนำไปใช้ในกระบวนการสร้างสรรค์ การศึกษาและการสร้างความตระหนักจะมีบทบาทสำคัญ

ผู้ใช้ต้องเข้าใจความแตกต่างระหว่างการใช้ศิลปะและการจัดการที่ไม่หวังดี ในแง่นี้ ความปลอดภัยของ AI เป็นปัญหาสังคมมากพอๆ กับปัญหาทางเทคโนโลยี

สุดท้ายแล้ว ว่า Sora เป็น "อันตราย" หรือไม่นั้นขึ้นอยู่กับวิธีที่มนุษย์เลือกจัดการกับมัน เครื่องมือเองแสดงให้เห็นถึงความก้าวหน้าที่ยอดเยี่ยมของ AI สร้างสรรค์ แต่ศักยภาพในการสร้างอันตรายก็สะท้อนถึงความจำเป็นที่กว้างขึ้นสำหรับความรับผิดชอบร่วมกัน

ความโปร่งใส, การตรวจสอบ และการใช้ข้อมูลอย่างมีสติจะเป็นตัวกำหนดว่า นวัตกรรม AI จะกลายเป็นแรงผลักดันสำหรับความก้าวหน้าหรือเป็นตัวกระตุ้นสำหรับความวุ่นวาย

อ่านเพิ่มเติม:NVIDIA AI Investment on OpenAI: Is It Profitable?

สรุป

OpenAI’s Sora เป็นตัวแทนของทั้งความหวังและภัยอันตรายของปัญญาประดิษฐ์ ในด้านหนึ่ง มันได้ปฏิวัติการสร้างวิดีโอและเพิ่มพลังให้กับการเล่าเรื่องในรูปแบบที่ไม่มีใครเคยเห็นมาก่อน

ในทางกลับกัน มันนำเสนอความเสี่ยงที่สำคัญเกี่ยวกับข้อมูลที่ผิดพลาด ความแท้จริง และความไว้วางใจ ผลการค้นพบของ NewsGuard ชี้ให้เห็นว่าขอบเขตระหว่างความจริงและการสร้างเท็จสามารถหายไปได้ง่ายเพียงใดในโลกดิจิทัล

เพื่อให้อัปเดตเกี่ยวกับการสนทนาเกี่ยวกับเทคโนโลยีที่เกิดขึ้นใหม่และสำรวจนวัตกรรมดิจิทัลอย่างปลอดภัย โปรดพิจารณาเข้าร่วมBitrue— แพลตฟอร์มที่เชื่อถือได้ที่ให้การเข้าถึงตลาดคริปโตทั่วโลกและข้อมูลเชิงลึกของอุตสาหกรรม ลงทะเบียนวันนี้เพื่อก้าวนำในโลกที่ขับเคลื่อนด้วย AI อย่างต่อเนื่อง

คำถามที่พบบ่อย

OpenAI’s Sora คืออะไร?

เป็นโมเดลการสร้างวิดีโอที่พัฒนาโดย OpenAI ซึ่งเปลี่ยนข้อความที่เขียนให้เป็นลำดับวิดีโอที่สมจริง โดยใช้เทคนิค AI ขั้นสูง

ทำไมผู้เชี่ยวชาญถึงกังวลเกี่ยวกับ Sora?

นักวิจัยพบว่า Sora สามารถสร้างวิดีโอ Deepfake ที่สามารถแพร่กระจายข้อมูลผิดพลาดได้ด้วยความพยายามเพียงเล็กน้อย ซึ่งสร้างความกังวลเกี่ยวกับการเข้ามาหลอกลวงและความปลอดภัย

Sora สร้าง deepfake ได้อย่างไร?

โดยการวิเคราะห์ข้อความที่กระตุ้น, Sora สร้างคลิปวิดีโอที่ถูกเรนเดอร์อย่างสมบูรณ์ซึ่งดูเหมือนจริง, ทำให้สามารถสร้างภาพเคลื่อนไหวที่ผิดพลาดได้อย่างง่ายดาย.

OpenAI สามารถป้องกันการใช้ Sora ไม่เหมาะสมได้หรือไม่?

OpenAI ใช้การทำเครื่องหมายและตัวกรองความปลอดภัย แต่การศึกษาแสดงให้เห็นว่าการป้องกันเหล่านี้สามารถถูกหลีกเลี่ยงได้ อาจต้องการการตรวจจับและกฎระเบียบที่เข้มงวดยิ่งขึ้น

นี่คือสิ่งที่สามารถทำได้เพื่อหยุดข้อมูลผิดพลาดจาก AI: 1. **การศึกษาและเพิ่มความตระหนักรู้:** ให้ความรู้แก่ผู้คนเกี่ยวกับวิธีการทำงานของ AI และการตรวจสอบข้อเท็จจริง 2. **การพัฒนาเทคโนโลยีการตรวจจับ:** สร้างและปรับปรุงเครื่องมือที่สามารถตรวจจับข้อมูลที่สร้างขึ้นโดย AI 3. **การกำกับดูแลและกฎระเบียบ:** จัดตั้งกฎระเบียบที่ชัดเจนสำหรับการใช้ AI ในการสร้างข้อมูล 4. **การส่งเสริมความรับผิดชอบของผู้ผลิต AI:** กระตุ้นให้บริษัทต่าง ๆ ใช้แนวทางที่มีจริยธรรมในการพัฒนา AI 5. **การร่วมมือระหว่างองค์กร:** ส่งเสริมความร่วมมือระหว่างผู้พัฒนาแพลตฟอร์มสื่อและนักวิจัย เพื่อเผชิญหน้ากับข้อมูลผิดพลาด ด้วยการปฏิบัติตามแนวทางเหล่านี้ เราสามารถช่วยลดข้อมูลผิดพลาดจาก AI ได้.

ความโปร่งใส การทำงานร่วมกันระหว่างแพลตฟอร์ม และการรู้หนังสือด้านสื่อเป็นสิ่งจำเป็น ผู้ใช้และแพลตฟอร์มต้องเรียนรู้ที่จะระบุและทำเครื่องหมายเนื้อหาที่สร้างโดย AI อย่างมีความรับผิดชอบ