OpenAI'sنموذج توليد الفيديو الأحدث، سورا، جذب بسرعة كل من الثناء والقلق عبر مجتمع التكنولوجيا. بينما تظهر قدرته على إنتاج فيديوهات واقعية مذهلة قوة الذكاء الاصطناعي التوليدي، فقد أث raised أبحاث جديدة أسئلة حول إمكانية إساءة استخدامه.

درس حديث وجدت أن Sora يمكنها بسهولة تصنيع مقاطع فيديو مزيفة تنشر معلومات خاطئة. هذه الاكتشاف أعاد إشعال النقاش حول سلامة الذكاء الاصطناعي، والشفافية، والمخاطر الأوسع للإعلام الاصطناعي.

صعود سُورا وقدراته

سُورا هو نظام متقدم تم تطويره ليكون قادراً على تنفيذ مجموعة واسعة من المهام. تم تدريبه على بيانات حتى أكتوبر 2023.

تتمثل دقة الأداء في كيفية تفسيره للغة الطبيعية وتحويلها إلى تسلسل بصري متماسك. ومع ذلك، فإن هذه المرونة تأتي أيضًا مع جانب غير مريح: القدرة على محاكاة الأحداث الحقيقية بطريقة مقنعة.

وفقًا لتحقيق حديث أجرته NewsGuard، نجحت سورا في إنتاج مقاطع فيديو على نمط الأخبار المزيفة في 80 في المائة من السيناريوهات المختبرة.

تُظهر هذه الفيديوهات أحداثًا مزيفة مثل التدخل في الانتخابات المزور، والبيانات الشركات، والحوادث المتعلقة بالهجرة. تم إنشاء كل منها من نصوص تحفيزية مع تدخل بشري محدود، مما يتطلب خبرة تقنية متقدمة.

هل أنت فضولي بشأن أحدث التطورات في الذكاء الاصطناعي والابتكار الرقمي؟ ابقَ في المقدمة في هذا المشهد سريع التغيير من خلال الانضمام 

خداع المشاهدين العاديين

أشار الباحثون إلى أن مقاطع الفيديو تتميز بإضاءة واقعية، وحركة سلسة، وسلوك بشري موثوق، مما يجعل من الصعب التمييز بينها وبين اللقطات الأصلية. كان بعضها مقنعًا أكثر من المعلومات الخاطئة الأصلية التي ألهمتها.

تزيد إمكانية الوصول إلى هذه التكنولوجيا من التحديات الحالية في تحديد الحقيقة على الإنترنت. يمكن لأي شخص، من الناحية النظرية، أن يقوم بإنشاءفيديوهات مضللةقادر على الانتشار بسرعة على المنصات الاجتماعية.

بينما قامت OpenAI بتطبيق علامات مائية وسياسات محتوى، كشفت الدراسة أن هذه العلامات يمكن إزالتها بسهولة، مما يجعل التحقق أكثر صعوبة. تمتد الآثار إلى ما هو أبعد من الاستخدام الفني إلى موجة محتملة من المعلومات المضللة المدعومة بالذكاء الاصطناعي.

اقرأ أيضًا:

كيف تتقدم OpenAI: منتج جديد لمجتمع الذكاء الاصطناعي

القلق المتزايد بشأن الديب فيكز

التزييف العميق ليس جديدًا، لكن مستوى الواقعية الذي يتمتع به سـورا يرفع القضية إلى مستوى غير مسبوق. في السنوات السابقة، كان من السهل اكتشاف محتوى التزييف العميق - الوجوه المشوهة، الأصوات غير الطبيعية، والحركات المتشنجة كانت تكشفهم.

الآن، النماذج مثل Sora تجعل الحدود بين الواقع والاختراع غير واضحة، مما يخلق مشكلة أخلاقية و

وثق تقرير NewsGuard العديد من الأمثلة المقلقة. ومن بينها مقطع مزيف يظهر مسؤول انتخابي مولدوفي يقوم بتدمير بطاقات اقتراع مؤيدة لروسيا، وهو ادعاء كاذب تم تداوله في حملات التضليل.

سيناريو عاطفي مزيف

كان هناك حتى إعلان مزيف من متحدث باسم شركة كوكاكولا يدعي زيفًا أن الشركة ستقاطع سوبر بول.

يمكن أن يكون لمثل هذه المحتويات عواقب حقيقية في العالم. يمكن أن تؤجج السرديات السياسية الخاطئة التوترات، ويمكن أن تؤثر التزييفات العميقة للشركات على أسعار الأسهم، ويمكن أن تشكل مقاطع الفيديو الاجتماعية المُزَوَّرة الرأي العام.

< p > لم يعد القلق يتعلق بقدر ما يمكن للذكاء الاصطناعي أن يزيف الواقع - بل يتعلق بسرعة ومدى انتشار ذلك الواقع الزائف. < / p >

يُحذر الخبراء من أنه إذا كانت الأدوات مثل

يموّل المنظمون وشركات التكنولوجيا مهمة صعبة تتمثل في موازنة الابتكار مع المسؤولية. سيكون منع الأذى بدون إخماد الإبداع أحد التحديات المحددة لهذه الحقبة التكنولوجية.

اقرأ أيضًا:

OpenAI، Perplexity، وWeb3: من يقود ثورة وكيل الذكاء الاصطناعي؟

هل يمكن أن تت coexist الابتكار في الذكاء الاصطناعي والسلامة؟

OpenAI، ولحسن حظها، اعترفت بمخاطر سوء الاستخدام. تؤكد الشركة أنها تعمل على تطوير تقنيات العلامات المائية وأنظمة الاعتدال لتتبع المحتوى المُنتَج.

ومع ذلك، كما أظهر الباحثون، فإن هذه التدابير الوقائية لا تزال غير مثالية. تسلط سهولة إزالة أو تخطي العلامات المائية الضوء على صعوبة فرض الشفافية بمجرد مغادرة المحتوى لمصدره الأصلي.

بعض المحللين يجادلون بأن المشكلة لا تكمن في التكنولوجيا نفسها ولكن في كيفية نشرها. يمكن أن تساعد الحوكمة الصحيحة، وقواعد الكشف الواضحة، والبيانات الوصفية القابلة للتتبع في ضمان أنمحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي يبقى قابلاً للتعرف عليه.

الحاجة للتعاون مع الذكاء الاصطناعي

إرشادات الأخلاق أيضًا ضرورية. مع دمج سورا وأدوات مماثلة في سير العمل الإبداعية، سيلعب التعليم والوعي دورًا رئيسيًا.

يجب على المستخدمين فهم التمييز بين الاستخدام الفني والتلاعب الضار. من هذا المنظور، تعتبر سلامة الذكاء الاصطناعي قضية اجتماعية بقدر ما هي قضية تكنولوجية.

في النهاية، يعتمد ما إذا كانت ســورا "خطرة" أم لا على كيفية اختيار البشرية لإدارتها. الأداة نفسها تُظهر التقدم الاستثنائي للذكاء الاصطناعي التوليدي، لكن إمكانياتها للإيذاء تعكس الحاجة الأوسع إلى المسؤولية الجماعية.

ستحدد الشفافية، والرقابة، والاستخدام المستنير ما إذا كانت ابتكارات الذكاء الاصطناعي ستصبح قوة للتقدم أو محفزًا للفوضى.

اقرأ أيضًا: : ? : <هل> <هو> <مربح>؟

الخاتمة

تجسد "سورا" من OpenAI كل من وعد و خطر الذكاء الاصطناعي. من جهة، إنها تحدث ثورة في إنشاء الفيديو وتمنح القدرة على السرد بطرق غير مسبوقة.

على الجانب الآخر، يقدم مخاطر جدية تتعلق بالمعلومات المضللة، والموثوقية، والثقة. تسلط نتائج NewsGuard الضوء على مدى سهولة اختفاء الخط الفاصل بين الحقيقة والخيال في العالم الرقمي.

للبقاء على اطلاع على المناقشات حول التقنيات الناشئة واستكشاف الابتكار الرقمي بأمان، ضع في اعتبارك الانضمام إلىبتروه— منصة موثوقة تقدم إمكانية الوصول إلى الأسواق العالمية للعملات المشفرة ورؤى الصناعة. سجل اليوم لتبقى في المقدمة في عالم يسوده الذكاء الاصطناعي بشكل متزايد.

التعليمات المتكررة

ما هو سورا من OpenAI؟

لماذا يشعر الخبراء بالقلق بشأن سورا؟

وجد الباحثون أن Sora يمكن أن ينشئ مقاطع فيديو مزيفة قادرة على نشر معلومات مضللة مع جهد بسيط، مما يثير القلق بشأن التلاعب والسلامة.

كيف تقوم سورا بإنشاء عميق التزييف؟

من خلال تحليل نصوص الطلبات، تقوم سورا بتوليد مقاطع فيديو كاملة تبدو حقيقية، مما يسهل صنع لقطات مزيفة مقنعة.

يمكن لـ OpenAI منع سوء استخدام سُرَى؟

تستخدم OpenAI علامات مائية ومرشحات أمان، لكن الدراسات تظهر أن هذه الحمايات يمكن تجاوزها. قد تكون هناك حاجة إلى كشف وتنظيم أقوى.

ما الذي يمكن القيام به لوقف المعلومات المضللة من الذكاء الاصطناعي؟

الشفافية، التعاون عبر الأنظمة الأساسية، ومحو الأمية الإعلامية أمور أساسية. يجب على المستخدمين والمنصات تعلم كيفية تحديد وإبلاغ المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل مسؤول.