شعر أندريه دورونشيف بالذعر العام الماضي عندما شاهد مقطع فيديو على وسائل التواصل الاجتماعي بدا أنه يظهر الرئيس الأوكراني يستسلم لروسيا.
تم فضح الفيديو سريعًا باعتباره مزيفًا عميقًا تم إنشاؤه صناعياً ، ولكن بالنسبة للسيد. Doronichev كانت علامة مقلقة. هذا العام ، اقتربت مخاوفه من الواقع حيث بدأت الشركات في التنافس لتحسين وإطلاق تكنولوجيا الذكاء الاصطناعي على الرغم من الخراب الذي يمكن أن تسببه.
يتوفر الذكاء الاصطناعي التوليدي الآن للجميع وهو قادر بشكل متزايد على خداع الأشخاص بالنصوص والصوت والصور ومقاطع الفيديو التي يبدو أن البشر قد تصوروها والتقطوها. أثار خطر السذاجة المجتمعية مخاوف بشأن التضليل ، وفقدان الوظائف ، والتمييز ، والخصوصية ، و ديستوبيا على نطاق واسع.
لرجال الأعمال مثل Mr. دورونشيف ، لقد أصبح أيضًا فرصة عمل. تقدم أكثر من اثنتي عشرة شركة الآن أدوات لتحديد ما إذا كان شيء ما مصنوعًا باستخدام الذكاء الاصطناعي ، بأسماء مثل Sensity AI (اكتشاف التزييف العميق) و Fictitious.AI (اكتشاف الانتحال) و Originality.AI (الانتحال أيضًا).
السيد. أسس Doronichev ، وهو مواطن روسي ، شركة Optic في سان فرانسيسكو للمساعدة في التعرف على المواد الاصطناعية أو المزيفة – لتكون ، على حد قوله ، “آلة تصوير بالأشعة السينية في المطارات للمحتوى الرقمي”.
في مارس ، تم الكشف عنه موقع على شبكة الإنترنت حيث يمكن للمستخدمين التحقق من الصور لمعرفة ما إذا كانت مصنوعة من صور فعلية أو ذكاء اصطناعي. يعمل على خدمات أخرى للتحقق من الفيديو والصوت.
قال السيد. Doronichev ، الذي كان مستثمرًا في تطبيق مبادلة الوجه يسمى Reface. “نحن ندخل عصر المنتجات المقلدة الرخيصة “. وقال إنه نظرًا لأن إنتاج محتوى مزيف لا يكلف الكثير ، فيمكن القيام به على نطاق واسع.
من المتوقع أن يتجاوز سوق الذكاء الاصطناعي التوليدي الإجمالي 109 مليارات دولار بحلول عام 2030 ، بمعدل نمو سنوي متوسط قدره 35.6 في المائة حتى ذلك الحين ، وفقًا لشركة أبحاث السوق Grand View Research. الشركات التي تركز على اكتشاف التكنولوجيا هي جزء متزايد من الصناعة.
بعد شهور من إنشائه من قبل طالب في جامعة برينستون ، تدعي GPTZero أن أكثر من مليون شخص قد استخدموا برنامجه للبحث عن نص تم إنشاؤه بواسطة الكمبيوتر. مدافع عن الواقع كان واحدا من 414 شركة تم اختياره من بين 17000 تطبيق سيتم تمويلها بواسطة مسرع بدء التشغيل Y Combinator هذا الشتاء.
Copyleaks جمعت 7.75 مليون دولار العام الماضي جزئيًا لتوسيع خدمات مكافحة الانتحال لتشمل المدارس والجامعات لاكتشاف الذكاء الاصطناعي في عمل الطلاب. بريد الحراسةقام مؤسسوها المتخصصون في الأمن السيبراني وحرب المعلومات للبحرية الملكية البريطانية ومنظمة حلف شمال الأطلسي ، بإغلاق جولة أولية بقيمة 1.5 مليون دولار في عام 2020 ، بدعم جزئي من أحد المهندسين المؤسسين لشركة سكايب ، للمساعدة في حماية الديمقراطيات من التزييف العميق وغيرها من المواد الاصطناعية الخبيثة وسائط.
وتشارك أيضًا شركات التكنولوجيا الكبيرة: Intels مزيف تدعي أنها قادرة على تحديد مقاطع الفيديو المزيفة بدقة 96 بالمائة ، جزئيًا عن طريق تحليل البكسل بحثًا عن علامات خفية لتدفق الدم في الوجوه البشرية.
داخل الحكومة الفيدراليةتخطط وكالة مشاريع الأبحاث الدفاعية المتقدمة لاستخدامها ما يقرب من 30 مليون دولار هذا العام لتشغيل Semantic Forensics ، وهو برنامج يطور خوارزميات لاكتشاف التزييف العميق تلقائيًا وتحديد ما إذا كانت ضارة.
حتى أوبن إيه آي ، التي شحنت طفرة الذكاء الاصطناعي عندما أطلقت أداة ChatGPT أواخر العام الماضي ، تعمل على خدمات الكشف. ظهرت الشركة ، ومقرها في سان فرانسيسكو ، لأول مرة أداة مجانية في يناير للمساعدة في التمييز بين نص كتبه إنسان ونص مكتوب بواسطة الذكاء الاصطناعي.
شددت أوبن إيه آي على أنه في حين أن الأداة كانت بمثابة تحسين عن التكرارات السابقة ، إلا أنها لا تزال “غير موثوقة بشكل كامل”. حددت الأداة بشكل صحيح 26 بالمائة من النص المصطنع ، لكنها حددت بشكل غير صحيح 9 بالمائة من النص البشري على أنه تم إنشاؤه بواسطة الكمبيوتر.
تعاني أداة OpenAI من عيوب شائعة في برامج الكشف: فهي تواجه صعوبة مع النصوص القصيرة والكتابة غير الإنجليزية. في الأوساط التعليمية ، تم اتهام أدوات الكشف عن السرقة الأدبية مثل TurnItIn غير دقيق تصنيف المقالات التي كتبها الطلاب على أنها تم إنشاؤها بواسطة روبوتات المحادثة.
أدوات الكشف متأخرة بطبيعتها عن التكنولوجيا التوليدية التي تحاول اكتشافها. بحلول الوقت الذي يكون فيه نظام الدفاع قادرًا على التعرف على عمل روبوت محادثة جديد أو منشئ صور ، مثل Google Bard أو Midjourney ، توصل المطورون بالفعل إلى تكرار جديد يمكنه التهرب من هذا الدفاع. وُصِف الموقف بأنه سباق تسلح أو علاقة فيروسات لمكافحة الفيروسات ، حيث يقوم أحدهما بتربية الآخر مرارًا وتكرارًا.
قال هاني فريد ، أستاذ علوم الكمبيوتر بجامعة كاليفورنيا ، بيركلي ، المتخصصة في الطب الشرعي الرقمي وتشارك أيضًا في صناعة الكشف عن الذكاء الاصطناعي. “إنها لعبة مقاومة متأصلة حيث أثناء عملي على الكاشف ، يقوم شخص ما ببناء مصيدة فئران أفضل ، ومركب أفضل.”
قال جوشوا تاكر ، أستاذ السياسة في جامعة نيويورك والمدير المشارك لمركز الإعلام الاجتماعي والسياسة التابع لها ، على الرغم من اللحاق المستمر بالركب ، فقد شهدت العديد من الشركات طلبًا على اكتشاف الذكاء الاصطناعي من المدارس والمعلمين. وتساءل عما إذا كانت سوق مماثلة ستظهر قبل انتخابات 2024.
وقال “هل سنرى نوعا من الجناح الموازي لهذه الشركات يتطور للمساعدة في حماية المرشحين السياسيين حتى يتمكنوا من معرفة متى يتعرضون لضربة من هذا النوع من الأشياء”.
قال الخبراء إن الفيديو الذي تم إنشاؤه صناعياً لا يزال أخرقًا ويسهل التعرف عليه ، لكن استنساخ الصوت وإنشاء الصور كانا متقدمين للغاية. سيتطلب فصل الحقيقي عن المزيف تكتيكات الطب الشرعي الرقمي مثل البحث العكسي عن الصور وتتبع عنوان IP.
يتم اختبار برامج الكشف المتاحة بأمثلة “مختلفة تمامًا عن الخروج إلى البرية ، حيث الصور التي كانت موجودة وتم تغييرها واقتصاصها وتقليصها وإعادة تشفيرها وتوضيحها والله أعلم ماذا حدث لها أيضًا”. قال السيد فريد.
واضاف ان “غسيل المحتويات يجعل هذه المهمة صعبة”.
مبادرة أصالة المحتوى ، وهي عبارة عن اتحاد يضم 1000 شركة ومنظمة ، هي مجموعة تحاول جعل التكنولوجيا التوليدية واضحة منذ البداية. (يقودها Adobe ، مع أعضاء مثل The New York Times ومشغلي الذكاء الاصطناعي مثل Stability AI) بدلاً من تجميع أصول صورة أو مقطع فيديو معًا في وقت لاحق من دورة حياتها ، تحاول المجموعة وضع معايير من شأنها تطبيق بيانات الاعتماد القابلة للتتبع على الرقمية العمل في الخلق.
قالت Adobe الأسبوع الماضي أن تقنيتها التوليدية Firefly ستكون كذلك مدمج في Google Bardحيث سيتم إرفاق “علامات التغذية” بالمحتوى الذي تنتجه ، بما في ذلك تاريخ صنع الصورة والأدوات الرقمية المستخدمة لإنشائها.
قال جيف ساكاسيغاوا ، مهندس الثقة والأمن في بيرسونا ، وهي شركة تساعد في التحقق من هويات المستهلكين ، إن تحديات الذكاء الاصطناعي بدأت للتو.
وقال “الموجة تبني زخما”. “إنها تتجه إلى الشاطئ. لا أعتقد أنها تحطمت بعد.”