بدأ روبوت الدردشة الذكي جروك التابع لشركة xAI المملوكة للملياردير يلون ماسك في السماح للمستخدمين بإنشاء صور بالذكاء الاصطناعي من خلال رسائل نصية ونشرها على X. وعلى الفور ، بدأ الناس في الاستجابة و استخدام الأداة لإغراق موقع التواصل الاجتماعي بصور مزيفة لشخصيات سياسية مثل الرئيس السابق دونالد ترامب ونائبة الرئيس كامالا هاريس، بالإضافة إلى ماسك نفسه، بعضها يصور الشخصيات العامة في مواقف تبدو مزعجة مثل المشاركة في هجمات 11 سبتمبر.
على عكس أدوات الصور الذكية السائدة الأخرى، يبدو أن جروك، الذي أنشأته شركة الذكاء الاصطناعي الناشئة xAI التابعة لإيلون ماسك، لديه القليل من الحواجز.
في اختبارات الأداة، تمكنت CNN بسهولة من جعل جروك يولد صورًا مزيفة وواقعية للسياسيين والمرشحين السياسيين، والتي إذا أخرجت من سياقها، يمكن أن تكون مضللة للناخبين. كما أنشأت الأداة صورًا ليست بالمضرة ولا المفيدة ولكنها مقنعة للغاية لشخصيات عامة، مثل ماسك وهو يأكل شريحة لحم في حديقة.
نشر بعض مستخدمي X صورًا قالوا إنهم أنشأوها باستخدام Grok تظهر شخصيات بارزة تستهلك المخدرات وشخصيات كرتونية ترتكب جرائم قتل عنيفة وصور جنسية لنساء يرتدين البكيني. في منشور تمت مشاهدته ما يقرب من 400000 مرة، شارك مستخدم صورة أنشأها Grok لترامب وهو ينحني من أعلى شاحنة ويطلق النار من بندقية.
من المرجح أن تضيف الأداة إلى المخاوف من أن الذكاء الاصطناعي يمكن أن يخلق سيلا من المعلومات الكاذبة و المضللة عبر الإنترنت، وخاصة قبل الانتخابات الرئاسية الأمريكية. دق المشرعون ومجموعات المجتمع المدني وحتى قادة التكنولوجيا أنفسهم ناقوس الخطر من أن إساءة استخدام مثل هذه الأدوات يمكن أن تسبب ارتباكًا وفوضى للناخبين.
نشر ماسك على X يوم الأربعاء، ردًا على مستخدم أشاد بالأداة لكونها “غير خاضعة للرقابة”. قائلا إن Grok وهوأداة الذكاء الاصطناعي الأكثر متعة في العالم
اتخذت العديد من شركات الذكاء الاصطناعي الكبيرة الأخرى بعض الخطوات لمنع استخدام أدوات إنشاء صور الذكاء الاصطناعي الخاصة بها لإنشاء معلومات مضللة سياسية، كما تتضمن بعض الشركات، بما في ذلك OpenAI وMeta وMicrosoft، تقنية أو علامات لمساعدة المشاهدين على تحديد الصور التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي الخاصة بهم، ورغم كل ذلك وجد الباحثين أن المستخدمين لا يزالون قادرين في بعض الأحيان على إيجاد طرق للالتفاف على تدابير الإنفاذ.
كما اتخذت منصات التواصل الاجتماعي المنافسة، بما في ذلك YouTube وTikTok وInstagram وFacebook، خطوات لوضع علامات على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في موجزات المستخدمين، إما باستخدام التكنولوجيا للكشف عنه بأنفسهم أو مطالبة المستخدمين بتحديد وقت نشر مثل هذا المحتوى.
لم تستجب X على الفور لطلب التعليق بشأن ما إذا كانت لديها أي سياسات ضد Grok لتوليد صور مضللة محتملة للمرشحين السياسيين.
و بدا أن xAI قد أدخلت بعض القيود على Grok، استجابة للتقارير الانتقادية والصور المزعجة التي كان المستخدمون ينشئونها وينشرونها. ترفض الأداة الآن إنشاء صور لمرشحين سياسيين أو شخصيات كرتونية معروفة على نطاق واسع (ملكيتها الفكرية مملوكة لشركات أخرى) ترتكب أعمال عنف أو إلى جانب رموز خطاب الكراهية، على الرغم من أن المستخدمين لاحظوا أن القيود بدت مقتصرة على مصطلحات وموضوعات صور معينة فقط.
لدى X سياسة ضد مشاركة “الوسائط المولدة الذكاء الاصطناعي أو المتلاعب بها أو خارج السياق والتي قد تخدع أو تربك الناس وتؤدي إلى الأذى”، على الرغم من أنه من غير الواضح كيف يتم تطبيق السياسة. شارك ماسك نفسه مقطع فيديو الشهر الماضي على X استخدم الذكاء الاصطناعي ليجعل الأمر يبدو وكأن هاريس قالت أشياء لم تقلها في الواقع – في انتهاك واضح لسياسة المنصة ومع وجود رمز تعبيري لوجه ضاحك فقط للإيحاء للمتابعين بأنه مزيف.
تأتي أداة الصور الجديدة Grok أيضًا في الوقت الذي يواجه فيه ماسك انتقادات لنشره بشكل متكرر ادعاءات كاذبة ومضللة على X تتعلق بالانتخابات الرئاسية، بما في ذلك منشور يثير تساؤلات حول أمان آلات التصويت. كما يأتي ذلك بعد أيام من استضافة ماسك لترامب في محادثة بث مباشر لمدة تزيد عن ساعتين على X
واجهت أدوات توليد الصور الأخرى بالذكاء الاصطناعي ردود فعل عنيفة بسبب قضايا مختلفة. أوقفت جوجل قدرة روبوت الدردشة Gemini AI على توليد صور للأشخاص بعد تعرضها لانتقادات شديدة لإنتاجها صورًا غير دقيقة تاريخيًا لأعراق الأشخاص؛ وتعرض مولد الصور بالذكاء الاصطناعي الخاص بشركة Meta لانتقادات شديدة بسبب محاولته إنشاء صور لأزواج أو أصدقاء من خلفيات عرقية مختلفة. كما أُجبرت TikTok على سحب أداة فيديو بالذكاء الاصطناعي بعد أن اكتشفت CNN أن مستخدم يمكنه إنشاء مقاطع فيديو واقعية المظهر لأشخاص يقولون أي شيء، بما في ذلك معلومات مضللة عن لقاحات كوفيد 19..