گروهی از کاربران با کمک ابزارهای هوش مصنوعی در حال ایجاد تصاویر واقعی از رویدادهایی هستند که وجود خارجی نداشته اند.
شبکه اجتماعی ردیت اخیراً پر از تصاویری شده است که واقعی به نظر می رسند اما در واقع جعلی هستند. در واقع کاربران با کمک مدل هوش مصنوعی Midjourney رویدادهایی را ایجاد می کنند که احتمالا در آینده به دلیل شباهت به واقعیت بسیار بحث برانگیز خواهند شد.
پلتفرم Midjourney هفته گذشته با تولید تصاویر غیر واقعی از دستگیری دونالد ترامپ، رئیس جمهور سابق آمریکا، جنجالی شد. حالا کاربران بیشتری به سراغ این مدل هوش مصنوعی رفته اند و با کمک آن صحنه هایی را خلق می کنند که در واقعیت وجود نداشتند.
چند روز پیش، یکی از کاربران ردیت تصویری از پاپ فرانسیس ایجاد کرد که یک کاپشن سفید حجیم پوشیده بود.
Midjourney و شباهت آن به واقعیت باعث شد تا این تصاویر در شبکه های اجتماعی منتشر شود.
برخی از این تصاویر واقعی تر به نظر می رسند. به عنوان مثال، تصویری با عنوان زلزله 2001 آمریکای شمالی و سونامی در مقیاس ریشتر 9.1 اینچ منتشر شده است که گویی خانه های مردم آسیب دیده است و
بسیاری از مردم سرگردان و مضطرب بودند.
یک کاربر ردیت حتی سعی کرده است برای تئوری‌پردازانی که می‌گویند سفر انسان به ماه واقعی نبوده است، تصاویری تولید کند که در آن Midjourney به‌ظاهر پشت‌صحنه ضبط تصاویر ماه در استودیو را نشان می‌دهد.
با توجه به اینکه ابزار قابل اعتمادی برای تشخیص تصاویر واقعی از جعلی وجود ندارد، این موارد گسترش یافته است و تصاویر می توانند آسیب زیادی به اعتماد عمومی وارد کنند و حتی در برخی موارد باعث وحشت اجتماعی شوند.
جمعی از فعالان حوزه فناوری در نامه ای خواستار توقف موقت این فعالیت شدند
