خطرات جدی تری و فراتر از دیپ فیک در راهند: «جعل تجربه» و «باور جایگزین سند و شواهد»

به گزارش بولتن نیوز به نقل از شفقنا، امروزه با پیشرفت فناوری دیپ‌فیک، تصاویر و ویدیوهای جعلی فراوانی در شبکه‌های اجتماعی منتشر می‌شوند و تشخیص صحت آن‌ها روزبه‌روز سخت‌تر شده است. این وضعیت باعث کاهش اعتماد عمومی به «حقیقت بصری» و تردید در اعتبار محتوای بصری شده است. در چنین شرایطی چگونه می توان به حقیقت دست یافت و مسئولیت رسانه ها چیست؟ مریم سلیمی، مدرس سوادهای رسانه ای، خبری، بصری می گوید: تضعیف اعتبار تصویر و ویدئو نشان‌دهنده نوعی افول اعتماد بصری است؛ وضعیتی که در آن چشم انسان و مشاهده سطحی رسانه‌ای دیگر ابزار قابل اتکایی برای تشخیص حقیقت نیستند. در چنین شرایطی، تنها راه برون‌رفت، تقویت سواد رسانه‌ای، نهادینه‌کردن پروتکل‌های حرفه‌ای راستی‌آزمایی و بازتعریف مسئولیت اخلاقی تولیدکنندگان محتوا و رسانه‌هاست؛ چراکه در عصر دیپ‌فیک، حقیقت دیگر صرفاً دیده نمی‌شود، بلکه باید اثبات شود.

خلاصه صحبت های دکتر مریم سلیمی را در اینجا بخوانید…

ما در حال گذار از عصر «اعتماد بصری» به دوران «بی‌اعتمادی بصری» هستیم. دوره‌ای که تصویر و ویدئو به‌تنهایی برای باورپذیری کافی بودند، رو به پایان است. هرچند آغاز این بی‌اعتمادی با جعل‌های ارزان و کم‌عمق شکل گرفت، اما با ظهور دیپ‌فیک‌ها به اوج خود رسیده است. امروز با نشانه‌های جدی افول اعتماد بصری روبه‌رو هستیم؛ به‌گونه‌ای که دیگر هیچ محتوای بصری را نمی‌توان بدیهی و خودبه‌خود معتبر دانست.

در چنین شرایطی، حتی محتوای واقعی نیز می‌تواند به‌سادگی و صرفِ ادعای جعلی‌بودن، انکار شود؛ مسئله‌ای که خود می‌تواند دستاویزی برای انواع سوءاستفاده‌ها باشد. مخاطب ناگزیر در وضعیت دائمی تردید و راستی‌آزمایی قرار می‌گیرد و «دیدن با چشم» دیگر تضمینی برای درک یا اثبات واقعیت نیست. این تغییر، بار شناختی سنگینی بر دوش کاربران می‌گذارد و در صورت فقدان مهارت‌ها و سوادهای لازم، می‌تواند به خستگی شناختی، بی‌اعتمادی فراگیر و حتی بی‌تفاوتی نسبت به حقیقت منجر شود.

خطر واقعی را باید فراتر از دیپ‌فیک و پیامدهای آن دانست. با ظهور تراشه‌های مغزی و تلاش‌ها برای تأثیرگذاری از مسیر علوم شناختی و فناوری‌های نوین، باید منتظر سطحی بالاتر از تهدید با عناوینی چون «جعل تجربه» و «تجربه جعلی» بود.

مشروح گفتگوی شفقنا رسانه با مریم سلیمی مدرس سوادهای رسانه ای، خبری، بصری و هوش مصنوعی و مولف کتاب‌های «سواد خبری»، «تفکر و سواد رسانه ای»، «گرافیک خبری و اطلاع رسان» و… را در ادامه بخوانید…

رنگ باختن باور «شنیدن کی بود مانند دیدن» با گسترش دیپ فیک‌ها

گسترش دیپ‌فیک چگونه مفهوم «حقیقت بصری» را دگرگون کرده و جایگاه تصویر و ویدئو را به‌عنوان سند قابل اتکا تضعیف کرده است؟

پیش از هر پاسخی به سوال شما، اول باید به اهمیت تصویر اشاره کنیم. مغز انسان چیزهای زیادی دوست دارد اعم از رنگ، کد، تمایز، رابطه و… که یکی از مهمترین آنها تصویر است. کما اینکه یکی از مهمترین و اثرگذارترین روش‌های یادگیری از کودکی، یادگیری به کمک تصاویر است. براساس آمار حدود ۶۵ درصد از افراد یادگیرندگان بصری هستند (البته در منابع مختلف کمی آمار متفاوت است). از همین منظر، افراد ۲۰ درصد آنچه را می خوانند و ۸۰ درصد آنچه را می بینند به خاطر می سپارند. در شرایط معمول، ۹۰ درصد اطلاعاتی که به مغز انسان می رسد تصویری است. همچنین مغز ما تصاویر را ۶۰ هزار بار سریعتر از متن پردازش می کند.

از طرفی این جمله را زیاد شنیده اید که «یک تصویر بیش از هزار کلمه می ارزد» که البته این جمله را باید مشروط پذیرفت، به این معنی که به شرط توان خوانش تصویر توسط فرد، یک تصویر بیش از هزار کلمه می ارزد. براساس آمار، محتواهای بصری چندین برابر بیش از متن شانس اشتراک گذاری به ویژه در رسانه های اجتماعی دارند. کما اینکه جهان به سمت هرچه بصری‌تر شدن می‌رود و اقبال مخاطبان از تصاویر و ویدئوهای کوتاه بیشتر و بیشتر می شود (عاری از بحث تأثیرات منفی آن بر مغز). کاهش دامنه توجه سبب شده تا مخاطب زمان کمتری برای تمرکز بر یک محتوا در میان انبوه محتواهای به ویژه بصری داشته باشد.

به استناد برخی منابع، هر چه متن به سمت بصري‌تر شدن سير مي‌كند، احتمال انتقاد از آن کمتر و امكان باورپذيري آن بيشتر مي‌شود. از سویی، تنها قرار دادن یک تصویرسازی ساده مانند نمودار یا نقشه، چه حقیقی یا دروغین، می تواند باورپذیری خبر را تا حد زیادی افزایش دهد.

در مثالی پژوهشی می توان گفت: پژوهشگران دانشگاه کُرنل پژوهشی را با استفاده از دو مقاله یکسان انجام دادند که تنها یک تفاوت داشتند. یکی از مقالات یک نمودار داشت. در حالی که تنها ۶۸ درصد خوانندگان ادعای مقاله بدون نمودار را باور کردند، تقریبا همه آنها (۹۷ درصد) همان ادعا را در مقاله دارای نمودار پذیرفتند. این نتیجه، اهمیت نقش تصاویر حتی در باورپذیری محتوا را مورد تأکید دارد.

آلبرتو کایرو از اساتید دانشگاه روزنامه نگاری بصری دانشگاه میامی، معتقد است که یک نمودار تنها چیزی را نشان می دهد که می خواهد نشان دهد، نه هیچ حقیقت دیگری را. سایر چیزهایی که در یک نمودار می بینیم اغلب چیزهایی هستند که در مغز ما هستند.

او از چالش‌هایی در مسیر بصری سازی داده‌ها و اطلاعات یاد می کند که از جمله آنها به ساختارها و الگوها، بی‌سوادی خوانش گرافیکی و بصری و… و از همه مهمتر بحثهای اخلاقی اشاره می کند. او در کتاب «نمودارها چطور دروغ می گویند؟» بر اهمیت بحث‌های اخلاقی اشاره می کند و اینکه ابزارهای اطلاع رسانی در دست ما مانند  چکش هستند که می توانیم از آنها در مسیر درست یا نادرست استفاده کنیم. چنانچه اخلاق را رعایت نکنیم می توانیم منجر به تخریب شویم و به درک و برداشت نادرست مخاطبان منجر شویم. او همچنین تأکید می کند که ما همه مسئول هستیم که محیط اطلاعاتی بهتری را ایجاد کنیم. دانشمندان روزنامه نگاران و… همگی باید بکوشند تا نمودارهایی را تولید کنند که به ایجاد بحث‌های مفید کمک کنند نه اینکه گفتمان‌های سالم را تخریب کنند. خواننده ها هم تلاش کنند تا  نمودارها را چندین بار بخوانند و ضمن درک آن، در خصوص اشتراک گذاری آن تصمیم بگیرند.

از هر آنچه اشاره شد بنا دارم این نتیجه را بگیرم، هرچه چیزی نزد ما اهمیت بیشتری داشته باشد، هرگونه خدشه به آن، تبعات و هزینه گزاف‌تری برای ما به دنبال دارد. این یعنی وقتی تصویری که مغز ما اینقدر به آن بها داده و به آن اتکا می کند دچار خدشه ای اعتباری و اعتمادی شود، کار برای مغز ما در بررسی و تحلیل‌ها و نتیجه گیری‌ها سخت و سختر می شود.

همیشه این ذهنیت بین افراد جامعه وجود داشت که «تصاویر و ویدئوها اسناد قابل اتکا هستند» و «دوربین‌ها دروغ نمی‌گوید» و… . یا به ضرب المثلی هایی دل سپرده بودیم که «شنیدن کی بود مانند دیدن» یعنی اگر چیزی را به چشم می دیدیم دیگر آن را باور می کردیم. ولی اکنون دیپ فیک‌ها و تصاویر بسیار واقع نمایی که با استفاده از هوش مصنوعی تولید می شوند ولی فاقد مرجع واقعی اند، آمده اند تا بسیاری از باورها و ذهنیت‌های ما را به هم بریزند و حتی به آنچه با چشم می دیدیم و می پذیرفتیم خدشه جدی وارد کند. با این شرایط، آنچه پیشتر به عنوان شاهد بصری پذیرفته می شد اکنون می تواند به راحتی محصول یک محاسبه، شبیه سازی و بازترکیب داده ها باشد نه خود واقعیت یا بازنمایی و مستقیم از آن.

در بزنگاه‌ها، بحران‌ها و ایام خاص و حساس، وقتی محتواهای بصری از پایه جعلی یا نیمه درستی تولید می شوند، در میان انبوه محتواها و انواع روایت‌های مختلف، کار برای تشخیص قطعاً با دشواری همراه خواهد بود.

شرایط زمانی بغرنج‌تر می‌شود که دیپ‌فیک‌ها پا در میدان رویدادها، حوادث و مسائل تاریخی می‌گذارند؛ جایی که تصویر نه‌تنها روایت‌گر، بلکه شکل‌دهنده حافظه جمعی می‌شود. به راحتی دیپ فیک‌هایی با ابزارهای رایگان و دم دستی تولید می شود که بسیاری از معادلات و واقعیت‌های تاریخی را تغییر می دهد که تشخیص آنها به خصوص برای نسل‌های بعدی سخت‌تر خواهد شد. وقتی ما در زمان معاصر خودمان توان تشخیص سره از ناسره و واقعی از جعلی را نداریم، چه انتظاری برای نسل‌های بعدی برای این تفکیک و تمایز خواهد بود؟

پیش از نقش آفرینی بیشتر هوش مصنوعی و امکان تولید عمومی محتواهای بصری جعلی، دیپ فیک‌ها و تصاویر جعلی و مشکوک، قربانیان بسیاری از حوزه های سیاست، هنر، ورزش و… گرفته بودند؛ از سیاستمداران و چهره های عمومی تا اینفلوئنسرها و… . افرادی که صرفاً بر اساس یک تصویر یا ویدئوی جعلی به فسادهای اخلاقی، مالی یا رفتاری متهم شده‌اند و تلاش برای اثبات خلاف آن، هرگز نتوانسته اثر ضربه اولیه را جبران کند؛ ضربه‌ای که در برخی موارد، به‌ویژه در جوامع شرقی، به فروپاشی حیثیت اجتماعی، انزوای شدید و حتی خودکشی فرد منجر شده است. در حال حاضر، دامنه تولید محتواهای جعلی و صدمات وارده آن، به عموم جامعه رسیده است و مسأله پیچیده تر از پیش شده است.

تولیدکنندگان محتواهای جعلی افراد را به جهنم بی اعتمادی هدایت می کنند

تولیدکنندگان محتوای جعلی نه‌تنها کاربران را به «بهشت حقیقت» هدایت نمی‌کنند، بلکه آنان را به جهنم بی اعتمادی و ورطه‌ای از سردرگمی شناختی، اضطراب رسانه‌ای و تصمیم‌گیری‌های نادرست سوق می‌دهند؛ وضعیتی که در آن تمایز میان واقعیت و جعل به‌تدریج فرو می‌ریزد و سرمایه‌ای به‌نام اعتماد عمومی فرسوده می‌شود.

در حال گذر از عصر اعتماد بصری به بی اعتمادی بصری هستیم

تصاویر و ویدئوها از جایگاه سند به سطح ادعا تنزل یافته اند

نقش هوش مصنوعی برای تشخیص محتواهای جعلی پررنگ‌تر می شود

با آنچه گفته شد ما در حال عبور از عصری هستیم که می‌توان آن را «اعتماد بصری» نامید، به دوره‌ای که نشانه‌های آشکار بی‌اعتمادی بصری در آن دیده می‌شود. با گسترش دیپ‌فیک‌ها، مرز میان واقعیت و جعل به‌شدت تضعیف شده و افراد دیگر نمی‌توانند صرفاً بر اساس ظاهر بصری محتوا درباره اعتبار آن قضاوت کنند. در نتیجه، تصویر و ویدئو از جایگاه «سند» به سطح «ادعا» تنزل یافته‌اند؛ ادعاهایی که نیازمند راستی‌آزمایی مستمر، بررسی منبع، زمینه‌خوانی دقیق و تطبیق با شواهد مستقل هستند.

نکته مهم آن است که حتی مخاطبان حرفه‌ای نیز ممکن است در تشخیص محتوای واقعی از جعلی دچار خطای جدی ‌شوند و اتکای صرف به ادراک بصری، در عمل کارآمد نباشد. حتی ابزارهای کلاسیک راستی‌آزمایی مانند جست‌وجوی معکوس تصویر، بررسی فنی فایل‌ها یا مراجعه به وب‌سایت‌ها و آپ‌های تشخیص محتواهای جعلی و راستی آزمایی نیز کفایت نکنند و در نهایت، خودِ هوش مصنوعی به داور تشخیص هوش مصنوعی تبدیل ‌شود، کما اینکه خود تولیدکننده محتواهای جعلی نیز هست.

به شرایطی می رسیم که هیچ محتوای بصری را نمی‌توان بدیهی و خودبه‌خود معتبر دانست

مخاطب ناگزیر در وضعیت دائمی تردید و راستی آزمایی قرار می گیرد

دیگر «دیدن با چشم» تضمین کننده درک واقعیت یا گواه آن نیست

در چنین وضعیتی، تقریباً همه محتواها- چه واقعی و چه جعلی- به محتواهایی بالقوه مشکوک تبدیل می‌شوند. این یعنی، دیگر هیچ محتوای بصری را نمی‌توان بدیهی و خودبه‌خود معتبر دانست، مگر آنکه اصالت آن از طریق شواهد مستقل، تأیید چند منبعی و نشانه‌های قابل اعتماد اثبات شود. در چنین شرایطی، حتی محتوای واقعی نیز می‌تواند به ‌سادگی و با ادعای جعلی‌بودن، انکار شود.

در جهانی که هر لحظه میلیاردها محتوای بصری تولید و منتشر می‌شود، مخاطب ناگزیر در وضعیت دائمیِ تردید و راستی‌آزمایی قرار می‌گیرد. دیگر «دیدن با چشم» تضمین‌کننده درک واقعیت نیست و ضرب‌المثل «شنیدن کی بود مانند دیدن» کارکرد خود را از دست می دهد.

کما اینکه تضعیف اعتبار تصویر و ویدئو پیامدهای عمیقی دارد: کاهش اعتماد عمومی به رسانه‌ها و نهادهای رسمی، آسیب به امنیت اطلاعاتی و افزایش عملیات روانی، اختلال در تصمیم‌گیری سیاسی و اجتماعی (انتخابات، بحران‌ها، منازعات)، تقویت روایت‌های توطئه‌محور و قطبی‌شدن جامعه و… .

با نشانه های جدی از افول اعتماد بصری روبرو هستیم

در عصر دیپ‌فیک، حقیقت دیگر صرفاً دیده نمی‌شود، بلکه باید اثبات شود

این تحولات نشان‌دهنده نوعی افول اعتماد بصری است؛ وضعیتی که در آن چشم انسان و مشاهده سطحی رسانه‌ای دیگر ابزار قابل اتکایی برای تشخیص حقیقت نیستند. در چنین شرایطی، تنها راه برون‌رفت، تقویت سواد رسانه‌ای، نهادینه‌کردن پروتکل‌های حرفه‌ای راستی‌آزمایی و بازتعریف مسئولیت اخلاقی تولیدکنندگان محتوا و رسانه‌هاست؛ چراکه در عصر دیپ‌فیک، حقیقت دیگر صرفاً دیده نمی‌شود، بلکه باید اثبات شود.

دوره‌ای که تصویر و ویدئو به‌تنهایی کافی بود رو به پایان است

شروع بی اعتمادی بصری با جعل‌های کم عمق آغاز شد و با جعل عمیق به اوج رسید

پس شما معتقدید وارد دوره‌ای شده‌ایم که شواهد بصری به‌تنهایی دیگر کفایت نمی‌کنند؟ این تغییر چه تأثیری بر شیوه قضاوت مخاطبان دارد؟

بله متاسفانه. دوره‌ای که تصویر و ویدئو به‌تنهایی کافی بودند رو به پایان است. کما اینکه با برخی دستکاری‌ها به یاری جعل ارزان و جعل کم عمق، خدشه هایی به تصاویر و اصالت و اعتبار آنها وارد بود، حال به یاری جعل عمیق به کمک هوش مصنوعی، این آسیب و تبعات آن شدیدتر شده است. عملاً به شرایطی می رسیم که تصاویر با هر قالب نمایشی، نیازمند راستی آزمایی و کنترل‌های لازم هستند تا اعتبار و حقانیتشان کنترل شود.

این تغییر، بار شناختی سنگینی بر دوش کاربران می‌گذارد و در صورت فقدان مهارت‌ها و سوادهای لازم، می‌تواند به خستگی شناختی، بی‌اعتمادی فراگیر و حتی بی‌تفاوتی نسبت به حقیقت منجر شود. براین اساس، این شرایط مسئولیت مخاطب را افزایش داده و دیگر بدون سوادهای مختلف یارای مواجهه با محتواها به خصوص بصری را بدون این الزامات نخواهد داشت.

از سوی دیگر، در چنین فضایی کار برای فعالان رسانه ای نیز برای تولید، نشر و بازنشر نیز سخت می شود به خصوص در شرایط بحرانی و حوادث که زمان برای تهیه محتوا و نشر آن حیاتی است. بخش زیادی از زمان فعالان رسانه ای باید صرفاً راستی آزمایی و صحت سنجی محتواها از جمله بصری صرف شود.

تغییرات مذکور باعث شده مخاطبان به دنبال نشانه‌های زمینه‌ای، منبع‌شناسی و اطلاعات تکمیلی باشند. نسبت به ادعاهای بصری بیشتر شکاک و محتاط شوند و در برخی موارد، به‌طور افراطی نسبت به همه محتواهای بصری بی‌اعتماد شوند و حتی تصاویر واقعی را نیز رد کنند. این وضعیت «شکاف شناختی» را افزایش داده و فرآیند قضاوت را پیچیده‌تر می‌کند. این وضعیت قضاوت را از «دیدن» به «تحلیل زمینه‌ای» منتقل می‌کند؛ امری که بدون انواع سوادها ممکن نیست. کسانی که مهارت و سواد تشخیص محتواهای جعلی و واقعی را نداشته باشند، در چرخه نشر و بازنشر محتواهای مشکوک بیشتر نقش آفرین بوده و  بیشتر نیز قربانی شده و صدمه خواهند دید.

می توان منتظر ترکیبی انسانی – ماشینی برای تشخیص و راستی آزمایی محتواهای جعلی باشیم

رسانه‌ها در آینده از چه ابزارها، فناوری‌ها و پروتکل‌های حرفه‌ای برای تشخیص و راستی‌آزمایی محتوای جعلی استفاده خواهند کرد و آیا این ابزارها به‌تنهایی کافی‌اند؟

با این سرعتی که جهان به سمت محتواهای جعلی در حال حرکت است بسیاری از تلاش‌ها برای تشخیص و راستی آزمایی کافی نخواهند بود، چرا که سازندگان محتواهای جعلی هر روز ابزارها و فناوری‌های جدیدتری استفاده کرده و به روش‌های نوین‌تری برای جعل متوسل می شوند. یعنی همان‌قدر که ابزارهای تشخیص پیشرفت می‌کنند، فناوری جعل هم پیشرفته‌تر می‌شود. چراکه مدل‌های جدید به سرعت نقاط ضعف مدل‌های قبلی را می آموزند و برطرف می کنند. از طرفی، هیچ ابزاری ۱۰۰ درصد دقیق نخواهد بود. از سویی، تشخیص محتواهای جعلی و نادرست در کنار بحث‌های فنی و…، به فهم زمینه و نیت انسانی نیاز دارد.

رسانه ها در آینده از طیف وسیعی از ابزارهای فناوری برای تشخیص و راستی آزمایی محتوای جعلی از مجموعه ای از ابزارها، فناوری‌ها و پروتکل‌های پیشرفته استفاده خواهند کرد. این فناوری‌ها در کنار شیوه های سنتی، تحلیل انسانی، می توانند محیط رسانه ای را قابل اعتمادتر کنند ولی هرگز به تنهایی کافی نبوده و نیازمند چارچوبهای قانونی، مشارکت عمومی، آموزش، سیاستگذاری، مشارکت انسانی و پاسخگویی سیستماتیک، ارتقای سوادها و… هستند.

با وجود همه تلاش‌های صورت گرفته از جمله وجود برچسب‌ها، متادیتاها و… و بهره‌گیری از بهترین فناو‌ری‌ها، چنانچه پلتفرم‌ها یا مصرف کنندگان به آنها بی تفاوت باشند، عملاً این تلاش‌ها بی اثر خواهد شد.

در بحث یاری فناوری‌های تشخیص و راستی آزمایی محتوا، هوش مصنوعی و یادگیری ماشین با تحلیل محتواهای چندوجهی برای کشف ناسازگاری‌ها و الگوهای غیرطبیعی و یا دستکاری داده ها و… و نیز بررسی مدل‌های پیشرفته تشخیص اخبار جعلی تا حدودی یاری گر خواهد بود. همچنین ابزارهای چک کننده واقعیت با پردازش زبان طبیعی و بررسی و رتبه بندی ادعاها، مسیر تشخیص را هموارتر خواهند کرد. کما اینکه آینده این ابزارها شامل ادغام با بلاکچین برای ثبت غیرقابل تغییر واقعیت‌ها و استفاده از مدل‌های چندزبانی برای بررسی محتواهای جهانی خواهد بود. (البته به شرط تحقق)

در بحث استفاده از پلتفرم‌ها و ابزارهای تحلیل شبکه ای  نیز می توان به سیستم‌های تحلیل روایت و شبکه ها‌ی اجتماعی اشاره کرد که می توانند الگوهای هماهنگ انتشار اطلاعات نادرست، پروفایل‌های جعلی و کمپین‌های دستکاری شده را شناسایی کنند. همچنین می توان به فناوری‌های تحلیلی و چندرسانه ای اشاره کرد که با استفاده از بینایی کامپیوتری به بررسی ناهماهنگی هندسی در محتواهای بصری، تحلیل معنایی بصری برای چک کردن همخوانی متن و تصویر و.. خواهند پرداخت. در بحث اثبات مبدا و شاخصه های محتوا، استانداردها و پروتکل‌های محتوا کمک کننده خواهند بود (البته به شرط اجرای کامل و الصاق متادیتا به عکس و ویدئو برای کمک به تشخیص یک اثر دیجیتال اصیل یا دستکاری شده).

پروتکل‌های چند لایه ای را در آینده شاهد خواهیم بود که ترکیب روش‌های سریع با تحقیقات عمیق خواهند بود. پروتکل‌هایی مانند «رسانه نگاری معتبر» که شامل بررسی زمینه زمانی، جغرافیایی و رفتاری است، استاندارد خواهند شد. همچنین انتظار می رود استانداردهای اخلاقی و سازمانی به ویژه در مسیر همکاری‌های بین المللی در جریان مبارزه و مقابله با محتواهای جعلی شکل گیرند. در کنار این روش‌ها، افزونه ها و ابزارهای پشتیبان، روش‌های سنتی، روش‌های راستی آزمایی منبع، تطبیق با شواهد مستقل، تأیید میدانی و… نیز مورد استفاده قرار می گیرند. با همه این اقدامات، همچنان نیاز به چارچوب‌های قانونی و سیاستگذاری‌های لازم، ارتقای سوادهای مختلف عموم جامعه، مشارکت انسانی برای کمک به تشخیص بهتر و… نیاز است.

در مجموع در پاسخ به سوال شما باید گفت: خیر، این ابزارها و فناوری‌ها به تنهایی کافی نیستند. عملاَ نیاز به رویکردی ترکیبی تکنولوژیکی، انسانی و اجتماعی است و فناوری بخشی از راه حل را پوشش می دهد.

راه حل کنار گذاشتن ابزارها نیست، بلکه ادغام آنها در یک فرایند چند لایه است که بر مهارت‌های انسانی متکی است که شامل: پیشگیری در مبدا، غربالگری اولیه با هوش مصنوعی (برچسب گذاری و…)، تحقیق و تأیید دستی، تحلیل فنی، تحلیل زمینه ای، شفاف سازی برای مخاطب و… .

در آینده انتظار می رود فعالان رسانه ای به ویژه خبرنگاران برای مواجهه بهتر با محتواهای جعلی و نادرست و…، دارای سواد پیشرفته هوش مصنوعی و دیجیتال، دارای توان تحلیل فراداده و تحقیقات اینترنتی و تحلیل زمینه و… و نیز دارای توان همکاری با متخصصان و کارشناسان حوزه های تخصصی باشند.

آینده راستی آزمایی، نه در انحصار فناوری و نه در تکیه صرف بر قضاوت انسانی، بلکه در همکاری هوشمندانه بین این دو و تقویت مستمر مهارت‌های حرفه ای فعالان رسانه ای رقم خواهد خورد. با احتمال پررنگ تر شدن نقش ربات‌ها و هوش مصنوعی در تولید محتواهای رسانه ای از جمله بصری، راستی آزمایی وارد فاز جدیدتری خواهد شد. راستی آزمایی آینده کمتر شبیه آزمایش تشخیص و بیشتر شبیه سیستم اعتبارسنجی دیجیتال (از پیش تعبیه شده برای ایجاد اعتماد) خواهد بود. کیفیت آن نیز به شفافیت، همکاری جهانی و تلفیق هوشمندانه بین سرعت ماشین و قضاوت انسان وابسته است.

یکی از بزرگترین چالش‌های آینده، سیل محتواهای نیمه واقعی است

در کنار خطر محتواهای نیمه درست، خطر راستی آزمایی جانبدارانه هم وجود دارد

نکته مهم در بحث بزرگترین چالش آینده، سیل محتواهای نیمه واقعی است. بزرگترین چالش محتواهای کاملاً جعلی نخواهند بود بلکه حقیقت دستکاری شده ای است که با هدف خاصی مانند دستکاری عقاید، برش، کادربرداری، عنوان گذاری یا در بافت غلط بازنشر می شود. برای الگوریتمها تشخیص این نوع محتواها سخت‌تر می شود و تحلیل عمیق انسانی در این خصوص نقش مکمل را خواهد داشت. انسان در عصر رباتها باید بتواند تحلیلگر زمینه، ناظر بر اخلاق و انصاف، روایتگر نهایی و… باشد. در غیر این صورت رسانه ها خود و مخاطبانشان را در سیل محتواهای نیمه واقعی غرق خواهند کرد. در کنار خطر محتواهای نیمه درست، خطر مهم دیگر راستی آزمایی جانبدارانه است که در صورت عدم مدیریت، راستی آزمایی به ابزاری برای قدرت نه حقیقت تبدیل خواهد شد.

براین اساس بهترین حالت در شرایط نقش آفرینی توامان ماشین‌ها و ربات‌ها و انسان‌ها تقسیم کار درست در مسیر تشخیص صحیح است، ربات‌ها اقدام به غربالگری و هشدار اولیه کرده و انسان با درک زمینه، بررسی نیت‌ها و پشت پرده ها، فرامتن‌ها و…، به قضاوت نهایی اقدام کند. کیفیت راستی آزمایی با نقش بیشتر ربات‌ها به سمت «ترکیبی انسانی- ماشینی» حرکت خواهد کرد، جایی که هوش مصنوعی کیفیت را تقویت می کند اما انسان مسئولیت نهایی را بر عهده می گیرد. این رویکرد دقت را حفظ کرده در عین اینکه با آموزش رسانه ای و سیاست‌های اخلاقی، اعتماد عمومی را تا حدودی می تواند افزایش دهد.

خطری بالاتر از دیپ فیک؛ جعل تجربه و جایگزینی باور به جای سند

به‌نظر شما تهدید اصلی دیپ‌فیک فریب مستقیم مخاطب است، یا فرسایش تدریجی اعتماد عمومی به تصویر و ویدئو به ‌عنوان شواهد واقعی؟

به‌نظر من، تهدید اصلی نه فریب مستقیم، بلکه فرسایش تدریجی اعتماد عمومی است. فریب مستقیم معمولاً کوتاه ‌مدت و قابل اصلاح است؛ اما وقتی جامعه به این نتیجه برسد که «هیچ تصویری قابل اعتماد نیست»، وارد وضعیت خطرناکی می‌شویم که در آن: حقیقت قدرت اقناعی خود را از دست می‌دهد و دروغ و واقعیت در یک سطح قرار می‌گیرند. بزرگترین خطر در این میان این است که «باور» جای «شواهد» را می‌گیرد. این همان بحران عمیق‌تری است که دیپ‌فیک ایجاد می‌کند.

به نظرم مشکل اصلی در آینده فراتر از دیپ فیک و خطرات آن باشد. مسأله از جایی شروع می شود که تراشه های مغزی پا در میدان خواهند گذاشت و با روش‌هایی که «تصویر ذهنی را مستقیماً به تصویر دیجیتال» و«تصویر را مستقیم وارد تصور و ذهن انسان» می کنند، عملاً مرز واقعیت بیرونی و تجربه ذهنی را از بین می برند. در اینجا دیگر فقط با «تصاویر جعلی» یا «ویدئوهای جعلی» طرف نیستیم، بلکه با تجربه جعلی طرفیم و این سطح خطر، خیلی بالاتر از دیپ‌فیک است. در این مرحله راستی آزمایی کلاسیک تقریباً بی‌اثر می‌شود، چراکه ممکن است محتوا دیگر وجود خارجی نداشته باشد و صرفا یک ادراک در ذهن باشد. یعنی در عمل نمی توان چیزی را که در مغز رخ داده، مثل یک فایل بررسی کرد. خطر بعدی اینکه باور جای سند را می گیرد. در این شرایط، راستی‌آزمایی وارد بحران می‌شود چون: تجربه ذهنی برای فرد واقعی‌تر از هر سندی است.

جنگ اصلی از «اطلاعات» به «ادراک» منتقل می‌شود

در شرایط مذکور، جنگ اصلی از «اطلاعات» به «ادراک» منتقل می‌شود. در این مرحله: هدف دیگر قانع‌کردن نیست، هدف شکل‌دادن به تصور انسان است. گرچه این خطر قابل مدیریت است ولی دیگر ابزارهای فعلی جوابگوی آن نخواهند بود. در این مسیر نیاز است تا بتوان بین  تجربه ذهنی از واقعیت عمومی و بیرونی تفکیک ایجاد کرد. باید درک کرد آنچه در ذهن تجربه می شود، خود به خود سند واقعیت بیرونی نیست.

نکته بعد اینکه باید منشأ محتواها مشخص شود اینکه این تجربه از طریق: ابزار عصبی؟، تحریک شناختی؟، واسط مغز – ماشین؟ ایجاد شده یا نه. یعنی شفافیت درباره: «چگونه چیزی به ذهن رسیده»، نه فقط «چه چیزی دیده شده». و اینکه انسان باید به مرکز قضاوت بازگشته و فعالان رسانه ای، روانشناسان، متخصصان اخلاق و… به بخشی از فرآیند راستی‌آزمایی تبدیل می شوند.

در کنار همه آنچه ذکر شد، خودآگاهی شناختی مهمترین سپردفاعی خواهد بود. در آینده، سواد رسانه‌ای کافی نیست. آنچه لازم است: سواد ادراکی یعنی انسان بداند: ذهنش چطور فریب می‌خورد، تصویر چطور تبدیل به باور می‌شود، احساس چطور جای حقیقت می‌نشیند. به این ترتیب تلاش می شود تا تجربه های القا شده نیز تا حد ممکن ذهن افراد را تسخیر کامل نکند. به هر تقدیر شفافیت، اخلاق، خودآگاهی، آموزش‌های شناختی و… می توانند یاری گر باشند.

باید تأکید کنم آنچه از آنها یاد کردم به شکل تدریجی و نه الزاماً جهش ناگهانی صورت خواهد گرفت. اما به هر تقدیر خطر واسطه های مغزی را که توان خوانش افکار پیش آگاهانه و حتی دستکاری شناختی، هک عصبی و… را دارند باید جدی گرفت.

خطر بعدی برای نظام قضایی است

نظام قضایی در جریان پیشرفت ابزارها و فناوری‌های تولید محتواهای جعلی با چالش‌های جدی روبرو خواهد شد. از این منظر که حتی خود قاضی نیز برای امر قضاوت، به سختی خواهد توانست به شواهد و ادله ( به ویژه بصری الکترونیکی) اتکا کند. به طوری که در این میان نقش متخصصان و کارشناسان و هوش مصنوعی برای کمک به قاضی برای تشخیص دقیقتر و صدور حکم نزدیک به عدالت، بیشتر خواهد شد.

کلام آخر ؟

در عصر دیپ فیک و جعل تجربه، حقیقت دیگر دیده نمی شود؛ یا اثبات می شود یا در هیاهوی باورها دفن شده یا نادیده انگاشته خواهد شد.