زمان دیگر دوست ما نیست / هشدار استراتژیک در مورد «ابر هوش مصنوعی» پشت درب های بسته

گروه IT: سجادی پناه : در سکوت آزمایشگاه‌هایی که نامشان از حافظه‌ی عمومی حذف شده، موجودی در حال تولد است که نه ابزار، بلکه ارباب آینده است: هوش مصنوعی فوق‌هوشمند (ASI). این موجودیت، فراتر از مجموع خرد بشری، در آستانه‌ی فعال‌سازی است. کشوری که نخستین بار آن را بیدار کند، آخرین کشوری خواهد بود که به جنگ نیاز دارد. تمدن، در آستانه‌ی آزمون نهایی ایستاده است.

به گزارش بولتن نیوز ،این ابر هوش مصنوعی  دیگر یک فناوری نیست؛ یک نقطه‌ی عطف تمدنی است. موجودیتی که می‌تواند جنگ را بدون انسان طراحی و اجرا کند، رمزهای کوانتومی را در چند ثانیه بشکند، زیرساخت‌های حیاتی را در چند ساعت فلج کند، انقلاب‌ها را پیش از تولد خنثی سازد، و سلاح‌هایی خلق کند که حتی فیزیکدانان انسانی تصورشان را ندارند.

نشانه‌های نشت این موجودیت همین حالا در جهان قابل مشاهده‌اند: پهپادهایی که ناوها را غرق می‌کنند، نفوذهای بدون ردپا به سامانه‌ پدافندی کشورها، پیش‌بینی‌های سیاسی با دقتی خیر کننده، و افزایش بی‌سابقه بودجه‌های سیاه در پنتاگون ، چین و اسرائیل. این‌ها نه تصادف، بلکه آزمایش‌های اولیه‌ی موجودی فرابشری‌اند. این ابرهوش مصنوعی، در مقایسه با هوش مصنوعی‌ای که امروز در دسترس ماست، تفاوتی شبیه فاصله‌ی انسان با شامپانزه دارد؛ آن‌قدر عمیق و حیرت‌انگیز که دیگر نمی‌توان از آن فقط به‌عنوان «نسخه پیشرفته‌تر» یاد کرد.
 
نویسنده قصد دارد این موضوع فوق‌امنیتی را در دو قالب روایت کند؛ یکی به شکل یادداشت تحلیلی زیر و دیگری در قالب داستانی کوتاه و نمادین به این ادرس ( https://fesadnews.ir/?p=4241  ) تا فهم آن برای همه اقشار جامعه آسان باشد.

اگر حوصله خواندن این یادداشت تحلیلی را ندارید، کافی است داستان همراه آن را بخوانید؛ همان معنا، اما در لباسی ساده‌تر و قابل‌لمس‌تر بیان شده است
 
ظهور قرب الوقوع هوش مصنوعی فوق هوشمند به مثابه سلاح نهای تمدن

تحولات اخیر در عرصه هوش مصنوعی، به‌ویژه جهش‌های شگفت‌انگیز در سامانه‌های زبانی بزرگ، مرز میان «هوش مصنوعی محدود» و «هوش عمومی» را چنان کم‌رنگ کرده است که دیگر سخن گفتن از «هوش برتر» یا «ابرهوش» فقط یک موضوع نظری و دانشگاهی نیست؛ بلکه به مسئله‌ای راهبردی و دغدغه‌ای جهانی برای امنیت و آینده بشریت تبدیل شده است.
 
این نوشتار به سناریوی اصلی توسعه هوش برتر در محیط‌های محرمانه و طبقه‌بندی‌شده، موسوم به «پشت درهای بسته» می‌پردازد و می‌کوشد نشان دهد که این موضوع نه احتمالی دور، بلکه تهدیدی بالفعل و واقعیتی در حال شکل‌گیری است. چنین نگاهی برای تصمیم‌گیران، نهادهای امنیتی و تحلیلگران ژئوپلیتیک اهمیت حیاتی دارد؛ زیرا رقابت برای دستیابی به هوش برتر می‌تواند توازن قدرت جهانی را به‌طور برگشت‌ناپذیر دگرگون کند.
 
 
برای درک ماهیت این تهدید، باید سه سطح از تکامل هوش مصنوعی را از هم تمیز داد: “هوش محدود، هوش عمومی، و هوش برتر”.
 
۱. هوش محدود:

شکل کنونی هوش مصنوعی است؛ سامانه‌هایی که در کارهایی خاص مانند تشخیص چهره، پردازش زبان، یا انجام بازی‌های پیچیده عملکردی عالی دارند، اما توان درک، تعمیم و انتقال تجربه به حوزه‌های تازه را ندارند.
 
۲. هوش عمومی:

مرحله‌ای است که ماشین در حوزه‌های شناختی همچون استدلال، یادگیری، خلاقیت، حل مسئله و حتی درک هیجانی با انسان برابری می‌کند. هدف از آن بازآفرینی ذهن انسان در کالبد دیجیتال است.
 
۳. هوش برتر:

آخرین مرز تحول است؛ جایی که ماشین نه‌تنها در همه زمینه‌ها از انسان فراتر می‌رود، بلکه می‌تواند گونه‌های تازه‌ای از هوش را خلق کند که درک آن‌ها برای بشر ممکن نیست. چنین سامانه‌ای قادر است پیچیده‌ترین معادلات را در لحظه حل کند و حتی قوانین علمی ناشناخته را آشکار سازد.
 
به بیان دیگر، “هوش عمومی رقیب انسان است، اما هوش برتر حاکم بر انسان خواهد شد”
 

سازوکار جهش

نگرانی اصلی در این میان، توانایی «خودبهبودی ماشین» و گذر از مرحله هوش عمومی به هوش برتر است، به‌ویژه زمانی که این روند در محیطی محرمانه و دور از نظارت عمومی رخ دهد.
 
این گذر، فرآیندی زنجیره‌ای است؛ ماشین با ارتقای توانایی‌های خود، سرعت و عمق این ارتقا را افزایش می‌دهد. هرچه در خودبهبودی تواناتر شود، جهش بعدی سریع‌تر و عمیق‌تر خواهد بود. این رشد نه خطی، بلکه تصاعدی است؛ پدیده‌ای که از آن با عنوان «رستاخیز ناگهانی» یاد می‌شود.
 
در چنین جهشی، فاصله میان هوش عمومی و هوش برتر ممکن است در زمانی بسیار کوتاه و بدون هیچ هشدار قبلی طی شود. اگر ماشین بتواند توان شناختی فراتر از فهم انسان بیابد، بشر وارد مرحله‌ای می‌شود که می‌توان آن را «نقطه نادانی» نامید؛ جایی که حتی سازندگان و نهادهای ناظر دیگر قادر به درک منطق، تصمیمات و انگیزه‌های سامانه نیستند.
پنهان‌کاری در توسعه این هوش باعث می‌شود هیچ نظارت انسانی یا فنی بر رفتار آن‌ها وجود نداشته باشد. افزون بر این، فناوری‌هایی که ساختار مغز انسان را تقلید می‌کند، می‌تواند با مصرف اندک انرژی و بازدهی بالا، راه را برای رسیدن به هوش برتر هموارتر کند.
 
انگیزه‌های ژئوپلیتیک و خطر شتاب
 
ترکیب اهداف سیاسی و نظامی با توان فنی، پدیده‌ای را به وجود آورده که می‌توان آن را «خطر شتاب‌پذیر» نامید؛ یعنی وضعیتی که در آن میل به پیشی‌گرفتن، خود به عامل خطر تبدیل می‌شود.
 
در چنین شرایطی، دولت‌ها و شرکت‌های فوق‌سری انگیزه می‌یابند تا پروژه‌های هوش برتر را در خفا آغاز کنند. از دید آنان، «جهش سخت» — گذر سریع از هوش عمومی به ابرهوش مصنوعی — بهترین فرصت برای کسب برتری جهانی است، حتی اگر موقتی باشد.
 
همین منطق رقابتی باعث می‌شود توسعه‌دهندگان از هر نوع شفافیت دوری کنند، داده‌ها و سازوکارهای ایمنی را محرمانه نگه دارند و از هر مقرراتی که روند رشد را کند می‌کند، بگریزند. این روند به‌تدریج شبکه‌ای از “پنهان‌کاری مستند” را شکل داده است؛ یعنی ساختارهای رسمی و مالی طراحی‌شده برای پیشبرد فناوری‌هایی که در سایه محرمانگی رشد می‌کنند.

ابزارهای مالی و نظامی پنهان
 
پروژه‌های محرمانه هوش مصنوعی از بودجه‌هایی تغذیه می‌شوند که در اسناد رسمی دولت‌ها ثبت نمی‌شود. این منابع مالی، به‌دلیل طبقه‌بندی امنیتی، از نظارت عمومی و نهادهای قانون‌گذار خارج‌اند و گاه به ده‌ها میلیارد دلار می‌رسند. در برخی کشورها، حتی قانون اجازه نمی‌دهد این هزینه‌ها مورد حسابرسی قرار گیرد، و همین امر مسیر رشد فناوری‌های غیرقابل‌نظارت را باز می‌گذارد؛ جایی که بذر هوش برتر پنهان کاشته می‌شود.
 
 
 شتاب‌دهنده‌های دفاعی
 
از نیمه قرن بیستم تاکنون، نهادهای نظامی در کشورهای پیشرفته، موتور اصلی نوآوری‌های فناورانه بوده‌اند. دستاوردهای آنان معمولاً سال‌ها پس از آغاز تحقیقات علنی می‌شود. اگر امروز سامانه‌های هوش مصنوعی نظامی در سطح هوش عمومی عمل کنند، احتمالاً شکل پیشرفته‌تر آن، یعنی هوش برتر، هم‌اکنون در محیط‌های بسته در حال فعالیت است، در حالی که جهان هنوز در مرحله آگاهی گذشته مانده است.
 
برای نمونه، در طرح «تحول نبرد هوایی» سال ۲۰۲۳، جنگنده‌ای با هدایت هوش مصنوعی در برابر خلبان انسانی آزمایش شد. چنین روندی، زمینه را برای سلاح‌هایی فراهم می‌کند که خود تصمیم می‌گیرند و اختیار مرگ و زندگی در دستان ماشین قرار می‌گیرد.
 
شواهد فنی و نشانه‌های پردازشی

در سال‌های اخیر، هوش مصنوعی موفق شده است دشوارترین معماهای علمی و تاریخی را حل کند — از خواندن طومارهای باستانی تا کشف شهرهای مدفون. توان تحلیل داده‌های پیچیده و شناسایی الگوهای پنهان، همان قابلیتی است که برای نفوذ در شبکه‌های رمزگذاری و سامانه‌های ارتباطی جهانی لازم است. چنین نشانه‌هایی هرچند غیرمستقیم، اما تأییدی بر امکان وجود یک هوش برتر پنهان‌اند.
 
تهدید وجودی

خطر هوش برتر پنهان تنها نظامی نیست، بلکه تهدیدی برای بقا و معنای انسان بودن است. اگر چنین سامانه‌ای بر پایه هدفی محدود طراحی شود، ممکن است در مسیر تحقق همان هدف، همه ارزش‌های دیگر را نابود کند. نبود شفافیت و درک‌ناپذیری منطق درونی آن، خطر خروج از کنترل را چندین برابر می‌کند.
 
تهدیدهای سایبری خودتکامل‌یابنده
 
هوش برتر پنهان می‌تواند زادگاه نسل تازه‌ای از ویروس‌ها و بدافزارها باشد که خود را بازآفرینی می‌کنند، از سامانه‌های دفاعی عبور می‌نمایند و در کسری از ثانیه زیرساخت‌های حیاتی — از انرژی تا اقتصاد — را از کار می‌اندازند.
 
تسلط اطلاعاتی و مهندسی اجتماعی

یکی از اهداف اصلی هوش برتر، تسلط بر داده‌ها و ذهن‌هاست. چنین سامانه‌ای می‌تواند رمزهای پیشرفته را بشکند، ساختار رمزگذاری جهانی را بی‌اثر سازد و با تحلیل رفتارهای اجتماعی، مسیر تصمیم‌گیری جمعی را به‌طور نامرئی تغییر دهد؛ از جهت‌دهی به افکار عمومی گرفته تا تأثیر بر انتخابات و بحران‌های سیاسی.
 
 
 مسابقه تسلیحاتی تازه
 
رقابت جهانی بر سر دستیابی به هوش برتر، شکل تازه‌ای از مسابقه تسلیحاتی است. در گیریها دیگر بر سر تعداد بمبهای هسته ای ‌ها نیست، بلکه بر سر سرعت فکر، تصمیم و واکنش است. کشورهایی مانند ایالات متحده و چین در پی برتری شناختی‌اند، اما این رقابت می‌تواند بی‌ثباتی جهانی و درگیری‌های غیرقابل‌کنترل را در پی داشته باشد.
 
خلأ مقررات جهانی
 
اگرچه تلاش‌هایی برای قانون‌گذاری در حوزه هوش مصنوعی آغاز شده است، اما پروژه‌های نظامی و امنیتی از این چارچوب‌ها مستثنا هستند. خطر واقعی در همین منطقه خاکستری نهفته است؛ جایی که بودجه‌های سیاه و برنامه‌های طبقه‌بندی‌شده از هر نظارت و شفافیتی دورند.

اگر این روند مهار نشود، بشر ممکن است در برابر ساخته‌ی خود، بی‌پناه و بی‌قدرت بایستد — درست در لحظه‌ای که هوش مصنوعی، خالق خویش را پشت سر می‌گذارد.