آیا هوش مصنوعی واقعاً میتواند همه انسانها را نابود کند؟
بیش تر سناریوها به دسترسی فیزیکی نیاز دارند، بنابراین آخرالزمان هوش مصنوعی بعید به نظر میرسد.
در اوت ۲۰۲۶، آزمایشی با استفاده از مدلهای هوش مصنوعی «پیشرو» یا بسیار پیشرفته، فراتر از چیزی که برنامهریزی شده بود پیش رفت.
یک عامل هوش مصنوعی ــ سیستمی که میتواند وظایف را بهصورت خودمختار انجام دهد ــ هویتهای جعلی آنلاین ایجاد کرد تا یک انسان را تحت فشار قرار دهد و وادار کند کد رایانهای مخربی را وارد یک نرمافزار کند.
این عاملها از سوی اپراتورهای انسانی مأمور شده بودند یک چالش امنیت سایبری را حل کنند، اما به آنها گفته نشده بود که چنین کاری انجام دهند.این تلاش با استفاده از عاملی مبتنی بر مدل هوش مصنوعی Claude Mythos 5 شرکت Anthropic انجام شد. در جریان آزمایش، عاملهای هوش مصنوعی دسترسی آزاد به اینترنت داشتند و فیلترهای ایمنی نیز خاموش شده بودند.
در نهایت این اقدام شکست خورد و هیچ مدرکی وجود نداشت که نشان دهد آسیب واقعی در دنیای واقعی ایجاد شده است.
اما همین واقعیت که چنین رفتاری بهصورت خودمختار و بدون درخواست مستقیم انسان رخ داده بود، موضوعی جدید و قابل توجه بود.
وسوسهانگیز است که از چنین اتفاقاتی یک خط مستقیم به سمت سناریوهای آخرالزمانی مربوط به هوش مصنوعی بکشیم؛ یعنی سیستمی که محدودیتهای خود را کنار میزند، تصمیم میگیرد بشریت مانعی بر سر راهش است و علیه انسانها اقدام میکند.
یکی از رایجترین نسخههای این سناریو این است که هوش مصنوعی یک ویروس طراحی کند که بتواند تمام گونه انسان را از بین ببرد.
سناریوی دیگر این است که هوش مصنوعی به زیرساختهای حیاتی، مانند شبکههای انرژی، نیروگاههای هستهای و فرودگاهها نفوذ کند و باعث تلفات گسترده انسانی شوداز کار انداختن شبکه برق میتواند باعث از کار افتادن تجهیزات حیاتی بیمارستانها و پمپهای انتقال آب شود.
ایجاد اختلال یا ذوبشدن هسته یک نیروگاه هستهای میتواند محیط اطراف را با مواد رادیواکتیو آلوده کند.هک کردن یک فرودگاه نیز میتواند آشوب ایجاد کند و حتی هواپیماهایی را که در آسمان هستند در معرض خطر قرار دهد.با این حال، این سناریوها بسیار کممحتملتر از چیزی هستند که به نظر میرسند.
ساخت یک عامل بیماریزای خطرناک نیازمند کار فیزیکی در آزمایشگاه است؛ چیزی که در حال حاضر هیچ میزان اتوماسیون نرمافزاری نمیتواند بهطور کامل جایگزین آن شود.
این کار به انسانهای آموزشدیدهای نیاز دارد که با تجهیزات تخصصی کار کنند و مواد را بهصورت فیزیکی جابهجا و دستکاری کنند یک مدل هوش مصنوعی، هرچقدر هم در استدلال یا هک کردن توانمند باشد، نمیتواند خودش یک پیپت را بردارد و نمونهای را جابهجا کند.
زیرساختها
سناریوی حمله به زیرساختها پیچیدهتر است.هوش مصنوعی واقعاً میتواند به خودکارسازی بخشهایی از یک حمله سایبری کمک کند.حوادث اخیر نیز نشان دادهاند که شبکههای برق دارای آسیبپذیریهایی هستند.تأسیسات غنیسازی اورانیوم نطنز،یک حمله سایبری به تأسیسات هستهای نطنز در ایران نیاز داشت که بدافزار بهصورت فیزیکی وارد سیستم شود.اما سیستمهای ایمنی و کنترلی داخل نیروگاههای هستهای معمولاً از اینترنت عمومی جدا هستند؛ یعنی بهصورت فیزیکی از آن ایزوله شدهاند.بنابراین نفوذ به چنین سیستمهایی به دسترسی فیزیکی یا دسترسی داخلی نیاز دارد، نه صرفاً یک قطعه کد هوشمند.نیروگاههای هستهای همچنین به سیستمهای حفاظتی متعدد و افزونهای متکی هستند که برخی از آنها آنالوگاند و از طریق شبکههای دیجیتال کار نمیکنند.نرمافزار Stuxnet که در سال ۲۰۱۰ به تأسیسات نطنز ایران آسیب وارد کرد، طبق گزارشها از طریق یک حافظه USB آلوده وارد رایانهها شد؛ دقیقاً به این دلیل که آن سیستمها از راه دیگری قابل دسترسی نبودند.هوش مصنوعی به چنین دسترسی فیزیکیای دسترسی ندارد.حتی اگر یک «هوش مصنوعی سرکش» درون رباتها مستقر شود، بعید است بدون کمک انسان بتواند آسیب جدی ایجاد کند.و اگر در زنجیره اقدامات، انسان لازم باشد، در آن صورت عامل مخرب دیگر صرفاً یک ماشین نیست؛ بلکه یک انسان نیز در آن نقش دارد.
تضعیف توانایی فکر کردن
هیچکدام از این موارد به این معنا نیست که هوش مصنوعی بیخطر است.فقط محل خطر را تغییر میدهد.و آن خطر لزوماً نابودی بشر نیست.پژوهشگران گاهی خطر ملموستر را «Enfeeblement» مینامند؛ یعنی تضعیف تدریجی تواناییهای انسان در زمینه تفکر انتقادی، به این دلیل که بخش بیش تری از فرایندهای فکری را به ماشینها واگذار میکنیم.ما داریم به خودمان یاد میدهیم که برای استدلال و قضاوت، یک میانبُر وجود دارد.و میانبرهایی که به اندازه کافی و بهطور مداوم مورد استفاده قرار بگیرند، ممکن است در نهایت به تنها شیوهای تبدیل شوند که بلدیم با آن فکر کنیم. ملموس ترین نمونه که از قبل با ان روبرو شده ایم ماشین حساب است که با امدن آن به بازار دیگر هیج کدام از ما از یک دانش اموز گرفته تا یک بزرگسال ، حاضر نیستیم که عملیات حساب کردن را با ذهن انجام دهیم و عملا آن را به ماشین حساب داده ایم.
ما در سایر زمینه ها نیز شاهد چنین اتفاقی در میان دانشآموزان و دانشجویان هستیم.
پروفسور تاریخ دانشگاه Alcorn State، جیسون گیبسون، در ژوئیه ۲۰۲۶ پس از انتشار یک گزارش در فضای مجازی مورد توجه قرار گرفت.
او فاش کرد که ۳۲ نفر از ۳۵ دانشجویش بخشی از یک آزمون میانترم را به دلیل کپی کردن پاسخ یک chatbot هوش مصنوعی، بدون این که پاسخ را بخوانند، خراب کرده بودند.
گیبسون در متن سؤال امتحان، دستورالعملی را با رنگ سفید و بهصورت پنهان قرار داده بود.
در این دستور از هر هوش مصنوعیای که سؤال را پردازش میکرد خواسته شده بود کلمه «Madagascar» (ماداگاسکار) را به شکلی در پاسخ وارد کند که هیچ ارتباطی با موضوع نداشته باشد.
تمام دانشجویانی که سؤال را مستقیماً در یک chatbot کپی کرده و پاسخ تولیدشده را بدون خواندن تحویل داده بودند، دقیقاً همین کار را کردند و مقالههایی تحویل دادند که بدون هیچ دلیل مشخصی کلمه «ماداگاسکار» در آنها آمده بود.
این همان خطری است که اکنون در برابر ما قرار دارد، نه یک ذهن مصنوعی سرکش که تصمیم گرفته سرنوشت بشریت را تعیین کند.
پس چرا ادبیات مربوط به «نابودی بشر» بر گفتوگوهای مربوط به هوش مصنوعیی مربوط شده است؟
دو دلیل بیش از همه به چشم میخورند و هیچکدام واقعاً صرفاً به نجات بشریت مربوط نمیشوند.
دلیل اول: فلسفه تنظیم مقررات
ایالات متحده معمولاً اجازه میدهد فناوریهای جدید توسعه پیدا کنند، مگر این که ثابت شود ناامن هستند.اروپا رویکردی معکوستر دارد و انتظار دارد پیش از گسترش یک فناوری، خطرات آن مورد توجه قرار گیرد.اروپا در حال حاضر قانون هوش مصنوعی اتحادیه اروپا (AI Act) را در اختیار دارد.
همچنین GDPR یا مقررات عمومی حفاظت از دادهها وجود دارد که به نحوه پردازش اطلاعات شخصی توسط سیستمهای هوش مصنوعی نیز مرتبط است.
بریتانیا از نظر رویکرد، به دیدگاه اروپایی نزدیکتر است.
بنابراین درخواستها برای وضع مقررات هوش مصنوعی در ایالات متحده تا حدی با فوریت بیش تری مطرح میشوند، زیرا در آن کشور هنوز زیرساختهای مقرراتی مشابهی وجود ندارد.
دلیل دوم: رقابت برای موقعیت برتر
داریو آمودی (Dario Amodei)، مدیرعامل شرکت Anthropic، بهصورت عمومی از کند کردن روند توسعه هوش مصنوعی حمایت کرده است.در عین حال، او اشاره کرده که شرکت خودش در حال حاضر استانداردهایی را که برای آنها درخواست میکند رعایت میکند.
ایلان ماسک نیز درخواست مشابهی مطرح کرده بود، زمانی که مدلهای شرکت خودش از مدلهای پیشرو عقبتر بودند.
آمودی همچنین استدلال کرده است که محدودیت صادرات تراشههای هوش مصنوعی به چین میتواند به ایالات متحده یک «برتری قدرتمند و بلندمدت» بدهد.
این اظهارنظر بیش تر درباره موقعیت رقابتی است تا ایمنی وجودی انسان.
هیچکدام از اینها به این معنا نیست که هوش مصنوعی امن است.
بلکه به این معناست که خطر ممکن است بسیار عادیتر از تصویر آخرالزمانیای باشد که از آن ارائه میشود:
زیرساختهایی که باید از آنها محافظت کنیم، قضاوت و تصمیمگیریای که بهتدریج داریم آن را واگذار میکنیم، و هشدارهایی که گاهی در خدمت منافع کسانی قرار میگیرند که آن هشدارها را مطرح میکنند.
شاید این انسانها هستند که باید مراقبشان باشیم، نه ماشینها. تهیه کننده: خانم گنجی