امتیاز دهی ی اجتماعی و بیم تسلط ربات ها

چند سال پیش با عده ای از دوستان پزشک به هلند رفته بودیم و جند روزی را در شهر زیبای آمستردام گذراندیم. در هتلی که اقامت داشتیم تعدادی توریست چینی هم بودند که همواره در همه جا با هم و بطور دسته جمعی حرکت می کردند و کم تر با کسی محشور می شدند. در شهر زیبای آمستردام که یکی از دیدنی ترین شهر های اروپاست تردد بسیار زیاد بود و خیابان  ها مملو از جمعیت گردشگران. اما این چینی ها در همان ازدحام هم متفرق نمی شدند و پیوسته به صورت جمعی و منظم حرکت می کردند. خیلی دلم می خواست که با آنها گپی می زدم وسئوالاتی را که در باره ی وضعیت چین در ذهن داشتم از آنها می پرسیدم. دلم می خواست بدانم وضع شان چطور است. از قبل بهتر است؟ یا بد تر؟ سطح رفاه شان در چه مرتبه ای ست؟ برای کی کار می کنند؟ برای خودشان یا دولت یا بخش خصوصی؟ روزنامه و کتاب می خوانند یا نه؟ سینما می روند یا نه؟ و مهم تر از همه چرا کالا های شان این قدر ارزان است و چگونه این قیمت برای شان صرف می کند و دولت در این میان چه نقشی دارد. اما فرصت دست نمی داد. تا این که یک روز صبح آنها را دیدم. من همیشه صبح ها دیر برای صبحانه به رستوران هتل می رفتم و تا می رسیدم رستوران در حال بسته شدن بود. اما آن روز صبح ما پرواز داشتیم و باید صبح زود بر می خاستیم. ساعت 6 صبح به رستوران رفتم. تا وارد شدم دیدم که چینی ها لباس پوشیده و آماده به رستوران آمده اند و دو به دو و طبق معمول خندان در کنار هم در یک صف در نوبت ایستاده اند تا نام شان ثبت شود و صبحانه خود را میل کنند. خوشحال شدم و منگی ی صبح زود بیدار شدن از سرم پرید. رفتم جلو به یکی از آنها گفتم : شما همیشه این قدر زود می آیید؟ خندید و هیچ نگفت. با خود گفتم حتما انگلیسی نمی داند. از یکی دو نفر دیگرشان هم همین طوری سئوالاتی پرسیدم و هیچ کدام به من جواب درستی ندادند. احساس کردم بنا ندارند صحبت کنند و معذب اند بویژه این که یک نفر سرپرست هم داشتند که جلوی صف بود و همه را ظاهرا می پایید، هر چند با روی خوش و خنده ای بر لب، و معلوم بود که همه از او حساب می بردند. بالاخره آنها رفتند و ما هم به فرودگاه رفتیم و هیچ گاه فرصت طرح سئوال از آنها فر

اهم نشد.

این خاطره در ذهن من ماند. پیش خودم فکر می کردم که کدام کار درست است. کار آنها با نظم و انضباط آهنین که همه چیز را برای این سفر از قبل برنامه ریزی کرده بودند و ذره ای وقت و انرژی خود را تلف نمی کردند و کاملا بر دستیابی به اهداف خود متمرکز بودند. یا کار گروه ما که هر کس با هر کس که مایل بود و در هر ساعتی که مایل بود برای خرید و گردش و تماشا به شهر می رفت و هر موقع می خواستیم همه با هم در یک جا جمع شویم اقلا بیست دقیقه باید معطل می شدیم و مجبور می شدیم پیک هایی از خودمان به مغازه های مختلف بفرستیم تا غائبان را پیدا کنند و به سر قرار بیاورند. در نظرم اولی چیزی شبیه به جرکت تعدادی ربات بود، منظم و با برنامه و معطوف به هدف و بدون اعمال سلیقه ی شخصی. اما در باره ی دومی مطمئن نبودم چه نظری دارم.

اخیرا شنیدم که دولت چین بطور آزمایشی برنامه ی سوشیال اسکورینگ را برای 600 میلیون نفر از جمعیت خود به اجرا گذاشته است. در این برنامه همه ی کار های اشخاص بر اساس کد ملی آنها انجام می شود و حتی پول کاغذی نیز بطور کلی حذف می شود و مبادلات تنها با کارت بانکی صورت می گیرد. بر اساس این برنامه به رفتار مردم نمره داده می شود. مثلا اگر کسی از چراغ قرمز عبور کند نمره ی منفی می گیرد. اگر در خیابان رفتار نا مناسبی بکند و پلیس به او تذکر بدهد نمره ی منفی می گیرد. اگر قسط بیمه یا سایر اقساط خود را دیر پرداخت کند باز نمره ی منفی می گیرد و البته اگر بر علیه دولت فعالیتی کند نیز نمره ی منفی می گیرد. کلا همه ی کار های مردم نمره دارد. اگر به خیریه کمک کنید امتیاز می گیرید و اگر مثلا سیگار بکشید نمره ی منفی می گیرید. اگر نمره ی شما از حد معینی پایین تر برود با یک الگوریتم معین از برخی خدمات محروم می شوید. مثلا دیگر نمی توانید بلیط وسایل حمل و نقل عمومی بخرید. اگر از حد دیگری فراتر برود کار های دیگری را نمی توانید بکنید. مثلا اگر در یک رستوران شکایتی از شما بشود دیگر به برخی رستوران ها نمی توانید بروید. این مجازات ها کم کم شدید تر می شود. اگر از یک حد معین بگذرید دیگر هیچ کس نمی تواند به شما خانه اجاره دهد یا از بانک نمی توانید پول بردارید یا معامله ای نمی توانید انجام دهید. در سطوح بالاتر دیگر شما جایی در اجتماع ندارید و به نظر می رسد که محکومید تا هر کاری به شما گفته می شود انجام دهید. به نظرم آمد که آن نظم آهنینی که در هلند در نزد چینیان دیدم مقدمه ی خوبی برای این برنامه بوده و دولت چین از همین پس زمینه استفاده کرده و به همین دلیل است که توانسته آن را با راحتی اجرا کند.

اما این نظم اجتماعی جدید ظاهرا می رود که همه جا گیر شود و در همه ی کشور ها ی جهان اعمال شود. اما در آن صورت آیا انسان ها به برده تبدیل نخواهند شد و اگر این صحیح باشد آیا نباید از همین حالا با آن مقابله کرد؟ در اینجا چند نکته مطرح می شود. اول آنکه چه کسانی این نمره ها را می دهند و بر آن نظارت می کنند؟ دولت؟ کورپوراسیون های بزرگ؟ و اگر چنین است آیا آنها عقل کل هستند و منافع جامعه را از مردم بهتر می فهمند؟ و چه تضمیمی برای این امر هست؟ دوم آن که اگر کار را به دست هوش مصنوعی می دهند، آن هوش مصنوعی بر اساس چه الگوریتم و دستورالعملی کار می کند؟ الگوریتم را چه کسی به هوش مصنوعی ی متجسم در سخت افزار هایی مانند ربات ها تزریق می کند؟ سوم و مهم تر از همه این که برآورد ها نشان می دهد که احتمالا جایی در میانه ی قرن حاضر قدرت هوش مصنوعی از مجموع توانایی مغز کل انسان ها فراتر خواهد رفت. در آن صورت این نکته پیش می آید که آیا هوش مصنوعی از آن نقطه به بعد خودش در باره ی زندگی ما و نمره ی مثبت و منفی آن نظر خواهد داد؟ و در این حالت چه بلایی بر سر ما خواهد آمد؟ آیا از آن پس همه ی ما باید طبق دستورالعمل ربات ها زندگی کنیم و دیگر از شخصیت فردی و عشق و محبت و ادبیات و شرف و غیره اثری نخواهد ماند؟ در رمان ادیسه ی فضایی آرتور سی کلارک و فیلم سینمایی ” راز کیهان” دیدیم که ربات می تواند آن قدر هوشمند شود که اجازه ندهد کسی با آن مقابله کند و یا آن را از فعالیت بیاندازد. پس باید برویم و بیاییم و طبق قوانین رباتیستی زندگی کنیم و آسته برو آسته بیا باشیم و دست به سیاه و سفید نزیم که گربه شاخمان نزند؟

بعید است که بشریت دست بر دست بگذارد و هیچ نگوید و ایستادگی نکند.