اختراعی که بشر را خلع سلاح می‌کند

یووال نوح هراری؛ مورخ و استاد دانشگاه در نوشته هایش بیش‌تر به موضوعاتی، چون اختیار، هوشیاری و تعاریف هوشمندی می‌پردازد. معروف‌ترین کتاب او "انسان خردمند" (تاریخ مختصر بشر) با ترجمه "نیک گرگین" توسط انتشارات "فرهنگ نشر نو" به زبان فارسی چاپ شده است.

به گزارش فرارو به نقل از دیلی تلگراف، یووال نوح هراری در تازه‌ترین یادداشتش نوشت:

داستان‌ها همواره برای من به عنوان یک مورخ – فیلسوف اهمیت داشته اند. ظرفیت منحصر به فرد گونه ما یعنی هوموساپینس (انسان خردمند) برای پیوند و متحد شدن با روایت‌های ناملموس حتی در سراسر اقیانوس‌ها نکته‌ای جالب توجه برای من بوده است. به همین خاطر است که امروز من عمیقا نگران ظهور چالشی برای مهارت داستان گویی انسان یعنی پدیدار شدن هوش مصنوعی هستم. این اولین فناوری در تاریخ است که داستان می‌آفریند. این نوعی نمایش قدرتی بزرگتر از قدرت ماست چرا که اعتقاد جمعی ما انسان‌ها به داستان‌ها و روایت‌ها از جمله به ایمان، امور مالی، و ملت به تسلط مان بر زمین دامن زده بود. برای مثال، پول به ما اجازه رشد داده است، اما اگر مغازه دار آن اسکناس در جیب را به عنوان یک تکه کاغذ رد کند پول شما چه ارزشی خواهد داشت؟

اکنون هوش مصنوعی می‌تواند چنین طلسم‌هایی را نیز خلق کند و این موضوع نشان می‌دهد که ظرفیت بالقوه این فناوری برای خیر و شر بزرگ که زمانی دور از تحقق قلمداد شده بود و صرفا از لحاظ نظری درباره آن سخن گفته می‌شد اکنون فوری و واقعی است. به همین دلیل بود که ماه گذشته نامه‌ای سرگشاده را امضا کردم و در آن همراه با هزاران متخصص از جمله "ایلان ماسک" خواستار توقف تحقیقات در مورد نرم افزار‌هایی مانند چت جی پی تی (Chat GPT) یا مدل مبتنی بر هوش مصنوعی‌ای شدم که می‌تواند با انسان‌ها در متن‌های خلاقانه و ظریف تعامل داشته باشد.

هوش مصنوعی و تولید محتوا از صفر تا صد

برنامه‌های دیگر می‌توانند همین کار را با تصاویر و صدا‌ها انجام دهند. نسل جدید هوش مصنوعی فقط محتوایی را که انسان تولید می‌کند منتشر نمی‌کند. این برنامه‌ها می‌توانند محتوا را به تنهایی تولید کنند. سعی کنید تصور کنید زندگی در دنیایی که بیش‌تر متون و ملودی‌ها و سپس سریال‌ها و تصاویر تلویزیونی توسط یک هوش غیرانسانی خلق شده اند به چه معناست. عواقب تسلط هوش مصنوعی بر فرهنگ چه می‌تواند باشد؟

نمونه‌های ظاهرا بی اهمیتی از این موضوع در حال حاضر وجود دارند. هفته گذشته یک مجله آلمانی به دلیل انتشار آن چه که به نظر می‌رسید مصاحبه‌ای اختصاصی با "مایکل شوماخر" بود مورد سرزنش قرار گرفت در حالی که در حقیقت متن مصاحبه با تقلید از سخنان راننده سابق مسابقات اتومبیلرانی تولید شده بود. هوش مصنوعی به زودی بسیار فراتر خواهد رفت و دنیایی را تداعی می‌کند که در آن شما آنلاین می‌شوید و با کسی درباره برخی مسائل سیاسی بحث می‌کنید. او شاید حتی ویدئویی از صحبت خود را برای تان ارسال کند، اما کسی پشت آن ویدئو نیست و تماما کار هوش مصنوعی است.

در چنین دیستوپیایی جعل دیجیتال مبتنی بر هوش مصنوعی صرفا متعلق به هر انسانی نیست. از آنجایی که ما به طور منحصر به فردی تحت تاثیر افراد نزدیک خود قرار داریم ممکن است به نظر برسد که طرف مقابل دوست یا خویشاوندی است که سعی می‌کند شما را در مورد کیفیت یک محصول یا نظرش در مورد تغییرات آب و هوایی، واکسن‌ها یا مهاجرت بیان کرده و تلاش کند تا شما را متقاعد ساخته و با خود هم نظر کند. این قدرتی برای دستکاری گفتمان عمومی است که تا پیش از این هرگز دیده نشده بود و باعث می‌شود مواردی از جمله رسوایی‌های نفوذ از طریق رسانه‌های اجتماعی در یک دهه گذشته که برای مثال تصور می‌شد در انتخابات کشورهایی، چون برزیل یا امریکا نقش داشته و باعث مداخله شده اند بی اهمیت به نظر برسد.

تهدیدی برای دموکراسی

این موضوع بیش از آن که تهدیدی برای رژیم‌های استبدادی باشد یک تهدید برای دموکراسی هاست، زیرا دموکراسی‌ها به گفتگو‌های عمومی متکی هستند. دموکراسی اساسا گفتگو است و افراد در آن با یکدیگر صحبت می‌کنند. اگر حیطه گفتگو در اختیار هوش مصنوعی قرار گیرد دموکراسی به پایان رسیده است.

اگر این فناوری به طور بدخواهانه توسط رژیم‌های توتالیتر (تمامیت خواه) در میدان نبرد رها شده و مورد استفاده قرار گیرد چه تاثیری خواهد داشت؟ برای مثال، یکی از سیستم‌های هوش مصنوعی گوگل زبان بنگالی را بدون این که برای این کار آموزش دیده باشد آموخته است. رژیم نازی در آلمان متکی بر فناوری‌هایی مانند قطار، برق و رادیو بود. آنان ابزار‌هایی مانند هوش مصنوعی را در اختیار نداشتند. یک رژیم جدید در قرن بیست و یکم ابزار‌های بسیار قدرتمندتری خواهد داشت؛ بنابراین عواقب آن می‌تواند بسیار فاجعه بارتر باشد. این چیزی است که نمی‌دانم آیا بشریت می‌تواند از آن جان سالم به در ببرد یا خیر.

حتی پیامد‌های پیش پا افتاده‌تر هوش مصنوعی نیز ظرفیت بالقوه انقلابی بودن را دارند. یک خطر دیگر این است که بسیاری از افراد ممکن است نه به طور موقت بلکه به صورت دائمی به دلیل فقدان مهارت‌های اساسی برای بازار کار آینده بیکار شوند و به نقطه‌ای برسیم که نظام اقتصادی میلیون‌ها نفر را کاملا بی‌فایده ببیند. این موضوع پیامد‌های روانی و سیاسی وحشتناکی به دنبال خواهد داشت. این استقلال هوش مصنوعی است که آن را بسیار متفاوت می‌کند.

ما باید درک کنیم که هوش مصنوعی اولین فناوری در تاریخ است که می‌تواند به تنهایی تصمیم بگیرد. هوش مصنوعی می‌تواند در مورد استفاده خود تصمیم بگیرد. هوش مصنوعی می‌تواند درباره من و شما تصمیم بگیرد. این یک پیش بینی آینده نیست. این موضوع در حال حاضر در حال رخ دادن است.

موارد بدنامی در این باره وجود دارند از استفاده از نرم افزار مبتنی بر هوش مصنوعی برای بررسی متقاضیان دریافت وام گرفته تا تصمیم گیری در مورد این که آیا زندانیان باید آزادی مشروط دریافت کنند یا خیر.

بنابراین، قدرت برای نخستین بار در تاریخ در حال جابجایی است. ما چیزی اختراع کردیم که قدرت را از ما می‌گیرد. این روند به قدری سریع رخ می‌دهد که اکثر مردم حتی نمی‌دانند چه اتفاقی در حال رخ دادن است. ما باید مطمئن شویم که هوش مصنوعی تصمیمات خوبی در مورد زندگی مان می‌گیرد. این مسئله‌ای است که تا حل آن فاصله بسیار زیادی داریم.

من از تنظیم مقررات برای مدیریت هوش مصنوعی حمایت می‌کنم چرا که این موضوع باعث جلوگیری از بروز فاجعه خواهد شد. چنین قوانینی از پادمان‌های پزشکی تقلید می‌کنند. یک شرکت دارویی نمی‌تواند داروی جدیدی را بدون گذراندن یک فرآیند طولانی مدت قانونی به بازار عرضه کند. این واقعا عجیب و ترسناک است که شرکت‌ها می‌توانند ابزار‌های هوش مصنوعی بسیار قدرتمند را بدون هیچ گونه اقدامات ایمنی مشابه در فضای عمومی منتشر کنند.

ضمانت اجرایی چنین مقرراتی باید برعهده دولت‌ها باشد. انتظار این که صنعت فناوری خود دست به خود تنظیمی بزند تخیلی است. با تمام احترامی که برای ایلان ماسک و زاکربرگ یا سایر روسای شرکت‌های بزرگ فناوری قائل هستم آنان توسط هیچ کسی انتخاب نشده اند و نماینده کسی جز سهام داران شان نیستند و دلیلی برای اعتماد به آنان وجود ندارد.

برای اثبات سخن ام اشاره می‌کنم که ماسک چند روز پس از امضای نامه سرگشاده همراه با ما که در آن تحقیقات مرتبط با هوش مصنوعی را محکوم می‌کرد چت بات هوش مصنوعی اش را معرفی کرد!

من شخصا سعی می‌کنم گوشی تلفن همراه ام را اکثر مواقع در کشو خاموش نگه دارم. با این وجود، انجام برخی کار‌ها بدون گوشی تلفن همراه هوشمند واقعا غیر ممکن شده است. زمانی که به صفحه نمایش گوشی نگه می‌کنم سیل اطلاعاتی که به مغزم سرازیر می‌شود را مشاهده می‌کنم. من در یک رژیم غذایی اطلاعاتی به سر می‌بریم.

اطلاعات ناخواسته زیادی وجود دارند که مثل غذا هستند. در بخش عمده تاریخ بشریت ما ناامیدانه در تلاش بودیم تا غذای بیش تری به دست آوریم و اکنون در شرایطی معکوس به سر می‌بریم. ما باید در مورد کمیت و هم چنین کیفیت غذایی که می‌خوریم بسیار مراقب باشیم.

من به تازگی از یک استراحت دو ماهه مراقبه برگشتم. می‌توان گفت که این بخشی از رژیم غذایی اطلاعاتی است دوره‌ای برای قطع ارتباط و اجازه دادن به ذهن برای سم زدایی از تمام زباله‌هایی که ما وارد مغزمان می‌کنیم.

با این وجود، من در اسرائیل زندگی می‌کنم و مهم‌ترین موضوع امروز اسرائیل طرح‌های ائتلاف تحت رهبری "بنیامین نتانیاهو" برای کاهش اختیارات دادگاه عالی اسرائیل است که در حال حاضر به عنوان تنها ترمز در برابر قدرت قانونگذاری عمل می‌کند. دولت فعلی اسرائیل در تلاش است تا یک دیکتاتوری در اینجا حاکم کند.

من فکر می‌کنم که یک تهدید واقعی برای بقای دموکراسی اسرائیل وجود دارد. شرکت‌ها در حال ترک اسرائیل هستند، زیرا دولت فعلی در تلاش است تا کنترل و موازنه‌های دموکراسی اسرائیل را از بین ببرد.

اگر پارلمان اسرائیل قانونی را تصویب کند که برای مثال رای دادن را از شهروندان عرب اسرائیل سلب کند تصمیمی که برخی از سیاستمداران دقیقا در مورد تبدیل آن به قانون صحبت کرده اند تنها نهادی که می‌تواند مداخله کرده و چنین قانونی را لغو کند دادگاه عالی است.

اکنون برخی از اعضای دولت ائتلافی می‌خواهند در انتخابات تقلب کرده و از پیش فهرست بلند بالایی از قوانین و مقررات علیه شهروندان عرب، زنان و سکولار‌ها را تهیه کرده اند و می‌خواهند علیه این افراد تبعیض اعمال نمایند. آنان دیدگاه‌های آخرالزمانی و منجی گرایانه دارند و باورمند به برتری قوم یهود می‌باشند. علیرغم آن که تلاش دولت برای تغییر در دستگاه قضایی در پی اعتراضات خیابانی بزرگ متوقف شد، اما بحران کماکان ادامه دارد. اگر دولت نتانیاهو در تلاش خود موفق شود اسرائیل همان مسیری را خواهد پیمود که اکنون ترکیه و روسیه می‌پیمایند کشور‌هایی که دیگر واقعا دموکراسی نیستند.

نمی‌توان اسرائیل را با مجارستان تحت زمامداری "ویکتور اوربان" مقایسه کرد، زیرا اسرائیل یک قدرت نظامی با قابلیت‌های هسته‌ای و هم چنین دارای قابلیت‌های سایبری است که واقعا گستره جهانی دارد. مردم بریتانیا باید به آن چه در اسرائیل می‌گذرد اهمیت بدهند، زیرا می‌تواند کل خاورمیانه را بی ثبات کند و عواقب فوری برای اروپا نیز داشته باشد.

بهترین چیزی که می‌توانم بگویم این است که تاریخ پر از اشتباه است. بسیاری از رویداد‌های مهم نتیجه برخی از نیرو‌های اجتناب ناپذیر تاریخ نیستند. آن رخداد‌ها صرفا نتیجه اشتباهات وحشتناک انسان هستند.

نکته اساسی که باید فرض کنید این است که مردم خطاپذیر هستند. مردم فسادپذیر هستند. یک کشور یا نهاد خوب کشور و نهادی است که از سازوکار‌های خود اصلاحی قوی برخوردار باشد مانند دادگاه عالی. این درسی نه صرفا برای بقای یک کشور به عنوان یک دموکراسی بلکه برای بقای کامل جهان است.

اکنون انسان‌ها از نظر رفاه وضعیت بهتری در مقایسه با گذشته دارند، اما به نظر می‌رسد مثل همیشه ناراضی هستند. زندگی من با شهرت کاملا تغییر کرد. ده سال پیش هیچ کس نمی‌خواست در مورد چیزی با من مصاحبه کند. بنابراین، زمان زیادی داشتم که فقط کتاب بخوانم و سپس مطالبم را بنویسم. شهرت در سطح شخصی معمولا صرفا مشکلات بیشتری ایجاد می‌کند. با این وجود، دوستان ام، مدیتیشن و از بین رفتن اضطراب‌های دوران جوانی همگی بدین معناست که من اکنون فرد خوشحال تری در مقایسه با گذشته هستم.