دستورکار سیاسی هوش مصنوعی – سانتیاگو زابالا و کلودیو گالو، ترجمه‌ی خسرو صادقی بروجنی

خطر هوش مصنوعی این نیست که به‌عنوان یک هوش دیجیتال غیر قابل‌کنترل می‌تواند از طریق تصاویر، مقالات، اخبار و تاریخچه‌های «جعلی» که تولید می‌کند شعور ما را نسبت به خودمان و واقعیت‌مان خدشه‌دار کند. خطر ]واقعی[ این است که به نظر می‌رسد این اختراع غیر قابل‌انکار تاریخی تمام تصمیمات و اقدامات خود را بر اساس همان ارزش‌های مخرب و خطرناکی بناکرده که سرمایه‌داری غارت‌گر را به پیش می‌برد

همان‌طور که مارکس زمانی به‌درستی گفت: «آسیاب دستی جامعه‌ی فئودالی را به وجود می‌آورد و اسب بخار، سرمایه‌داری صنعتی را». ما در طول تاریخ بارها و بارها دیده‌ایم که چگونه نوآوری فناوری شیوه‌ی تولید غالب و به همراه آن نوع اقتدار سیاسی موجود در یک جامعه را تعیین می‌کنند.

بنابراین هوش مصنوعی چه نوع جامعه‌ای به ما تحویل خواهد داد؟ چه کسی بر روی این فناوری جدید سرمایه‌گذاری خواهد کرد، که نه تنها در حال تبدیل شدن به یک نیروی مولد مسلط در جوامع ما است (درست مانند آسیاب دستی و اسب بخار در زمان خودشان) بلکه همان‌طور که در اخبار می‌خوانیم، به نظر می‌رسد سریعاً از کنترل ما خارج می‌شود؟

آیا همان‌طور که به نظر می‌رسد خیلی‌ها معتقدند هوش مصنوعی می‌تواند زندگی خود را آغاز کند، و به‌تنهایی مسیر تاریخ ما را تعیین کند؟ یا این‌که در نهایت به عنوان یک نوآوری فناورانه‌ی دیگر در خدمت یک دستور کار خاص و به نفع زیرمجموعه‌ی خاصی از انسان‌ها، به پایان می‌رسد؟

اخیراً نمونه‌هایی از محتوای فراواقعی تولید شده توسط هوش مصنوعی، مانند «مصاحبه» با قهرمان سابق فرمول یک جهان، مایکل شوماخر، که پس از تصادف ویرانگر اسکی در سال ۲۰۱۳، قادر به صحبت با مطبوعات نبوده است، «عکس‌هایی» که دونالد ترامپ، رئیس‌جمهور سابق آمریکا را در حال بازداشت در نیویورک نشان می‌دهد و مقالات به‌ظاهر معتبر دانشجویی «نوشته شده» توسط جی‌.پی‌.تی.[۱] که یک روبات هوش مصنوعی معروف است نگرانی‌های جدی در میان روشنفکران، سیاست‌مداران و دانشگاهیان در مورد خطرات احتمالی این فناوری جدید برای جوامع ما ایجاد کرده است.

چنین نگرانی‌هایی باعث شد که استیو وزنیاک،[۲] بنیان‌گذار اپل، یوشوا بنجیو[۳] از سرآمدانِ هوش مصنوعی و ایلان ماسک مدیر عامل تسلا/توییتر در ماه مارس نامه‌ی سرگشاده‌ای امضا کردند که در آن آزمایشگاه‌های هوش مصنوعی را به این متهم کردند که «برای توسعه و ایجاد ذهن‌های دیجیتالی قدرتمندتر در رقابت لجام گسیخته‌ای افتاده‌اند که هیچ‌کس– حتی سازندگان آن‌ها– نمی‌تواند این مسئله را درک، پیش‌بینی یا به‌طور قابل اعتمادی کنترل کنند» و از توسعه‌دهندگان هوش مصنوعی خواستند تا به کار خود پایان دهند. اخیراً، جفری هینتون که به عنوان یکی از سه «پدرخوانده‌ی هوش مصنوعی» شناخته می‌شود، از گوگل خارج شد تا «آزادانه درباره‌ی خطرات هوش مصنوعی صحبت کند» و گفت که حداقل تا حدی از مشارکت خود دراین زمینه پشیمان است.

ما قبول داریم که هوش مصنوعی- مانند تمام فناوری‌های دوران‌ساز- دارای جنبه‌های منفی و خطرات قابل‌توجهی است، اما برخلاف وزنیاک، بنجیو، هینتون و دیگران، معتقد نیستیم که بتواند مسیر تاریخ را به تنهایی، بدون هیچ درون‌داد[۴] یا اطلاعاتی تعیین کند. ما دغدغه‌ی چنین مسئله‌ای را نداریم زیرا می‌دانیم که برنامه‌های سیاسی، اجتماعی و فرهنگی ما درست مانند سایر دستگاه‌ها و سیستم‌های فناوری، در فناوری‌های هوش مصنوعی نیز تعبیه شده است. همانطور که دونا هاراوی[۵]  فیلسوف توضیح داد: «فناوری خنثی نیست. ما درون چیزی هستیم که می‌سازیم، و آن چیز درون ماست».

قبل از توضیح بیشتر در مورد این‌که چرا ما از برعهده‌ گرفتن کارها توسط به‌اصطلاح هوش مصنوعی نمی‌ترسیم، باید تعریف کنیم و توضیح دهیم که در واقع هوش مصنوعی- همانطور که اکنون با آن سر‌و‌کار داریم- چیست. این امر نه فقط به دلیل پیچیدگی‌های محصول در دست بلکه به دلیل اسطوره‌سازی رسانه‌ها از هوش مصنوعی کار چالش‌برانگیزی است.

امروز مکرر به مردم می‌گویند که ما اینجا تقریبا با ماشین هوشمندی سروکار داریم که به‌زودی زندگی روزمره‌ی ما را به همان شکلی در می‌آورد که در فیلم‌های «۲۰۰۱؛ یک اودیسه فضایی»، «بلید رانر»  و «ماتریکس» به تصور کشیده ‌شد. این روایت نادرست است. در همان زمان که ما بدون شک در حال ساختن کامپیوترها و ماشین‌حساب‌های توانمندتری هستیم، هیچ نشانه‌ای حاکی از این وجود ندارد که  ما ذهن دیجیتالی را ایجاد کرده‌ایم یا به‌زودی ایجاد خواهیم کرد که واقعاً از قدرت فکر کردن برخوردار است.

نوام چامسکی (به همراه ایان رابرتز[۶] و جفری واتومول[۷]) اخیراً در مقاله‌ای در نیویورک تایمز استدلال کردند که «ما از علم زبان‌شناسی و فلسفه‌ی دانش می‌دانیم که [برنامه های یادگیری ماشینی مانند چت جی‌.بی.تی] با نحوه‌ی ‌استدلال و استفاده‌ی انسان‌ها از زبان بسیار متفاوت است». چت جی‌.بی.تی به‌رغم پاسخ‌های متقاعدکننده‌ای که به سؤالات مختلف انسان‌ها می‌دهد، «موتور آماری سخت‌گیرانه‌ای برای تطبیق الگو است که صدها ترابایت داده را جمع‌آوری کرده و محتمل‌ترین پاسخ مکالمه یا محتمل‌ترین پاسخ به یک سؤال علمی را پیش‌بینی می‌کند». با تقلید از مارتین هایدگر فیلسوف آلمانی (و خطر شعله‌ور شدن دوباره جنگ دیرینه‌ی بین فیلسوفان قاره‌ای و تحلیلی)، می‌توانیم این گونه بگوییم: «هوش مصنوعی فکر نمی‌کند. صرفاً محاسبه می‌کند»[۸]

فدریکو فاگین،[۹] مخترع اولین ریزپردازنده‌ی تجاری، اینتل اسطوره‌ای ۴۰۰۴، این موضوع را در سال ۲۰۲۲ به‌وضوح در کتاب خود با نام «تقلیل‌ناپذیر»[۱۰] توضیح داد: «تمایز واضحی بین «دانش» نمادین ماشین  … و دانش معنایی انسان وجود دارد. اولی اطلاعات عینی است که می‌تواند کپی و به اشتراک گذاشته شود. دومی یک تجربه‌ی ذهنی و خصوصی است که در کیفیت آگاهی انسان رخ می‌دهد.» به نظر می‌رسد فاگین با تفسیر جدیدترین نظریه‌های فیزیک کوانتومی، نتیجه‌گیری فلسفی به دست آورده است که به طرز عجیبی با نوافلاطونیسم باستان همخوانی دارد- شاهکاری که ممکن است تضمین کند او به‌رغم دستاوردهای باورنکردنی‌اش به عنوان یک مخترع برای همیشه یک نوآور در محافل علمی در نظر گرفته ‌شود.

اما همه‌ی اینها چه معنایی برای آینده ما دارد؟ اگر این اسطوره‌ی اَبَرهوشمند[۱۱] ما واقعاً نتواند «فکر کند» (و بنابراین به‌عنوان یک نیروی مستقل ظاهر شود که می‌تواند مسیر تاریخ بشر را تعیین کند)، دقیقاً چه کسی از آن نفع می‌برد و به چه کسی اقتدار سیاسی می‌دهد؟ به عبارت دیگر، تصمیمات آن بر چه ارزش‌هایی تکیه خواهد کرد؟

چامسکی و همکارانش سؤالی مشابه از چت جی‌.بی‌.تی پرسیدند. هوش مصنوعی به آنها گفت: «من به‌عنوان یک هوش مصنوعی، باورهای اخلاقی یا توانایی قضاوت اخلاقی ندارم، بنابراین نمی‌توان من را اخلاقی یا غیراخلاقی به شمار آورد. نبود باورهای اخلاقی در من صرفاً نتیجه‌ی طبیعت من به عنوان یک مدل یادگیری ماشینی است»

این بیانات را قبلاً کجا شنیده‌ایم؟ آیا این به طرز وحشتناکی شبیه به دیدگاه اخلاقی خنثای لیبرالیسم سرسخت نیست؟

لیبرالیسم می‌خواهد تمام ارزش‌های مذهبی، مدنی و سیاسی را که در قرون شانزدهم و هفدهم خظرناک و مخرب به شمار می‌رفتند محدود به حوزه‌ی خصوصی افراد کند. می‌خواهد تمام وجوه جامعه در شکل ویژه‌ای از عقلانیت پررمز و راز بازار تنظیم شود.

به نظر می‌رسد هوش مصنوعی همان شکل تجاری عقلانیت پر رمز و راز را ترویج می‌کند. حقیقت این است که هوش مصنوعی به عنوان مرحله‌ی بعدی ِنوآوریِ «کسب‌وکار‌های بزرگ» جهانی در حال ظهور است که مشاغل را از انسان می‌دزدد و کارگران، پزشکان، وکلای دادگستری، روزنامه‌نگاران و بسیاری دیگر را بیکار می‌کند. ارزش‌های اخلاقی ربات‌های جدید مشابه ارزش‌های بازار است. اکنون تصور همه‌ی ‌تحولات احتمالی دشوار است، اما سناریویی ترسناک در حال ظهور است.

دیوید کروگر،[۱۲] استادیار یادگیری ماشینی در دانشگاه کمبریج، اخیراً در «نیو ساینتیست»[۱۳] اظهار داشت: اساساً هر محقق هوش مصنوعی (از جمله خود من) از شرکت‌های فناوری بزرگ بودجه دریافت کرده ‌است. با وجود چنین تضاد منافع شدیدی، جامعه در برخی مواقع از اطمینان دوباره به این نوع فناوری‌ها دست می‌کشد و مانند من به این نتیجه می‌رسد که نادیده گرفتن مخاطرات هوش مصنوعی، بیش از یک استدلال خوب، نتیجه‌ی خوش‌خیالی است.

اگر جامعه در مقابل هوش مصنوعی و مروجین آن بایستد، می‌تواند این نکته را به اثبات برساند که مارکس اشتباه می‌کند و مانع از آن ‌شود که توسعه‌ی فناوری پیشرو در عصر کنونی تعیین کند که چه کسی دارای اقتدار سیاسی است.

اما به نظر می‌رسد هوش مصنوعی در حال حاضر جایگاه خود را دارد. و دستور‌کار سیاسی آن کاملاً با برنامه‌ی سرمایه‌داری بازار آزاد هماهنگ است که اصول (اعلام نشده) و هدف آن پاره کردن هر شکلی از همبستگی اجتماعی و اجتماع است.

خطر هوش مصنوعی این نیست که به‌عنوان یک هوش دیجیتال غیر قابل‌کنترل می‌تواند از طریق تصاویر، مقالات، اخبار و تاریخچه‌های «جعلی» که تولید می‌کند شعور ما را نسبت به خودمان و واقعیت‌مان خدشه‌دار کند. خطر ]واقعی[ این است که به نظر می‌رسد این اختراع غیر قابل‌انکار تاریخی تمام تصمیمات و اقدامات خود را بر اساس همان ارزش‌های مخرب و خطرناکی بناکرده که سرمایه‌داری غارت‌گر را به پیش می‌برد.

***

***

[۱] GPT

[۲] Steve Wozniak

[۳]Yoshua Bengio

استاد دانشگاه و پژوهشگر هوش مصنوعی  از دانشگاه مونترآل (م)

[۴] input‌

[۵] Donna Haraway

[۶] Ian Roberts

[۷] Jeffrey Watumull

[۸] به باور هایدگر میان اندیشه و هستیِ انسانی پیوند ناگسستنی وجود دارد و اندیشه از طریق عامل انسانی خلق می‌شود اما دانش تولیدشده توسط ماشین محصول مجموعه‌ای داده و اطلاعات جدا از عامل انسانی است و نمی‌تواند به سطح تفکر و اندیشه برسد. (م)

[۹] Federico Faggin

[۱۰] Irreducible

[۱۱] Chiron  کیرون یا خیرون

یکی از شخصیت‌های اساطیری یونان باستان،  موجودی افسانه‌ای با بالا تنه‌ی انسان و پایین‌تنه اسب و با توانایی‌های خارق‌العاده در دانش و آموختن آن بود. به نظر می‌رسد منظور نویسندگان از به‌کارگیری این اصطلاح اشاره به وجود نیمه انسان- نیمه ماشینِ هوش مصنوعی دارد. (م)

[۱۲]David Krueger

[۱۳] New Scientist

منبع: نقد اقتصاد سیاسی