قطعه‌قطعه‌کردن جامعه؛ هشدار تند استاد هاروارد درمورد تاثیر تاریک هوش مصنوعی

جیل لپور، مورخ و استاد دانشگاه هاروارد، هشدار می‌دهد که گسترش هوش مصنوعی و واگذاری هرچه بیشتر تصمیم‌های اجتماعی و سیاسی به سامانه‌های تحت کنترل شرکت‌های فناوری، می‌تواند ساختار دموکراسی و زندگی عمومی را به‌تدریج تضعیف کند.

لپور این وضعیت را با اصطلاح «دولت مصنوعی» توصیف می‌کند؛ نظمی که در آن بخشی از وظایف و اختیاراتی که زمانی در اختیار نهادهای عمومی و دولت‌های منتخب بود، به شرکت‌ها، پلتفرم‌های دیجیتال و سامانه‌های خودکار منتقل می‌شود. او در گفت‌وگو با پادکست «هارد فورک» نیویورک تایمز گفت در چنین مدلی، تصمیم‌ها بیش از آنکه با رضایت شهروندان گرفته شوند، تحت تأثیر ماشین‌ها و شرکت‌هایی قرار می‌گیرند که مالک یا کنترل‌کننده آن‌ها هستند.

لپور تأکید می‌کند که جهان هنوز به‌طور کامل وارد چنین وضعیتی نشده است، اما بسیاری از زیرساخت‌های لازم برای آن درحال شکل‌گیری هستند. به باور او، برخی از مدیران و سرمایه‌گذاران صنعت فناوری نیز دیدگاهی را دنبال می‌کنند که در آن قدرت شرکت‌های فناوری می‌تواند از نهادهای عمومی و خواسته رأی‌دهندگان فراتر برود.

لپور در کتاب آینده خود با عنوان «ظهور و سقوط دولت مصنوعی» این ایده را با جزئیات بیشتری بررسی می‌کند. پرسش اصلی او ساده است: چه کسی تصمیم گرفته که بسیاری از تعاملات روزمره انسان‌ها، از دریافت خدمات گرفته تا دسترسی به اطلاعات، باید از طریق سامانه‌های خودکار انجام شود؟

در تعریف او، «دولت مصنوعی» الزاماً به معنای حکومتی نیست که مستقیماً توسط هوش مصنوعی اداره شود. مسئله اصلی، انتقال تدریجی کارکردهای عمومی به شرکت‌هایی است که زیرساخت‌های ارتباطات دیجیتال را در اختیار دارند.

امروزه بخش بزرگی از اخبار، اطلاعات سیاسی و تبلیغات انتخاباتی از طریق پلتفرم‌های خصوصی به دست مردم می‌رسد. الگوریتم‌های این پلتفرم‌ها نیز تعیین می‌کنند کاربران چه محتوایی را بیشتر ببینند و چه مطالبی کمتر در معرض دیدشان قرار گیرد. به اعتقاد لپور، این واسطه‌گری می‌تواند رابطه مستقیم شهروندان با نهادهای عمومی، رسانه‌ها و حتی یکدیگر را ضعیف کند.

لپور پیش‌تر در مقاله‌ای در سال ۲۰۲۴ در نشریه نیویورکر، گسترش این ساختار را با عبارتی تند، نوعی «پرورش صنعتی زندگی عمومی» توصیف کرده بود. منظور او دسته‌بندی و تفکیک انسان‌ها، انزوا و بیگانگی، و نابودی اجتماع انسانی است.

هوش مصنوعی از نگاه لپور یکی از فناوری‌هایی است که می‌تواند این روند را سرعت دهد. کاربران اکنون می‌توانند از چت‌بات‌ها درباره مسائل سیاسی سؤال کنند، درحالی‌که بخشی از پیام‌های سیاسی، تبلیغات و محتوایی نیز که در فضای آنلاین می‌بینند، ممکن است با کمک هوش مصنوعی تولید شده باشد.

هم‌زمان، سامانه‌های هوش مصنوعی در تحلیل حجم عظیمی از داده‌های کاربران، سیستم‌های نظارتی و فرایندهای تصمیم‌گیری خودکار به کار گرفته می‌شوند. به همین دلیل، لپور نگران است که تصمیم‌های بیشتری بدون مشارکت مستقیم انسان‌ها و بدون سازوکارهای شفاف پاسخ‌گویی گرفته شوند.

یکی دیگر از محورهای انتقاد لپور، ایده‌ای است که توسعه سریع هوش مصنوعی را امری اجتناب‌ناپذیر معرفی می‌کند. او این نگاه را نوعی جبرگرایی فناورانه می‌داند؛ یعنی این تصور که فناوری مسیر مشخصی دارد و جامعه چاره‌ای جز پذیرش آن ندارد.

به گفته لپور، چنین استدلالی اغلب با ادعای دیگری همراه می‌شود: اینکه مقررات دولتی مانع نوآوری خواهد شد و در نتیجه باید محدودیت‌های توسعه هوش مصنوعی تا حد امکان کاهش پیدا کند.

به باور لپور، فناوری به‌خودی‌خود نه دموکراتیک است و نه ضددموکراتیک؛ نتیجه به نحوه طراحی، مالکیت، مقررات و میزان پاسخ‌گویی شرکت‌ها و نهادهایی بستگی دارد که آن را در اختیار دارند.

هشدار اصلی لپور بیش از آنکه درباره خود فناوری باشد، به تمرکز قدرت مربوط است. او می‌پرسد اگر بخش بزرگی از ارتباطات، اطلاعات، تصمیم‌گیری‌ها و حتی خدمات عمومی به سامانه‌هایی سپرده شود که شرکت‌های خصوصی کنترل می‌کنند، چه سازوکاری برای پاسخگو نگه‌داشتن صاحبان این فناوری‌ها باقی خواهد ماند؟