D1-kifpool

هوش مصنوعی فوق‌پیشرفته؛ تهدیدی بزرگ برای آینده‌ بشر

سه‌شنبه 28 خرداد 1398 - 17:30
مطالعه 14 دقیقه
جان تالین یکی از بنیان‌گذاران اسکایپ از تلاش برای کنترل هوش مصنوعی فوق‌العاده و خطرات احتمالی آن حمایت می‌کند.
تبلیغات
D4-mcid4

درست سه‌ونیم میلیارد سال پیش، شکل‌های اولیه‌ی حیات روی زمین به وجود آمدند. چهار میلیون سال پیش بود که ظرفیت مغز هومونیدها (میمون‌های شبه‌انسان) به طرز چشمگیری افزایش یافت. پنجاه‌هزار سال پیش، انسان خردمند ظهور کرد. ۱۰ هزار سال پیش، تمدن به وجود آمد. ۵۰۰ سال پیش، چاپ اختراع شد. ۵۰ سال پیش کامپیوتر اختراع شد و «این» در کمتر از ۳۰ سال به پایان می‌رسد.

جان تالین در سال ۲۰۰۷ در مقاله‌ای آنلاین به نام «خیره به تکینگی» به جملات بالا برخورد (براساس فرضیه‌ی تکینگی فناوری، روزی رشد فناوری به‌حدی می‌رسد که از کنترل انسان خارج می‌شود و تغییرات غیرقابل بازگشتی را در تمدن بشر ایجاد می‌کند). در جمله‌ی آخر پاراگراف بالا منظور از «این»، تمدن انسانی است. به عقیده‌ی مؤلف این مقاله، بشر با ظهور ابَرهوش یا هوش مصنوعی فراتر از هوش انسان در بسیاری از حوزه‌ها، به پایان خود نزدیک می‌شود.

تالین، برنامه‌نویس کامپیوتر متولد استونی است که در زمینه‌ی فیزیک هم سابقه دارد. او زندگی را به یک مسئله‌ی برنامه‌نویسی بزرگ تشبیه می‌کند. تالین در سال ۲۰۰۳ به‌عنوان یکی از بنیان‌گذاران اسکایپ به توسعه‌ی بک‌اند این اپلیکیشن پرداخت. او برای رسیدن به هدفی جدید، دو سال بعد سهم خود را به eBay فروخت. مقاله‌ی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقل‌قول‌های کالوین و هاب بود.

ربات شرور

تالین خیلی زود مؤلف این مقاله را پیدا کرد. الیزر یودکفسکی، نظریه‌پردازی خودآموخته بود. او مؤلف بیش از ۱۰۰۰ مقاله و پست بلاگ بود که موضوع اغلب آن‌ها هم ابَرهوش بود. تالین برنامه‌ای برای برش نوشته‌های یودکفسکی از اینترنت، مرتب‌سازی آن‌ها به ترتیب زمان و فرمت‌دهی آن‌ها برای دستگاه آیفون خود نوشت. سپس زمانی را به خواندن آن‌ها اختصاص داد.

اصطلاح «هوش مصنوعی» یا شبیه‌سازی هوش در کامپیوترها یا ماشین‌ها به سال ۱۹۵۶، یعنی یک دهه پس از اختراع اولین کامپیوترهای دیجیتال الکترونیکی بازمی‌گردد. هوش مصنوعی در ابتدا زمینه‌ای امیدبخش بود، اما در دهه‌ی ۱۹۷۰ و زمانی‌که پیش‌بینی‌های اولیه محقق نشدند، زمستان هوش مصنوعی آغاز شد.

وقتی تالین مقاله‌های یودکفسکی را پیدا کرد، هوش مصنوعی در آغاز رنسانس بود. دانشمندان موفق به توسعه‌‌ی انواع AI مثل شطرنج، پاکسازی کف آشپزخانه و تشخیص گفتار انسان شده بودند؛ هوش‌های مصنوعی که هرکدام در زمینه‌ای مشخص نسبت به انسان برتری داشتند (چهار سال بعد در سال ۲۰۰۷، برد بزرگ ابرکامپیوتر واتسون IBM در رقابت Jeopardy! رخ داد و هشت سال بعد AlphaGo شرکت DeepMind در بازی GO مقابل انسان به برتری رسید). هوش‌های مصنوعی محدود (narrow) تنها در زمینه‌های مشخصی بهتر از انسان عمل می‌کنند.

برای مثال هوش مصنوعی شطرنج‌باز نمی‌تواند کف زمین را تمیز کند یا شما را از نقطه‌ی A به نقطه‌ی B ببرد؛ اما به اعتقاد تالین، هوش مصنوعی فوق هوشمند محدوده‌ی وسیعی از مهارت‌ها را در یک موجودیت ترکیب می‌کند. بدتر از هر چیز، می‌تواند از داده‌های تلفن‌ هوشمند استفاده کند و در دست‌کاری داده‌ها بهتر از انسان عمل کند.

تالین با خواندن مقاله‌های یودکفسکی به این نتیجه رسید که ابرهوش می‌تواند منجر به تکثیر و انفجار نوعی از هوش مصنوعی شود که موجودیت بشر را تهدید می‌کند. همان‌طور که انسان‌ها بر نسل کپی‌ها (از نخستی‌سانان) مسلط شدند، هوش‌های مصنوعی فوق هوشمند هم می‌توانند جایگاه انسان در نردبان تکامل را اشغال کنند؛ یا بدتر از هر چیز، نسل انسان را منقرض کنند. تالین، پس از خواندن آخرین مقاله‌ها ایمیلی با این مضمون به یودکفسکی ارسال کرد:

من جان هستم، یکی از مهندسین بنیان‌گذار اسکایپ. در این مورد با شما موافق هستم که پیشگیری از پیروزی هوش مصنوعی بر هوش انسانی یکی از مهم‌ترین وظایف بشریت است.

هدف تالین پیشگیری از این اتفاق بود. به همین دلیل، برای چند جلسه به غرب کالیفرنیا رفت و با یودکفسکی ملاقات کرد. بحث آن‌ها چهار ساعت به طول انجامید. یودکفسکی از توانایی منحصربه‌فرد تالین در درک مفاهیم اصلی و جزئیات، ابراز رضایت کرد.

تالین چکی به مبلغ ۵۰۰۰ دلار برای مؤسسه‌ی SIAI (مؤسسه‌ی تکینگی هوش مصنوعی) نوشت، مؤسسه‌ای غیرانتفاعی که یودکفسکی یکی از پژوهشگرهای آن بود. (نام این مؤسسه در سال ۲۰۱۳ به Machine Intelligence Research Institute یا MIRI تغییر پیدا کرد). از آن زمان تالین بیش از ۶۰۰ هزار دلار به این مؤسسه پرداخت کرده است.

تالین پس از ملاقات با یودکفسکی هدف خود را مشخص کرد و مأموریت نجات انسان از دست مخلوقات هوشمند خود را آغاز کرد. او پس از در میان گذاشتن مشکل با نظریه‌پردازان و دانشمندان کامپیوتر، برای سخنرانی در مورد تهدیدهای بالقوه‌ی ابَرهوش، سفر به سراسر دنیا را آغاز کرد.

او کار خود را با سرمایه‌گذاری پژوهشی بر یکی از راه‌های فرار انسان یعنی هوش مصنوعی دوستانه آغاز کرد. در اینجا منظور از هوش مصنوعی دوستانه، ربات یا دستگاهی نیست که در مورد آب‌وهوا با شما صحبت کند یا نام فرزندانتان را انتخاب کند (گرچه هوش مصنوعی فوق هوشمند قادر به انجام تمام این کارها است). حتی هدف هوش مصنوعی دوستانه، عشق یا نوع‌دوستی نیست. بسیاری به‌اشتباه تصور می‌کنند هوش مصنوعی دوستانه از ارزش‌ها و اختیارت انسانی برخوردار است درحالی‌که «دوستانه» در اینجا معنای بنیادی‌تری دارد: ماشین‌های فردا برای رسیدن به اهداف خود، انسان را حذف نمی‌کنند.

تالین در سن ۴۶ سالگی، کارآفرین فناوری است. او معتقد است به‌لطف پیشرفت‌های علمی (درصورتی‌که هوش مصنوعی انسان را نابود نکند)، می‌تواند سال‌های سال زنده بماند. نگرانی او در مورد ابَرهوش از دید پیروان او نگرانی متداولی است. مؤسسه‌ی پیتر تیل یکی از بنیان‌گذاران PayPal،  مبلغ ۱.۶ میلیون دلار به MIRI تخصیص داده است و در سال ۲۰۱۵، ایلان ماسک، بنیان‌گذار تسلا، ۱۰ میلیون دلار را روی مؤسسه‌ی Future of Life سازمان امنیت فناوری مستقر در ماساچوست کمبریج سرمایه‌گذاری کرد.

ورود تالین به این دنیای منحصربه‌فرد به دهه‌ی ۸۰ و دوران پرده‌ی آهنین (مرزی غیرفیزیکی بود که پس از جنگ جهانی دوم در سال ۱۹۴۵ تا پایان جنگ سرد در سال ۱۹۹۱، اروپا را به دو قسمت مجزا تقسیم می‌کرد) بازمی‌گردد؛ درست وقتی پدر یکی از همکلاسیان او با شغل دولتی، اجازه‌ی بازدید او و دوستانش از کامپیوترهای بزرگ مرکزی را داد. تالین پس از استقلال استونی، دست به تأسیس شرکتی در زمینه‌ی بازی‌های ویدئویی زد. تالین امروزه همراه‌با همسر و فرزندش در پایتخت استونی (که همنام با اوست) زندگی می‌کند. او با پژوهشگرها در منطقه‌ی بالتیک ملاقات می‌کند.

جان تالین

تالین می‌خواهد انسان را از شر مخلوقات هوش مصنوعی نجات دهد.

استراتژی پیشنهادی تالین هم مانند بسیاری از کارهای گذشته‌ی او اسلوب‌مند و منظم است. او سرمایه‌ی خود را بین ۱۱ سازمان توزیع کرده است. هرکدام از این سازمان‌ها روی روش‌های متفاوتی برای امنیت هوش مصنوعی کار می‌کنند. تالین در سال ۲۰۱۲ به همراه چند نفر دیگر مرکز پژوهشی CSER (ریسک وجودی) را با سرمایه‌ی اولیه‌ی نزدیک به ۲۰۰ هزار دلار تأسیس کرد.

ریسک‌های وجودی یا ریسک‌های X (طبق‌ نام‌گذاری تالین)، بقای انسان را تهدید می‌کنند. ۲۰ پژوهشگر CSER علاوه‌بر هوش مصنوعی، چالش‌هایی مثل تغییرات اقلیمی، جنگ هسته‌ای و سلاح‌های زیستی را هم بررسی می‌کنند؛ اما به عقیده‌ی تالین، زمینه‌های دیگر تهدید فرار هوش مصنوعی را مشروع جلوه می‌دهند و زمینه‌های فوق مانند دروازه‌ی ورود عمل می‌کنند (براساس این نظریه، مصرف دارویی خاص می‌تواند احتمال مصرف داروهای دیگر را افزایش دهد و به‌تدریج تغییرات بیولوژیکی در مغز ایجاد شود).

نگرانی در مورد تهدید‌های پذیرفته‌شده ازجمله تغییرات اقلیمی می‌تواند توجه بسیاری از افراد را به خود جلب کرده اما تالین امیدوار است مردم از خطر پیروزی ماشین‌های فوق هوشمند بر نسل بشر هم آگاه شوند. برای مثال او در یکی از همایش‌ها از جامعه‌‌ی علمی درخواست می‌کند امنیت هوش مصنوعی را جدی بگیرند.

در این همایش، افرادی از جوامع علمی سراسر جهان، ازجمله پژوهشگری رباتیک از هنگ کنگ و پژوهشگری قدیمی از بریتانیا شرکت کردند که در دهه‌ی ۱۹۶۰  از کمبریج فارغ‌التحصیل شده است.  تالین در این جلسه بحث را به تهدید هوش مصنوعی تغییر می‌دهد و ازآنجاکه طرف صحبت او برنامه‌نویس‌ها نیستند، سعی می‌کنند از تشبیه و استعاره استفاده کند:

هوش مصنوعی پیشرفته می‌تواند انسان را به‌سرعت قطع درختان، نابود کند. ابَرهوش برای انسان دقیقا مثل تهدید انسان برای گوریل‌ها است.

یکی از اعضای جلسه می‌پرسد: «هوش مصنوعی برای غلبه بر انسان نیاز به یک بدنه دارد. بدون پوشش فیزیکی چگونه می‌تواند کنترل فیزیکی را به دست بگیرد؟» تالین برای پاسخ به این سؤال از تشبیه دیگری استفاده می‌کند:

حتی اگر من را در زیرزمین حبس کنید، تنها با داشتن یک اتصال اینترنتی می‌توانم خسارت زیادی وارد کنم.

صرف‌‌نظر از اینکه ربات Roomba (نوعی ربات جاروبرقی) یا یکی از نوادگان جدید آن باشد، هوش مصنوعی براساس خروجی‌ها هدایت می‌شود. برنامه‌نویس‌ها اهداف را همراه‌با یک مجموعه از قوانین و دستورالعمل‌ها به ربات‌ها تخصیص می‌دهند؛ اما هوش مصنوعی پیشرفته برای تسلط بر دنیا لزوما نیازی به دریافت هدف یا دستورالعمل نخواهد داشت؛ بلکه می‌تواند به شکلی کاملا تصادفی به آن برسد. تاریخچه‌ی برنامه‌نویسی کامپیوتر مملو از خطاهای کوچکی است که پیامدهای فاجعه‌باری داشته‌اند.

هوش مصنوعی پیشرفته در آینده نیازی به اجازه‌ی انسان نخواهد داشت

برای مثال در سال ۲۰۱۰، تاجری که برای شرکت سهام مشترک Waddel & Reed کار می‌کرد، هزاران قرارداد به تاریخ آینده را به فروش رساند؛ اما این شرکت در نرم‌افزار خود، یک متغیر کلیدی را از قلم انداخته بود. این متغیر الگوریتمی برای اجرای مبادله‌ی کالا بود. درنهایت این خطا منجر به خسارتی تریلیون دلاری شد.

پژوهشگرهای تحت حمایت تالین معتقدند، درصورتی‌که ساختار پاداش هوش مصنوعی فوق انسانی به‌درستی برنامه‌ریزی نشود، حتی اهداف خیرخواهانه هم می‌توانند پایانی مخرب داشته باشند. برای مثال، فیلسوف دانشگاه آکسفورد نیک بوستروم در کتاب خود به نام ابَرهوش، به یک مأمور تخیلی اشاره می‌کند که برای تولید تعداد زیادی گیره‌ی کاغذ طراحی شده است. در این نمونه ممکن است هوش مصنوعی حتی اتم‌های بدن انسان را به‌عنوان ماده‌ی خام مناسب برای تولید گیره‌ها تشخیص دهد.

دیدگاه‌های تالین حتی در انجمن‌های نگران امنیت هوش مصنوعی هم با انتقادهایی روبه‌رو است. برخی معتقدند هنوز برای نگرانی در مورد محدود کردن هوش مصنوعی فوق هوشمند زود است زیرا درک جامعی از آن وجود ندارد. به عقیده‌ی گروهی دیگر، تمرکز بر بازیگران سرکش فناوری، توجه به مشکلات مهم‌تر و ضروری‌تر را کمرنگ می‌کند.

برای مثال اغلب الگوریتم‌ها توسط سفیدپوستان یا براساس داده‌هایی طراحی می‌شوند که به آن‌ها گرایش دارند. به‌گفته‌ی ترا لیونز، مدیر اجرایی Parthneship AI، سازمانی چندذینفعی متمرکز بر امنیت هوش مصنوعی و مشکلات دیگر (تعداد زیادی از مؤسسه‌های تحت پشتیبانی تالین از اعضای این سازمان هستند):

اگر در کوتاه‌مدت به مشکلات توجه نکنیم، دنیا جای خطرناکی برای زندگی خواهد شد.
AI دوستانه

اما به اعتقاد او، برخی چالش‌های قریب‌الوقوع مانند حذف انحراف‌های الگوریتمی (در نمونه‌ی فوق سفیدپوست‌ها) مهم‌تر از چالش‌های هوش مصنوعی فوق هوشمند هستند.

اما تالین با این دلایل هم قانع نشد. او معتقد است هوش مصنوعی فوق هوشمند تهدید‌های منحصربه‌فرد خود را دارد و امیدوار است جامعه‌ی هوش مصنوعی مانند جنبش ضدهسته‌ای دهه‌ی ۱۹۴۰ عمل کند. پس از بمباران هیروشیما و ناکازاکی، دانشمندان دست‌به‌دست یکدیگر دادند تا تست هسته‌ای را محدود کنند. درحالی‌که دانشمندان پروژه‌ی منهتن (پروژه‌‌ی توسعه‌ی اولین سلاح‌های هسته‌ای در طول جنگ جهانی دوم) می‌توانستند بگویند:

ما در حال اجرای نوآوری هستیم و نوآوری همیشه خوب است. پس بگذارید پیش برویم.

تالین هشدار می‌دهد که رسیدن به امنیت هوش مصنوعی کار دشواری است. درصورتی‌که هوش مصنوعی به‌اندازه‌ی کافی هوشمند باشد، درک بهتری از محدودیت‌ها خواهد داشت. تالین چنین شرایطی را به بیدار شدن در زندانی تشبیه می‌کند که به دست یک مشت کودک پنج ساله و کور ساخته شده است. همین مسئله برای هوش مصنوعی هوشمند صحت دارد و درک آن از زندان و رفع محدودیت‌ها می‌تواند بسیار فراتر از خالق انسانی باشد.

یودکفسکی نظریه‌پرداز با اجرای آزمایشی در سال ۲۰۰۲ به این تهدید‌ها پی برد. او در این آزمایش‌ها چت‌های دو طرفه‌ای را اجرا کرد. خود او نقش هوش مصنوعی محصور در یک جعبه را ایفا می‌کرد، مخاطبان هم نقش دروازه‌بان یا زندان‌بانی را ایفا می‌کردند که هوش مصنوعی را درون جعبه نگه‌ می‌داشت. یودکفسکی می‌گوید از هر پنج مرتبه، سه مرتبه توانست دروازه‌بان را قانع کند که او را آزاد کند. بااین‌حال آزمایش‌های او باعث نشد پژوهشگرها از ساخت جعبه‌های بهتر دلسرد شوند.

پژوهشگرهای تحت حمایت تالین، برای رسیدن به هدف مجموعه‌ای وسیع از استراتژی‌ها، روش‌های کاربردی و حتی غیرممکن را در نظر می‌گیرند. گروهی به محصور کردن فیزیکی هوش مصنوعی در ساختاری واقعی و فیزیکی یا محصور کردن آن ازطریق برنامه‌نویسی اعتقاد دارند. گروهی دیگر هم سعی می‌کنند هوش مصنوعی را به‌گونه‌ای آموزش دهند که به ارزش‌های انسانی احترام بگذارد.

تعداد کمی هم روی دکمه‌ی خاموش یا Off کار می‌کنند. یکی از پژوهشگرها به نام استوارت آرمسترانگ، فیلسوف و ریاضیدان مؤسسه‌ی Future of Humanity دانشگاه آکسفورد (تالین این مؤسسه را جذاب‌ترین بخش دانشگاه می‌داند و بیش از ۳۱۰ هزار دلار روی آن سرمایه‌گذاری کرده است)، معتقد است هر سه روش مزایای خود را دارد. آرمسترانگ یکی از معدود پژوهشگرهای دنیا است که به‌صورت تمام‌وقت روی امنیت هوش مصنوعی کار می‌کند.

آرمسترانگ بخشی از پژوهش خود را به یک نوع روش محصورسازی به نام «oracle AI» اختصاص داده است. او در سال ۲۰۱۲ در مقاله‌ای با همکاری نیک بوستروم (یکی از بنیان‌گذاران FHI)، نه‌تنها احاطه‌کردن ابَرهوش در یک مخزن (ساختار فیزیکی) را پیشنهاد داد، بلکه با روشی مثل تخته‌ی ویجا (تخته‌ای که برای احضار ارواح به کار می‌رود و با پاسخ‌هایی مثل بله و خیر و اعداد همراه است) محدودیت آن را افزایش داد. باوجود تمام این محدودیت‌ها هوش مصنوعی می‌تواند با دست‌کاری زیرکانه‌ی بازپرس‌های خود، سرنوشت بشر را تغییر دهد.

تعامل با هوش مصنوعی

آرمسترانگ برای کاهش این احتمال، محدودیت در زمان مکالمه یا جلوگیری از پرس‌وجوهایی را پیشنهاد می‌دهد که ممکن است نظم جهان را بر هم بزنند. او همچنین پیشنهاد می‌کند معیارهای بقای انسان مثل میانگین صنعتی داو جونز (شاخص بازار سهام که ارزش سهام ۳۰ شرکت بزرگ در ایالات‌متحده و نحوه‌ی تجارت آن‌ها در بازار سهام را نشان می‌دهد) یا تعداد افرادی که در توکیو از خیابان عبور می‌کنند، در اختیار پراکسی اوراکل قرار داده شده و از آن خواسته شود این داده‌ها را ثابت نگه دارد.

آرمسترانگ به‌عنوان راه‌حل آخر، ساخت دکمه‌ی قرمز off یا خاموش شدن هوش مصنوعی را توصیه می‌کند. این دکمه می‌تواند یک کلید فیزیکی یا مکانیزمی برنامه‌ریزی‌شده در هوش مصنوعی باشد که در صورت وقوع مشکل، خود را خاموش کند؛ اما طراحی چنین کلیدی چندان ساده نیست چرا که علاقه‌ی هوش مصنوعی به حفاظت از خود می‌تواند مانع از فشردن چنین کلیدی توسط خود او شود.

ساخت یک دکمهی Off می‌تواند تهدیدهای هوش مصنوعی را کاهش دهد

همچنین شاید هوش مصنوعی در مورد طراحی چنین کلیدی کنجکاو شود، آن را فعال کند و درنتیجه به یک موجود بی‌استفاده تبدیل شود. در سال۲۰۱۳، برنامه‌نویسی به‌نام تام مورفی، نوعی هوش مصنوعی طراحی کرد که می‌توانست بازی‌های سیستم سرگرمی نینتندو را به خود آموزش دهد. این هوش مصنوعی که در پیروزی مصمم بود، خیلی ساده کلید pause یا توقف را فشار می‌داد تا بازی را متوقف کند. مورفی هم در مقاله‌ای به کنایه می‌گوید تنها راه برد، بازی نکردن است.

هوش مصنوعی برای موفقیت باید به این دکمه بی‌علاقه باشد یا به‌گفته‌ی تالین، باید برای وجود یا عدم وجود خود در دنیا ارزش یکسانی قائل شود؛ اما حتی اگر پژوهشگرها به این هدف برسند، با چالش‌های دیگری روبه‌رو خواهند شد. برای مثال، چه اتفاقی رخ می‌دهد اگر هوش مصنوعی چند هزار کپی از خود را در اینترنت توزیع کند؟

هیجان‌انگیزترین پژوهش، یافتن راهی برای احترام هوش مصنوعی به ارزش‌های انسانی است. البته پژوهشگرها می‌خواهند ازطریق آموزش هوش مصنوعی به این هدف برسند، نه صرفا برنامه‌ریزی آن‌. در دنیایی که با سیاست‌های متعصبانه احاطه شده است، مردم نگران روش‌ها و اصول متفاوت هستند. اما به عقیده‌ی تالین، انسان‌ها باوجود تمام تفاوت‌ها، نقاط مشترک زیادی دارند؛ بنابراین هوش مصنوعی هم می‌تواند قوانین مشترک را تشخیص دهد.

FHI

آیا می‌توان هوش مصنوعی را کنترل کرد؟ هو پرایس، تالین و مارتین، بنیان‌گذاران مرکز ریسک وجودی کمبریج به‌دنبال پاسخ به این سؤال هستند.

در چنین شرایطی، باید جنبه‌ی کمتر منطقی انسان را به هوش مصنوعی آموزش داد. برای مثال انسان‌ها جملاتی با معنای غیرمستقیم را به کار می‌برند؛ یا گاهی اولویت‌های انسان با یکدیگر در تضادند. دراین‌میان، مسیرهای داده‌ای اپلیکیشن‌ها و شبکه‌های اجتماعی می‌توانند منبع خوبی برای آموزش هوش مصنوعی باشند. بااین‌حال به عقیده‌ی تالین باید در این زمینه تلاش کرد زیرا ریسک هوش مصنوعی بالا است. او می‌گوید:

باید جلوتر از زمانه‌ی خود فکر کنیم. درصورتی‌که منافع هوش مصنوعی با منافع انسان مشترک نباشد، تولید آن خطای غیرقابل جبران و وحشتناکی خواهد بود.

تالین در جلسه‌ای با شان ایگرتایگ پژوهشگر ژنوم (رئیس اجرایی CSER) و ماتیس ماس، پژوهشگر سیاست هوش مصنوعی در دانشگاه کپنهاگ به بحث در مورد این موضوع پرداخت. آن‌ها در مورد ایده‌ی هوش مصنوعی در مقابل بلاک‌چین و همچنین در مورد بازی آنلاین ویدئویی به‌نام Universal PaperClips بحث کردند.

این بازی با اجرای سناریوی کتاب بوستروم از مخاطب می‌خواهد برای ساخت گیره‌های کاغذی به‌صورت پیوسته روی ماوس خود کلیک کند. این بازی هیجان‌انگیز یا جذاب نیست اما به مخاطب نشان می‌دهد چرا یک ماشین برای تولید کالاهای دفتری به‌دنبال راه‌های مناسب‌تری است.

آن‌ها در این جلسه در مورد مسائل بزرگ‌تری هم صحبت کردند. هدف اصلی پژوهش امنیت هوش مصنوعی، ساخت ماشین‌هایی است که به‌گفته‌ی هو پرایس، فیلسوف کمبریج و بنیان‌گذار CSER، از نظر اخلاقی و شناختی ابرانسان یا فوق انسان باشند. در این جلسه سؤال‌های دیگری هم مطرح شد: اگر نخواهیم هوش مصنوعی بر ما غلبه کند، ما می‌توانیم بر آن غلبه کنیم؟ به‌بیان‌دیگر، آیا هوش مصنوعی از حقوقی برخوردار است؟ به‌گفته‌ی تالین، لازم نیست جنبه‌ی انسانی برای هوش مصنوعی قائل شد. معمولا افراد هوش را با هوشیاری یا خودآگاهی اشتباه می‌گیرند. چنین سوءبرداشتی بسیاری از پژوهشگرهای هوش مصنوعی را آزار می‌دهد. برای مثال تالین می‌گوید:

هوشیاری یکی از ابعاد جانبی هوش مصنوعی است؛ برای مثال یک ترموستات را در نظر بگیرید. از هوشیاری برخوردار نیست؛ اما اگر در اتاقی باشید که به دمای منفی ۳۰ درجه تنظیم شده باشد، مخالفت یا دشمنی با آن منطقی نیست.

ایگرتایگ اضافه می‌کند:

 نگرانی در مورد هوشیاری هم جایگاه خود را دارد؛ اما درصورتی‌که در ابتدا چالش‌های امنیتی را حل نکنیم، فرصتی برای نگرانی در مورد هوشیاری نخواهیم داشت.

 به‌طورکلی این پیش‌فرض‌ها و سؤال‌ها در مورد آینده‌ی هوش مصنوعی وجود دارد. برای مثال هوش مصنوعی چه شکلی به خود خواهد گرفت؟ آیا باید نگران یک نوع هوش مصنوعی بود یا ارتشی از آن‌ها؟ به‌گفته‌ی تالین، مسئله‌ی مهم، کاری است که هوش مصنوعی انجام می‌دهد و او معتقد است فعلا کارهای هوش مصنوعی در حیطه‌ی اختیار و قدرت انسان است.

مقاله رو دوست داشتی؟
نظرت چیه؟
داغ‌ترین مطالب روز
تصویر هوش مصنوعی زن جوان در حال مرور بهترین وبسایت های کاریابی با لپتاپ
بهترین سایت های فریلنسری ایرانی و خارجی ۱۴۰۴

فریلنسرها می‌توانند با پلتفرم‌های خارجی و ایرانی، از مهارت‌های خود درآمد داشته باشند.

35
1 روز قبل
راهنمای خرید ساعت هوشمند
بهترین مچ بند و ساعت هوشمند بازار ایران [تابستان ۱۴۰۴]

برای رصد فعالیت‌های ورزشی و ازدست‌ندادن تماس‌ها و کنترل راحت‌تر گوشی، در این راهنمای خرید ساعت هوشمند سراغ بهترین گزینه‌های موجود در بازار رفته‌ایم.

206
1 روز قبل
گلکسی S24 پلاس در دست
اپل این ۳ گوشی اندرویدی را از مردم می‌خرد و به آ‌ن‌ها آیفون می‌فروشد

اپل طرح تعویض و خرید اعتباری آیفون را به‌روز کرد و سه گوشی جدید به این طرح اضافه شدند.

103
1 روز قبل
 بهترین برنامه‌ های مترو تهران
نقشه، زمان حرکت قطارها و بهترین برنامه‌ های مترو تهران در سال ۱۴۰۴

اگر به‌دنبال سفری آسان، دقیق و بدون سردرگمی با مترو تهران هستید، این راهنمای ۱۴۰۴ همان چیزی‌ است که باید پیش از حرکت بخوانید.

37
حدود 2 ساعت قبل
بیوگرافی نیکلا تسلا
سرگذشت نیکولا تسلا؛ نابغه‌ای که تاریخ در حقش کم‌لطفی کرد

فراتر از رقابت با ادیسون؛ با زندگی پر فراز و نشیب، وسواس‌ها و ایده‌های انقلابی نیکولا تسلا، نابغه‌ای که تاریخ مدیون اوست، آشنا شوید.

116
1 روز قبل
بهترین گوشی‌های میان‌رده سامسونگ
بهترین گوشی میان رده سامسونگ [تیر ۱۴۰۴]

در مقاله‌ی پیش‌‌رو با در نظر گرفتن امکانات مناسب در مقابل قیمت مقرون‌به‌صرفه، بهترین گوشی‌های میان‌رده‌ی سامسونگ را معرفی می‌کنیم.

145
26 دقیقه قبل
گیاه آویشن
آویشن چه خواصی دارد؟

آویشن گیاهی دارویی و از اجزای اصلی آشپزی است که فواید مختلفی مانند مبارزه با آکنه، تنظیم مخاط و مبارزه با عفونت‌ را ارائه می‌دهد.

34
1 روز قبل
تبلیغات
DN-DNShatel

نظرات

تبلیغات
D7-zoomitproduct
آخرین ویدیوها
پخش از رسانه
عکس شادان و مهرداد و هادی درکنارهم برای پوشش رویداد سامسونگ
نسخه آفلاین پوشش زنده زومیت از رویداد گلکسی آنپکد ۲۰۲۵
02:11:16
بررسی وان‌پلاس ۱۳ اس؛ این گوشی کوچولو رکورد زومیت رو زد!
بررسی وان‌پلاس ۱۳ اس؛ این گوشی کوچولو رکورد زومیت رو زد!
00:12:57
تصویر بهزاد در کنار آیکون ابزارهای هوش مصنوعی مثل چت‌جی‌پی‌تی
با هوش مصنوعی سرعتت رو دو برابر کن!
00:23:15
تصویر رندرهای گلکسی زد فلیپ ۷ و زد فولد ۷
هرآنچه از رویداد معرفی گلکسی زد فولد۷ سامسونگ انتظار داریم
00:10:24
گفتگو زومیت با دیجی کالا
گفتگو زومیت با مدیرعامل دیجی‌کالا: ظرفیت جهش ۱۰ برابری داریم
01:16:00
‍زومکست پست
گفتگو با مدیرعامل پست؛ نیاز به سرمایه‌گذاری و رفع تحریم‌ها
01:09:00
شیرجه‌ای به عمق؛ blu Deep Dive گزارش اولین رویداد باگ‌بانتی بلوبانک سامان
شیرجه‌ای به عمق؛ blu Deep Dive گزارش باگ‌بانتی بلوبانک سامان
00:10:26
نگاه نزدیک به iOS26؛ شیشه‌ای‌ترین سیستم عامل اپل!
نگاه نزدیک به iOS26؛ شیشه‌ای‌ترین سیستم عامل اپل!
00:20:26
تو رویداد WWDC 2025 اپل چه خبر بود؟ خلاصه و مفید
تو رویداد WWDC 2025 اپل چه خبر بود؟ خلاصه و مفید
00:13:23
شنوتو: چهارده هزار پادکستر فارسی
مدیرعامل شنوتو: حدود ۱۴ هزار عنوان پادکستر فارسی فعال است
00:48:57
۵ دلیل برتری مانیتور اولتراواید
۵ دلیل برتری مانیتور اولتراواید + آنباکس ROG Swift PG35V
00:11:02
عکس گلکسی اس ۲۴ اف ای در دستان بهزاد
بررسی طولانی مدت گلکسی S24 FE
00:10:44
عکس تبلت‌های شیائومی پد ۷ و پد ۷ پرو در کنار هم
بررسی تبلت‌های شیائومی پد ۷ و پد ۷ پرو
00:18:54
ضبط مکالمه گوشی سامسونگ
فعال‌سازی ضبط مکالمه سامسونگ؛ آموزش صفر تا صد
00:13:56
عکسی از وان یو آی ۸ در گوشی اس ۲۵ اولترا
نگاهی به تمام ویژگی‌های جذاب وان یو آی ۸
00:08:02
آب میوا
نمایشگاه آگروفود؛ مصاحبه با مدیرعامل برند میوا
00:15:22
وقتی ناتینگ تجربه می‌فروشه! بررسی ناتینگ فون ۳ای پرو
وقتی ناتینگ تجربه می‌فروشه! بررسی ناتینگ فون ۳ای پرو
00:13:55
باریکی به چه قیمتی؟ بررسی گلکسی اس۲۵ اج
باریکی به چه قیمتی؟ بررسی گلکسی اس۲۵ اج
00:11:09
مالیات در کمین است
چرا کسب‌وکارهای محلی به حاشیه رانده شدند؟
00:56:01
فروش آنلاین لباس‌های ایرانی اصیل در بانی‌مد
بانی‌مد میزبان بیش از هزار برند ایرانی اصیل
00:45:24
عکس بهزاد در کنار تبلت‌های شیائومی پد ۷ و پد ۷ پرو
آنباکس تبلت‌های شیائومی؛ پد ۷ و پد ۷ پرو
00:12:19
رویداد گوگل I/O در ۱۸ دقیقه! از ترجمه فارسی تا عینک واقعیت ترکیبی 🥽✨
رویداد گوگل I/O در ۱۸ دقیقه!
00:18:44
زومکست با جاب ویژن
هوش مصنوعی، جایگزین نیروی انسانی؟
01:04:35
عکس گلکسی اس ۲۵ اج در تمام رنگ‌ها
آنباکس گلکسی اس ۲۵ اج؛ باریک و سبک و دوست داشتنی
00:12:54
عکس تبلت‌های گلکسی تب S10 FE و گلکسی تب S10 FE Plus
بررسی گلکسی تب S10 FE و FE پلاس
00:14:14
زومکست فضاهای اشتراکی
گفتگو زومیت با مدیران انجمن فضاهای اشتراکی
00:44:45
یک شب دو گوشی؛ گلکسی اس۲۵ اج و اکسپریا ۱ مارک ۷ معرفی شد
یک شب دو گوشی؛ گلکسی اس۲۵ اج و اکسپریا ۱ مارک ۷ معرفی شد
00:07:40
عکس بهزاد در حال ساختن اپل اکانت
آموزش جامع ساخت اپل آیدی؛ قدم به قدم
00:25:22
پادشاه جدید عکاسی موبایل؟ بررسی شیائومی ۱۵ اولترا 🐲📸
پادشاه جدید عکاسی موبایل؟ بررسی شیائومی ۱۵ اولترا 🐲📸
00:15:17
عکس سعیده اسلامیه در کنار سحر بختیاری از دیجی‌کالا
صفر تا صد دیجی‌کالا ادز؛ مصاحبه با سحر بختیاری
00:41:20
بررسی بلندمدت آیفون ۱۶ پرو مکس 🤑 با این قیمت ارزش خرید داره؟
بررسی بلندمدت آیفون ۱۶ پرو مکس 🤑
00:09:06
تغییرات باورنکردنی در راه اندروید! 🤯🔥
تغییرات باورنکردنی در راه اندروید! 🤯🔥
00:14:52
کاور زومکست اسنپ فود
گفتگو مفصل زومیت با رئیس هیأت مدیره اسنپ‌فود
00:55:58
بررسی لپ‌تاپ دانشجویی Asus Vivobook S14
بهترین لپ‌تاپ دانشجویی وجود ندار... بررسی Asus Vivobook S14
00:11:41
عکس گوشی‌های گلکسی A26 و A36 سامسونگ در کنارهم
بررسی گوشی‌های گلکسی A26 و A36 سامسونگ
00:16:53
گفتگو زومیت با مدیرعامل فیلمنت
گفتگو با مدیرعامل فیلم‌نت؛ از نتفلیکس بهتر خواهیم شد!
00:57:47
تصویر ماشین‌ لباسشویی LG WT1310YJ
خشک‌شویی رو بیار خونه‌! ماشین لباس‌شویی Wash Tower LG
00:05:50
جنجالی‌ترین ویژگی ویندوز ۱۱؛ نگاه نزدیک به Recall مایکروسافت 👀
جنجالی‌ترین ویژگی ویندوز ۱۱؛ نگاه نزدیک به Recall مایکروسافت
00:13:09
عکس گوشی شیائومی ۱۵ اولترا در کنار جعبه دستگاه
آنباکس و نگاه نزدیک شیائومی ۱۵ اولترا
00:12:44
عکس گوشی آیفون ۱۶ ای در دست
بررسی آیفون ۱۶ ای؛ ارزون‌ترین آیفون سال
00:13:37
پرچمدار میان‌رده‌های سامسونگ؛ بررسی گلکسی A56
پرچمدار میان‌رده‌های سامسونگ؛ بررسی گلکسی A56
00:12:58
کولر بادی یا واترکولینگ؟ بهترین راه خنک کردن پردازنده کدومه؟ 🌡️
کولر بادی یا واترکولینگ؟ بهترین راه خنک کردن پردازنده کدومه؟
00:16:44
عکس بهزاد با آیکون‌های گرد شده iOS19
iOS19 قراره چه فرقی کنه؟ نگاهی به تمام تغییرات احتمالی
00:10:59
اوضاع عجیب سامسونگ! 💩
اوضاع عجیب سامسونگ! 💩
00:07:04
آیفون ۱۷ این شکلیه؟
سری آیفون ۱۷ اینجاست! 🔥 داغ داغ از پرینترسه‌بعدی درومده
00:17:17
زومکست مصاحبه با معاون ارشد فروشگاه مرکزی لنوو و مدیرعامل شرکت الماس پهنه رایانه پایتخت
لنوو در ایران؛ همه‌چیز درباره لپ‌تاپ‌های لنوو و خدمات آن
00:17:54
چرا نباید گلکسی اس ۲۵ اولترا بخریم؟ ⛔
چرا نباید گلکسی اس ۲۵ اولترا بخریم؟ ⛔
00:27:52
جعبه گشایی آیفون ۱۶ ای اپل
ارزون‌ترین آیفون اپل اینجاست! 😏 جعبه‌گشایی iPhone 16e
00:12:01
مقایسه دوربین بزرگ زومیت
بزرگ‌ترین مقایسه دوربین زومیت 🔥 کی حرف آخرو می‌زنه؟
00:16:44
زوم کست آچاره
آچاره؛ داستان استارتاپی که همه کارات رو انجام می‌ده!
00:42:40
44 مطلب
کالکشن بیوگرافی
بیوگرافی بزرگان علم و فناوری با زندگی و دستاوردهای استادان نوآوری و شکل‌دهندگان دنیای علم و تکنولوژی آشنا شوید.
59 مطلب
لوگوی اندروید
ترفند ها و آموزش های اندروید در مجموعه مطالعاتی آموزش اندروید با برترین و کاربردی‌ ترین ترفند های اندروید آشنا خواهید شد و صفر تا صد تبلت و گوشی اندرویدی خود را آموزش می‌بینید.
14 مطلب
طرح مفهومی سخت‌افزار
شیرجه در سخت افزار با مقالات سخت‌افزاری زومیت در دریای هیجان‌انگیز سخت‌افزار از CPU و GPU تا هوش مصنوعی و شرکت‌های فناوری پیشرو شیرجه بزنید.
18 مطلب
پیکان زرد در کنار کنسول گیم‌بوی و نوکیا 6600
ماشین زمان با مقالات «ماشین زمان» به گذشته دنیای فناوری سفر کنید و همراه ما محصولات و تکنولوژی‌های نوستالژیک را مرور کنید.
47 مطلب
کره لاس وگاس درکنار شاتل فضایی
مهندسی بی‌نهایت داستان ساخت پیچیده‌ترین و خلاقانه‌ترین سازه‌های مهندسی دنیا، از آسمان‌خراش‌های بلند تا شاتل‌های فضایی را در بخش مهندسی بی‌نهایت دنبال کنید.

مقایسه قیمت و مشخصات 🛒

پنل جلو و پشت گوشی موبایل گلکسی A36 سامسونگ ارغوانی / Samsung Galaxy A36پنل جلو و پشت گوشی موبایل گلکسی A36 سامسونگ ارغوانی / Samsung Galaxy A36
3.9
گلکسی A36 سامسونگ

از22,066,000تومان

پنل جلو و پشت گوشی موبایل گلکسی A36 سامسونگ سبز نعنایی / Samsung Galaxy A36پنل جلو و پشت گوشی موبایل گلکسی A36 سامسونگ سبز نعنایی / Samsung Galaxy A36
3.8
گلکسی A26 سامسونگ

از17,499,000تومان

پنل جلو و پشت گوشی موبایل گلکسی A56 سامسونگ زیتونی / Samsung Galaxy A56پنل جلو و پشت گوشی موبایل گلکسی A56 سامسونگ زیتونی / Samsung Galaxy A56
3.9
گلکسی A56 سامسونگ

از25,691,000تومان

پنل جلو و پشت گوشی موبایل پوکو X7 شیائومی مشکی و زرد / Xiaomi Poco X7پنل جلو و پشت گوشی موبایل پوکو X7 شیائومی مشکی و زرد / Xiaomi Poco X7
4.1
پوکو X7 شیائومی

از20,300,000تومان

پنل جلو و پشت گوشی موبایل پوکو X7 پرو شیائومی مشکی و زرد / Xiaomi Poco X7 Proپنل جلو و پشت گوشی موبایل پوکو X7 پرو شیائومی مشکی و زرد / Xiaomi Poco X7 Pro
4.7
پوکو X7 پرو شیائومی

از27,289,000تومان

پنل جلو و پشت گوشی موبایل گلکسی اس 25 سامسونگ سرمه ای / Samsung Galaxy S25پنل جلو و پشت گوشی موبایل گلکسی اس 25 سامسونگ سرمه ای / Samsung Galaxy S25
4.3
گلکسی اس 25 سامسونگ

از99,000,000تومان

پنل جلو و پشت گوشی موبایل آیفون 16 اپل آبی / Apple iPhone 16پنل جلو و پشت گوشی موبایل آیفون 16 اپل آبی / Apple iPhone 16
3.6
آیفون 16 اپل

از64,393,000تومان

پنل جلو و پشت گوشی موبایل آیفون 16 پرو مکس اپل مشکی / Apple iPhone 16 Pro Maxپنل جلو و پشت گوشی موبایل آیفون 16 پرو مکس اپل مشکی / Apple iPhone 16 Pro Max
3.7
آیفون 16 پرو مکس اپل

از104,128,000تومان

پنل جلو و پشت گوشی موبایل آیفون 16 پرو اپل بژ / Apple iPhone 16 Proپنل جلو و پشت گوشی موبایل آیفون 16 پرو اپل بژ / Apple iPhone 16 Pro
4.4
آیفون 16 پرو اپل

از80,284,000تومان

کنسول بازی پلی استیشن 5 پرو سونی / Sony PlayStation 5 Proکنسول بازی پلی استیشن 5 پرو سونی / Sony PlayStation 5 Pro
4.1
اپل ایرپادز 4 به همراه کیساپل ایرپادز 4 به همراه کیس
3
اپل ایرپاد 4

از10,180,000تومان

پنل جلو و پشت گوشی موبایل گلکسی A55 سامسونگ آبی روشن / Samsung Galaxy A55پنل جلو و پشت گوشی موبایل گلکسی A55 سامسونگ آبی روشن / Samsung Galaxy A55
4.2
گلکسی A55 سامسونگ

از26,200,000تومان

پنل جلو و پشت گوشی موبایل گلکسی A15 سامسونگ سرمه ای تیره / Samsung Galaxy A15پنل جلو و پشت گوشی موبایل گلکسی A15 سامسونگ سرمه ای تیره / Samsung Galaxy A15
4.4
گلکسی A15 سامسونگ

از12,600,000تومان

پنل جلو و پشت گوشی موبایل پوکو X6 پرو شیائومی مشکی / Xiaomi Poco X6 Proپنل جلو و پشت گوشی موبایل پوکو X6 پرو شیائومی مشکی / Xiaomi Poco X6 Pro
4.3
پوکو X6 پرو شیائومی

از25,839,000تومان

پنل جلو و پشت گوشی موبایل پوکو X6 شیائومی سفید / Xiaomi Poco X6پنل جلو و پشت گوشی موبایل پوکو X6 شیائومی سفید / Xiaomi Poco X6
4
پوکو X6 شیائومی

از24,301,540تومان

پنل جلو و پشت گوشی موبایل پوکو F6 شیائومی تیتانیوم / Xiaomi Poco F6پنل جلو و پشت گوشی موبایل پوکو F6 شیائومی تیتانیوم / Xiaomi Poco F6
4.6
پوکو F6 شیائومی

از29,999,000تومان

پنل جلو و پشت گوشی موبایل پوکو F6 پرو شیائومی مشکی / Xiaomi Poco F6 Proپنل جلو و پشت گوشی موبایل پوکو F6 پرو شیائومی مشکی / Xiaomi Poco F6 Pro
4.5
پوکو F6 پرو شیائومی

از37,095,000تومان

گوشی موبایل گلکسی زد فولد 6 سامسونگ صورتی / Samsung Galaxy Z Fold6گوشی موبایل گلکسی زد فولد 6 سامسونگ صورتی / Samsung Galaxy Z Fold6
4.1
پنل جلو و پشت گوشی موبایل گلکسی زد فلیپ 6 سامسونگ زرد / Samsung Galaxy Z Flip6پنل جلو و پشت گوشی موبایل گلکسی زد فلیپ 6 سامسونگ زرد / Samsung Galaxy Z Flip6
3.9
پنل جلو و پشت گوشی موبایل گلکسی A35 سامسونگ بنفش روشن / Samsung Galaxy A35پنل جلو و پشت گوشی موبایل گلکسی A35 سامسونگ بنفش روشن / Samsung Galaxy A35
4.3
گلکسی A35 سامسونگ

از22,099,000تومان

پنل جلو و پشت تبلت آیپد پرو 13 اپل نسخه 2024 مشکی / Apple iPad Pro 13 2024پنل جلو و پشت تبلت آیپد پرو 13 اپل نسخه 2024 مشکی / Apple iPad Pro 13 2024
3.9
موبایل آیفون 13 اپل / Apple iPhone 13موبایل آیفون 13 اپل / Apple iPhone 13
4.1
آیفون 13 اپل

از47,500,000تومان

گوشی موبایل ردمی نوت 13 پرو شیائومی / Xiaomi Redmi Note 13 Pro سفیدگوشی موبایل ردمی نوت 13 پرو شیائومی / Xiaomi Redmi Note 13 Pro سفید
4.4
پنل جلو و پشت گوشی موبایل گلکسی اس 24 سامسونگ زرد / Samsung Galaxy S24پنل جلو و پشت گوشی موبایل گلکسی اس 24 سامسونگ زرد / Samsung Galaxy S24
4.4
گلکسی اس 24 سامسونگ

از77,800,000تومان

موبایل آیفون 13 پرو مکس اپل آبی / APPLE IPHONE 13 PRO MAX Sierra blueموبایل آیفون 13 پرو مکس اپل آبی / APPLE IPHONE 13 PRO MAX Sierra blue
3.5
آیفون 13 پرو مکس اپل

از73,777,700تومان

گوشی موبایل آیفون 13 پرو اپل / Apple iPhone 13 Pro آبیگوشی موبایل آیفون 13 پرو اپل / Apple iPhone 13 Pro آبی
4.1
آیفون 13 پرو اپل

از64,999,000تومان

Xiaomi Poco X4 Pro 5G / گوشی موبایل پوکو X4 پرو شیائومی 5G خاکستریXiaomi Poco X4 Pro 5G / گوشی موبایل پوکو X4 پرو شیائومی 5G خاکستری
3.7
پوکو X4 پرو شیائومی 5G

از17,999,000تومان

گوشی موبایل گلکسی A54 سامسونگ / Samsung Galaxy A54 سبز لیموییگوشی موبایل گلکسی A54 سامسونگ / Samsung Galaxy A54 سبز لیمویی
4.3
گلکسی A54 سامسونگ

از26,999,000تومان

گوشی موبایل آیفون 15 پرو اپل / Apple iPhone 15 Pro تیتانیومگوشی موبایل آیفون 15 پرو اپل / Apple iPhone 15 Pro تیتانیوم
4.1
آیفون 15 پرو مکس اپل

از119,890,000تومان

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات