آیا دستیار شخصی دیجیتال مسئولیت اخلاقی دارد؟

امروزه، هوش مصنوعی در زندگی بیشتر انسان‌ها نقش مهمی ایفا می‌کند و راحتی را برای آن‌ها به‌ارمغان می‌آورد. وجود هوش مصنوعی رباتیک کوچکی که می‌تواند آب‌و‌هوا را پیش‌بینی کند؛ موزیک درخواستی را پخش کند؛ با فرمان صوتی کاربر چراغ‌قوه‌ی موبایل را خاموش و روشن کند؛ و حتی در اوقات تنهایی با انسان به گفت‌و‌گو بنشیند. اسپیکر هوشمند گوگل‌هوم و اکو آمازون نمونه‌هایی از این دستیارهای صوتی هوشمند هستند.

ممکن است کاربرانی که تنها زندگی می‌کنند، این دستیارهای صوتی هوشمند را به‌عنوان مونس و فرد معتمد خود بدانند و حتی انتظار داشته باشند هوش مصنوعی در مواقعی به‌کمک آن‌ها بیاید. برای نمونه، اگر مورد مشکوکی مشاهده کرد، با پلیس تماس بگیرد. با تمام این‌ها، آیا می‌توانیم به هوش مصنوعی اعتماد کنیم تا تماس‌های مناسب را به‌نفع انسان انجام دهد؟ مزایا و معایب اعتماد به هوش مصنوعی و ورود آن به حریم شخصی چیست؟

در وهله‌ی نخست، کمتر کسی حاضر است کنترل حریم خصوصی خود را به دستیار دیجیتال هوشمند واگذار کند و هیچ کاربری حاضر نیست تصمیم‌گیری هوش مصنوعی به‌جای خودش را شاهد باشد. هرچند ممکن است انسان‌ها نیز در تصمیم‌گیری دچار مشکل شوند یا گاهی اتخاذ تصمیمی برای انسان نیز دشوار باشد، هرگز حاضر نیستند به هوش مصنوعی اجازه‌ی ورود به حریم خصوصی خود را دهند. بی‌شک حریم خصوصی بیشتر از همه‌چیز برای کاربران اهمیت دارد.

درحال‌حاضر، کاربران با دستیارهای هوشمند صوتی و فناوری هوش مصنوعی مشکلی ندارند و باید امیدوار بود که هرگز مشکلی پیش نیاید؛ اما به‌راستی گوگل‌هوم اجازه دارد با پلیس تماس بگیرد و جنایت یا سوءاستفاده شدن از چیزی یا کسی را گزارش دهد؟ این بحث بسیار گسترده است؛ چراکه وقتی درباره‌ی ارزش‌ها حرف می‌زنیم، مسائل بسیار پیچیده و فراوان دیگری مانند خشونت نیز مطرح می‌شود. بااین‌حال، شاید مسئله مهم‌تر این باشد که وقتی هوش مصنوعی بتواند اطلاعاتی را درباره فردی گزارش کند؛ یعنی از هویت فرد آگاه است.