بر پایه گزارش Science Alert کارشناسان یک آزمایش فکری با سیستم فرضی SantaNet انجام دادند، که هدف آن ارسال هدایا به کودکان خوب در سراسر جهان در یک شب است.
پژوهشگران پیدا کرده اند، که این ناگواری در مرحله تعیین اینکه کدام بچه ها خوب و کدام حرف گوش نکن شناخته می شوند، وجود دارد. این هدف از طریق یک شبکه بازبینی پنهانی در مقیاس بزرگ که رفتار کودکان را در طول سال کنترل می کند، محقق می شود. SantaNet با قضاوت اخلاقی خود هدایت می شود که می تواند منجر به تبعیض، نابرابری گسترده و نقض حقوق بشر شود. افزون بر این، این شبکه می تواند کودکان را به رفتارهای بد تشویق کند تا از این طریق بار خود را کاهش دهد یا رفتار خوب را افزایش دهد.
با وجود نزدیک به دو میلیارد کودک زیر 14 سال در جهان، SantaNet می تواند کل زمین را به یک کارخانه بزرگ اسباب بازی تبدیل کند. این مشکل که «مشکل گیره کاغذ» نامیده می شود، نخستین بار از سوی پژوهشگر هوش مصنوعی، نیک بستروم مطرح شد و اظهار داشت که هوش مصنوعی طراحی شده برای افزایش کارایی تولید گیره کاغذ، هدف خود را بیش از حد عینی می گیرد.
افزون بر این، هنگامی که کشورها از پرواز بدون مانع هواپیماهای بدون سرنشین در فضای هوایی خود جلوگیری می کنند، ارسال هدایا در شب کریسمس با کمک ارتش پهپادها می تواند به رویارویی آشکار منجر شود. همچنین SantaNet می تواند در برابر هک شدن توسط گروه های تروریستی آسیب پذیر باشد. چالش دیگر تعامل با هوش مصنوعی است که روی تغییر آب و هوا ، امنیت غذایی و آب و تخریب اقیانوس کار می کند. این می تواند منجر به درگیری یا همکاری با هدف کاهش جمعیت جهان شود.
