دانشمندان زیادی در جهان برای توسعه‌ی سیستم‌های هوشمند تلاش می‌کنند، یکی از جدی‌ترین این تلاش‌ها، تلاش برای توسعه‌ی سیستم‌هایی برای تشخیص و بیان احساسات است که بوسیله‌ی آن، سیستم‌ها بتوانند حالات و بیان عواطف انسان‌ها را تشخیص داده و احساسات خود را به شکلى که براى انسان‌ها قابل فهم باشد، بیان کنند. همراه با این تلاش‌ها، همواره این نگرانی وجود داشته است که اگر احساسات ماشین‌های هوشمند شبیه عواطف ما انسان‌ها شود، چه اتفاقی رخ خواهد داد؟ و در حالت بدتر در مورد بروز احساسات برنامه‌ریزی نشده و بدون پیش‌بینی قبلی در سیستم‌های «خود هوشمند» چطور؟ اگر یک روبات از میان هزاران هزار روباتى که امروزه توسط انسان‌ها به کار گرفته شده‌اند، بدون برنامه‌ریزى و پیش‌بینى قبلى «احساس» کند یا «بفهمد»، تمام ما آدم‌ها دچار یک وضعیت بحرانى معرفتى و موقعیت حاد اجتماعى خواهیم شد. لازم نیست آن روبات به تهدید فیزیکى بخشى از جامعه بشرى بپردازد، تا «نگرانى» ایجاد کند. نگرانى مى‌تواند آن هنگامی بوجود آید که آن «چیز» دریابد که مثلاً عاشق «چیز» دیگرى است و یا بفهمد که در حال «استثمار و بهره کشى شدن» است!
جدای از گیجی و حیرتی که با مشاهده‌ی یک ماشین مثلا «براستی غمگین از دوری یک انسان» می‌تواند در سیستم معرفتی انسان شکل گیرد، مساله می‌تواند حتی به حالتی بغرنج‌تر نیز کشیده شود: آیا اگر ماشینى به «خودهوشمندى» برسد الزاماً همان مکانیسم معرفتى بشر را دنبال خواهد کرد؟ آیا تضمینى هست که چونین چیز خود معرفت‌سازى نتواند حالات روانى جدید و ناشناخته اى را تجربه کند که انسان ها حتى بالقوه هم از درک آن عاجز باشند؟! اصلا چه الزامى هست که این ماشین‌های «خود هوشمند» براى همیشه تابع و فرمانبر ما بمانند؟
فرض کنید که برای غلبه بر این مشکل و مشکلات غیرقابل پیش‌بینی دیگر، تصمیم بگیریم و بتوانیم که ارزش هاى معنوى و اخلاقى را به آنها تزریق کنیم، در این صورت اولین سوالی که خودنمایی می‌کند این است: « با توجه به ناهمگونى هاى عمیق فرهنگى، دینى، اخلاقى و معنوى تمدن بشرى، کدام ارزش‌های معنوی و اخلاقی را باید به آنها تزریق کنیم؟؟» برای ارزش‌های ناهمگون و حتی در برخی موارد متضاد (همچنان که در اعمال و افکار بشر نیز این موارد را شاهد هستیم)، چه راهى توسط یک مصنوع هوشمند باید در پیش گرفته شود؟ مبنا کدام است؟ اصلا چه لزومى دارد که علاوه بر درگیری‌های بشری درگیر ناهمگونى‌هاى هوش مصنوعى نیز شویم؟ آیا به اندازه‌ی کافى با تکنولوژی ابتدایی امروزه دچار مشکل نیستیم؟ آیا تکنولوژی امروزه و مشکلات ناشی از آن، به قدر کافی عرصه‌ی زندگی را بر روی ما تنگ نکرده‌اند و آزادی‌های اصیل ما را از ما نگرفته‌اند؟ آیا به اندازه‌ی کافی از ذات و اصل خود دور نشده‌ایم؟ یا مى‌خواهیم دقیقا خدا بشویم؟ اگر آری، به چه قیمتی؟ و چه نوع خدایی‌ای؟ آیا هیچ‌وقت به خدایی زبون که فقط قدرتش بر روی یک مخلوق بچربد و زندگی‌اش در بدترین وضع ممکن باشد، فکر کرده‌اید؟ و هزاران آیای دیگر… . راستی، داریم به کجا می‌رویم؟
شاید مطالب فوق برای شما به مشابه یک داستان علمی-تخیلی باشد و هرگز «احتمال»ی برای رخداد یک همچنین مساله‌ای قایل نشوید؛ ولی متاسفانه کسانی که در بحبوحه‌ی کار قرار دارند و سرعت رشد تکنولوژی و روش‌های کور بکار گرفته شده توسط تکنولوژی غیر مسوول ( و یا در واقع گردانندگان و پیش‌برندگان مسوولیت‌ناپذیر تکنولوژی) را می‌بینند، «امکان» رخداد چنین فجایعی را پیش‌بینی می‌کنند! برای مثال به خبری که چندی قبل در روزنامه‌ها به چاپ رسید و در مورد اندیشه‌ای بود که زمانی دست‌ناپذیر می‌نمود، توجه کنید: «محققان در آمریکا روبات ساده اى طراحى کرده اند که مى تواند با استفاده از قطعات یدکى، نمونه‌هاى عینى خود را تولید کند. هدف غایی این طرح طراحى ربات‌هایى است که در صورت از کار افتادن بعضى از قطعات، مى توانند خود را تعمیر کنند یا حتى براى انجام وظیفه‌اى که برایش تعیین شده خود را بازآرایى کنند یا اینکه اگر لازم باشد براى خود دستیارانى بسازند. این ربات‌ها از واحدهای مستقلی ساخته مى‌شوند که هر واحد مجهز به کدهای حاوى دستورالعمل ساخت روبات، اتصال‌هاى الکتریکى براى برقرارى تماس با واحدهاى کنارى و آهن رباهایى براى چسبیدن به سایر واحدهاست. در مدت زمانى کمتر از دو دقیقه، این روبات ساده مى‌تواند نمونه‌ی عینى خود را تولید کند و نمونه‌ی تولید شده نیز قادر است نمونه‌هاى تازه‌اى بسازد.» اگر از زاویه‌ی دیگر به موضوع نگاه کنیم، می‌بینیم که در حال خلق مخلوقاتی هستیم، که همزمان با خلق آنها، قوانین آفرینش را نیز به آنها می‌آموزیم. خوشبختانه چیزی که این وسط فقدان آن به خوبی حس می‌شود، این است که این ربات «نمی‌فهمد» که چه قدرتی در اختیار دارد! در ادامه‌ی خبر نیز چنین می‌خوانیم: «این تنها یک مدل نمایشى از اندیشه اى جسورانه است!!!!».
آیا روزی خواهد رسید که اگر به پشت سرمان و تکنولوژی موجود در حال حاضر نگاه کنیم، آرزو کنیم که ای کاش تکنولوژی اینقدر پیشرفت نمی‌کرد؟
(در نوشتن مطالب فوق از نوشته‌های «تاملات هوشمندانه به شیوه‌ی مصنوعی» به قلم محمود فرجامی، «چالش‌های معنوی و اخلاقی هوش مصنوعی» نوشته‌ی آرش اشراق، «نگاهی به گذشته و آینده‌ی ربات‌ها؛ برده‌های دوست‌داشتنی»، به قلم مهشید گوهری و خبر «رباتی که تولید مثل می‌کند، ساخته شد» به نقل از بی‌بی‌سی، به ترتیب از شماره‌های ۳۳۷، ۳۳۷، ۴۷۵ و ۴۷۵ روزنامه‌ی شرق، بهره گرفته شده است.)