موفقیت مداوم هوش مصنوعی کاربردی و شبیه سازی شناختی ، همانطور که در بخشهای قبلی این مقاله توضیح داده شد ، مطمئن است. با این حال ، هوش مصنوعی قوی - یعنی هوش مصنوعی که هدف آن تکثیر توانایی های فکری انسان است - همچنان بحث برانگیز است. ادعاهای مبالغه آمیز موفقیت ، در مجلات حرفه ای و همچنین مطبوعات مشهور ، شهرت آن را خدشه دار کرده است. در حال حاضر حتی یک سیستم تجسم یافته که اطلاعات کلی سوسک را نشان می دهد ، گریزان است ، چه برسد به سیستمی که بتواند با یک انسان رقابت کند. دشواری افزایش دستاوردهای متوسط AI را نمی توان مبالغه کرد. پنج دهه تحقیق در زمینه هوش مصنوعی هیچ شواهدی محکم مبنی بر اینکه یک سیستم نماد می تواند سطوح هوش عمومی انسان را آشکار کند ، ارائه نکرده است. ارتباطگران قادر به مدل سازی سیستم عصبی حتی ساده ترین بی مهرگان نیستند. و منتقدان به

 nouvelle AI این دیدگاه را صرفاً عرفانی می داند که رفتارهای سطح بالا شامل درک زبان ، برنامه ریزی و استدلال به نوعی از تعامل رفتارهای اساسی مانند اجتناب از موانع ، کنترل نگاه و دستکاری اشیا به وجود می آید.

با این حال ، این عدم پیشرفت اساسی ممکن است به سادگی گواهی بر دشواری هوش مصنوعی قوی باشد ، نه بر عدم امکان آن. بگذارید به ایده هوش مصنوعی قوی بپردازیم. آیا رایانه احتمالاً می تواند فکر کند؟ نوآم چامسکی پیشنهاد می کند که بحث در این مورد بی معنی است ، زیرا تصمیم گیری خودسرانه این است که آیا استفاده رایج از کلمه Think شامل ماشین ها شود. به گفته چامسکی ، هیچ سوالی واقعی در مورد این که آیا چنین تصمیمی صحیح است یا نادرست وجود ندارد - همانطور که در این مورد که آیا تصمیم ما مبنی بر اینکه هواپیماها پرواز می کنند صحیح است یا تصمیم ما مبنی بر اینکه شنا کردن کشتی ها اشتباه است ، وجود ندارد. به با این حال ، به نظر می رسد که این موضوع بیش از حد ساده می کند. سوال مهم این است که آیا می توان گفت رایانه ها فکر می کنند و اگر چنین است ، رایانه باید از چه شرایطی برخوردار باشد تا بتوان چنین توصیف کرد؟

برخی از نویسندگان آزمون تورینگ را به عنوان تعریفی از هوش ارائه می دهند. با این حال ، تورینگ خود اشاره کرد که رایانه ای که باید به عنوان هوشمند توصیف شود ، اگر نتواند با موفقیت از یک انسان تقلید کند ، در امتحان خود شکست می خورد. به عنوان مثال ، چرا یک ربات هوشمند که برای نظارت بر استخراج ماه طراحی شده است ، باید لزوماً بتواند خود را در مکالمه به عنوان یک انسان نشان دهد؟ اگر یک موجود هوشمند بتواند در آزمون شکست بخورد ، آزمون نمی تواند به عنوان تعریف هوش عمل کند. حتی سوال برانگیز است که آیا قبولی در آزمون واقعاً نشان می دهد که کامپیوتر هوشمند است ، همانطور که نظریه پرداز اطلاعات کلود شانون و پیشگام هوش مصنوعی جان مک کارتی در سال 1956 اشاره کردند. شامل مجموعه کاملی از پاسخ های آماده به همه سالاتی که احتمالاً بازپرس می تواند در بازه زمانی مشخص آزمون بپرسد. مانند پری ، این دستگاه با جستجوی پاسخ های مناسب در یک جدول بزرگ ، به سوالات مصاحبه کننده پاسخ می دهد. به نظر می رسد این اعتراض نشان می دهد که در اصل سیستمی بدون هوش می تواند در آزمون تورینگ قبول شود.

در حقیقت ، هوش مصنوعی هیچ تعریف واقعی از هوش برای ارائه ندارد ، حتی در مورد موارد غیر انسانی. موش ها باهوش هستند ، اما قبل از اینکه محققان بتوانند این میزان موفقیت را بدست آورند ، هوش مصنوعی دقیقاً باید به چه چیزی برسد؟ در نبود یک معیار دقیق منطقی برای زمانی که یک سیستم مصنوعی به عنوان هوشمند حساب می شود ، هیچ راه عینی ای برای تشخیص موفقیت آمیز یا شکست یک برنامه تحقیقاتی هوش مصنوعی وجود ندارد. یکی از نتایج عدم موفقیت هوش مصنوعی در تولید معیار رضایت بخش هوش این است که هر زمان که محققان به یکی از اهداف هوش مصنوعی دست یافتند - به عنوان مثال ، برنامه ای که می تواند مقالات روزنامه ها را خلاصه کند یا قهرمان شطرنج جهان را شکست دهد - منتقدان می توانند بگویند "این هوش نیست! ” پاسخ ماروین مینسکی به مشکل تعریف هوش این است که-مانند تورینگ قبل از او-این که هوش به سادگی نام ما برای هرگونه فرآیند ذهنی حل مسئله است که ما هنوز آن را درک نکرده ایم. مینسکی هوش را به مفهوم "مناطق ناشناخته آفریقا" تشبیه می کند: به محض کشف آن ناپدید می شود.