واحد خبر mobile.ir : طبق گزارشی که به‌تازگی از سوی BBC منتشر شده، جفری هینتون (Geoffrey Hinton)، مهندس 75 ساله گوگل که عموما با عنوان پدر هوش مصنوعی دنیا شناخته می‌شود، از سمت خود استعفا کرد. جفری هینتون بیش از یک دهه در گوگل مشغول به کار بوده و از سال 2012 سرپرستی پروژه‌ای را بر عهده داشته که به نوعی پایه و اساس هوش مصنوعی‌های امروز – مثل ChatGPT – محسوب می‌شود. وی در مصاحبه با نشریه نیویورک تایمز، ضمن ابراز پشیمانی از کار خود، اعلام کرده که هدف اصلی‌اش از استعفا این بوده که بتواند با آزادی عمل بیشتری نسبت به خطرات فزاینده‌ توسعه هوش مصنوعی، به همگان هشدار دهد. وی در گفت‌وگو با BBC، برخی از خطرات بات‌های مکالمه هوش مصنوعی را «وحشتناک» توصیف کرد.

به گفته دکتر جفری هینتون، در حال حاضر بات‌های هوش مصنوعی از ما انسان‌ها هوشمندتر نیستند، اما ممکن است به‌زودی این اتفاق بیفتد. لازم به ذکر است، آنچه امروز در سیستم‌های هوش مصنوعی مثل ChatGPT مشاهده می‌شود، در حقیقت حاصل پژوهش‌های پیشگامانه جفری هینتون در زمینه شبکه‌های عصبی و یادگیری عمیق است. در هوش مصنوعی، شبکه‌های عصبی سیستم‌هایی مشابه مغز انسان هستند، چرا که مثل مغز می‌توانند یاد بگیرند و اطلاعات را پردازش کنند. شبکه‌های عصبی موجب می‌شوند هوش مصنوعی بتواند از تجربه خود بیاموزد (درست مثل انسان). این پدیده یادگیری عمیق یا deep learning نام دارد.

جفری هینتون تابعیت دوگانه بریتانیایی-کانادایی داشته و پیش از آنکه یک دانشمند علوم کامپیوتر باشد، یک روانشناس شناختی است. طبق ادعای وی در گفت‌وگو با BBC، بعید نیست اندوخته‌ دانش ربات‌های مکالمه در آینده نزدیک از سطح اطلاعاتی که یک انسان می‌تواند در مغز خود نگه دارد، فراتر رود. به گفته هینتون، آنچه در حال حاضر شاهدش هستیم آن است که برخی موتورهای هوش مصنوعی (مثل GPT-4) از لحاظ دانش عمومی بالاتر از یک انسان هستند. البته این موتورها در زمینه استدلال و منطق هنوز به انسان نمی‌رسند، اما از پس استدلال‌های ساده برمی‌آیند. هرچند که با در نظر گرفتن نرخ پیشرفت آنها، می‌توان انتظار داشت که با سرعت بالایی در این زمینه پیشرفت کنند و همین مایه نگرانی خواهد بود.

در ابتدا تنها افراد کمی فکر می‌کردند که روزی هوش مصنوعی از بشر هوشمندتر می‌شود. همین افراد کم، بر این باور بودند که با این اتفاق سال‌های زیادی فاصله داریم. خود دکتر جفری هینتون این زمان را بین 30 تا 50 سال آینده می‌دانست. اما به گفته خودش، دیگر این طور فکر نمی‌کند.

جفری هینتون در مصاحبه با نیویورک تایمز به افرادی تحت عنوان «bad actors» یا خرابکارها اشاره کرد که قصد دارند از هوش مصنوعی سوء استفاده کنند. به باور هینتون، این بدترین شکل استفاده از هوش مصنوعی و به نوعی یک سناریوی کابوس‌وار است. به عنوان مثال، هینتون به رییس جمهور یکی از کشورهای قدرتمند اروپا اشاره کرد که می‌تواند تصمیم بگیرد این توانایی را به ربات‌ها بدهد که بتوانند برای خودشان اهداف جانبی تعیین کنند. این روند در نهایت می‌تواند به شکل‌دهی برخی اهداف جانبی خطرناک – مثل من به قدرت بیشتری نیاز دارم – منتهی شود.

هینتون در ادامه می‌افزاید: «من به این نتیجه رسیده‌ام که نوع هوشی که در حال توسعه آن هستیم، از هوشی که داریم بسیار متفاوت است. ما سیستم‌های بیولوژیک هستیم و اینها سیستم‌های دیجیتالند. و تفاوت اصلی آنجاست که در سیستم‌های دیجیتال، شما می‌توانید کپی‌های فراوانی از مجموعه وزن‌های یکسان، یا مدل یکسانی از دنیا داشته باشید. تمام این کپی‌ها می‌توانند جداگانه یاد بگیرند، اما بلافاصله دانش خودشان را به اشتراک بگذارند.» برای درک بهتر این موضوع، فرض کنید هزار نفر در اختیار دارید که هر وقت یک نفر چیزی را یاد می‌گیرد، بقیه نفرات نیز به صورت خودکار آن مطلب را می‌آموزند. به همین دلیل است که دانش این بات‌های مکالمه می‌تواند به مراتب بیشتر از یک انسان باشد.

به گفته مت کلیفورد (Matt Clifford)، رییس هیئت مدیره «آژانس پژوهش و اختراع پیشرفته» در بریتانیا، سخنان جفری هینتون بیانگر آهنگ شتاب گرفتن قابلیت‌های هوش مصنوعی در عصر کنونی است. این تکنولوژی مزیت‌های زیادی دارد، اما دنیا به سرمایه‌گذاری فوری و فراوان در زمینه امنیت و کنترل هوش مصنوعی نیاز مبرم دارد. ناگفته نماند، جفری هینتون تنها یکی از چندین متخصص حوزه کامپیوتر است که نسبت به سرعت توسعه هوش مصنوعی و مسیری که در پیش گرفته، ابرازی نگرانی کرده و تعداد این متخصصین روز به روز افزایش می‌یابد.

«نیاز به عقب‌نشینی داریم»

در ماه مارس، ده‌ها نفر از کارشناسان حوزه هوش مصنوعی – از جمله ایلان ماسک – با امضای یک نامه سرگشاده، خواستار توقف کوتاهی در توسعه تمامی موتورهای هوش مصنوعی پیشرفته‌تر از ChatGPT شدند تا به این وسیله، زمان کافی برای طراحی و پیاده‌سازی اقدامات امنیتی جدی فراهم شود. از دیگر امضاکنندگان این نامه می‌توان به یوشوا بنجیو (Yoshua Bengio) اشاره کرد که او نیز به نوعی از پدران عرصه هوش مصنوعی به حساب می‌آید. وی در سال 2018 به همراه جفری هینتون و یان لی‌کان (Yann LeCun)، به خاطر کار در حوزه یادگیری عمیق، موفق به دریافت جایزه Turning Award شده بود. به عقیده یوشوا بنجیو، آنچه ما را به عقب‌نشینی در این حوزه وامی‌دارد، «شتاب‌گیری غیرمنتظره» در رشد سیستم‌های هوش مصنوعی است.

برخلاف یوشوا بنجیو، دکتر جفری هینتون بر این باور است که در کوتاه‌مدت، فواید هوش مصنوعی بیشتر از خطرات آن خواهد بود و لذا دلیلی برای توقف توسعه این سیستم‌ها وجود ندارد. نکته دیگر آنکه با توجه به رقابت بین‌المللی در این حوزه، توقف توسعه عملا بسیار سخت خواهد بود. به گفته دکتر هینتون، «حتی اگر همه در ایالات متحده توسعه آن را متوقف کنند، چین تا حد زیادی جلو می‌افتد.» هینتون یادآور شد که او در حیطه علمی دارای تخصص است نه سیاست‌گذاری. لذا این وظیفه دولت است که زمینه توسعه هوش مصنوعی را به گونه‌ای فراهم کند که از انحراف و طغیان آن جلوگیری شود.

«رویکرد مسئولانه»

دکتر هینتون تأکید می‌کند که به هیچ وجه قصد انتقاد از گوگل را نداشته و این کمپانی بزرگ در کارهایش بسیار مسئولانه عمل می‌کند. وی می‌گوید: «در حقیقت من می‌خواهم نکات خوبی درباره گوگل بگویم. و اگر برای گوگل کار نکنم، این نکات باورپذیرتر خواهند بود.» جف دین (Jeff Dean)، از دانشمندان مطرح شاغل در گوگل، در اظهارنظری گفت: «ما به رویکرد مسئولانه خود در قبال هوش مصنوعی متعهد می‌مانیم. ما پیوسته در حال یادگیری هستیم تا ضمن نوآوری جسورانه، [بتوانیم] خطرات نوظهور آن را درک کنیم.»

لازم به ذکر است که بات‌های مکالمه هوش مصنوعی تنها یک جنبه از هوش مصنوعی هستند (با وجود اینکه اکنون، جذاب‌ترین جنبه به شمار می‌روند). الگوریتمی که تعیین می‌کند در نوبت بعدی، از چه پلتفرمی برای تماشای ویدئوی آنلاین استفاده کنید، بر مبنای هوش مصنوعی تنظیم شده است. هوش مصنوعی می‌تواند در پروسه استخدام نیروی کار، تقاضانامه‌های شغلی را فیلتر کند. شرکت‌های بیمه با استفاده از هوش مصنوعی می‌توانند حق بیمه را محاسبه کنند. حتی هوش مصنوعی می‌تواند در پزشکی، بیماری را تشخیص دهد. (هرچند که حرف آخر را هنوز پزشکان می‌زنند)

آنچه ما در حال حاضر شاهدش هستیم، ظهور AGI (هوش مصنوعی عمومی) است. می‌توان AGI را آموزش داد تا از پس انجام برخی کارها (در حوزه اختیارات تعریف‌شده) برآید. به عنوان مثال، ChatGPT می‌تواند در پاسخ به یک سؤال، تنها به ارائه پاسخ‌های متنی بپردازد. اما همان طور که می‌دانید، حالت‌های ممکن در این پاسخ‌گویی‌ها بی‌شمارند.

جالب است که سرعت شتاب‌گیری هوش مصنوعی حتی برای ابداع‌کنندگان آن غافلگیرکننده بوده است. از زمانی که دکتر هینتون در سال 2012 اقدام به ساخت یک شبکه عصبی تحلیل تصویر کرد تا به امروز، هوش مصنوعی به شکل چشمگیری تکامل پیدا کرده است. حتی سوندار پیچای، مدیرعامل گوگل، نیز اخیرا اذعان کرد که نمی‌تواند تمام کارهایی‌که Bard (بات هوش مصنوعی گوگل) انجام می‌دهد را به خوبی درک کند. در حال حاضر همه ما سوار یک قطار سریع‌السیر هستیم و نگرانیم که روزی فرا برسد که این قطار شروع به ساخت خط آهن برای خودش بکند.