انگار به یک چیز دیگر برای ترساندن نیاز داشتیم، آخرین هشدار دانشمندی از دانشگاه تورنتو که بسیاری آن را عقل پایه‌گذار هوش مصنوعی می‌دانند، لایه جدیدی از ترس را اضافه می‌کند.

دیگرانی که در گذشته هشدار داده بودند که ماشین‌های فکری تهدیدی برای موجودیت انسان هستند، به نظر می‌رسد با پوشش رسانه‌ای شبیه ستاره‌های راک، جفری هینتون، که در کنفرانسی این هفته به‌عنوان پدرخوانده هوش مصنوعی معرفی شد، کمی ناراحت هستند. تبدیل لحظه آخری برخی دیگر می گویند که صدای معتبر هینتون تفاوت ایجاد می کند.

هینتون می‌گوید که فعالیت خود را در گوگل ترک کرده است تا بتواند آزادانه درباره هیولایی که به خلق آن کمک کرده است صحبت کند.

“جدی و نسبتا نزدیک”

هینتون نه تنها به مخاطبان متخصص در کنفرانس EmTech Digital در روز چهارشنبه گفت که انسان‌ها به‌زودی جایگزین هوش مصنوعی خواهند شد، «من فکر می‌کنم جدی و نسبتاً نزدیک است.» او گفت که به دلیل رقابت ملی و تجاری، هیچ راه آشکاری برای جلوگیری از آن وجود ندارد.

هینتون روز چهارشنبه در حالی که تغییر روحیه خود را با جزئیات فنی توضیح داد، گفت: «آنچه ما می‌خواهیم راهی برای اطمینان از این است که حتی اگر آنها از ما باهوش‌تر باشند، کارهایی را انجام خواهند داد که سودمند است.

اما ما باید تلاش کنیم و این کار را در دنیایی انجام دهیم که در آن بازیگران بدی وجود دارند که می‌خواهند سربازان روباتی بسازند که مردم را می‌کشند و این برای من بسیار سخت به نظر می‌رسد.»

او گفت: “ای کاش یک راه حل خوب و ساده داشتم که می توانستم فشار بیاورم، اما این کار را نمی کنم.” “معلوم نیست که راه حلی وجود دارد.”

پس کی این همه اتفاق می افتد؟

او در روز چهارشنبه به رادیو Nil Kksalon CBC گفت: “در چند سال آینده آنها ممکن است به طور قابل توجهی باهوش تر از مردم شوند.”

در حالی که ممکن است او دیر به مهمانی رفته باشد، صدای هینتون تأثیر جدیدی به اضطراب فزاینده می‌افزاید که هوش عمومی مصنوعی یا AGI اکنون به تغییرات آب و هوایی و آرماگدون هسته‌ای به عنوان راه‌هایی برای خاموش کردن انسان‌ها پیوسته است.

اما مدتها قبل از آن روز آخر، او نگران است که فناوری جدید به زودی مشاغل را از بین ببرد و به شکاف اجتماعی بی ثبات کننده بین غنی و فقیر منجر شود که سیاست فعلی قادر به حل آن نیست.

کنفرانس EmTech Digital از کسب و کار هوش مصنوعی و دانشگاه است، زمینه هایی که اغلب با هم همپوشانی دارند. اکثر شرکت کنندگان دیگر در این رویداد برای هشدار درباره هوش مصنوعی مانند هینتون نبودند، بلکه برای جشن گرفتن رشد انفجاری تحقیقات و تجارت هوش مصنوعی بودند.

رشد انفجاری در تجارت و تحقیقات

رهبر فهرست سخنرانان روز چهارشنبه، یک کانادایی دیگر به نام جوئل پینو بود که علاوه بر استادی در دانشگاه مک گیل مونترال، رهبر MetaAI Research است. متا شرکت مادر فیس بوک است.

Pineau در حالی که به احتمالات تاریک‌تر اشاره می‌کرد، مانند بسیاری از سخنرانان دیگر در این رویداد، مشتاق کار خود و انبوه تحقیقات در زمینه هوش مصنوعی بود، به ویژه در “متن باز”، راهی برای سازندگان نرم‌افزار برای به اشتراک گذاشتن اکتشافات خود.

Pineau به 800 شرکت کننده در کنفرانس گفت: “ما نزدیک به 500000 مقاله تحقیقاتی را می بینیم که در مورد اکتشافات جدید در هوش مصنوعی صحبت می کنند.” برای کسانی از شما که GitHub را دنبال می کنید، تعداد پروژه های هوش مصنوعی در حال افزایش بوده است: نزدیک به 350000 پروژه به صورت متن باز به اشتراک گذاشته شده است.

همانطور که یکی از کارشناسانی که با او صحبت کردم اشاره کرد، رشد هوش مصنوعی به صورت تصاعدی بوده و برای مدت طولانی بوده است. اما حتی با دانستن این موضوع، افزایش ارزش دلاری هوش مصنوعی برای تجارت، بخش را غافلگیر کرد.

هشت سال پیش وقتی در مورد افزایش مورد انتظار در تجارت هوش مصنوعی نوشتم، از گروه اطلاعاتی بازار Tractica نقل کردم که هزینه های هوش مصنوعی “در دهه آینده بیش از 40 میلیارد دلار ارزش خواهد داشت” که در آن زمان بسیار زیاد به نظر می رسید. دست کم گرفتن بود

در گزارشی به روز شده از Fortune Business Insights آمده است: «اندازه بازار جهانی هوش مصنوعی در سال 2022 به 428 میلیارد دلار آمریکا رسید. پیش بینی می شود که این بازار از 515.31 میلیارد دلار در سال 2023 رشد کند. برآورد برای سال 2030 بیش از 2 تریلیون دلار است.

خطرناک است، اما باید پول درآورد

هر کسی که با اخبار کسب و کار همراه باشد متوجه شده است که به جای نگرانی در مورد چگونگی کاهش سرعت گسترش هوش مصنوعی، کسب و کارها به این بخش سرازیر می شوند و راه های جدیدی برای کسب سود پیدا می کنند.

این هفته شرکت جدید تورنتو هوش مصنوعی Cohere، که هینتون در آن سهام خود را دارد، اعلام کرد که در حال “در حال مذاکره پیشرفته” برای جمع آوری 250 میلیون دلار است. شرکت رسانه ای کانادایی تامسون رویترز گفت که در حال برنامه ریزی برای “سرمایه گذاری عمیق تر در هوش مصنوعی” است. انتظار می رود که IBM “استخدام برای نقش هایی را که می توانند با هوش مصنوعی جایگزین شوند، متوقف کند.” بنیانگذاران Google DeepMind و LinkedInhave یک رقیب ChatGPT به نام Pi راه اندازی کردند.

و این فقط همین هفته بود.

کارینا ولدیس، کارشناس کانادایی که خطرات بالقوه هوش مصنوعی را مطالعه کرده و مقاله “هوش مصنوعی چگونه یک خطر وجودی ایجاد می کند” را نوشت؟ او گفت که علیرغم وضعیت اخیر جانی، اعتبار هینتون در جامعه می تواند تأثیرگذار باشد. اما او خاطرنشان می کند که جنون رقابت بین غول های تجاری برای هوش مصنوعی بهتر و قدرتمندتر یکی از خطراتی است که با ایجاد چیزی خطرناک همراه است.

روز چهارشنبه، هینتون به صراحت اعلام کرد که موافق است، و به همین دلیل است که تصاحب ماشین‌های هوشمند، که در آن انسان‌ها تنها یک مرحله در توسعه نهایی هوش خواهند بود، احتمالا غیرقابل توقف است.

او با دوربین از راه دور به مخاطبان فناوری پیشرفته گفت: «من فکر می‌کنم در سیستم سرمایه‌داری یا سیستمی با رقابت بین کشورهایی مانند ایالات متحده و چین اجتناب‌ناپذیر است.

برای یک کارآفرین مولتی میلیونر، به نظر می رسد هینتون به جامعه ای که تجارت نقش مهمی در آن ایفا می کند، اعتقاد چندانی ندارد. او گفت که قدرت هوش مصنوعی در از بین بردن مشاغل می تواند منجر به بی ثباتی شود حتی قبل از تصاحب نهایی ماشین که او پیش بینی می کند.

همه سود نخواهند برد

هینتون گفت: «آنها می‌خواهند بسیاری از مشاغل را بسیار کارآمدتر کنند. “نگرانی من این است که این افزایش عظیم در بهره وری به بیکار کردن مردم و فقیرتر کردن ثروتمندتر و فقیرتر منجر شود.”

این فناوری در جامعه‌ای در حال توسعه است که برای استفاده از آن به نفع همه طراحی نشده است.»

هینتون می‌گوید اگر چه عبوس باقی می‌ماند، اگر بازیگران بدی که می‌خواهند از هوش مصنوعی برای اهداف شیطانی استفاده کنند، سرکوب شوند، یکی از گزینه‌های ممکن چیزی به نام «هم‌ترازی هوش مصنوعی» است که در آن رایانه‌های هوشمند در هماهنگی با انسان‌ها کار می‌کنند یا حداقل ما را پاک نمی‌کنند. بیرون

دیگران، از جمله یان هوگارت، سرمایه‌گذار هوش مصنوعی، در مقاله‌ای با عنوان «ما باید مسابقه هوش مصنوعی خداگونه را کاهش دهیم» پیشنهاد کرده‌اند که کسب‌وکارها می‌توانند با سرمایه‌گذاری در این استراتژی به عنوان اولویت کمک کنند.

هینتون گفت: «یک امید من این است که، زیرا اگر اجازه دهیم آن را به دست بگیرد، برای همه ما بد خواهد بود، می‌توانیم مانند آنچه در مورد سلاح‌های هسته‌ای انجام دادیم، آمریکا و چین را به توافق برسانیم.» ما همه با توجه به تهدیدات وجودی در یک قایق هستیم، بنابراین همه ما باید بتوانیم در تلاش برای متوقف کردن آن همکاری کنیم.»

ویل داگلاس هیون، مصاحبه‌گر و مدیر، ویراستار MIT Technology Review جمله هینتون را برای او به پایان رساند: «تا زمانی که بتوانیم در راه پول دربیاوریم».