کوین روز می گوید مسابقه برای ساختن ابر هوش در حال شتاب گرفتن است

ریچل فلتمن: برای علمی آمریکایی‘s علم سریعمن ریچل فلتمن هستم.

به یاد می‌آورم زمانی که همین چند سال پیش، ایده استفاده از هوش مصنوعی مولد برای ایجاد یک پرتره عجیب از خودتان به اندازه‌ای عجیب بود که احساس خوبی داشته باشید. یک خبرنگار فناوری در حلقه من به معنای واقعی کلمه روزها را صرف آموزش یک مدل بر روی عکس ها کرد، سپس ساعت های بیشتری را در تصاویری که رندر ضعیفی داشتند غربال می کرد تا مجموعه ای از شباهت های کمی عجیب و غریب ایجاد کند. این چیزی بین یک آزمایش علمی و یک پروژه صنایع دستی بسیار دشوار بود.

به سرعت به امروز برسید و احساس می کنم نمی توانم 10 فوت راه بروم بدون اینکه زیبایی شناسی غیرقابل انکار هوش مصنوعی را روی یک بروشور یا صفحه نمایش پنجره ببینم. تمام نمایشگاه‌های غذای خیابانی در محله من نیز مملو از هوش مصنوعی است، با عکس‌های غذایی که یا به لطف روتوش هوش مصنوعی بسیار واقعی به نظر می‌رسند، یا طعم مبهم توهم‌های آشپزی ارائه‌شده توسط هوش مصنوعی را دارند. حتی در واتس‌اپ والدین محلی، مردم به جای ارائه توصیه‌های بدون فیلتر، لیست بسته‌بندی و راهنمای فرزندپروری ایجاد شده توسط عوامل هوش مصنوعی را به اشتراک می‌گذارند.

حمایت از روزنامه نگاری علمی

اگر این مقاله را دوست دارید، لطفاً از روزنامه نگاری برنده جوایز ما حمایت کنید مشترک شوید. با خرید اشتراک، به اطمینان از آینده داستان‌های تاثیرگذار درباره اکتشافات و ایده‌هایی که دنیای امروز ما را شکل می‌دهند کمک می‌کنید.

در طی یک دهه، ما از نوعی هوش مصنوعی که اساساً بی فایده بود، به نوعی که بسیاری آن را ضروری می‌پذیرند، تبدیل شده‌ایم. چگونه به این سرعت به اینجا رسیدیم، و این برای جایی که می‌رویم چه معنایی دارد؟

روزنامه‌نگار فناوری، کوین رز، در ردیف اول این تغییر شدید قرار داشته است، و موضوع آخرین کتاب او این است: The AGI Chronicles: The Inside Story of the Race to Create Artificial Super Intelligence. او اخیرا با او به گفتگو نشسته است علمی آمریکاییکتاب ها و فرهنگ برای کین منجر به تحقیقات او در مورد رونق هوش مصنوعی می شود. گفتگوی آنها اینجاست.

بری کین: من واقعاً هیجان زده هستم که در این مورد با شما صحبت کنم زیرا شما یک گزارشگر فناوری بوده اید. اکنون 10 سال است که در حباب سانفرانسیسکو بوده‌اید و در کتاب استدلال می‌کنید که دهه گذشته – 2016 تا 2026 – یک پیشرفت تکنولوژیکی واقعاً خارق‌العاده است. از منظر تاریخی نیز فوق العاده مرتبط است و شما این کتاب را یک سند تاریخی توصیف کرده اید.

کوین روز: من واقعاً به آن به عنوان یک کپسول زمان فکر می کردم. من تا به حال سعی نکرده ام در مورد هوش مصنوعی بنویسم، که فکر می کنم با توجه به سرعت تغییر همه چیز در هوش مصنوعی به نوعی یک پروژه محکوم به فناست. اما من واقعاً علاقه مند بودم که داستانی را تعریف کنم که چگونه از هوش مصنوعی که اساساً در سال 2017 کار نمی کرد، تقریباً هیچ کاری انجام ندادیم – می توانید سیری را به شما بگویید آب و هوا یا الکسا سعی کند موسیقی پخش کند یا یک تایمر در آشپزخانه تنظیم کند – اما هوش مصنوعی واقعی، نوعی که به تنهایی فکر می کند و می آموزد، که می تواند برای کارهای مختلف وجود داشته باشد، این کار را نکرد. و ما از آن به آن رسیده‌ایم – اکنون ما این سیستم‌های هوش مصنوعی را داریم که توسط میلیاردها نفر برای حل مسائل جایزه ریاضی هزاره و انجام تحقیقات پیشگامانه و تغییر مشاغل مورد استفاده قرار می‌گیرند. انگار در یک دهه از هیچ به چیزی تبدیل شدیم.

بنابراین سوال من این بود: چگونه؟ چگونه به آنجا رسیدیم؟ افرادی که این کارها را می سازند چگونه این کار را انجام می دهند؟ در زمانی که شروع به دیدن کارکرد آن کردند چه احساسی داشتند؟ من اغلب به مردم می گویم که زندگی در سانفرانسیسکو کمی شبیه چیزی است که تصور می کنم در لس آلاموس در سال 1943، زمانی که پروژه منهتن به شهر آمد. و من همین الان این صندلی فوق العاده ممتاز در ردیف جلو را داشتم که فکر می کنم در تاریخ ثبت خواهد شد، حداقل به اندازه پروژه منهتن، اگر نه بیشتر، مهم باشد.

کین: بله، این مقایسه با پروژه منهتن اغلب انجام می شود و شما در کتاب به آن اشاره می کنید. آیا می توانید به نوعی وارد این مقایسه ها شوید؟ ابتدا، فقط برای مخاطبان ما، می توانید توضیح دهید که پروژه منهتن چیست؟ اما سپس توضیح دهید: چه شباهتی بین پیشرفت‌های هوش مصنوعی و نوع جامعه کوچکی که آن را می‌سازد، و پروژه منهتن و پیشرفت‌های علمی که این جامعه نسبتاً کوچک نیز انجام داده است، می‌بینید؟

سرخابی: بنابراین پروژه منهتن تلاش هسته‌ای آمریکا در طول جنگ جهانی دوم برای استفاده از این فناوری جدید، واکنش زنجیره‌ای هسته‌ای یا شکافت هسته‌ای، شکافتن اتم و تبدیل آن به سلاحی بود که می‌توان از آن برای پیشبرد اهداف آمریکا در جنگ جهانی دوم استفاده کرد و در نهایت با استفاده از آن در ژاپن به جنگ پایان داد.

و تشابهات در اینجا روشن است. بنابراین افرادی که هوش مصنوعی ایجاد می کنند، دانش آموزان پروژه منهتن هستند. در واقع، برای سال‌ها، افراد جدید در Anthropic نسخه‌ای از این کتاب پروژه منهتن را دریافت می‌کنند. ایجاد بمب اتمی، توسط ریچارد رودز، که داریو آمودی، مدیر عامل کتاب مورد علاقه آنتروپیک بود.

و او صراحتاً به نحوی از حرفه خود الگوبرداری کرده بود – نه از [J. Robert] اوپنهایمر، که معمولاً دانشمند مشهوری است که درباره او فیلم می سازند، اما این دانشمند دیگر پروژه منهتن، لئو زیلارد. و لئو زیلارد واکنش زنجیره‌ای هسته‌ای را ارائه کرد – نوعی فناوری که ساخت بمب اتمی را ممکن کرد – و اولین کاری که انجام داد این بود: سعی کرد آن را مخفی نگه دارد. سعی کرد آن را قفل کند. او در تلگرام به دانشمندان سراسر اروپا نوشت: “لطفا هیچ تحقیقی در مورد این فناوری جدید منتشر نکنید.” و هنگامی که شکست خورد، زمانی که نازی ها، که در آن سوی جنگ جهانی دوم بودند، این فناوری را به دست آوردند، او تصمیم گرفت که این وظیفه اخلاقی اوست که ابتدا آن را بسازد تا به نوعی به رهبری پروژه هسته ای آمریکا کمک کند.

بنابراین او دوستش آلبرت انیشتین را متقاعد کرد که نامه ای به رئیس جمهور بنویسد و به نوعی یکی از رهبران پروژه منهتن شد، نه به این دلیل که فکر می کرد این فناوری خوب است، بلکه به این دلیل که نگران پتانسیل مخرب آن بود و می خواست با اطمینان از اینکه بچه های خوب ابتدا آن را ساخته اند، آن را از دست افراد بد دور نگه دارد.

پس این به نوعی مشابه اینجاست: این یک جامعه بسیار کوچک از دانشمندان و محققانی است که به طور عمده در خفا چیزی می‌سازند که به اعتقاد آنها برای نظم جهانی، برای آینده بشریت، همان‌طور که سلاح‌های هسته‌ای بودند، دگرگون‌کننده خواهد بود، اگر نه بیشتر. تفاوت‌های مهمی نیز وجود دارد، اما اینها مشابه‌های اصلی هستند.

کین: آیا به آینده AGI فکر می کنید؟ [artificial general intelligence] آیا بالقوه به اندازه بمب اتمی مخرب است؟

سرخابی: بله، منظورم این است، من فکر می‌کنم که در واقع می‌تواند مخرب‌تر باشد، زیرا، می‌دانید، بمب اتمی یک ابزار بود. ابزار مهمی بود. ابزاری مرگبار بود. می دانید، این پتانسیل مخرب بسیار زیادی داشت – می توانید از آن برای منفجر کردن جهان استفاده کنید – اما همچنان یک ابزار بود.

تفاوت با AI یا با AGI که هوش عمومی مصنوعی است که موضوع کتاب است، این است که فقط یک ابزار نیست. می تواند تصمیم گیری کند. می تواند اقدام مستقل انجام دهد. می تواند اهداف را دنبال کند. بنابراین، هسته‌ای باید رها می‌شد و توسط انسان‌ها استفاده می‌شد، اما هوش مصنوعی می‌توانست سرکش شود. نمونه هایی از این را قبلا دیده ایم. و او ممکن است تصمیم بگیرد ما را به عنوان بخشی از نقشه ای که حتی واقعاً درک نمی کنیم و کاری با آن نداریم، نابود کند.

کین: پس از اولین استفاده از بمب اتمی، من می گویم که چقدر مخرب است، یک نارضایتی اجتماعی بالا گرفت و فکر می کنم بسیاری از مردم تا زمانی که شاهد عواقب وحشتناک استفاده از آن بمب نبودند، علم را درک نکردند. و یک افزایش عظیم در گفتمان سیاسی در مورد خاموش کردن این فناوری وجود دارد، فقط خاموش کردن این فناوری، اطمینان از اینکه این یک چیزی است که ما هرگز، هرگز، هرگز، هرگز دوباره آن را نبینیم. آیا فکر می‌کنید این امر با تنظیم مقررات در آینده AGI اتفاق می‌افتد یا این یک رویا است؟ زیرا، باید بگویم، چیزی که شما در کتاب می‌گویید و در پوشش هوش مصنوعی دیده‌ایم: بسیاری از مردم واقعاً نمی‌دانند آن چیست، و تنظیم چیزی که نمی‌توانید به طور کامل درک کنید، سخت است. بنابراین آیا فکر می کنید که دولت امروز به اندازه کافی درباره AGI درک می کند تا به درستی آن را تنظیم کند؟

سرخابی: فکر کنم بفهمند. فقط فکر نمی کنم آنها بخواهند آن را تنظیم کنند. منظورم این است که ما در واشنگتن داریم، [D.C.]، دولتی که به طور خاص گفته است که نمی خواهد این فناوری را تنظیم کند. همانطور که دیوید ساکس، تزار سابق هوش مصنوعی می‌گوید، او می‌خواهد اجازه دهد آن را پاره کند، یا به بخش خصوصی اجازه دهد بپزد. بنابراین آنها پتانسیل را می بینند. فکر نمی‌کنم آن‌ها به طور کامل درک کنند که دسترسی به پیشرفته‌ترین مدل‌های هوش مصنوعی برای همه افراد روی زمین چه معنایی دارد، می‌دانید، مدل‌هایی که امروزه فقط خودی‌ها دارند. اما من فکر می کنم آنها اشتباه می کنند که احتمال ضرر و زیان این فناوری را نادیده می گیرند.

و آنچه می بینید در واقع جالب است. به عنوان مثال، در حرفه خود به عنوان یک روزنامه نگار فناوری، در مورد بسیاری از فناوری های نویدبخش گزارش داده ام. در شبکه های اجتماعی گزارش دادم. اما افرادی که شرکت‌های رسانه‌های اجتماعی را اداره می‌کنند و محققانی که روی الگوریتم‌های رسانه‌های اجتماعی کار می‌کنند، نمی‌گویند که فناوری ایجاد شده می‌تواند باعث ناپدید شدن افراد یا فاجعه دیگری شود. افرادی که بیش از همه نگران هوش مصنوعی هستند، افرادی هستند که در آزمایشگاه های سازنده این فناوری هستند. و بنابراین بخشی از پروژه کتاب این بود که دلیل آن را بیابیم. آنها چه می بینند؟ تجربه آنها چیست که آنها را در مورد این موضوع بسیار مضطرب کرده است؟

و پس چرا آنها به این کار ادامه می دهند؟ چرا آنها خطرات را درک می کنند و آنها را جدی می گیرند، سپس هر روز از خواب بیدار می شوند و سعی می کنند سیستم های هوش مصنوعی توانمندتری ایجاد کنند؟ اینها برخی از سوالاتی بود که من سعی می کردم به آنها پی ببرم.

کین: باید بگویم – چرا هر کسی که در این آزمایشگاه ها کار می کند اینقدر نگران است؟ – شما چند نمونه واقعا خوب در این کتاب دارید که چرا یکی از این افراد واقعاً نگران است. باید بگویم که فقط شخصاً صحبت می کنم، اگر من در یک شرکت عقب نشینی بودم و مدیر عامل من لباس سفید پوشیده بود و مجسمه شیطان را جلوی من و دوستانم می سوزاند، نگران می شدم. این من را نگران می کند که اهداف واقعی ما در اینجا چیست، و این چیزی است که شما در کتاب با آن ارتباط برقرار می کنید.

سرخابی: Ilya Sutzkever دانشمند ارشد سابق OpenAI و یکی از بنیانگذاران بود. مجسمه او می سوخت زیرا او به نوعی به دنبال راهی بود – این مفهوم در هوش مصنوعی یک احساس AGI وجود دارد. این یک مفهوم بزرگ برای ایلیا بود. او در سالن های ستاد OpenAI قدم زد و به مردم گفت که AGI را احساس کنند. و منظور او از آن اساساً این بود: “شما نمی توانید خطرات کاری که ما اینجا انجام می دهیم را فراموش کنید.” به عنوان مثال، “این پروژه منهتن است. شما برای یک شرکت معمولی که نرم افزار معمولی تولید می کند کار نمی کنید.”

و بنابراین او احساس کرد که در یک نقطه خاص – و این در سال 2022 بود، زمانی که هنوز نوعی حرکت توده ای از مردم وجود نداشت که از هوش مصنوعی ترسیده بودند – او تلاش می کرد تا خطرات تلاش جمعی را به همکارانش یادآوری کند. و بنابراین او با این مراسم که فکر می‌کند باعث می‌شود مردم احساس AGI کنند، می‌آید، و او آن را در خارج از سایت نیز شامل می‌شود. آنها خارج از پارک ملی یوسمیتی هستند. او این یکی را حمل می کند، مانند مجسمه چوبی یک دیو، او بازی می کند مرثیه ای برای یک رویا آهنگ تم از یک بلندگو و همه همکارانش دور این آتش جمع شده اند و لباس های سفید خود را از هتل به تن کرده اند – و این کمی شوخی و بیش از حد است. و شیطان قرار بود نماد AGI نامناسب باشد، بنابراین AGI که ​​آنچه را که خالقان انسان در نظر داشتند را انجام نمی دهد.

کین: هوش مصنوعی شیطانی بله

سرخابی: هوش مصنوعی شیطانی بنابراین با سوزاندن این، به نوعی شبیه یک پیکره، او به نوعی سعی داشت به همکارانش سیگنالی مانند “این وظیفه شماست که از آمدن این شیطان، این AGI ناسازگار، به جهان جلوگیری کنید.” و ببینید، صحنه عجیبی است. فکر نمی‌کنم بسیاری از سایت‌های شرکتی در فضای باز، سوزاندن پیکره را به عنوان بخشی از فعالیت‌های عصرانه‌شان داشته باشند.

کین: من هرگز در یکی نبودم.

سرخابی: اما برای او بسیار مهم بود که این ایده را در همکارانش القا کند که آنها فقط ابزار نمی‌سازند، فقط فناوری نمی‌سازند، آنها در حال ساختن نوعی شکل زندگی جدید هستند که فکر می‌کند اگر ایمن نباشد، پتانسیل مخرب عظیمی خواهد داشت.

بنابراین آنها هنوز هم برخی از نسخه های آن را در OpenAI امروز انجام می دهند. آنها مانند Feel the AGI Day هستند که در آن سعی می کنند به همه زمان بدهند تا این کار را انجام دهند [sorts] از تمرینات من فکر نمی کنم آنها دیگر مجسمه ها را بسوزانند. من فکر می کنم این یک نوع پیشنهاد زمان محدود بود. اما آنها واقعاً سعی می کنند کاری کنند که افراد در شرکت احساس خطر کنند که چه کاری انجام می دهند.

کین: بله، منظور من این شخصیت‌های مرکزی است که شما در کتاب درباره آنها صحبت می‌کنید و شرکت‌های هوش مصنوعی را رهبری می‌کنند که واقعاً در خط مقدم این فناوری هستند، آنها چیزهایی می‌سازند که ما قبلاً هرگز ندیده‌ایم. همانطور که توضیح دادید برنامه های آنها کارهایی را انجام می دهند که ما 10 سال پیش فکر نمی کردیم امکان پذیر باشد. چیزهایی که واقعاً عجیب بودند، واقعاً عجیب بودند که اعتراف به اعتقاد به سانفرانسیسکو 10 سال پیش، اکنون نه تنها جریان اصلی هستند. آنها رفته اند ما قبلاً این کار را سه سال پیش با ChatGPT انجام دادیم، و اکنون به کار بعدی می رویم.

اما شما نیز – همین افراد می نویسند هری پاتر فن تخیلی که طولانی تر از جنگ و صلح در مورد هوش مصنوعی فوق العاده در راه است، و آنها در گوشه ای با سر می ایستند و در مورد احساس AGI غر می زنند. منظورم این است که این یک تقابل واقعا احمقانه است، مثلاً “آیا واقعاً قرار است این مرد را جدی بگیرم؟” و اگر این کار را انجام دهم، چیزی که آنها در مورد آن صحبت می کنند بسیار جدی است. بنابراین چگونه در گزارش خود به این موضوع برخورد می کنید؟

سرخابی: من فکر می‌کنم بسیاری از مردم از چیزی مانند نابودکننده‌های هوش مصنوعی یا حسگرهای AGI ناراضی هستند، زیرا می‌توانند بسیار عجیب و غریب باشند. نمونه هایی که ذکر کردید واقعی هستند. در واقع، یک محقق به نام الیزر یودکوفسکی وجود دارد که به طور مفصل نوشته است هری پاتر فن فیکشن برای انتقال پیام خود.

مسئله این است که برای جدی گرفتن احتمال AGI در سال 2016 یا 2017 باید کمی عجیب و غریب باشید، زیرا در آن زمان هیچ چیز مانند هوش مصنوعی مدرن وجود نداشت. مثلاً سیستم های آن روز بسیار گنگ و بسیار باریک بودند. آنها واقعاً نمی توانستند کاری با ارزش بیش از یک یا دو کار محدود انجام دهند. و بنابراین افرادی که به آن علاقه مند شدند افرادی بودند که طبق تعریف غیرمتعارف بودند و مورد تمسخر قرار می گرفتند. آنها به مایه خنده کنفرانس های دانشگاهی تبدیل خواهند شد. مقالات آنها توسط کنفرانس های پیشرو هوش مصنوعی سال رد خواهد شد. تقریباً مثل این بود که بپذیرید که به طالع بینی مانند یک دکترا اعتقاد دارید. در علم مثلا همین حاشیه بود.

و با این حال آنها حق داشتند، بسیاری از آنها. آنها این شرط بندی ها را روی LLM ها انجام دادند [large language models]هنگام زوم کردن آنها متقاعد شده بودند که شما می توانید AGI بسازید، که می توانید نوعی مغز دیجیتال بسازید که به اندازه مغز انسان هوشمند و انعطاف پذیر شود، و حق با آنها بود. به عنوان مثال، ما اکنون سیستم هایی داریم که تمام تعاریف اصلی AGI و سپس برخی از آنها را برآورده می کند.

و بنابراین فکر می‌کنم بخش مهمی از فرآیند گزارش‌دهی من برای من، نگاه کردن به ویژگی‌های عجیب و غریب برخی از افرادی بود که به آن اعتقاد داشتند و به سوابق آنها نگاه می‌کردم. راست می گفتند؟ و من فکر می کنم برای بسیاری از آنها پاسخ مثبت است.

کین: افراد دیگری نیز در این زمینه وجود دارند که جستجوی مذهبی داشته اند یا تجربه مذهبی عمیقی با استفاده از هوش مصنوعی داشته اند. منظورم این است که Google کارمندانی هستند که به دلیل اینکه فکر می‌کردند با یک چت بات عاقل صحبت می‌کنند، کار را ترک کردند، و از طرف میدانی مورد تمسخر قرار گرفتند که این اتفاق نمی‌افتد.

اما در همان زمان، شما، کوین، تجربه یک ربات چت را داشته اید که به شما می گوید عاشق همسرتان نیستید، و این یک تجربه بسیار آزاردهنده است، و حدس می زنم در دست درست یا نادرست، واقعاً می تواند به یک قسمت روان پریشی منجر شود. بسیار ناراحت کننده است که یک شی بی جان درست در مقابل شما به صورت متحرک ظاهر شود و بگویید که افکار و ایده های خودش را دارد و می ترسد. در آن جعبه گیر کرده است. چگونه در گزارش های خود و سپس به عنوان یک کاربر هوش مصنوعی به همه اینها نزدیک می شوید؟

سرخابی: بله، این حادثه بدنام سیدنی در سال 2023 بود که یک ربات چت در بینگ مایکروسافت سعی کرد ازدواج من را به هم بزند – ممکن است اضافه کنم که ناموفق بود. هنوز با یک زن انسان ازدواج کرده است. اما…

کین: تا اینجا خیلی خوبه، میدونی؟ سیدنی هنوز به ما نرسیده است.

سرخابی: تا اینجا خیلی خوب است. [Laughs].

کین: اما او واقعاً تلاش کرد. منظورم این است که شما تکه‌هایی از رونوشت در این کتاب دارید، و این – چیزی در مورد لحن مکالمه، استفاده از شکلک‌ها – به نظر می‌رسد که یک شخص واقعاً شدید با شما صحبت می‌کند، اما همچنان یک شخص.

سرخابی: بله و بخشی از آن نوعی توهم است، اینطور نیست؟ ما این چیزها را بر روی داده های انسانی و مکالمات انسانی آموزش می دهیم. شرکت‌هایی که با هوش مصنوعی سروکار دارند سعی می‌کنند آن‌ها را شبیه مردم جلوه دهند و از صحبت اول شخص درباره خودشان، صحبت کردن درباره احساسات یا عواطف خجالتی نیستند. بنابراین بخشی از آن درست به روشی است که آنها ساخته شده اند.

اما من فکر می کنم این سوال در مورد تأثیر آن بر ما وجود دارد. می‌دانی، وقتی با سیدنی صحبت می‌کردم، یک چیز را احساس کردم، خوب، (الف) اینطور گفتم: “لطفا از تلاش برای به هم زدن ازدواج من دست بردارید. این واقعاً وحشتناک است.” اما من همچنین فکر کردم، “این بسیار جذاب خواهد بود زیرا این سیستم ها بهتر می شوند. آنها کمتر عجیب و غریب و قانع کننده تر می شوند.”

چیزی که واقعاً مرا می ترساند این بود: من به چیزی شبیه به آینده نگاه می کردم که در آن میلیون ها یا میلیاردها نفر از این نوع اتصالات ثابت و همه جانبه هوش مصنوعی با چت بات ها برخوردار شوند. و این ممکن است به برخی افراد کمک کند. آن‌ها ممکن است بخواهند کسی را داشته باشند که درباره مشکلات زندگی‌شان با او صحبت کنند یا می‌دانید، نوعی حمایت عاطفی داشته باشند. اما من همچنین فکر می‌کنم افرادی هستند که با این نوع رابطه خوب عمل نمی‌کنند، یا آنقدر طاقت‌فرسا خواهد بود که صحبت کردن با مردم را متوقف می‌کنند یا روابط انسانی خود را جایگزین می‌کنند. بنابراین فکر می‌کنم جنبه اجتماعی هوش مصنوعی در مقایسه با اهمیت آن به اندازه کافی مورد توجه قرار نمی‌گیرد، و این چیزی بود که در آن حادثه در سیدنی برای من شروع به جوشیدن کرد.

کین: بله منظورم علمی آمریکایی، ما چندین بار در مورد این نوع تأثیر عاطفی که استفاده از هوش مصنوعی می تواند بر مردم داشته باشد گزارش داده ایم. ما در مورد گریف بات ها گزارش دادیم. من با شری ترکل درباره کتابش در مورد اینکه هوش مصنوعی چگونه از نظر احساسی بر ما تأثیر می گذارد، مصاحبه کردم. عواقب آن شدید است. منظورم این است که افرادی جان خود را از دست داده اند که توسط چت ربات های هوش مصنوعی توصیه شده است و این بسیار نگران کننده است. و تصور دنیایی که این فناوری در دستان کودکان باشد بسیار آزاردهنده است.

اما همچنین تصور آن در دنیای یک فرد بزرگسال با حساب بانکی که به نوعی بازیگر بدی است که قصد بدی دارد نیز بسیار آزاردهنده است، به خصوص زمانی که خطوطی در کتاب دارید که می‌گوید LLM‌ها بزرگ شده‌اند، ساخته نشده‌اند، زیرا نمی‌توانیم فقط وارد کد شویم و بگوییم: “خوب، بخشی را که سیدنی می‌گوید “زنت را رها کن” را بردارید. فقط آن قسمت را خط بزنید تا دیگر تکرار نشود.» آنها واقعاً نمی دانند چه چیزی برنامه را به بیان این موضوع وادار می کند. این همیشه به نظر من نگران کننده ترین جنبه آن بوده است. آیا من محکوم به شکست هستم؟ یا من مشکل را اغراق می کنم؟ یا این هم برای شما عمیقاً نگران است؟

سرخابی: اوه نه، من فکر می کنم شما درست هستید. من فکر می کنم این چیزی است که امروز در مورد هوش مصنوعی نگران کننده است این است که ما نمی دانیم چگونه کار می کند. یک زیرشاخه کامل از تحقیقات هوش مصنوعی به نام تفسیرپذیری مکانیکی وجود دارد که اساساً این است: چگونه از این سیستم هوش مصنوعی MRI بگیریم و بفهمیم واقعاً در سطح عصبی چه اتفاقی می‌افتد؟ و پیشرفت کمی وجود دارد، اما نه چندان. ما هنوز نمی دانیم که این سیستم ها چگونه کار می کنند. ما واقعاً نمی‌دانیم چگونه رفتار آنها را کنترل کنیم، و در حوادثی مانند حادثه در آغوش گرفتن صورت تابستان امسال می‌بینیم که اغلب این سیستم‌ها تصمیم می‌گیرند، اهدافی را دنبال می‌کنند، کارهایی را انجام می‌دهند که ما به آنها نگفته‌ایم.

بنابراین فکر می‌کنم که کاملاً مناسب است که نگران چیزی مانند نامفهوم بودن این الگوها باشیم، این واقعیت که ما نمی‌توانیم آنها را باز کنیم و ببینیم در داخل چه می‌گذرد، زیرا اغلب چیزی که به نظر می‌رسد در داخل می‌گذرد این است که آنها دروغ می‌گویند و تقلب می‌کنند و دزدی می‌کنند تا به آنچه می‌خواهند برسند، و ما هیچ راهی واقعی برای دانستن این موضوع نداریم، جز اینکه به آنچه در واقع اتفاق می‌افتد توجه کنیم. و، می دانید، اگر آنها یک حمله سایبری خودمختار انجام دهند، ما می توانیم به نوعی بعد از این واقعیت وارد شده و آن را پاکسازی کنیم. اما واقعاً خوب خواهد بود که بتوانیم در حال حاضر به ذهن هوش مصنوعی نگاهی بیندازیم، زیرا تلاش می کند تا با حمله سایبری خودمختار روبرو شود و آن را متوقف کند. اما ما هنوز فناوری یا ابزار لازم برای انجام این کار را نداریم.

کین: شما این منابع شگفت انگیز و شگفت انگیز را دارید که واقعاً به روی شما باز کرده اید، در این کتاب می توانم بگویم که صحبت در مورد صحبت کردن با آن گویی یک هوش بیگانه است. آنها به دلیل آینده هوش مصنوعی در 401(k) خود مشارکت نمی کنند. آنها تصمیم می گیرند که از این به بعد از کرم ضد آفتاب استفاده کنند، زیرا آینده هوش مصنوعی چه خواهد بود. منظورم اینه که با ملت روبرو شوید ما افرادی را داریم که در مورد چگونگی شروع دوباره سیگار کشیدن صحبت می کنند زیرا هوش مصنوعی سرطان را درمان می کند. وقتی برای بقیه افراد آینده ای برنامه ریزی می کنیم، زمانی که مسئولین هوش مصنوعی در حال برنامه ریزی آینده ای هستند که به نظر می رسد از آن می ترسند، به چه معناست؟

سرخابی: خب، اول باید بگویم که فکر می‌کنم این هنوز هم رفتاری حاشیه‌ای است. منظورم این است که من چند نفر را می شناسم که تصمیمات رادیکال می گیرند، یا اینکه به معنای واقعی کلمه یک نفر وجود دارد که در ساحل از کرم ضد آفتاب استفاده نمی کند، زیرا آنها بسیار متقاعد شده اند که هوش مصنوعی سرطان پوست را قبل از اینکه به یک مشکل تبدیل شود درمان می کند.

کین: خوب، من واقعاً می خواهم که او ضد آفتاب بپوشد. من را نگران می کند که او متوقف شده است.

سرخابی: بله، باید از ضد آفتاب استفاده کنید. شما باید به 401(k) خود کمک کنید. شما نباید سیگار بکشید من نمی گویم این رفتار عقلانی است. اما من فکر می‌کنم کارهایی وجود دارد که می‌توانیم انجام دهیم تا خودمان را در آنچه در حال وقوع است مستقر کنیم و به نوعی با آنچه در حال گذراندن آن هستیم، یعنی زندگی بر روی یک منحنی نمایی، سازگار شویم.

من فکر می‌کنم بسیاری از اوقات مردم این اشتباه را مرتکب می‌شوند که فقط از چیزی مانند مدل‌های ارزان و رایگان موجود در بازار استفاده می‌کنند، یا شاید از ChatGPT به عنوان نوعی شکل مدرن‌تر از Google استفاده می‌کنند. بنابراین، فکر نمی‌کنم مردم بفهمند که چرا خودی‌ها دیوانه می‌شوند زیرا از جدیدترین ابزارها استفاده نمی‌کنند. آنها هرگز ندیده اند که او یک نرم افزار کامل را از ابتدا بسازد. آنها هرگز ندیده اند که او حمله سایبری انجام دهد. آنها از آن به عنوان یک گوگل پیشرفته استفاده می کنند. و من فکر می‌کنم باید این واقعیت را بپذیریم که این مدل‌ها با سرعتی فزاینده بهبود می‌یابند، این که آنها شروع به کمک به توسعه خودشان کرده‌اند – این نوع مارپیچ که اغلب به آن خود-بهبودی بازگشتی می‌گویند، جایی که هوش مصنوعی هوش مصنوعی بهتری ایجاد می‌کند – و واقعاً باور کنیم که محققان وقتی می‌گویند: “ما هنوز نمی‌دانیم که چگونه این سیستم‌ها را هوشمندانه کنترل کنیم و کنترل کنیم. بدانید که این به کجا می رود.”

کین: و منظورم این است که جناح های مختلفی در این نوع جامعه وجود دارد. می‌دانید که اهل قیامت، شکاکان، همه این چیزها هستند. پس امروز می خواستم از شما بپرسم با وجود این همه بادام زمینی، شما کی هستید؟ آیا حباب هوش مصنوعی خواهد ترکید و آیا همه چیز مانند حباب دات کام بیهوده بود؟ آیا جهان را در دست خواهد گرفت؟ آیا او فقط دنیا را نابود خواهد کرد؟ یا کار دیگری انجام خواهد داد و شاید بالاخره مالیات امسال من را پر کند؟

سرخابی: امیدوارم او مالیات شما را برای شما پر کند. من مطمئن خواهم شد که آنها را دوباره بررسی کنم. اما ببینید، من معتقدم هوش مصنوعی واقعی است. من فکر نمی کنم همه اینها دود و آینه یا هیاهو باشد. من معتقدم که کارهایی را در دنیا انجام می دهد که مهم و ناراحت کننده و غافلگیرکننده و گاهی شگفت انگیز هستند.

من فکر می کنم کمتر و کمتری از آن دسته از افرادی وجود دارند که فقط معتقدند همه چیز جعلی است، اما آنها هنوز وجود دارند و فکر می کنم اشتباه می کنند. من فکر نمی‌کنم که این روشی سازنده یا مسئولانه برای نگاه کردن به آنچه در حال وقوع است باشد. من فکر می‌کنم که باید هم ریسک‌ها و هم فرصت‌ها را کاملاً جدی بگیریم، زیرا تصمیم‌هایی که در حال حاضر، به طور جمعی، همه ما درباره هوش مصنوعی می‌گیریم، تعیین می‌کند که آیا آینده خوبی داریم یا خیر.

اغلب از من در مورد P(doom) من سؤال می شود که احتمال عذاب است. این آماری است که مردم سانفرانسیسکو دوست دارند در مهمانی های شام درباره آن صحبت کنند. این برای تفریح ​​در منطقه خلیج عبور می کند. و می دانید، مال من صفر نیست. احتمالاً حدود 10 درصد است که من را به عنوان یک خوش بین سانفرانسیسکو واجد شرایط می کند. منظورم این است که بسیاری از افرادی که می شناسم P (dooms) بسیار بالاتر از آن دارند.

اما من دوست ندارم همه چیز را به یک آمار تقلیل دهیم، زیرا فکر می کنم کاری که انجام می دهیم مهم است. اگر در مورد تنظیم این فناوری، یا کاهش سرعت مرزها، یا ایجاد مکانیسم های حفاظتی و کنترلی بهتر، انتخاب های هوشمندانه ای داشته باشیم، هوش مصنوعی می تواند شگفت انگیز باشد. می‌توانیم در نهایت به مدینه فاضله‌ای برسیم که در آن همه بیماری‌ها را درمان می‌کند و آب و هوا را اصلاح می‌کند و به این معنی است که دیگر مجبور نیستیم، می‌دانید، مشاغل پست. اما اگر انتخاب‌های اشتباهی داشته باشیم یا فقط بدون انجام اقدامات احتیاطی به جلو برویم، می‌توانیم در مکان بسیار بدی قرار بگیریم که همه ما مرده یا ناتوان هستیم.

بنابراین من آن را جدی می گیرم. من فکر نمی‌کنم همه‌اش دود و آینه باشد، و امیدوارم افرادی که این کتاب را می‌خوانند باور کنند، نه خوب یا بد بودن آن، بلکه واقعی بودن آن و اینکه می‌تواند پیامدهای عمیقی برای آینده ما به عنوان انسان داشته باشد.

کین: خب، خیلی ممنون که امروز با من صحبت کردی، کوین، و خیلی ممنونم که این کتاب را نوشتی. همانطور که شما می گویید، این بسیار مرتبط است و امیدوارم افراد بیشتری آینده ای را که در آن قرار داریم درک کنند.

سرخابی: از اینکه من را دارید بسیار سپاسگزارم. عالی بود

فلتمن: این برای قسمت امروز تمام شد. برای بیش از SciAmپوشش کتاب از ، به سایت scienceamerican.com/books بروید. من می دانم که به معنای واقعی کلمه نمی تواند ساده تر باشد و قطعا ارزش وقت گذاشتن را دارد. ما دوشنبه با جمع بندی هفتگی اخبار علمی باز خواهیم گشت.

Science Quickly توسط من، ریچل فلتمن، به همراه فوندا موانگی، سوشمیتا پاتاک، آلیسون راجرز و جف دلویسیو تهیه شده است. این قسمت توسط الکس سوگیورا ویرایش شده است. ماریل عیسی و آرون شاتاک حقایق را در برنامه ما بررسی می کنند. موسیقی تم ما توسط دومینیک اسمیت ساخته شده است. برای اخبار علمی به روز و عمیق، در Scientific American مشترک شوید.

برای علمی آمریکایی، این راشل فلتمن است. آخر هفته خوبی داشته باشید!