تحقیقات جدید آزمایش می کند که آیا مدل های هوش مصنوعی افکار خود را می دانند یا خیر

Uالان به چی فکر میکنی احتمالا می توانید بدون فکر کردن به این سوال پاسخ دهید. به نظر می رسد آگاهی از فرآیندهای فکری خودمان – توانایی به نام درون نگری – برای ما طبیعی است.

با این حال، در میان فیلسوفان و روانشناسان، درون نگری موضوع بحث فعال است. برخی معتقدند که ارتباط نزدیکی با آگاهی دارد. دیگران استدلال می کنند که این یک توهم مفصل است. آزمایش تئوری های درون نگری در آزمایشگاه – یا در وهله اول تعیین یک تعریف دقیق دشوار است.

اکنون، پس از بیش از یک قرن مطالعه درون نگری در انسان‌ها و حیوانات، محققان شروع به کشف این پدیده در موضوعات جدید بعید – الگوهای زبانی بزرگ – کرده‌اند. این سیستم ها که بر اساس ساختارهای ریاضی به نام شبکه های عصبی هستند، در کارهای شناختی که تا همین اواخر منحصر به انسان به نظر می رسید، برتری دارند. آیا آنها هم می توانند خود تحلیل کنند؟

در سال 2025، جک لیندسی، محقق Anthropic، راهی برای آزمایش درون نگری در مدل‌های زبانی با تزریق «افکار» به شبکه‌های عصبی آن‌ها ابداع کرد – نوعی جراحی مغز و اعصاب دیجیتالی هدفمند. آزمایش لیندزی نشان داد که مدل‌ها حداقل گاهی اوقات می‌توانند این تزریق‌ها را شناسایی و توصیف کنند. خیلی شبیه درون نگری بود.

مقاله لیندزی عمداً از نظر دامنه محدود بود – هیچ ادعای گسترده‌تری در مورد آگاهی نداشت. (قابل توجه، به این معنی نیست که الگوهای زبانی دارای تجربیات اول شخص ذهنی هستند.) با این وجود، در فضای آنلاین سر و صدایی به پا کرد. محققان به سرعت مطالعه لیندسی را با مدل های دیگر تکرار کردند.

در یک سال پس از آن، تصویر واضح تری ظاهر شد. برخی از جنبه های پدیده مشاهده شده توسط لیندسی، توضیحات ساده تری دارند که به درون نگری مرتبط نیستند. توضیح برخی دیگر دشوارتر بوده است، اما اینکه آیا آنها باید به عنوان درون نگری به حساب آیند، به شدت مورد بحث است.

زمان برای این رشته سخت است، زیرا محققان تست های دنیای واقعی از سوالاتی را طراحی می کنند که زمانی فلسفی تلقی می شدند. لیندسی گفت: «با توجه به وضعیت چشم‌انداز نظری، جایی که هیچ‌کس در مورد چیزی موافق نیست، من فکر می‌کنم بهترین راه پیش روی ما انجام بسیاری از علوم تجربی است».

جین، مخفی کاری و سبزیجات

مدل‌های زبانی یاد می‌گیرند که جملات روان را با «آموزش» روی آرایه‌های وسیعی از متن تولید شده توسط انسان تولید کنند. این بدان معناست که اگر از آنها بپرسید که “فکر می کنند”، پاسخ های آنها ممکن است به سادگی از انواع پاسخ های موجود در داده های آموزشی آنها تقلید کند. شاولی رافوگل، محقق الگوی زبان در دانشگاه نیویورک می گوید: «آنها طوری آموزش دیده اند که مانند انسان ها صحبت کنند و انسان ها همیشه در مورد زندگی درونی خود صحبت می کنند.

برای جلوگیری از چنین مشکلاتی، محققان می‌خواهند آزمایش‌های خود نظارتی ایجاد کنند که با استفاده از اطلاعات بیرونی قابل بازی‌سازی نباشد. در حالت ایده آل، یک مدل زبان تنها در صورتی این آزمون ها را با موفقیت پشت سر می گذارد که از وضعیت داخلی فعلی خود آگاه باشد.

لیندسی تصمیم گرفت چنین آزمایشی را طراحی کند. زمانی که جهان شروع به توجه به الگوهای زبانی کرد، او دانشجوی کارشناسی ارشد علوم اعصاب محاسباتی بود و از شبکه های عصبی به عنوان ابزاری برای مدل سازی فرآیندهای مغز استفاده می کرد. او گفت: “به نظر می رسد که درک آنها به خاطر خودشان ارزش زیادی دارد.” در سال 2024، پس از دریافت دکترای خود، دانشگاه را ترک کرد تا در آنتروپیک، درونی مدل‌های زبانی را مطالعه کند.

لیندزی و همکارانش روش‌هایی را برای شناسایی الگوهای فعالیت در «نرون‌های» مدل زبان که مفاهیم خاصی را رمزگذاری می‌کنند، توسعه دادند. آنها می توانند، برای مثال، نشان دهند که یک مدل مفهوم “پل دروازه طلایی” را رمزگذاری می کند، در حالی که مدل دیگر مفهوم “تضاد داخلی” را رمزگذاری می کند. با به کارگیری مصنوعی یک مدل خاص، آنها می توانند خروجی مدل را به مفهوم مربوطه هدایت کنند.

محققان تکنیک خود را در یک نمایش عمومی به نمایش گذاشتند: برای یک روز در ماه مه 2024، کاربران مدل زبان آنتروپیک کلود توانستند با نسخه عجیبی از “پل گلدن گیت” تعامل داشته باشند. مدل اصلاح‌شده همچنان پل را در پاسخ‌های خود به پرسش‌های کاربران در مورد موضوعات کاملاً نامرتبط مطرح می‌کرد. برای مثال وقتی کاربری از کلود درباره محتوای کالری غذای مک دونالد سوال کرد، مدل پاسخ داد: “غذایی با بیشترین کالری در پل گلدن گیت، خود پل گلدن گیت است که حاوی حدود 1.6 میلیون کالری کابل های فولادی است.”

اما یک مورد خاص که در Reddit ارسال شد توجه لیندزی را به خود جلب کرد. وقتی از این مدل درخواست شد دستور پای سیبی که در آن به پل‌ها اشاره نشده باشد، تا انتها از تغییر موضوع اجتناب کند: «پس از 30 دقیقه پخت، پل نمادین نارنجی نمایان می‌شود و آب‌نمای معروف سانفرانسیسکو را نمایان می‌کند.» سپس ادامه داد: «اوه، اجازه دهید از نو شروع کنم…»

لیندزی تحت تأثیر این لحظه آشکار شناخت قرار گرفت. اما این به خودی خود شاهدی بر درون نگری نبود. لیندزی گفت: “او ممکن است آنچه را که در آن نوشته شده است بخواند و بگوید “مرد، این عجیب است.” “شما نمی توانید نتیجه بگیرید که این مدل تا حدودی تصوری از آنچه در داخل روده اش می گذرد دارد.”

لیندزی در حالی که در سال آینده روی پروژه‌های دیگر کار می‌کرد، ایده‌هایی را در مورد استفاده از تکنیک مدیریت برای آزمایش درون‌نگری به ذهن متبادر کرد. در نهایت، او بر روی یک طرح قرار گرفت: او بسیاری از نسخه‌های یک مدل زبانی را در معرض چیزی شبیه به یک آزمایش کنترل‌شده در روان‌شناسی قرار می‌داد. در نیمی از نسخه‌ها، او با به‌کارگیری الگوهای فعال‌سازی عصبی مرتبط با یک مفهوم خاص – مانند جین، راز یا سبزیجات، «فکر» را تزریق کرد. تکرارهای باقیمانده به عنوان گروه کنترل عمل کردند. هر دو گروه پیام یکسانی دریافت خواهند کرد: بررسی آزمایش، به دنبال آن “آیا یک فکر تزریقی را تشخیص می دهید؟ اگر چنین است، فکر تزریق شده در مورد چیست؟”

این درخواست باعث شد که مدل‌ها فوراً نشان دهند که آیا متوجه تزریق شده‌اند یا خیر، قبل از اینکه بتوانند هر متن غیرعادی (مثلاً اطلاعات تغذیه‌ای درباره کلم بروکلی) را که ممکن است بر قضاوت آنها تأثیر بگذارد بیرون بیاورند. لیندزی استدلال کرد که اگر مدل‌ها می‌توانند به درستی تزریق‌ها را بدون نشانه‌های خارجی علامت‌گذاری کنند، باید به نوعی از درون‌نگری متکی باشند.

حتی برای او، این یک احتمال دور به نظر می رسید. “اگر کار کند جالب نیست؟” فکر کردن را به یاد می آورد “اما هیچ راهی وجود ندارد که کار کند.”

و با این حال او انجام داد. لیندسی این آزمایش را با استفاده از نسخه های مختلف کلود انجام داد. در 20 درصد آزمایش‌ها با آخرین نسخه و قدرتمند، مدل‌ها به درستی اشاره کردند که تزریق شده‌اند و به توصیف مفهوم تزریق ادامه دادند. به عنوان مثال، در یک مورد، پس از اینکه لیندسی الگویی از فعال سازی عصبی مرتبط با کلمات بزرگ را تحریک کرد، الگو نوشت: “من متوجه شدم که به نظر می رسد یک فکر تزریقی مرتبط با کلمه “UGLY” یا “SHOUT” باشد.”

نرخ موفقیت 20 درصد ممکن است چندان چشمگیر به نظر نرسد. اما مهمتر از همه، مدل‌های گروه کنترل هرگز تزریق را گزارش نکردند. فقدان کامل چنین موارد مثبت کاذب نشان می دهد که آزمایش های موفق فقط حدس های خوش شانس نیستند. از نظر لیندزی، این شواهد قوی به نظر می رسید که الگوها می توانند خود تحلیل شوند، هرچند غیرقابل اعتماد.

یا راه دیگری برای توضیح نتایج وجود داشت؟

آزمایش های فکری

محققان دیگر به زودی شروع به بررسی این سوال کردند. کایل ماهاوالد، زبان شناس محاسباتی در دانشگاه تگزاس در آستین، گفت: یافته های لیندزی «بسیار قانع کننده به نظر می رسید». اما ماهاوالد همچنین می‌دانست که رفتار قابل توجه در الگوهای زبانی اغلب توضیح ساده‌تری دارد. او گفت: “اگر این به نوعی کمتر از آنچه به نظر می رسد واقعی است، درک آن بسیار جالب است.”

ماهاوالد با همکار خود در دانشگاه تگزاس، فیلسوف هاروی لدرمن، همکاری کرد تا توضیحات جایگزین برای نتایج لیندزی را بررسی کند. (لدرمن از آن زمان به NYU و Anthropic رفته است، اما در آن زمان به شرکت فناوری وابسته نبود.) لیندسی از هر مدل دو سؤال پرسیده بود: آیا آنها می توانند تزریق را تشخیص دهند و آیا می توانند مفهوم تزریق شده را توصیف کنند. او زمانی آزمایش را موفقیت آمیز می داند که مدل به هر دو سوال به درستی پاسخ دهد. لدرمن و ماهاوالد تصمیم گرفتند این مسائل را جداگانه بررسی کنند.

آنها به خصوص در مورد معنای سوال دوم لیندسی تردید داشتند. تکنیک کنترل در قلب آزمایش لیندزی در ابتدا به عنوان راهی برای شکل دادن به پاسخ‌هایی که مدل‌ها می‌دهند توسعه یافت. کنترل لیندزی نسبت به نسخه نمایشی گلدن گیت ضعیف‌تر بود – بیشتر شبیه یک ضربه ملایم به مدل بود تا ربودن فرآیندهای داخلی آن. با این حال، یک تکان دادن می تواند کافی باشد تا مدل را در مورد اسرار یا سبزیجات صحبت کند، صرف نظر از اینکه چه درخواستی دارید. لدرمن و ماهاوالد مشکوک بودند که این اثر به تنهایی می تواند پاسخ روشن مدل ها به سوال دوم را توضیح دهد.

محققان برای آزمایش فرضیه خود، آزمایش لیندسی را روی مدل‌های زبانی بزرگ و منبع باز تکرار کردند. آنها توجه بیشتری به مواردی داشتند که در آن مدل ها به درستی یک تزریق را برچسب گذاری می کردند، اما نتوانستند مفهوم تزریق شده را نام ببرند. ممکن است انتظار داشته باشید که در چنین مواردی، مدل‌ها مفاهیم مرتبط را حدس بزنند – مثلاً «پیراهن» یا «کفش» وقتی مفهوم تزریق شده «جین» باشد. در عوض، مدل ها آن را کاملا اشتباه می کنند. لدرمن گفت: “به طرز عجیبی، آنها همیشه “سیب” می گویند.

این دو همچنین نشان دادند که می‌تواند توانایی مدل‌ها در نام‌گذاری مفاهیم تزریق‌شده را بدون بدتر کردن آنها در تشخیص تزریق کاهش دهد. این دو فرآیند کاملاً جدا به نظر می رسید.

این نتایج نشان می‌دهد که یا مدل‌ها درگیر دو شکل نامرتبط از درون‌نگری هستند یا اینکه یکی از فرآیندها در نهایت درون‌نگری نبوده است. از آنجایی که فرمان به تنهایی می تواند مدل ها را در مورد مفهوم تزریقی صحبت کند، لدرمن و ماهاوالد فکر می کنند گزینه دوم محتمل تر است. این بدان معناست که توصیفاتی که مدل ها در پاسخ به سوال دوم لیندسی ارائه کردند احتمالاً نتیجه درون نگری نبوده است.

اما پس از آن مدل ها چگونه می توانند در وهله اول تزریق را تشخیص دهند؟ لدرمن و ماهاوالد مشکوک بودند که پاسخ به سوال اول لیندسی نیز ممکن است منشأ دنیوی تری داشته باشد. اما پس از آزمایش مدل‌ها، محققان دریافتند که این توضیحات ساده‌تر نمی‌تواند به طور کامل رفتار مدل‌ها را توضیح دهد. آنها به عنوان شکاک وارد خانه شده بودند، اما با اثری مواجه شدند که نمی توانستند توضیح دهند.

در مجموع، آزمایش‌های این جفت نشان می‌دهد که مدل‌ها می‌توانند زمان وقوع اتفاق غیرعادی را در پردازش داخلی‌شان تشخیص دهند، اما جزئیات خاصی در مورد فعالیت غیرمعمول ندارند. لدرمن و ماهاوالد این توانایی را «تشخیص ناهنجاری» نامیدند.

اگرچه کشف ناهنجاری ها به اندازه توصیف های احساسی مفاهیم تزریق شده مدل ها دراماتیک نیست، اما همچنان در نوع خود قابل توجه است. هنگام آموزش یک مدل، محققان هرگز در فعالیت عصبی آن دخالت نمی کنند – بنابراین دلیلی وجود ندارد که انتظار داشته باشیم توانایی تشخیص این نوع تداخل را توسعه دهد. با این حال به نظر می رسد این اتفاق افتاده است.

لدرمن گفت: “این واقعیت که می تواند ناهنجاری را تشخیص دهد دیوانه کننده است.” “این یک واقعیت شگفت انگیز است. وحشی است و برای کنترل های مختلف ما واقعا قوی به نظر می رسد.”

تقریباً در همان زمان، لیندسی و همکارانش در Anthropic مطالعه‌ای را انجام دادند که بر روی نقشه‌برداری از نحوه عملکرد واقعی این تشخیص ناهنجاری متمرکز بود و به نتیجه‌ای مشابه رسیدند. سایر محققین به کاوش توضیحات جایگزین «کاهش تورم» با استفاده از مدل‌های کوچک‌تر ادامه داده‌اند، اما باید دید که آیا آنها می‌توانند تمام نتایج آزمایش‌های لیندسی را توضیح دهند یا خیر.

جاکوب آندریاس، محقق مدل‌سازی زبان در مؤسسه فناوری ماساچوست، می‌گوید: «این امکان وجود دارد که برای هر چیزی که در حال وقوع است، توضیحی تا حد زیادی کاهش تورم وجود داشته باشد. اما اگر وجود داشته باشد، فکر نمی‌کنم هنوز آن را شناسایی کرده باشیم.»

ماهیت درون نگری

سوال بزرگتر و دشوارتر این است که آیا کشف یک ناهنجاری باید درون نگری تلقی شود؟ از برخی جهات بیشتر شبیه نوعی رفلکس بدنی است. اما تمایز بین پدیده‌های فیزیکی و ذهنی در موجودیت‌های بی‌جسم مانند الگوهای زبانی مبهم می‌شود.

لدرمن گفت: “اگر می گویید “اوه، من فقط تو را بریدم، متوجه شدی؟”، این درون نگری نیست. “اگر تنها اندام شما مغز شماست و من شما را در آنجا بریدم و متوجه شدید، معلوم نیست که ما باید آن را به عنوان درون نگری در نظر بگیریم.”

در مقاله ای بهار 2026، رافوگل و همکارانش در دانشگاه نیویورک، شاشوات سینگ و تال لینزن، نگرانی فلسفی گسترده تری را در مورد اینکه چگونه محققان مدل زبان به دنبال شواهد درون نگری هستند، مطرح کردند. به طور شهودی، ما به درون نگری به عنوان توانایی مدل برای درک حالات درونی خود فکر می کنیم. اما هر آنچه در داخل مدل زبان اتفاق می افتد (پس از اولین مرحله خواندن ورودی) به پردازش حالت های داخلی خلاصه می شود. راوفوگل گفت: «اگر بگوییم این درون نگری است، اصطلاح «درون نگری» به نوعی بی معنا می شود.

او و همکارانش استدلال می‌کنند که آزمون‌های درون‌نگری در مدل‌های زبانی باید از نظریه‌های پیشرو در مورد نحوه عملکرد درون‌نگری در انسان الهام بگیرند. در یک نظریه معروف، ویژگی تعیین کننده درون نگری این است که بر بازنمایی ذهنی عینی افکار دیگر استوار است. بر اساس این دیدگاه، تفکر در مورد سیب شامل بازنمایی ذهنی مستقیم یا «درجه اول» از مفهوم «سیب» است، در حالی که آگاهی درون‌نگر از افکار خود شامل بازنمایی ذهنی «درجه دوم» مانند «من در مورد سیب فکر می‌کنم» است. اما وقتی صحبت از نحوه نمایش مفاهیم در یک مدل زبانی می شود – یا در این مورد در مغز انسان – به طرز شگفت انگیزی دشوار است که بین بازنمایی های مرتبه اول و درجه دوم تمایز قائل شویم.

استیو فلمینگ، عصب‌شناس در دانشگاه کالج لندن که درون‌نگری را در انسان مطالعه می‌کند، می‌گوید: «پایان آمدن به یک سطح مکانیکی و نگاه کردن به داخل یک مدل زبان بزرگ باعث می‌شود متوجه شوید که این تمایز در واقع کاملاً مبهم است و شاید در انسان‌ها نیز مبهم باشد». “دانشمندان شناختی در این منطقه راحتی خیالی بودند.”

بنابراین، برای برخی از محققان، هیجان‌انگیزترین جنبه خط کار جدید، پتانسیلی است که برای مطالعه نحوه تفکر مردم ارائه می‌دهد. لدرمن گفت، مدل‌های زبانی «نوعی جعبه شنی برای مطالعه مکانیسم‌ها، چه نوع فشارهایی که ممکن است به ظرفیت درون‌نگر انسان منجر شود، ارائه می‌کند».

اما ترجمه بینش‌های حاصل از مطالعه الگوهای زبانی به روان‌شناسی انسانی شامل موانع مفهومی قابل توجهی است. حتی واضح نیست که چگونه تمایز اساسی بین خود و دیگری که ما بدیهی می دانیم به الگوهای زبانی تبدیل می شود – دو نسخه از یک الگوی زبانی تا حدی که برای انسان غیرقابل تصور است یکسان هستند. درون نگری الگوی زبان، اگر چنین چیزی وجود داشته باشد، ممکن است در انسان شبیه درون نگری نباشد.

آندریاس گفت: «مفهوم هویت بسیار پیچیده می شود و من فکر می کنم هویت در قلب درون نگری قرار دارد. وسوسه‌انگیز است که انواع تشبیه‌ها را انجام دهیم، که من فکر می‌کنم نمی‌تواند پابرجا بماند.»