من مدتهاست که شیفته فناوری مورد نیاز برای شبیه سازی صدای خودم هستم. همین سه سال پیش، این تلاش شامل چندین ساعت سخنرانی ضبط شده و مجموعه ای از ابزارهای تخصصی برای تولید یک نقل قول سریع بود که حتی از راه دور شبیه من بود. اکنون می توانم این کار را تنها با چند ثانیه صدا و چند کلیک انجام دهم – و تشخیص جعلی بودن آن به متخصص نیاز دارد.
چرا باید این کار را انجام دهم؟ من پیشینه ای در تجزیه و تحلیل صوتی دارم و با پیشرفت فناوری، کنجکاو بودم که آن را آزمایش کنم و هر سیگنالی را که کلون را تقلبی نشان می دهد، ردیابی کنم. بنابراین هفته گذشته دوباره صدایم را شبیه سازی کردم، این بار با استفاده از یک ابزار رایگان و متن باز. سارا بارینگتون، دانشجوی دکترا در دانشگاه کالیفرنیا، برکلی که شبیه‌سازی صدای هوش مصنوعی را مطالعه می‌کند، می‌گوید: اگر این کار آسان به نظر می‌رسد، به این دلیل است که اینطور است. حداکثر ممکن است یک سرویس شبیه‌سازی از کاربر بخواهد که حق کپی کردن صدا را تأیید کند.
بارینگتون می‌گوید: «پلتفرم‌های آنلاینی وجود دارند که تنها سه ثانیه از صدای یک نفر را برای ایجاد یک کلون تبلیغ می‌کنند. او توضیح می‌دهد که شبیه‌سازی صدا «یک شبه از فنی بودن به در دسترس بودن فوری برای مصرف‌کنندگان تبدیل شد». به عنوان مثال، بارینگتون در یک نمایش در سخنرانی های خود، صدای خود را از یک کلیپ یوتیوب تنها در 90 ثانیه شبیه سازی کرد.
حمایت از روزنامه نگاری علمی
اگر این مقاله را دوست دارید، لطفاً از روزنامه نگاری برنده جوایز ما حمایت کنید مشترک شوید. با خرید اشتراک، به اطمینان از آینده داستان‌های تاثیرگذار درباره اکتشافات و ایده‌هایی که دنیای امروز ما را شکل می‌دهند کمک می‌کنید.
این سطح دسترسی توجه کلاهبرداران را به خود جلب کرده است. رویترز در ماه سپتامبر گزارش داد که شخصی که خود را به عنوان وکیل معرفی کرده و از صدای شبیه سازی شده استفاده می کند، یک بانک خصوصی بزرگ ایتالیایی را متقاعد کرده است که حدود 95 میلیون یورو (حدود 105 میلیون دلار) به خارج از کشور منتقل کند.
گوش ما به طور کلی در تشخیص صداهای واقعی و شبیه سازی شده ضعیف است. بارینگتون و همکارانش مطالعه‌ای انجام دادند که در آن صدای واقعی و شبیه‌سازی شده را روی ۲۲۰ بلندگوی مختلف برای بیش از ۶۰۰ شنونده پخش کردند. از حدود نیمی از این شنوندگان خواسته شد تا به صداهایی که فکر می‌کردند به‌طور مصنوعی تولید شده‌اند برچسب بزنند و در 60 درصد مواقع این کار را با موفقیت انجام دادند. در یک آزمایش جداگانه، زمانی که نیمی دیگر از شنوندگان یک کلون و یک سخنران واقعی را در کنار هم شنیدند، آنها را در حدود 80 درصد مواقع به عنوان یک فرد تشخیص دادند.
در گذشته، صداهای شبیه‌سازی شده را می‌توان بر اساس نفس‌ها، مکث‌ها و ناهماهنگی‌هایی مانند «mm» تشخیص داد. اساسا، صداها بیش از حد صیقلی بودند – خیلی غیر طبیعی. این دیگر اینطور نیست. اُم، آه، نفس‌ها و دیگر انحراف‌ها اکنون به عمد اضافه شده‌اند تا کلون را بهتر پنهان کنند. در عوض، محققان مدل‌های هوش مصنوعی را برای شناسایی کلون‌ها بر اساس اندازه‌گیری‌های مربوط به خود موج صوتی آموزش دادند، فرآیندی که شامل چیزی به نام پزشکی قانونی صوتی است.
با تقویت شکل موج صدای خود به اندازه کافی، می توانم هر ارتعاش کوچک تارهای صوتی خود را به عنوان یک ضربان تکراری در سیگنال ببینم. تغییرات کوچک در طول این چرخه‌ها، که به نام جیتر شناخته می‌شوند، و ارتفاع قله‌های آنها، که به عنوان سوسو زدن شناخته می‌شوند، برخی از ویژگی‌های بسیاری هستند که می‌توانند توسط یک مدل تشخیص وزن شوند تا مشخص شود که آیا صدا توسط هوش مصنوعی تولید می‌شود یا خیر.
آماندا مونتانز؛ منبع: شفیق قریشی (شکل موج و داده)
با این حال، حتی بهترین آشکارسازها نیز نقاط کور دارند. برینگتون می‌گوید مدل‌های هوش مصنوعی را می‌توان برای شناسایی امضای ابزارهای یک شرکت شبیه‌سازی یا شاید چندین تنظیم کرد، اما این توانایی “اغلب به خوبی به فروشندگان دیگر منتقل نمی‌شود.” به عنوان مثال، تجزیه و تحلیل طیفی، که تغییر در فرکانس‌های صوتی را در طول زمان به تصویر می‌کشد، می‌تواند ویژگی‌های ابزارهای شبیه‌سازی خاص را آشکار کند، اما هیچ معیار واحدی وجود ندارد که در همه آنها کار کند.
بارینگتون می گوید: «شما انتظار دارید فوراً جزوه ها را ببینید. مطلقاً اینطور نیست.» به عبارت دیگر، هیچ اندازه گیری به تنهایی نمی تواند نادرست بودن یک رکورد را نشان دهد. شما به مجموعه ای از ابزارها نیاز دارید. (برای پیچیده تر کردن مسائل، یک تماس تلفنی بسیاری از جزئیات کلیدی پزشکی قانونی صدا را به حداقل می رساند یا از بین می برد و تشخیص کلون ها را حتی سخت تر می کند.)
در آزمایش خودم، دو دوجین جمله ای را که گفته بودم و نسخه های کلون از همان جملات مقایسه کردم. جملات ضبط شده با زمزمه گرمکن در پس‌زمینه نشان می‌دهد که لرزش کلون از نظر آماری از من قابل تشخیص نیست، اگرچه درخشش آن پایدارتر بود. با این حال، در یک اتاق ساکت، کلون به طور قابل‌توجهی تمیزتر ظاهر شد، حتی پس از یک تماس تلفنی شبیه‌سازی‌شده، نویز کمتری در تمام ۱۲ جمله داشت.
آماندا مونتانز؛ منبع: شفیق قریشی (داده ها)
تا کنون، یکی از امیدوارکننده‌ترین راه‌ها برای تشخیص صداهای شبیه‌سازی‌شده با هوش مصنوعی از صداهای واقعی ممکن است در خود فناوری شبیه‌سازی تعبیه شده باشد. برخی از شرکت‌هایی که ابزارهای صوتی هوش مصنوعی می‌سازند، مانند گوگل، یک واترمارک غیرقابل شنیدن را در صدای تولید شده پنهان می‌کنند. این واترمارک تغییرات کوچکی در صدا ایجاد می‌کند که برای شنیدن آن بسیار ضعیف است، اما بعداً توسط آشکارساز قابل خواندن است – و این تغییرات با فایل صوتی در هر جایی که به اشتراک گذاشته می‌شود، انجام می‌شود.
این واترمارک ها قدرتمند هستند، اما خطاناپذیر نیستند. کسی می تواند یک رکورد را به اندازه ای تغییر دهد که چنین شخصیتی را حذف کند. و حتی در صورت موجود بودن، ممکن است اجباری نباشند: واترمارک برای برخی از برنامه‌های منبع باز که آنها را ارائه می‌دهند اختیاری است. با این حال، بارینگتون می گوید که مانند یک در قفل شده، یک واترمارک خوب می تواند از 99 محافظت کند [percent] از موارد بد.” و برای بقیه، تکنیک‌های پزشکی قانونی صوتی ما باید به سرعت ابزارهای شبیه‌سازی به تکامل خود ادامه دهند.
