زندان‌ها با شرکت نرم‌افزار هوش مصنوعی همکاری می‌کنند تا پیش‌بینی کنند که افراد زندانی در آینده چه زمانی مرتکب جنایات می‌شوند

میشیگان در آستانه استقرار یک سیستم نرم افزاری جدید در زندان های سراسر ایالت است که برای طبقه بندی افراد زندانی بر اساس “میزان خطرناک بودن آنها” طراحی شده است.

این به گفته کانال دیترویت است فاکس 2، که گزارش می دهد که اداره زندان های میشیگان با الگوریتم طبقه بندی زندانیان که افراد را در سطوح مختلف مسکن دسته بندی می کند، پیش می رود.

در میشیگان، زندانیان بر اساس طبقه بندی امنیتی خود به پنج سطح مسکن تقسیم می شوند. در گذشته، غربالگری ها توسط کمیته ای از کارکنان منصوب شده توسط سرپرست در هر مرکز انجام می شد. اکنون به نظر می رسد که دولت می خواهد این تصمیم را برون سپاری کند – یا حداقل آن را به شدت توسط یک شرکت غیرانتفاعی هوش مصنوعی و نرم افزار به نام Rediviz اطلاع رسانی کند.

Rediviz به عنوان یک پروژه سازماندهی داده در گوگل با هدف “کشف چگونگی استانداردسازی داده های عدالت کیفری و بهبود سیستم در سراسر کشور” طراحی شده است. گفته می‌شود که پلتفرم نرم‌افزاری یکپارچه با هوش مصنوعی عملکردهایی مانند شناسایی افراد واجد شرایط برای برنامه‌های ارائه شده توسط دولت، طبقه‌بندی مجدد یا معافیت، و هماهنگی دسترسی به منابعی مانند مسکن و اشتغال در حال انتقال را انجام می‌دهد.

در یک بیانیه مطبوعاتی که از آن زمان حذف شده است، MDOC گفت که نرم افزار Recidiviz برای “بهینه سازی مسکن افراد زندانی” استفاده خواهد شد، که با یک برنامه آزمایشی در تعدادی از مراکز مردانه که از دسامبر آغاز می شود، شروع می شود. آژانس دولتی اشاره می‌کند که انتظار می‌رود این ابزار “توانایی MDOC را برای پیش‌بینی دقیق‌تر خطر خشونت آتی زندانیان تا حدود 30 درصد بهبود بخشد،” اگرچه مشخص نیست که دولت چگونه به این رقم مبهم رسیده است.

در نظرات به آینده پژوهیMDOC و Rediviz هر دو انکار کردند که نرم‌افزار خاصی که برای زندان‌های میشیگان توسعه می‌یابد – که آن‌ها آن را «ماژول طبقه‌بندی» نامیدند – از هوش مصنوعی برای مدیریت تصمیم‌گیری‌های مربوط به مکان‌یابی استفاده می‌کند.

یکی از سخنگویان این شرکت گفت: «هوش مصنوعی هرگز در ابزارهای Rediviz برای تصمیم گیری در مورد سطح امنیتی یا انتشار افراد استفاده نمی شود.

با این حال، نادیده گرفتن این واقعیت که هوش مصنوعی به طور برجسته در وب سایت Rediviz و در مواد بازاریابی آن به چشم می خورد، دشوار است.

یکی از توضیح‌دهنده‌ها بیان می‌کند که «پلت‌فرم اصلاحات Recidiviz از داده‌ها، اتوماسیون و هوش مصنوعی برای صرفه‌جویی در وقت کارکنان استفاده می‌کند»، در حالی که بخش اطلاعات قابلیت‌های «Intake» شرکت بیان می‌کند که Recidiviz به افسران اصلاح‌کننده اجازه می‌دهد تا «ارزیابی‌های مکالمه مبتنی بر هوش مصنوعی را انجام دهند، و به ساکنان این امکان را می‌دهد تا با سرعت خود و به زبان دلخواه خود در حین جمع‌آوری داده‌های اصلی کارکنان، پاسخ دهند».

صفحه دیگری در وب سایت این شرکت به طور خاص در مورد استفاده از هوش مصنوعی بیان می کند که “هوش مصنوعی راهی برای کاهش کارهای تکراری، ارائه سریع تر بینش های مهم و بهبود ثبات در بین تیم ها ارائه می دهد.” علاوه بر این، این شرکت می گوید از هوش مصنوعی برای مواردی مانند «تولید کد در پلتفرم های منبع باز ما» و «تطبیق افراد با مشاغل، خدمات یا پشتیبانی بر اساس نیازهایشان» استفاده می کند.

در بیانیه‌ای جداگانه، جنی رایلی، افسر اطلاعات عمومی MDOC گفت: «در حالی که Rediviz ابزارهای هوش مصنوعی می‌سازد که به کارکنان در انجام وظایفی مانند رونویسی جلسات کمک می‌کند، هوش مصنوعی هرگز برای تصمیم‌گیری در مورد سطح امنیتی یا آزادی افراد استفاده نمی‌شود».

اما بدون نگاهی عمیق به زیر کاپوت واحد، سوالاتی در مورد اینکه Recidiviz دقیقاً در کجای پلتفرم خود هوش مصنوعی را به کار می‌گیرد، باقی می‌ماند – و تصمیمات ایالتی در خطر است.

برای افراد زندانی، تعیین مسکن بسیار سازگار است و تعیین می‌کند که چه برنامه‌ها و منابعی برای آنها واجد شرایط هستند و چه نوع جمعیتی در طول دوران محکومیت خود در آن قرار خواهند گرفت.

به عنوان یک ProPublica تحقیقی روی نرم‌افزار تحلیل ریسک مشابه در لوئیزیانا نشان داد که نوع داده‌های مورد استفاده برای طبقه‌بندی افراد زندانی دارای سوگیری‌های نژادی و اجتماعی-اقتصادی است.

در نتیجه، سیستم سرطان لوئیزیانا حتی برای کسانی که در مورد توانبخشی جدی هستند، ظالمانه تر و مضرتر شده است. در یک مورد گزارش شده توسط ProPublicaیک مرد 70 ساله نابینا و سوار بر ویلچر، علیرغم داشتن سابقه انضباطی تمیز، به عنوان “خطر متوسط” برای ارتکاب مجدد جرم مشخص شد، طبقه بندی که منجر به از دست دادن خودکار صلاحیت آزادی مشروط می شود.

اگرچه سیستم میشیگان بیشتر به سمت مسکن است تا راه حل های آزادی مشروط، بعید به نظر می رسد که نرم افزار به تنهایی بحران اصلاحات مداوم ایالت را حل کند – و اگر آغوش حل گرایی فنی لوئیزیانا نمونه ای باشد، می تواند اوضاع را بسیار بسیار بدتر کند.

این مقاله برای شامل نظرات MDOC و Rediviz به روز شده است.

اطلاعات بیشتر در مورد حبس: اصول اخلاقی قرار دادن هدست واقعیت مجازی بر روی زندانیان در سلول انفرادی چیست؟