نگاهی به الگوریتم‌های پیشبینی عملکرد مجرمان و کارایی آن‌ها

ساخت وبلاگ

تکرار جنایت عبارت است از احتمال اینکه یک شخص مجرم، جرم را برای بار دوم انجام دهد. در حال حاضر نرخ این کار توسط الگوریتم های پیش بینی مشخص می شود. نتیجه این کار می تواند بر هر چیزی تأثیر بگذارد: از تصمیم گیری درخصوص محکومیت گرفته تا اینکه آیا فرد آزادی مشروط بگیرد یا خیر.

برای اینکه مشخص شود این گونه الگوریتم ها تاچه اندازه در عمل هم دقیق هستند، یک گروه پژوهشی با رهبریجولیا درسلوهنی فرید،پژوهشگران کالج دارتموث، مطالعه ای روی یک نرم افزار ارزیابی ریسک تجاری به نامCOMPASانجام داد.

این نرم افزار مشخص می کند که آیا شخص پس از مدت دو سال از محکومیت دوباره مرتکب جرم خواهد شد یا خیر. مطالعه نشان داد که این نرم افزار در پیش بینی نرخ تکرار جنایت، زیاد هم دقیق تر از گروه داوطلبان بدون هیچ تجربه ی عدالت کیفری نیست. درسل و فرید تعدادی داوطلب را از طریق یک وب سایت انتخاب کردند و به طور تصادفی لیست های کوچکی از متهمان را در اختیار آن ها قرار دادند.

اطلاعاتی در مورد جنسیت، سن و سابقه ی جرایم قبلی افراد به این داوطلبان داده شد و از آن ها خواسته شد پیش بینی کنند که آیا این افراد طی دو سال آینده دوباره جرایم خود را تکرار خواهند کرد یا خیر.

دقت پیش بینی این داوطلبان که از نوع انسانی بود، میانگینی معادل ۶۲.۱ درصد و میانه ای معادل ۶۴ درصد داشت که بسیار به دقت نرم افزار COMPAS که ۶۵.۲ درصد است، نزدیک بود. به علاوه، پژوهشگران متوجه شدند که اگرچه نرم افزار ۱۳۷ مشخصه را بررسی می کند؛ ولی پیش بینی خطی افراد با بررسی تنها ۲ مشخصه (سن فرد محکوم و تعداد دفعات محکومیت های قبلی)، برای پیش بینی نرخ تکرار جنایت به خوبی کار می کند.

مشکل سوگیری و جانبداری

یکی از نگرانی های گروه، مربوط به سوگیری و جانبداری الگوریتم بود. پژوهشگران در مطالعه ی خود متوجه شدند که هم داوطلبان انسانی و هم نرم افزار هنگام پیش بینی برای متهمان سیاه پوست، نرخ های مثبت کاذب یکسانی به نمایش می گذارند، اگرچه این دو در مورد نژاد متهمان چیزی نمی دانستند.

نرخ مثبت کاذب از طرف داوطلبان انسانی برای متهمان سیاه پوست ۳۷ درصد بود؛ درحالی که همین نرخ برای سفیدپوستان ۲۷ درصد بود. این نرخ ها نزدیک به نرم افزار بودند: ۴۰ درصد سیاه پوستان و ۲۵ درصد سفیدپوستان.

پژوهشگران در بحث در مورد مقاله، خاطرنشان کردند که تفاوت های نرخ دستگیری سیاه پوستان و سفیدپوستان، روند مقایسه ی مستقیم نرخ های مثبت کاذب و منفی کاذب درمورد نژادها را پیچیده می کند. این نتیجه گیری با داده های انجمن ملی پیشرفت رنگین پوستان حمایت شد. داده های این انجمن به عنوان مثال نشان داد که آمریکایی های آفریقایی تبار و سفیدپوستان به مقدار مساوی از مواد مخدر استفاده می کنند؛ اما نرخ زندان رفتن آمریکایی های آفریقایی تبار با جرم مواد مخدر تقریبا ۶ برابر سفیدپوستان بود.

نویسندگان مقاله خاطرنشان کردند که اگرچه نژاد افراد ذکر نشده بود؛ ولی برخی از جنبه های مختلف داده ها به طور بالقوه مربوط به نژاد می شد و همین موضوع باعث اختلاف در نتایج شد. درواقع هنگامی که گروه بار دیگر مطالعه را با اعضای جدیدی از سر گرفت و به این افراد جدید داده هایی درمورد نژاد ارائه داد، نتایج تقریبا یکسانی به دست آمد. گروه پژوهشی، نتیجه گرفت که حذف فاکتور نژاد لزوما به حذف اختلافات نژادی در پیش بینی تکرار جنایت توسط داوطلبان انسانی منجر نمی شود.

زندان و متهم

نتایج تکراری

نرم افزار COMPAS از زمان ساخت خود درسال ۱۹۹۸ تابه حال، برای ارزیابی بالغ بر ۱ میلیون نفر مورد استفاده قرار گفته است؛ اگرچه بخش پیش بینی تکرار جنایت آن ازسال ۲۰۰۰ به بعد وارد عمل شده است. با در نظر گرفتن این مطالب می توان گفت که یافته های مطالعه (اینکه گروهی از داوطلبان آموزش ندیده و کم تجربه درعرصه عدالت کیفری تقریبا با الگوریتم مساوی عمل می کنند) بسیار جالب و در عین حال هشداردهنده است.

نتیجه ی مشخص این مطالعه این است که الگوریتم پیش بینی، آنقدرها هم پیشرفته و دقیق نیست و باید به روزرسانی شود. اما وقتی گروه، آماده ی اعتباربخشی به یافته هایش بود، ماشین بردار پشتیبانی غیر خطی (NL-SVM) قدرتمندتری با داده های یکسان طراحی کرد.

وقتی این ماشین هم نتایج یکسانی ارائه داد، گروه عقب نشینی کرد، چراکه فکر می کرد الگوریتم جدیدی را که به داده ها خیلی نزدیک است، طراحی کرده است. درسل و فرید اظهار داشتند که الگوریتم را به طور خاص روی ۸۰ درصد داده ها طراحی کرده او سپس تست خود را روی ۲۰ درصد باقی مانده انجام داده اند تا ازبیش برازشجلوگیری کنند. بیش برازش به زمانی اطلاق می شود که در آن، دقت الگوریتم تحت تأثیر آشنایی بیش ازحد آن با داده ها قرار می گیرد.

زندان و مجرم

الگوریتم های پیش بینی

پژوهشگران نتیجه گرفتند که شاید داده های مورد نظر به طور خطی قابل تفکیک نباشند؛ یعنی الگوریتم های پیش بینی جدای از طراحی پیچیده شان، روش خوب و مؤثری برای پیش بینی تکرار جنایات نیستند.

گروه پژوهشیباتوجه به آینده ی متهمان خاطرنشان کرد که باید در استفاده از چنین الگوریتم هایی برای تصمیم درمورد متهمان احتیاط شود. طبق نتایج پژوهشگران، تکیه بر الگوریتم برای ارزیابی، تفاوتی با تصمیم گیری افراد تصادفی در ارزیابی های آنلاین ندارد؛ چراکه در پایان کار نتایج به دست آمده از هر دو گروه غیر قابل تشخیص خواهد بود. فرید در گفتگویی اشاره می کند:

فرض کنید شما قاضی هستید و نرم افزاری تجاری در اختیار دارید که می گوید ما داده های مهمی داریم و فلان شخص خطر زیادی دارد. حال دوباره فرض را بر این بگیرید که من همین سؤال را به صورت آنلاین از ۱۰ نفر می پرسم و آن ها نیز همین حرف را می زنند. شما ممکن است این دو وضعیت را به طور متفاوتی بسنجید.

الگوریتم های پیش بینی تنها در سیستم عدالت کیفری مورد استفاده قرار نمی گیرند و ما هر روز با آن ها سروکار داریم: از محصولاتی که به صورت آنلاین برای تبلیغ استفاده می شوند گرفته تا پیشنهادات برای موسیقی در سرویس های استریم. اما وجود یک تبلیغ در فید خبری شما عواقب کمتری نسبت به تصمیم برای متهم کردن یک شخص برای یک جنایت در پی دارد.

علم وفناوری...
ما را در سایت علم وفناوری دنبال می کنید

برچسب : نویسنده : 9elme1404c بازدید : 122 تاريخ : سه شنبه 3 بهمن 1396 ساعت: 15:20