مەهاباد- لەگەڵ خێرایی پەرەسەندنی هۆشی دەستکرد (Artificial Intelligence) لە بوارە جیاوازەکانی ژیان، وەک تەندروستی، پەروەردە، بانکداری، کارگێڕی و خزمەتگوزارییە گشتییەکان، پرسیارێکی گرنگ سەری هەڵداوە: ئایا ژیریی دەستکرد دەتوانێت دادپەروەری و بەها مرۆییەکان بپارێزێت، یان دەبێتە هۆکاری دروستکردنی نادادپەروەریی نوێ؟

زۆربەی خەڵک وا دەزانن ژیریی دەستکرد سیستەمێکی تەکنیکی و بێلایەنە، چونکە بڕیارەکانی لەسەر بنەمای داتا و ئەلگۆریتم وەردەگرێت، نەک لەسەر هەست و سۆزی مرۆڤ. بەڵام توێژینەوە زانستییەکان پیشان دەدەن کە ئەلگۆریتمەکان بە شێوەیەکی ڕاستەوخۆ کاریگەری لە داتاکانی فێرکاری وەردەگرن. ئەگەر ئەو داتایانە هەڵگری جیاکاری، سوودمەندی یان نادادپەروەری بن، ئەوا بڕیارەکانی ژیریی دەستکردیش هەمان کێشە دووبارە دەکاتەوە.

ڕێکخراوی یونسکۆ (UNESCO) لە بەڵگەنامەی Recommendation on the Ethics of Artificial Intelligence (2021) جەخت لەوە دەکاتەوە کە پەرەپێدانی ژیریی دەستکرد دەبێت لەسەر بنەمای کرامەتی مرۆڤ، دادپەروەری، یەکسانی، نەبوونی جیاکاری، ڕووناکی و بەرپرسیارێتی بێت. یونسکۆ هۆشداری دەدات کە ئەگەر چاودێری و یاسای گونجاو نەبێت، ژیریی دەستکرد دەتوانێت نایەکسانییە کۆمەڵایەتییەکان بەهێزتر بکات.

یەکێک لە گرنگترین بابەتەکانی ئەم بوارە «دادپەروەریی ئەلگۆریتمی» (Algorithmic Fairness) ـە. ئەگەر داتای فێرکردنی سیستەم نوێنەرایەتی هەموو گرووپەکانی کۆمەڵگا نەکات، ئەوا لەوانەیە ژیریی دەستکرد لە هەڵبژاردنی کارمەند، پێدانی قەرز، ناسینەوەی نەخۆشی یان هەڵسەنگاندنی مەترسی تاکەکان، بڕیارێکی نادادپەروەرانە بدات.

نموونەیەکی ناسراو لەم بوارەدا سیستەمی هەڵبژاردنی کارمەند لە Amazon بوو. لە ساڵی 2018، کۆمپانیاکە بەکارهێنانی ئەو سیستەمەی وەستاند، دوای ئەوەی دەرکەوت ئەلگۆریتمەکە بەهۆی داتای مێژوویی، رزومەی پیاوان بە باشتر هەڵدەبژارد و هەلی کەمتر بە ئافرەتان دەدا. ئەم نموونەیە پیشانی دا کە ژیریی دەستکرد دەتوانێت جیاکارییەکانی ڕابردوو دووبارە بەرهەم بهێنێتەوە.

هەروەها، توێژینەوەی Joy Buolamwini و Timnit Gebru لە MIT Media Lab نیشانی دا کە هەندێک سیستەمی ناسینەوەی ڕووخسار لە ناسینەوەی ژنان و کەسانی ڕەشپێست، هەڵەی زیاتر هەیە بە بەراورد بە پیاوانی سپی‌پێست. ئەم توێژینەوەیە یەکێک لە بەهێزترین بەڵگەکانە بۆ ئەوەی کە ئەلگۆریتمەکان هەمیشە بێلایەن نین.

لە هەمان کاتدا، یاسادانەرانیش هەوڵدەدەن ئەم مەترسییانە سنووردار بکەن. یەکێتی ئەورووپا لە ڕێگەی AI Act، سیستەمەکانی ژیریی دەستکردی مەترسیدار بە پابەندییە یاساییە توندەکان دەبەستێت؛ وەک هەڵسەنگاندنی مەترسی، دڵنیابوون لە کوالێتی داتا، چاودێری مرۆیی، ڕووناکی و بەرپرسیارێتی.

شارەزایانی ئەخلاقی تەکنەلۆژیا باوەڕیان وایە سەرکەوتنی ژیریی دەستکرد تەنها بە خێرایی و دروستی بڕیارەکانی ناپێوردرێت، بەڵکو بەو ڕادەیەی مافی مرۆڤ و کرامەتی مرۆڤ پاراستووەش هەڵدەسەنگێندرێت. بۆیە چەمکەکانی وەک ژیریی دەستکردی مرۆڤ‌ناوەند  (Human-Centered AI)، ڕوونکردنەوەی ئۆلگۆریتمەکان (Explainability) و چاودێری مرۆیی (Human Oversight) بوونەتە بەشێکی گرنگی سیاسەتەکانی ئەم بوارە.

لە کۆتاییدا، زۆرێک لە پسپۆڕان پێیان وایە داهاتووی ژیریی دەستکرد زیاتر بە بەها و ئاخلاقی مرۆڤەوە گرێدراوە تا بە پێشکەوتنی تەکنیکی. ئەگەر دادپەروەری، کرامەتی مرۆڤ، بەرپرسیارێتی و ڕووناکی ببنە بنەمای پەرەپێدانی ئەم تەکنەلۆژیایە، ژیریی دەستکرد دەتوانێت ببێتە ئامرازێک بۆ کەمکردنەوەی نایەکسانی و باشترکردنی ژیانی مرۆڤ. بەڵام ئەگەر ئەم بەهایانە پشتگوێ بخرێن، هەمان تەکنەلۆژیا دەتوانێت جیاکاری و نادادپەروەری لە کۆمەڵگا قووڵتر بکات.

سەرچاوەکان:

UNESCO  (2021) Recommendation on the Ethics of Artificial Intelligence.

European Union (2024) . Artificial Intelligence Act (AI Act)

Buolamwini, J., & Gebru, T (2018) Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.

European Commi (2021) Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence.

OECD (2019). OECD Principles on Artificial Intelligence.

Russell, S., & Norvig, P. 2021)). Artificial Intelligence: A Modern Approach (4th Edition(.