1. مواد پر جائیں
  2. مینیو پر جائیں
  3. ڈی ڈبلیو کی مزید سائٹس دیکھیں

مصنوعی ذہانت امتیازی سلوک کا سبب بن سکتی ہے، رپورٹ

31 اگست 2023

اے آئی سے متعلق ماہرین کی ایک رپورٹ میں مصنوعی ذہانت پر مبنی نظام کو ایک "بلیک باکس" کے طور پر بیان کیا گیا ہے۔ جرمن حکام کا کہنا ہے اے آؕئی کو ایک بھیانک خواب بننے سے روکنے کے لیے واضح اور قابل فہم اصولوں کی ضرورت ہے۔

https://p.dw.com/p/4VnWj
A.I. Digital Brain
تصویر: Alexander Limbach/Zoonar/picture alliance

"مصنوعی ذہانت (اے آئی) بہت سی چیزوں کو آسان بنا دیتی ہے۔ بدقسمتی سے امتیازی سلوک بھی" یہ تبصرہ جرمن حکومت کی طرف سے امتیازی سلوک کے خاتمے کے لیے مقرر کی گئی خود مختار کمشنر فردا اتمان نے بدھ کی صبح برلن میں ایک پریس کانفرنس میں کیا۔

اتمان نے اس موقع پر خودکارالگورتھمک فیصلہ سازی (ADM) پر مبنی سسٹمز کے ذریعے لوگوں کو ممکنہ امتیازی سلوک سے  تحفظ فراہم کرنے سے متعلق ایک ماہرانہ رپورٹ بھی پیش کی۔ اس رپورٹ میں اے ڈی ایم کے مصنوعی ذہانت میں استعمال کی بہت سی مثالوں کا حوالہ دیا گیا ہے۔ ان میں درخواست کے طریقہ کار، بینکوں، انشورنس کمپنیوں سے قرضے، یا سماجی بہبود جیسے ریاستی فوائد کی تقسیم وغیرہ شامل ہے۔

Berlin | Ferda Ataman | Antidiskriminierungsbeauftragte
جرمنی میں متیازی سلوک کے خاتمے کے لیے خود مختار کمشنر فردا اتمان تصویر: Bernd von Jutrczenka/dpa/picture alliance

اے آئی کس طرح تعصبات کو ہوا دے سکتی ہے؟

امتیازی سلوک کے انسداد کی کمشنر کا کہنا تھا، "یہاں امکانی بیانات گروہی خصوصیات کی بنیاد پر ترتیب دیے جاتے ہیں۔ جو چیز پہلی نظر میں معروضی دکھائی دیتی ہے وہ تعصبات اور دقیانوسی تصورات کو ہوا دے سکتی ہے۔ کسی بھی حالت میں ہمیں ڈیجیٹل امتیاز کے خطرات کو کم نہیں سمجھنا چاہیے۔''

2019 ء میں نیدرلینڈز میں 20,000 سے زیادہ لوگوں نے تجربہ کیا کہ کبھی غلط نہ ہو سکنے کے مفروضے پر قائم ٹیکنالوجی کے استعمال سے کیا ہو سکتا ہے۔ اس دوران انہیں بھاری جرمانے کے خطرے کے تحت بچوں کے فوائد واپس کرنے کا غلط حکم دیا گیا۔ اس حوالے سے بنائے گئے سافٹ وئیر میں ایک امتیازی الگورتھم جزوی طور پر اس صورتحال کا ذمہ دار تھا اور دوہری شہریت رکھنے والے لوگ خاص طور پر اس سے متاثر ہوئے۔

اس طرح کے معاملات کو روکنے کے لیے اتمان کا مطالبہ ہے کہ کمپنیاں شفاف طریقے سے کام کریں۔ دوسرے لفظوں میں وہ  اے آئی کا استعمال کرنے والی کمپنیوں کا ڈیٹا اوران کے سسٹم کے کام کرنے کے طریقہ کار سے متعلق معلومات کی  فراہمی چاہتی ہیں۔

 قانونی اسکالر اندرا اسپیکر اور ان کے ساتھی ایمانوئل وی ٹوفگ  کی جانب سے اے آئی پر لکھی گئی اس ماہرانہ رپورٹ میں مصنوعی ذہانت پر مبنی نظام کو ایک "بلیک باکس" کے طور پر بیان کیا گیا ہے۔ اس نظام سے متاثرہ افراد کے لیے اپنی ناکامی کی وجوہات کا پتہ لگانا عملی طور پر ناممکن ہے۔

رپورٹ میں کہا گیا ہے، ''ADM کے استعمال کا ایک خاص رجحان یہ ہے کہ امتیازی سلوک کی صلاحیت پہلے سے ہی ان کے سسٹم میں موجود ہو سکتی ہے۔ اس کی وجہ ایک ڈیٹا سیٹ ہو سکتا ہے، جو ناقص، مطلوبہ مقصد کے لیے غیر موزوں، یا مسخ شدہ ہو۔

Deutschland, Bremen | Mit KI ausgestatteter Roboter im Transferzentrum fuer Kuenstliche Intelligenz BREMEN.AI
ماہرین اے آئی کے مختلف پہلوؤں سے انسانوں کو لاحق خطرات سے خبردار کرتے آئے ہیںتصویر: Bastian/Caro/picture alliance

ممکنہ امتیازی خصوصیت: پوسٹل کوڈ

اس کا کیا مطلب ہے رپورٹ میں عام مثالوں کے ساتھ واضح کیا گیا ہے کہ "پوسٹل کوڈ، جو اپنے آپ میں تو امتیازی نہیں ہے لیکن وہ امتیازی خصوصیت کا ایک ذریعہ بن جاتا ہے۔ مثال کے طور پر چند تاریخی وجوہات کی بنا پر بہت سے تارکین وطن ایک مخصوص سٹی ڈسٹرکٹ میں رہتے ہیں۔"

اس کے وہاں رہنے والے لوگوں کے لیے منفی نتائج ہو سکتے ہیں۔ مثال کے طور پر اگر وہ قرضوں کے لیے درخواست دیتے ہیں تو انہیں ایک مالیاتی خطرے کے طور پر دیکھا جا سکتا ہے کہ جو ہو سکتا ہے اپنے قرضوں کی ادائیگی نہ کر سکیں۔ ماہرین اس کو "اعداد و شمار کے ذریعے امتیاز" کہتے ہیں- یہ شماریاتی ذرائع سے حاصل کردہ خصوصیات کو کسی گروپ کی اصل یا فرض شدہ اوسط قدروں کی بنیاد پر ان سے منسوب کرنے کی مشق ہے ۔

ثالثی کے ادارے کے قیام کا مطالبہ

اسی نوعیت کے مسائل کے حل کے لیے فردا اتمان اپنی ایجنسی میں ایک مفاہمت کا دفتر قائم کرنا چاہتی ہیں اور یہ مطالبہ بھی کر رہی ہیں کہ عام مساوی سلوک ایکٹ (AGG) کو لازمی مفاہمت کے طریقہ کار کے ذریعے پورا کیا جائے۔

اس رپورٹ سے اتمان کا اخذ کردہ نتیجہ سادہ ہے: "ڈیجیٹائزیشن مستقبل ہے۔ لیکن یہ ایک ڈراؤنا خواب نہیں بننا چاہیے۔ لوگوں کو اس بات پر بھروسہ کرنے کے قابل ہونا چاہیے کہ اے آئی کے ذریعے ان کے ساتھ امتیازی سلوک نہیں کیا جائے گا۔" اور یہ کہ اگر ایسا ہوتا ہے تو وہ اپنا دفاع کر سکتے ہیں۔ اس لیے اتمان کا مطالبہ ہے کہ اس حوالے سے واضح اور قابل فہم اصولوں کی ضرورت ہے۔

یہ آرٹیکل پہلی بار جرمن زبان میں تحریر کیا گیا تھا۔

ش ر/ ک م (مارسیل فیورسٹناؤ )

اے آئی اپنے ساتھ لائی مواقع یا خطرات، آپ کیا کہتے ہیں؟