چېټ جي پي ټي او ورته ماډلونه تر اټکل د کمي زدکړي وړتيا لري
۱۴۰۳ مرداد ۲۲, دوشنبه
په آلمان کې د دارمشتت تخنیکي پوهنتون د دوشنبې په ورځ (د ۲۰۲۴ کال د اگست ۱۲مه) د خپلې يوې څېړنې پايلې خپرې کړې. په دغو کې راغلي دي چې هیڅ داسې شواهد نه دي موندل شوي چې لوی ژبني ماډلونه (LLMs) دې د داسې عمومي «هوښیار» د چلند د پراختیا پر لور روان وي چې دوی ته د پلان جوړولو، وړاندوینې، یا پیچلي فکر کولو وړتیا وروبخښي.
د دغې څېړنې د لیکوالانو په وینا دغه ژبني ماډلونه یواځې په ظاهري ډول توانېدلي چې نسبتاً ساده لارښوونې تعقیب کړي او له هغه څه چې انسانان یې کولی شي، لا ډېر زيات واټن لري. خو داسې اټکلونه هم شوي چې مصنوعي ځيرکتيا ښايي له زياتو انسانانو د دندو د نيولو لامل شوي.
د مصنوعي ځيرکتيا پر ماډلونو تکيه
د څېړنې مشره او د ياد پوهنتون د کمپیوټر ساینس پروفیسوره، ایرینا ګوریویچ و کاتولیکي خبري آژانس ته ويلي:«دا به ممکن یوه تېروتنه وي چې د مصنوعي ځيرکتیا پر ماډلونو داسې تکیه وشي چې گواکې هغوی به پیچلې دندې پرته له مرستې پخپله تحلیل کړي او سر ته يې ورسوي.»
نوموړې زياته کړې ده چې د دې لپاره چې دغه ماډلونه پېچلي دندې تر سره کړلای شي، دوی و دقيقو لارښوونو ته اړتيا لري. هغې ويلي: «کاروونکي باید په ښکاره ډول هغه څه بیان کړي چې غواړي سیستمونه یې ترسره کړي، او که امکان وي بايد بیلګې هم ورته وړاندې کړي.»
گوريويچ، وايي چې دغه ماډلونه به احتمالاً لا هم داسې پایلې وړاندې کوي چې په ظاهره سمې ښکاري، خو په حقیقت کې غلطې وي. په ياده څېړنه کې ټينگار شوی دی چې راتلونکې څېړنه باید د هغو نورو خطرونو په اړه وي چې دا ماډلونه یې رامنځته کوي، لکه د جعلي خبرونو جوړولو وړتیا.
د ماډلونو له خطرونو اندېښنې
د دارمشتت پوهنتون څېړونکو په دغه څېړنه کې په ځانګړې توګه د ژبنیو ماډلونو پر هغو ممکنه ناڅاپي پرمختگونو تمرکز کړی و چې بېله مراقبت څخه يې د رامنځته کېدلو اټکلونه کېدل. ساینسپوهانو وروسته له هغې چې دا ماډلونه معرفي شول، وموندل چې دا ماډلونه د هغوی د پراختيا او د هغه معلوماتو له زیاتېدو سره چې دوی پرې روزل شوي، لا ډېر پياوړي کيږي.
دا پرمختګ که له يوې خوا دا هیله رامنځته کړه چې د نورې روزنې سره به دغه ماډلونه لا بهتر شي، نو له بلې خوا يې دا اندېښنه هم رامنځته کړه چې دا وړتیاوې به خطرناکې شي.
د دغې اندېښنې له مخې ځکه چې کېدای شي ژبني ماډلونه خپلواک شي او د انسان له کنټرول څخه ووځي. د دې اندېښنو په جواب کې په ټوله نړۍ کې د مصنوعي ځيرکتيا يا (AI) سره تړلو قوانینو تصویب ته هم لاره هواره شوه. يادې اندېښنې په اروپايي ټولنه او امريکا متحده ايالاتو کې هم د اړونده قوانينو د جوړولو د هوډ لامل شوې. په دې ترڅ کې ملگرو ملتونو هم د مصنوعي ځيرکتيا په هکله لومړۍ پرېکړه تصويب کړه.
آ./ا.ا./ن.ز.
پر ورته موضوع زموږ له آرشيف څخه يو انځوريز راپور: