সংজ্ঞা
এআই-তে পক্ষপাত বলতে এআই আউটপুটগুলিতে পদ্ধতিগত ত্রুটি বোঝায় যা বিকৃত তথ্য, ত্রুটিপূর্ণ নকশা, অথবা ডেটাসেটে প্রতিফলিত সামাজিক বৈষম্যের কারণে ঘটে। এটি অন্যায্য বা বৈষম্যমূলক ফলাফলের দিকে নিয়ে যেতে পারে।
উদ্দেশ্য
পক্ষপাত অধ্যয়নের উদ্দেশ্য হল AI সিস্টেমে অন্যায্যতা চিহ্নিত করা এবং তা প্রশমিত করা। সংস্থাগুলি এই সমস্যাগুলি সমাধান করে আরও ন্যায়সঙ্গত মডেল তৈরি করার লক্ষ্য রাখে।
গুরুত্ব
- যদি সমাধান না করা হয়, তাহলে নিয়োগ, ঋণ প্রদান বা স্বাস্থ্যসেবার ক্ষেত্রে বৈষম্যের সৃষ্টি হয়।
- এআই সিস্টেমের উপর আস্থা নষ্ট করে।
- সংবেদনশীল শিল্পগুলিতে নিয়ন্ত্রক সম্মতি প্রয়োজন।
- ন্যায্যতা এবং দায়িত্বশীল AI অনুশীলনের সাথে সম্পর্কিত।
কিভাবে এটা কাজ করে
- পক্ষপাতের সম্ভাব্য উৎসগুলি চিহ্নিত করুন (তথ্য সংগ্রহ, লেবেলিং, মডেলিং)।
- ভারসাম্যহীনতার জন্য ডেটাসেট বিশ্লেষণ করুন।
- ন্যায্যতা-সচেতন প্রশিক্ষণ পদ্ধতি প্রয়োগ করুন।
- ন্যায্যতা মেট্রিক্স দিয়ে ফলাফল পরীক্ষা করুন।
- নকশা সামঞ্জস্য করুন এবং প্রয়োজনে পুনরায় প্রশিক্ষণ দিন।
উদাহরণ (বাস্তব জগৎ)
- COMPAS ঝুঁকি মূল্যায়ন হাতিয়ার: জাতিগত পক্ষপাতের জন্য সমালোচিত।
- অ্যামাজন নিয়োগের অ্যালগরিদম: লিঙ্গ পক্ষপাতের কারণে বাতিল।
- মুখের স্বীকৃতি: নির্দিষ্ট জনসংখ্যার গোষ্ঠীগুলিকে ভুল শ্রেণীবদ্ধ করার জন্য পরিচিত।
তথ্যসূত্র / আরও পড়া
- এআই পক্ষপাত - এনআইএসটি।
- ন্যায্যতা এবং মেশিন লার্নিং — বারোকাস, হার্ড্ট, এবং নারায়ণন (বই)।
- অ্যালগরিদমিক পক্ষপাত — ACM FACcT সম্মেলনের কার্যবিবরণী।
- বৈচিত্র্যময় AI প্রশিক্ষণ তথ্য: পক্ষপাত দূর করার চাবিকাঠি
