ওপেন-সোর্স প্রজেক্ট LiteLLM-এর সাথে সম্পর্কিত একটি নিরাপত্তা ত্রুটি প্রকাশ করার পর Mercor-এর সাথে Meta-র কাজ স্থগিত করার সাম্প্রতিক প্রতিবেদনগুলো AI স্ট্যাকের এমন একটি অংশের উপর আলোকপাত করেছে, যাকে অনেক প্রতিষ্ঠান এখনও অবমূল্যায়ন করে: আর তা হলো মডেল প্রশিক্ষণ এবং মূল্যায়নের পেছনের ডেটা ও ওয়ার্কফ্লো স্তর।
এন্টারপ্রাইজ এআই দলগুলোর জন্য আসল শিক্ষাটি একটি স্টার্টআপ বা একটি লঙ্ঘনের চেয়েও বড়। এটি একটি অনুস্মারক যে, এআই প্রোগ্রামগুলো ততটাই স্থিতিস্থাপক, যতটা স্থিতিস্থাপক এর পেছনের ভেন্ডর, টুলিং, ডেটা পাইপলাইন এবং গভর্নেন্স কন্ট্রোলগুলো। যখন সংস্থাগুলো ডেটা সংগ্রহ, টীকা সংযোজন, মূল্যায়ন বা বিশেষজ্ঞ ওয়ার্কফ্লোর জন্য বাইরের অংশীদারদের উপর নির্ভর করে, তখন ভেন্ডর ঝুঁকি দ্রুত মডেল ঝুঁকিতে পরিণত হয়। এই বৃহত্তর প্রেক্ষাপটটি এখন বিশেষভাবে প্রাসঙ্গিক, কারণ মারকর জানিয়েছে যে, LiteLLM-সম্পর্কিত একটি সাপ্লাই-চেইন আক্রমণে ক্ষতিগ্রস্ত হাজার হাজার কোম্পানির মধ্যে তারাও একটি এবং তারা ফরেনসিক-সমর্থিত একটি তদন্ত শুরু করেছে।
কেন এআই বিক্রেতার ঝুঁকি এখন মডেলের ঝুঁকির কাছাকাছি চলে এসেছে
আধুনিক এআই সাপ্লাই চেইন খুব কমই সরল হয়। একটি একক ওয়ার্কফ্লোতে বাহ্যিক ডেটা সরবরাহকারী, অ্যানোটেশন টিম, ঠিকাদার নেটওয়ার্ক, এপিআই, ওপেন-সোর্স মিডলওয়্যার, বেঞ্চমার্ক পাইপলাইন এবং অভ্যন্তরীণ ফাইন-টিউনিং বা মূল্যায়ন পরিবেশ জড়িত থাকতে পারে। যদি এর কোনো একটি স্তর ব্যর্থ হয়, তবে তার প্রভাব শুধু আপটাইমের মধ্যেই সীমাবদ্ধ থাকে না। এটি মালিকানাধীন প্রম্পট, ওয়ার্কফ্লো মেটাডেটা, বেঞ্চমার্ক লজিক, গ্রাহকের তথ্য বা অভ্যন্তরীণ মূল্যায়ন প্রক্রিয়াকেও প্রভাবিত করতে পারে। মারকরের ঘটনাটি একটি গুরুত্বপূর্ণ অনুস্মারক যে, সুশাসন ছাড়া গতি লুকানো ভঙ্গুরতা তৈরি করতে পারে।
প্রতিষ্ঠানগুলোর একটি আরও শক্তিশালী এআই বিক্রেতা যাচাইকরণ মডেল প্রয়োজন।
এআই ডেটা সরবরাহকারীদের জন্য মানদণ্ড ক্রমশ বাড়ছে। প্রতিষ্ঠানগুলো এখন আর শুধু গতি বা পরিধির ভিত্তিতে তাদের অংশীদারদের মূল্যায়ন করছে না, বরং তারা কতটা ভালোভাবে নির্ভরযোগ্য ডেটা পাইপলাইন, পরিমাপযোগ্য গুণমান এবং নিরাপদ ও নিয়মসম্মত কার্যক্রম সমর্থন করতে পারে, তার ভিত্তিতেও মূল্যায়ন করছে।
বিক্রেতা পর্যালোচনায় শুধু উপরিভাগের চেয়েও বেশি কিছু অন্তর্ভুক্ত থাকা উচিত।
মারকর ঘটনা থেকে পাওয়া অন্যতম গুরুত্বপূর্ণ শিক্ষা হলো, ঝুঁকিটি কেবল ‘ভেন্ডর হ্যাক হয়েছে’ ধরনের কোনো সাধারণ ঘটনা ছিল না, বরং এটি লাইটএলএলএম (LiteLLM)-কে জড়িত একটি সাপ্লাই-চেইন লঙ্ঘনের সাথে সম্পর্কিত ছিল। এআই (AI)-এর ক্ষেত্রে, আপনার ঝুঁকির পরিধিতে ক্রমশ অর্কেস্ট্রেশন লেয়ার, কানেক্টর, ইভ্যালুয়েশন টুলিং এবং মিডলওয়্যার অন্তর্ভুক্ত হচ্ছে। আপাতদৃষ্টিতে নিরাপদ মনে হলেও, যদি এই নির্ভরশীলতাগুলো ভালোভাবে পরিচালিত না হয়, তবে তা পরবর্তী পর্যায়ে ঝুঁকি তৈরি করতে পারে।
ডেটার গুণমান এবং শাসনব্যবস্থা অবিচ্ছেদ্য
নিরাপত্তাজনিত ব্যর্থতাগুলোই খবরের শিরোনামে প্রাধান্য পায়, কিন্তু কোনো নিরাপত্তা লঙ্ঘন ছাড়াও দুর্বল ব্যবস্থাপনা সমানভাবে ব্যয়বহুল হতে পারে। ত্রুটিপূর্ণ নির্দেশনা, অসামঞ্জস্যপূর্ণ লেবেল, প্রান্তিক পরিস্থিতি (edge-case) সামলানোর ক্ষেত্রে অস্পষ্টতা এবং ডেটাসেটের উৎস সম্পর্কে অলিখিত তথ্য—এই সবই সময়ের সাথে সাথে মডেলের কর্মক্ষমতা হ্রাস করে।
এই কারণেই অভিজ্ঞ এআই দলগুলো মানব পর্যালোচনার কাঠামো, গুণমান পরিমাপের পদ্ধতি এবং ডেটাসেট-সংক্রান্ত সিদ্ধান্তগুলোর নথিভুক্তিকরণের বিষয়ে ক্রমশ বেশি যত্নশীল হচ্ছে। শাইপের প্রকাশ্য কন্টেন্টগুলো ‘হিউম্যান-ইন-দ্য-লুপ কোয়ালিটি ওয়ার্কফ্লো’ , ‘এআই ডেটা সংগ্রহের নির্দেশিকা ’ এবং ‘ডোমেইন-নির্দিষ্ট এলএলএম প্রশিক্ষণ ডেটা পরিষেবা’-র মাধ্যমে এই একই দিকের ওপর জোর দেয় ।
নির্ভরযোগ্য ডেটার উপর ভিত্তি করে এআই তৈরি করুন
প্রতিষ্ঠানগুলোর এখন যেকোনো এআই ডেটা বিক্রেতাকে কী জিজ্ঞাসা করা উচিত
ডেটা কীভাবে সংগ্রহ, লাইসেন্স, যাচাই এবং পরিচালিত হয়?
একজন বিশ্বাসযোগ্য বিক্রেতার উৎস, সংগ্রহ পদ্ধতি, ডকুমেন্টেশনের মান, সম্মতি প্রক্রিয়া এবং সংরক্ষণের নিয়মাবলী ব্যাখ্যা করতে সক্ষম হওয়া উচিত। শাইপ-এর পাবলিক বায়ার গাইডেন্সে উৎস, গুণমান নিশ্চিতকরণ (QA) এবং নিয়মসম্মত সংগ্রহ পদ্ধতির উপর বিশেষভাবে জোর দেওয়া হয়েছে।
কী ধরনের মানব গুণমান নিয়ন্ত্রণ ব্যবস্থা চালু আছে?
প্রতিষ্ঠানগুলোর জন্য শুধু “আমাদের কোয়ালিটি অ্যাসিওরেন্স (QA) আছে”—এর চেয়েও বেশি কিছু প্রয়োজন। তাদের প্রয়োজন বহুস্তরীয় পর্যালোচনা, সুস্পষ্ট বিচার-বিবেচনা, পরিমাপযোগ্য নির্ভুলতা এবং ফিডব্যাক লুপ। শাইপের প্রকাশিত উপকরণগুলোতে এলএলএম (LLM) কর্মপ্রবাহের জন্য বিশেষজ্ঞ পর্যালোচনা এবং মানব-নির্দেশিত মূল্যায়নের ওপর জোর দেওয়া হয়েছে।
ওয়ার্কফ্লোর মধ্যে কোন ওপেন-সোর্স এবং থার্ড-পার্টি টুলগুলো অন্তর্ভুক্ত আছে?
যদি কোনো বিক্রেতা তার নির্ভরতা স্তর ব্যাখ্যা করতে না পারে, তবে তা একটি প্রশাসনিক সমস্যা। মারকরের ঘটনাটিই এর কারণ দেখিয়ে দেয়।
সম্মতি এবং নিরীক্ষার প্রস্তুতির সমর্থনে কী কী প্রমাণ রয়েছে?
নিরাপত্তা পরিস্থিতির জন্য প্রমাণ প্রয়োজন, ব্র্যান্ডের বুলি নয়। শাইপ তার কমপ্লায়েন্স পেজে প্রকাশ্যে ISO 27001:2022, HIPAA এবং SOC 2-কে তুলে ধরে।
ফাইনাল টেকওয়ে
মেটা-মারকরের এই বিরতি শুধু একটি খবরের শিরোনাম নয়। এটি একটি ইঙ্গিত যে এআই প্রকিউরমেন্ট বা কৃত্রিম বুদ্ধিমত্তার জন্য সরঞ্জাম সংগ্রহ প্রক্রিয়া পরিপক্ক হচ্ছে। মূল প্রশ্নটি এখন আর শুধু এই নয় যে, কোনো সরবরাহকারী আপনাকে দ্রুত এগিয়ে যেতে সাহায্য করতে পারবে কি না। বরং প্রশ্নটি হলো, সেই সরবরাহকারী সুশাসন, ডেটার গুণমান বা প্রাতিষ্ঠানিক আস্থার সঙ্গে আপোস না করে আপনাকে দ্রুত এগিয়ে যেতে সাহায্য করতে পারবে কি না।
শাইপ এআই প্রশিক্ষণ ডেটা , এলএলএম-কেন্দ্রিক পরিষেবা এবং এন্টারপ্রাইজ-উপযোগী নিরাপত্তা ও কমপ্লায়েন্সের মাধ্যমে প্রতিষ্ঠানগুলোকে আরও শক্তিশালী এআই পাইপলাইন তৈরি করতে সাহায্য করে ।
এআই ডেটা ভেন্ডরের ঝুঁকি কী?
এআই ডেটা ভেন্ডর ঝুঁকি হলো সেইসব পরিচালনগত, নিরাপত্তা, সম্মতি এবং গুণগত ঝুঁকি যা এআই ডেটা সংগ্রহ, টীকা সংযোজন, মূল্যায়ন বা ওয়ার্কফ্লো টুলিং-এর সাথে জড়িত তৃতীয় পক্ষের সরবরাহকারীদের দ্বারা সৃষ্টি হয়।
এআই-এর ক্ষেত্রে সাপ্লাই-চেইন নিরাপত্তা কেন গুরুত্বপূর্ণ?
কারণ এআই ওয়ার্কফ্লো প্রায়শই ওপেন-সোর্স লাইব্রেরি, অর্কেস্ট্রেশন লেয়ার এবং কানেক্টরের উপর নির্ভর করে, যা সিস্টেমগুলোর মধ্যে সংবেদনশীল ডেটা স্থানান্তর করে। একটি নির্ভরতার দুর্বলতা বৃহত্তর পাইপলাইনকে প্রভাবিত করতে পারে।
প্রতিষ্ঠানগুলোর একটি এআই ডেটা বিক্রেতার মধ্যে কী কী বিষয় খোঁজা উচিত?
প্রতিষ্ঠানগুলোর উচিত পণ্যের উৎস, মানবভিত্তিক গুণমান নিশ্চিতকরণ (HQA), প্রবেশাধিকার নিয়ন্ত্রণ, নিরীক্ষাযোগ্যতা, সম্মতি প্রমাণ, নির্ভরশীলতার স্বচ্ছতা এবং ঘটনা মোকাবেলার প্রস্তুতি মূল্যায়ন করা। শাইপ-এর সর্বজনীন ক্রেতা নির্দেশিকা এবং সম্মতি পৃষ্ঠাগুলোতে এই অগ্রাধিকারগুলো প্রতিফলিত হয়।
এন্টারপ্রাইজ এআই-এর জন্য মানব পর্যালোচনা এখনও কেন গুরুত্বপূর্ণ?
কারণ দ্ব্যর্থক বা ক্ষেত্র-সংবেদনশীল কাজগুলোর জন্যও বিচার-বিবেচনা, প্রেক্ষাপট এবং জবাবদিহিতার প্রয়োজন হয়। শাইপের প্রকাশ্য HITL নির্দেশিকা ডেটার গুণমান নিয়ন্ত্রণে মানব পর্যালোচনাকে একটি মূল নিয়ন্ত্রক বিন্দু হিসেবে তুলে ধরে।
