এলএলএম ও এআই প্রশিক্ষণের জন্য লাইসেন্সপ্রাপ্ত টেক্সট ডেটাসেট
এলএলএম, এনএলপি এবং জেনারেটিভ এআই প্রশিক্ষণের জন্য আপনার প্রকল্পের প্রয়োজন অনুযায়ী কথোপকথনমূলক প্রশ্নোত্তর, কোড, সংবাদ, ক্লিনিক্যাল, অ্যাকাডেমিক এবং বহুভাষিক ডেটার মতো ব্যবহারের জন্য প্রস্তুত টেক্সট কর্পোরা লাইসেন্স করুন।
এলএলএম এবং এনএলপি প্রশিক্ষণের জন্য লাইসেন্সপ্রাপ্ত টেক্সট ডেটাসেট
শাইপ-এর টেক্সট ডেটা ক্যাটালগ এআই টিমগুলোকে লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) এবং এনএলপি সিস্টেমের প্রশিক্ষণ, ফাইন-টিউনিং ও মূল্যায়নের জন্য লাইসেন্সযোগ্য টেক্সট ডেটাসেট সরবরাহ করে। এটি আটটি ক্যাটাগরি অন্তর্ভুক্ত করে। প্রতিটি ডেটাসেট বাস্তব জগতের উপাদান থেকে সংগৃহীত এবং আপনার প্রকল্পের প্রয়োজন অনুযায়ী এর পরিধি নির্ধারণ করা যায়।
ক্যাটালগটিতে ইংরেজি এবং আরবি ভাষায় কথোপকথনমূলক প্রশ্নোত্তর এবং নির্দেশনা ডেটাসেট অন্তর্ভুক্ত রয়েছে, যা আধুনিক প্রমিত আরবি এবং সৌদি, আমিরাতি, মিশরীয় ও লেভান্টাইন উপভাষাগুলোকে কভার করে। এতে নয়টি প্রোগ্রামিং ভাষায় কোড রিপোজিটরি ডেটাসেটও রয়েছে, যার মধ্যে বেশ কয়েকটির সম্পূর্ণ পুল-রিকোয়েস্ট এবং কমিট হিস্ট্রি আছে। সাম্প্রতিক ঘটনাবলির মডেল এবং RAG-এর জন্য ইংরেজি, স্প্যানিশ এবং আরবি ভাষায় সংবাদ ডেটাসেট রয়েছে , যার মধ্যে ১৯৯৯ সাল থেকে ৯৭৫,০০০ নিবন্ধের একটি আর্কাইভ অন্তর্ভুক্ত। হেলথকেয়ার এআই টিমগুলো ক্লিনিক্যাল প্রশ্নোত্তর এবং কেস ডেটাসেট ব্যবহার করতে পারে , যা গোল্ডেন এবং সিলভার সেট হিসেবে উপলব্ধ এবং এতে ডি-আইডেন্টিফিকেশন অন্তর্ভুক্ত রয়েছে।
প্রিট্রেনিংয়ের জন্য রয়েছে র টেক্সট এবং ওয়েব-স্কেল কর্পোরা , যার মধ্যে ২০ মিলিয়ন শব্দের একটি আরবি কর্পোরা অন্তর্ভুক্ত। স্ক্যান করা ডকুমেন্ট কর্পোরা ডকুমেন্ট এআই এবং তথ্য নিষ্কাশনে সহায়তা করে। অ্যাকাডেমিক ও প্রকাশনা সংস্থার টেক্সট বারোটি বিজ্ঞান ও প্রকৌশল বিষয়কে অন্তর্ভুক্ত করে এবং চিত্রনাট্যভিত্তিক বিনোদনমূলক টেক্সটের মধ্যে রয়েছে চলচ্চিত্র, টিভি, অ্যানিমেশন ও মাইক্রোড্রামা।
প্রতিটি ডেটাসেটের সাথে সুস্পষ্ট লাইসেন্সিং এবং গুণমান পর্যালোচনার শর্তাবলী থাকে। নমুনা উপলব্ধ আছে, যাতে আপনি কেনার আগে ডেটাসেটটি মূল্যায়ন করতে পারেন। নিচে একটি বিভাগ ব্রাউজ করুন অথবা কাস্টম টেক্সট ডেটা সংগ্রহ নিয়ে আলোচনা করতে আমাদের সাথে যোগাযোগ করুন।
কথোপকথনমূলক প্রশ্নোত্তর এবং নির্দেশাবলী ডেটাসেট
এই ডেটাসেটগুলিতে আরবি এবং ইংরেজিতে মানুষের তৈরি প্রশ্ন-উত্তরের জোড়া এবং নির্দেশনামূলক প্রম্পট রয়েছে, যা আধুনিক প্রমিত আরবির পাশাপাশি সৌদি, আমিরাতি, মিশরীয় এবং লেভান্টাইন উপভাষাগুলিকেও অন্তর্ভুক্ত করে। ক্ষেত্র-নির্দিষ্ট সেটগুলি STEM, খাদ্য এবং কৃষিকে অন্তর্ভুক্ত করে। এগুলি ল্যাঙ্গুয়েজ মডেলের নির্দেশনা-সমন্বয়, সূক্ষ্ম-সমন্বয় এবং মূল্যায়নে সহায়তা করে, যেখানে আঞ্চলিক উপভাষার পরিধি এবং সাংস্কৃতিকভাবে প্রতিষ্ঠিত জ্ঞান গুরুত্বপূর্ণ।
কোড এবং সফ্টওয়্যার রিপোজিটরি ডেটাসেট
C#, React, TypeScript, Angular, Java, Go, PHP, Swift এবং BrightScript জুড়ে বাস্তব, প্রকাশিত সফ্টওয়্যার থেকে সংগৃহীত প্রোডাকশন কোডবেস। বেশ কয়েকটি এন্ট্রিতে সম্পূর্ণ পুল-রিকোয়েস্ট এবং কমিট হিস্ট্রি অন্তর্ভুক্ত রয়েছে, যা পর্যালোচনার অধীনে কোড কীভাবে পরিবর্তিত হয়েছে তা দেখায়। এগুলি কোড-কমপ্লিশন, কোড-জেনারেটর, কোড-আন্ডারস্ট্যান্ডিং এবং কোড-রিভিউ মডেল প্রশিক্ষণে সহায়তা করে এবং লাইসেন্সিংয়ের আগে মূল্যায়নের জন্য রিপোজিটরিগুলি উপলব্ধ রয়েছে।
সংবাদ ও সাংবাদিকতামূলক পাঠ্য ডেটাসেট
একটি প্রধান আন্তর্জাতিক সংবাদ সংস্থার পেশাগতভাবে রচিত ও সম্পাদিত সংবাদ নিবন্ধসমূহ, যা ইংরেজি, স্প্যানিশ এবং আরবি ভাষায় একটি নিয়মিত ফিড হিসাবে এবং ১৯৯৯ সাল থেকে প্রকাশিত ৯,৭৫,০০০ নিবন্ধের একটি আর্কাইভাল কর্পাস হিসাবে উপলব্ধ। প্রতিটি নিবন্ধে লেখকের নাম, তারিখ, শিরোনাম, মূল অংশ এবং বিষয় ট্যাগ রয়েছে। এগুলি সাম্প্রতিক ঘটনাবলী মডেল প্রশিক্ষণ, তথ্য পুনরুদ্ধার-সহায়ক উৎপাদন এবং কালানুক্রমিক যুক্তিমূলক কাজের জন্য উপযুক্ত।
ক্লিনিকাল প্রশ্নোত্তর এবং কেস ডেটাসেট
স্বাস্থ্যসেবা-কেন্দ্রিক মডেল প্রশিক্ষণ এবং মূল্যায়নের জন্য চিকিৎসা সংক্রান্ত প্রশ্ন-উত্তর সেট, ক্লিনিক্যাল কেস সারাংশ এবং পূর্ণাঙ্গ চিকিৎসা প্রবন্ধ। গোল্ডেন এবং সিলভার ডেটাসেট উপলব্ধ আছে, যার মধ্যে প্রথমটি বেঞ্চমার্কিংয়ের জন্য উচ্চতর পর্যালোচনা মান অনুসারে প্রস্তুত করা হয়েছে। যেখানে উৎস উপাদানে ব্যক্তিগতভাবে শনাক্তযোগ্য বা সুরক্ষিত স্বাস্থ্য তথ্য থাকে, সেখানে তথ্য গোপন, পরিচয় গোপন এবং মাস্কিং এই পরিষেবার আওতাভুক্ত।
কাঁচা পাঠ্য এবং ওয়েব-স্কেল কর্পোরা
আধুনিক প্রমিত আরবি এবং আঞ্চলিক উপভাষা জুড়ে বিস্তৃত বিপুল পরিমাণ মূল পাঠ্য, প্রম্পট এবং টেক্সট-টু-স্পিচ স্ক্রিপ্ট কর্পোরা, যার মধ্যে ২০ মিলিয়ন শব্দের একটি মূল কর্পাসও রয়েছে। এগুলি ল্যাঙ্গুয়েজ মডেলের প্রি-ট্রেনিং এবং সেইসব মডেলের শব্দভান্ডার ও উপভাষার পরিধি সম্প্রসারণে সহায়তা করে, যেগুলো প্রমিত প্রমিত আরবি ভালোভাবে সামলাতে পারলেও কথ্য আঞ্চলিক রূপগুলোর ক্ষেত্রে দুর্বল পারফর্ম করে।
নথি এবং স্ক্যান করা পাঠ্য কর্পোরা
বাস্তব জগতের স্ক্যান করা নথি এবং কাঠামোবদ্ধ ফর্ম, কৃত্রিম রেন্ডারের পরিবর্তে খাঁটি বিন্যাস ও স্ক্যান গুণমানে পিডিএফ হিসাবে সরবরাহ করা হয়। এগুলি ডকুমেন্ট এআই, ওসিআর-সদৃশ স্বাভাবিক ভাষা প্রক্রিয়াকরণ এবং তথ্য নিষ্কাশন সমর্থন করে, বিশেষত মূল-মান এবং সারণীভিত্তিক নথি বোঝার ক্ষেত্রে, যেখানে পাঠ্যের মতোই বিন্যাসও সমান অর্থ বহন করে।
একাডেমিক ও প্রকাশক পাঠ্য ডেটাসেট
একটি অ্যাকাডেমিক প্রকাশকের কাছ থেকে লাইসেন্সকৃত এবং এপিআই (API)-এর মাধ্যমে সরবরাহকৃত পূর্ণাঙ্গ বই ও জার্নাল আর্টিকেল, যা ভৌত বিজ্ঞান ও প্রকৌশলের বারোটি বিষয়কে অন্তর্ভুক্ত করে — জ্যোতির্বিজ্ঞান, বায়োমেডিকেল, সিভিল, ইলেকট্রিক্যাল ও ইলেকট্রনিক্স, শক্তি, শিল্প, পদার্থ বিজ্ঞান, মেকানিক্যাল, ন্যানোটেকনোলজি, পদার্থবিজ্ঞান, পলিমার বিজ্ঞান এবং নিরাপত্তা ব্যবস্থাপনা। এগুলো পিয়ার-রিভিউড উৎস উপকরণের তুলনায় বৈজ্ঞানিক ও প্রযুক্তিগত পূর্বপ্রশিক্ষণ এবং তথ্য পুনরুদ্ধারের জন্য উপযুক্ত।
চিত্রনাট্যভিত্তিক বিনোদন ও আখ্যানমূলক পাঠ্য
ফিচার ফিল্ম, টেলিভিশন, অ্যানিমেশন এবং ভার্টিকাল মাইক্রোড্রামা সহ নাটক, কমেডি, সাইন্স ফিকশন, ওয়েস্টার্ন, অ্যাকশন, মিস্ট্রি, রোমান্স, থ্রিলার এবং ফেইথ জনরার বিশাল স্ক্রিপ্টেড-এন্টারটেইনমেন্ট ক্যাটালগ থেকে সংগৃহীত প্রোডাকশন স্ক্রিপ্ট, ট্রান্সক্রিপ্ট এবং ন্যারেটিভ টেক্সট। এগুলি ন্যারেটিভ ও ডায়ালগ তৈরি, স্ক্রিনপ্লে-ফরম্যাট মডেলিং এবং স্ক্রিপ্ট-টু-সিন অ্যালাইনমেন্টে সহায়তা করে।
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী (FAQ)
১. এআই প্রশিক্ষণের জন্য টেক্সট ডেটাসেট বলতে কী বোঝায়?
এআই প্রশিক্ষণের জন্য টেক্সট ডেটাসেট হলো লিখিত ভাষার সুবিন্যস্ত সংগ্রহ, যেমন প্রশ্নোত্তরের জোড়া, নির্দেশাবলী, প্রবন্ধ, কোড, ক্লিনিক্যাল রেকর্ড, বই এবং স্ক্রিপ্ট, যা লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) এবং এনএলপি সিস্টেমকে প্রি-ট্রেইন, ফাইন-টিউন এবং মূল্যায়ন করতে ব্যবহৃত হয়। শাইপ-এর টেক্সট ডেটা ক্যাটালগে আটটি ক্যাটাগরিতে লাইসেন্সযোগ্য ডেটাসেট রয়েছে, যার প্রতিটি বাস্তব জগতের উপাদান থেকে সংগৃহীত।
২. শাইপ কী ধরনের টেক্সট ডেটাসেট সরবরাহ করে?
ক্যাটালগটিতে আটটি বিভাগ অন্তর্ভুক্ত রয়েছে: কথোপকথনমূলক প্রশ্নোত্তর ও নির্দেশনা ডেটাসেট, কোড ও সফটওয়্যার রিপোজিটরি ডেটাসেট, সংবাদ ও সাংবাদিকতামূলক টেক্সট, ক্লিনিক্যাল প্রশ্নোত্তর ও কেস ডেটাসেট, মূল টেক্সট ও ওয়েব-স্কেল কর্পোরা, স্ক্যান করা ডকুমেন্ট কর্পোরা, অ্যাকাডেমিক ও প্রকাশকের টেক্সট, এবং স্ক্রিপ্টেড বিনোদন ও আখ্যানমূলক টেক্সট।
৩. কোন কোন ভাষা ও উপভাষা অন্তর্ভুক্ত করা হয়েছে?
ডেটা সেটগুলো ইংরেজি, আরবি এবং স্প্যানিশ ভাষায় উপলব্ধ। আরবি ভাষার অন্তর্ভুক্তিতে আধুনিক প্রমিত আরবির পাশাপাশি সৌদি, আমিরাতি, মিশরীয় এবং লেভান্টাইন উপভাষাও রয়েছে, যা এমন মডেলগুলোকে সাহায্য করে যেগুলো আধুনিক প্রমিত আরবি ভালোভাবে সামলাতে পারলেও কথ্য আঞ্চলিক রূপগুলোর ক্ষেত্রে হিমশিম খায়।
৪. এই ডেটাসেটগুলো এআই-এর কোন কোন ব্যবহারকে সমর্থন করে?
এর সাধারণ ব্যবহারগুলোর মধ্যে রয়েছে এলএলএম প্রি-ট্রেনিং, ইনস্ট্রাকশন-টিউনিং ও ফাইন-টিউনিং, মডেল ইভ্যালুয়েশন ও বেঞ্চমার্কিং, রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG), কোড কমপ্লিশন ও কোড রিভিউ, হেলথকেয়ার এআই, ডকুমেন্ট এআই ও ইনফরমেশন এক্সট্র্যাকশন এবং ডায়ালগ ও স্ক্রিনপ্লে জেনারেশন।
৫. আমি কি কোনো ডেটাসেট লাইসেন্স করার আগে তা মূল্যায়ন করতে পারি?
হ্যাঁ। কোনো ডেটাসেট লাইসেন্স করার আগে নমুনা বা মূল্যায়নের জন্য অ্যাক্সেসের ব্যবস্থা করা যেতে পারে, যাতে আপনার দল এর উপযুক্ততা, ফরম্যাট এবং গুণমান পরীক্ষা করতে পারে। প্রাসঙ্গিক বিভাগ থেকে একটি নমুনার অনুরোধ করতে আপনার ব্যবহারের ক্ষেত্রটি উল্লেখ করে আমাদের সাথে যোগাযোগ করুন।
৬. ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য (PII) এবং স্বাস্থ্য তথ্য (PHI)-এর মতো সংবেদনশীল তথ্য কীভাবে পরিচালনা করা হয়?
যেখানে উৎস উপাদানে ব্যক্তিগতভাবে শনাক্তযোগ্য বা সুরক্ষিত স্বাস্থ্য তথ্য থাকে, যেমন ক্লিনিক্যাল ডেটার ক্ষেত্রে, সেখানে তথ্য গোপন করা, পরিচয় গোপন করা এবং আড়াল করা এই চুক্তির আওতাভুক্ত করা হয়, যাতে ডেটা আপনার গোপনীয়তা এবং সম্মতি সংক্রান্ত প্রয়োজনীয়তা পূরণ করে।
৭. গোল্ডেন এবং সিলভার ডেটাসেটের মধ্যে পার্থক্য কী?
গোল্ডেন ডেটাসেটগুলো উচ্চতর পর্যালোচনা মান অনুযায়ী প্রস্তুত করা হয় এবং এগুলো বেঞ্চমার্কিং ও মূল্যায়নের জন্য সবচেয়ে উপযুক্ত। সিলভার ডেটাসেটগুলো সাধারণ পর্যালোচনার মধ্য দিয়ে যায় এবং এগুলো বৃহত্তর পরিসরের প্রশিক্ষণের জন্য বেশি উপযোগী, যেখানে ডেটার পরিমাণ বেশি গুরুত্বপূর্ণ।
৮. ডেটাসেটগুলো কি কাস্টমাইজ বা সম্প্রসারণ করা যায়?
হ্যাঁ। ভাষা, ডোমেইন, পরিমাণ বা ফরম্যাট অনুযায়ী ডেটাসেট আপনার প্রোজেক্টের জন্য নির্দিষ্ট করা যেতে পারে। যদি ক্যাটালগে আপনার প্রয়োজনীয় ডেটা না থাকে, তবে শাইপ আপনার নির্দিষ্ট নির্দেশনা অনুযায়ী কাস্টম টেক্সট ডেটা সংগ্রহ ও টীকা যোগ করে দিতে পারে।
১০. লাইসেন্সিং এর কোন কোন বিকল্প উপলব্ধ?
ডেটাসেট, পরিমাণ, উদ্দিষ্ট ব্যবহার এবং সময়কালের উপর ভিত্তি করে প্রতিটি ব্যবহারের জন্য লাইসেন্সিং নির্ধারণ করা হয়। কিছু ডেটাসেট, যেমন সংবাদ সামগ্রী, পুনরাবৃত্তিমূলক ফিড এবং এককালীন আর্কাইভাল কর্পাস উভয় রূপেই উপলব্ধ।
১০. ডেটাসেটগুলো কীভাবে সরবরাহ করা হয়?
ডেলিভারি ডেটাসেটের উপর নির্ভর করে। বিকল্পগুলির মধ্যে রয়েছে স্ট্রাকচার্ড ফাইল, স্ক্যান করা ডকুমেন্টের জন্য পিডিএফ, খবরের জন্য রিকারিং ফিড এবং অ্যাকাডেমিক ও পাবলিশার কন্টেন্টের জন্য এপিআই ডেলিভারি। ডেলিভারি ফরম্যাট আপনার ট্রেনিং পাইপলাইনের সাথে সামঞ্জস্যপূর্ণ করা যেতে পারে।
১১. টেক্সট ডেটাসেটের দাম কত?
মূল্য নির্ধারণ নির্ভর করে বিভাগ, পরিমাণ, একচেটিয়া অধিকার এবং লাইসেন্সিং শর্তাবলীর উপর। আপনার প্রকল্পের জন্য বিশেষভাবে তৈরি একটি মূল্য উদ্ধৃতি পেতে আপনার প্রয়োজনীয়তাগুলো আমাদের দলের সাথে শেয়ার করুন।
12. আমি কিভাবে শুরু করব?
আপনার প্রয়োজন অনুযায়ী বিভাগটি খুঁজে নিন, তারপর আপনার প্রয়োজনীয়তা জানিয়ে শাইপের সাথে যোগাযোগ করুন। আমাদের দল ডেটাসেটের বিবরণ জানাবে, নমুনার ব্যবস্থা করবে এবং আপনার প্রকল্পের জন্য একটি লাইসেন্সের পরিধি নির্ধারণ করবে।