মানুষের মন দীর্ঘ, দীর্ঘকাল ধরে অবর্ণনীয় এবং রহস্যময় রয়ে গেছে। এবং দেখে মনে হচ্ছে বিজ্ঞানীরা এই তালিকার একটি নতুন প্রতিযোগীকে স্বীকার করেছেন - কৃত্রিম বুদ্ধিমত্তা (AI)। শুরুতে, একটি AI এর মন বোঝা বরং অক্সিমোরোনিক শোনায়। যাইহোক, AI ধীরে ধীরে আরও সংবেদনশীল হয়ে উঠছে এবং মানুষ এবং তাদের আবেগ অনুকরণ করার কাছাকাছি বিকশিত হচ্ছে, আমরা এমন ঘটনা প্রত্যক্ষ করছি যা মানুষ এবং প্রাণীদের সহজাত - হ্যালুসিনেশন।
হ্যাঁ, মনে হচ্ছে যে মরুভূমিতে পরিত্যক্ত হলে, কোনো দ্বীপে নির্বাসিত হলে, বা জানালা-দরজা বিহীন কোনো ঘরে একা বন্দী থাকলে মন যে ধরনের চিন্তায় মগ্ন হয়, ঠিক সেই অভিজ্ঞতা যন্ত্রও লাভ করে। কৃত্রিম বুদ্ধিমত্তার বিভ্রম বাস্তব এবং প্রযুক্তি বিশেষজ্ঞ ও উৎসাহীরা এ সংক্রান্ত একাধিক পর্যবেক্ষণ ও অনুমান লিপিবদ্ধ করেছেন।
আজকের প্রবন্ধে আমরা লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) -এর এই রহস্যময় অথচ কৌতূহলোদ্দীপক দিকটি নিয়ে আলোচনা করব এবং এআই হ্যালুসিনেশন সম্পর্কে কিছু অদ্ভুত তথ্য জানব।
এআই হ্যালুসিনেশন কি?
এআই-এর জগতে, হ্যালুসিনেশন বলতে মন দ্বারা স্পষ্টভাবে কল্পনা করা যায় এমন কোনো নকশা, রঙ, আকৃতি বা মানুষকে অস্পষ্টভাবে বোঝায় না। বরং, হ্যালুসিনেশন বলতে বোঝায় ভুল, অনুপযুক্ত বা এমনকি বিভ্রান্তিকর তথ্য এবং প্রতিক্রিয়া, যা জেনারেটিভ এআই টুলগুলো তৈরি করে।
উদাহরণস্বরূপ, কল্পনা করুন একটি AI মডেলকে জিজ্ঞাসা করুন যে একটি হাবল স্পেস টেলিস্কোপ কী এবং এটি একটি উত্তর দিয়ে প্রতিক্রিয়া শুরু করে যেমন, "আইম্যাক্স ক্যামেরা একটি বিশেষায়িত, উচ্চ-রেজোলিউশন ছবি...।"
এই উত্তর অপ্রাসঙ্গিক. কিন্তু আরও গুরুত্বপূর্ণ, কেন মডেলটি এমন একটি প্রতিক্রিয়া তৈরি করেছে যা উপস্থাপিত প্রম্পট থেকে স্পর্শকভাবে আলাদা? বিশেষজ্ঞরা বিশ্বাস করেন যে হ্যালুসিনেশন একাধিক কারণ থেকে হতে পারে যেমন:
- এআই প্রশিক্ষণের ডেটার মান খারাপ
- অতিরিক্ত আত্মবিশ্বাসী এআই মডেল
- প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (NLP) প্রোগ্রামের জটিলতা
- এনকোডিং এবং ডিকোডিং ত্রুটি
- এআই মডেলের প্রতিপক্ষের আক্রমণ বা হ্যাক
- সোর্স-রেফারেন্স ডাইভারজেন্স
- ইনপুট পক্ষপাত বা ইনপুট অস্পষ্টতা এবং আরও অনেক কিছু
AI হ্যালুসিনেশন অত্যন্ত বিপজ্জনক এবং এর তীব্রতা শুধুমাত্র এর প্রয়োগের বর্ধিত স্পেসিফিকেশনের সাথে বৃদ্ধি পায়।
উদাহরণস্বরূপ, একটি হ্যালুসিনেটিং GenAI টুল এটি স্থাপনকারী একটি এন্টারপ্রাইজের জন্য সুনাম ক্ষতির কারণ হতে পারে। যাইহোক, যখন একই ধরনের AI মডেল স্বাস্থ্যসেবার মতো একটি সেক্টরে মোতায়েন করা হয়, তখন এটি জীবন এবং মৃত্যুর মধ্যে সমীকরণ পরিবর্তন করে। এটিকে কল্পনা করুন, যদি একটি এআই মডেল হ্যালুসিনেটে এবং রোগীর মেডিকেল ইমেজিং রিপোর্টের ডেটা বিশ্লেষণের প্রতিক্রিয়া তৈরি করে, তবে এটি অসাবধানতাবশত একটি সৌম্য টিউমারকে ম্যালিগন্যান্ট হিসাবে রিপোর্ট করতে পারে, যার ফলে ব্যক্তির রোগ নির্ণয় এবং চিকিত্সার কোর্স-বিচ্যুতি ঘটে।
এআই হ্যালুসিনেশনের উদাহরণ বোঝা
এআই হ্যালুসিনেশন বিভিন্ন ধরনের হয়। আসুন সবচেয়ে বিশিষ্ট কিছু বুঝতে.
তথ্যের বাস্তবে ভুল প্রতিক্রিয়া
- ভুল ইতিবাচক প্রতিক্রিয়া যেমন টেক্সটে সঠিক ব্যাকরণকে ভুল হিসাবে পতাকাঙ্কিত করা
- মিথ্যা নেতিবাচক প্রতিক্রিয়া যেমন সুস্পষ্ট ত্রুটিগুলি উপেক্ষা করা এবং সেগুলিকে প্রকৃত হিসাবে পাস করা
- অস্তিত্বহীন তথ্যের উদ্ভাবন
- উদ্ধৃতিগুলির ভুল সোর্সিং বা টেম্পারিং
- ভুল উত্তর দিয়ে উত্তর দিতে অতিরিক্ত আত্মবিশ্বাস। উদাহরণ: কে গেয়েছে হিয়ার কামস সান? মেটালিকা।
- ধারণা, নাম, স্থান বা ঘটনা মিশ্রিত করা
- অদ্ভুত বা ভীতিকর প্রতিক্রিয়া যেমন আলেক্সার জনপ্রিয় পৈশাচিক স্বায়ত্তশাসিত হাসি এবং আরও অনেক কিছু
এআই হ্যালুসিনেশন প্রতিরোধ করা
যেকোনো ধরনের এআই-সৃষ্ট ভুল তথ্য শনাক্ত ও সংশোধন করা সম্ভব। এআই নিয়ে কাজ করার এটাই বিশেষত্ব। আমরাই এটি উদ্ভাবন করেছি এবং আমরাই এর সমাধান করতে পারি। আমরা কীভাবে এটি করতে পারি, তার কয়েকটি উপায় নিচে দেওয়া হলো।
সীমিত প্রতিক্রিয়া
তারা বলে যে আমরা কত ভাষায় কথা বলি তাতে কিছু যায় আসে না। আমাদের জানতে হবে কখন তাদের সব কথা বলা বন্ধ করতে হবে। এটি এআই মডেল এবং তাদের প্রতিক্রিয়াগুলির ক্ষেত্রেও প্রযোজ্য। এই প্রেক্ষাপটে, আমরা একটি নির্দিষ্ট ভলিউমের প্রতিক্রিয়া তৈরি করার জন্য একটি মডেলের ক্ষমতাকে সীমাবদ্ধ করতে পারি এবং এটি উদ্ভট ফলাফল নিয়ে আসার সম্ভাবনাকে হ্রাস করতে পারি। এটাকে রেগুলারাইজেশন বলা হয় এবং এতে প্রম্পটে চরম এবং প্রসারিত ফলাফল করার জন্য AI মডেলকে শাস্তি দেওয়াও জড়িত।
প্রাসঙ্গিক এবং বায়ুরোধী উত্স উদ্ধৃত এবং প্রতিক্রিয়া নিষ্কাশন
যখন আমরা একটি AI মডেলকে প্রশিক্ষণ দিই, তখন আমরা সেই সূত্রগুলিকেও সীমাবদ্ধ করতে পারি যেগুলি একটি মডেল উল্লেখ করতে পারে এবং সেখান থেকে তথ্য সংগ্রহ করতে পারে শুধু বৈধ এবং বিশ্বাসযোগ্য। উদাহরণস্বরূপ, স্বাস্থ্যসেবা AI মডেলগুলি যেমন আমরা আগে আলোচনা করেছি এমন একটি উদাহরণ কেবলমাত্র সেই উত্সগুলিকে উল্লেখ করতে পারে যা চিকিৎসা চিত্র এবং ইমেজিং প্রযুক্তিতে লোড তথ্যে বিশ্বাসযোগ্য। এটি বাইপোলার উত্স থেকে মেশিনগুলিকে খুঁজে পেতে এবং সহ-সম্পর্কিত প্যাটার্ন এবং প্রতিক্রিয়া তৈরি করতে বাধা দেয়।
একটি এআই মডেলের উদ্দেশ্য সংজ্ঞায়িত করা
এআই মডেলগুলি দ্রুত শিক্ষানবিস এবং তাদের কেবলমাত্র তাদের কী করা উচিত তা সঠিকভাবে বলা দরকার। মডেলের উদ্দেশ্য সঠিকভাবে সংজ্ঞায়িত করে, আমরা মডেলদের তাদের নিজস্ব ক্ষমতা এবং সীমাবদ্ধতা বুঝতে প্রশিক্ষণ দিতে পারি। এটি তাদের স্বায়ত্তশাসিতভাবে ব্যবহারকারীর প্রম্পটগুলিতে উত্পন্ন প্রতিক্রিয়াগুলি সারিবদ্ধ করে এবং পরিষ্কার ফলাফল প্রদানের জন্য তাদের উদ্দেশ্যগুলিকে তাদের প্রতিক্রিয়াগুলিকে যাচাই করার অনুমতি দেবে৷
এআই-তে মানব তদারকি
প্রশিক্ষণ এআই সিস্টেমগুলি একটি বাচ্চাকে প্রথমবার সাঁতার বা সাইকেল চালানো শেখানোর মতোই গুরুত্বপূর্ণ। এটির জন্য প্রাপ্তবয়স্কদের তত্ত্বাবধান, সংযম, হস্তক্ষেপ এবং হাত ধরে রাখা প্রয়োজন। বেশিরভাগ এআই হ্যালুসিনেশন এআই বিকাশের বিভিন্ন পর্যায়ে মানুষের অবহেলার কারণে ঘটে। সঠিক বিশেষজ্ঞদের মোতায়েন করে এবং এআই প্রতিক্রিয়া যাচাই ও যাচাই করার জন্য একটি মানব-ইন-লুপ ওয়ার্কফ্লো নিশ্চিত করার মাধ্যমে, গুণমানের ফলাফল অর্জন করা যেতে পারে। এছাড়াও, নির্ভুলতা এবং নির্ভুলতার জন্য মডেলগুলিকে আরও পরিমার্জিত করা যেতে পারে।
এআই হ্যালুসিনেশন প্রতিরোধে শাইপ এবং আমাদের ভূমিকা
বিভ্রমের অন্যতম প্রধান উৎস হলো নিম্নমানের এআই প্রশিক্ষণ ডেটা। আপনি যা দেবেন, তাই পাবেন। একারণেই আপনার জেনারেটিভ এআই প্রশিক্ষণের চাহিদা মেটাতে সর্বোচ্চ মানের ডেটা সরবরাহ নিশ্চিত করতে শাইপ সক্রিয় পদক্ষেপ গ্রহণ করে।
আমাদের কঠোর মান নিশ্চিতকরণ প্রোটোকল এবং নৈতিকভাবে সংগৃহীত ডেটাসেটগুলো আপনার এআই পরিকল্পনা বাস্তবায়নের জন্য নির্ভুল ফলাফল প্রদানে আদর্শ। যদিও প্রযুক্তিগত ত্রুটি সমাধান করা সম্ভব, মডেল তৈরির কাজ একেবারে গোড়া থেকে পুনরায় শুরু করার প্রয়োজন এড়াতে প্রশিক্ষণ ডেটার মান সম্পর্কিত উদ্বেগগুলো মূল স্তর থেকেই সমাধান করা অত্যাবশ্যক। এই কারণেই আপনার এআই এবং এলএলএম প্রশিক্ষণ পর্ব শাইপ (Shaip)-এর ডেটাসেট দিয়ে শুরু করা উচিত।
