কর্তৃত্ববাদের রোবট বনাম মুক্তিবাদের রোবট
ক্যাটেগরি:
মনে করুন আপনি একটা রোবট বানাবেন যা মানুষের মতো ভাবে, ঘোরাফেরা করে বেড়ায়। তাকে কীভাবে সেই ক্ষমতা প্রদান করবেন?
আপনি হয়তো আরো ভাবতে পারেন যে বিভিন্ন বস্তু সম্পর্কে ও যুক্তিবিদ্যা সম্পর্কে রোবটকে জ্ঞান দেওয়া হয়ে গেলো রোবটের পক্ষে তখন হয়তো সম্ভব হবে চিন্তা করা যে - চেয়ারে বসা যায়, কাপে পানি ঢালা যায়, চশমা পড়া যায়। আর এই যুক্তিগুলোর উপর ভিত্তি করে আরো আরো যুক্তি তৈরি করা হয়তো তখন সম্ভব হবে। যেমন - চশমা পরে ফ্লাস্কটা প্রথমে খুঁজে নিয়ে চেয়ারে বসা লোকটার কাপে পানি ঢালতে হবে। এই রকম আরো আরো জটিল ভাবনা। তাহলেই মানুষের মতো চিন্তা করা রোবট পাওয়া যাবে! এভাবে অন্তত অধিকাংশ এআই গবেষক ভাবতেন। এখনো অনেকেই ভাবেন।
এভাবে ভাবার সমস্যা হচ্ছে, মানুষ কেবল সচেতন ভাবে চিন্তা করে না। মানুষ কেবল বই চেয়ার চশমার মতো আলাদা আলাদা বস্তুর ধারণা বহন করে না। বরং এই ধারণাগুলো মানুষের অনেক উঁচু লেভেলের ভাবনা। কাপ ধারণাটা আসলে অনেক জটিল। এবং মানুষ একবারে প্রথমেই কিন্তু কাপকে চেনে না।
কাপের ডেটাটা মানুষের চোখ দিয়ে তার ভেতরে প্রবেশ করে। সেই ডেটাটা নিয়ে মানুষের সচেতন মন যুক্তি প্রয়োগ শুরু করার আগেই সেটা বিশ্লেষণ হতে থাকে তার অবচেতন অংশে। সেই অবচেতন বিশ্লেষণে কিন্তু কাপকে কাপ হিসেবে চেনার আগে আসে রঙ, গভীরতার ধারণা, আকার, ইত্যাদি বা আরো মূলে গেলে নিউরন সিগনালের তারতম্য, অর্থাৎ ডেটা। ডেটা থেকে কাপের ধারণার উৎপত্তি হয়।
আর মানুষ কিন্তু কেবল চোখে দেখেই কাপকে চেনে না। একটা কাপের ধারণার সাথে কাপটাকে হাত দিয়ে ধরে দেখার সম্পর্কও জড়িত। মানুষ তাকে দেখে ও ধরে চেনে। কাপ দিয়ে মানুষের যে উদ্দেশ্যটা সাধন হয় সেটার সাপেক্ষে মানুষ কাপকে চেনে।
অর্থাৎ মানুষের চোখ দিয়ে ও স্পর্শের স্নায়ু দিয়ে যে “ডেটা”টি তার ভেতরে প্রবেশ করে, সেখানে কাপের ধারণাটা আগে আসে না। মানুষের মনের উচ্চতর অংশগুলো (যেমন সচেতন মন) সেই ডেটাকে তার সুবিধার জন্যে নাম দিয়েছে কাপ। কিন্তু কাপ আসলে কোনো মৌলিক ধারণা নয়। এখানে মৌলিক বিষয়টা তাহলে কী? মানুষের চোখ দিয়ে আর স্পর্শের স্নায়ু দিয়ে তার অবচেতনে প্রবেশ করে যে ডেটাটা, বলা যায় সেটা। কিন্তু আমরা এভাবে ভেবে অভ্যস্ত না।
আমরা ভাবতে পছন্দ করি যে কাপ বলে একটা বস্তু সত্যিই আছে। কাপকে মৌলিকভাবে দেখতে আমাদের সুবিধা। আমরা না থাকলেও কাপ থাকবে। বিজ্ঞানের সমগ্রটা জুড়ে এই ভাবনার জয়জয়কার।
আমরা বস্তুতে মৌলিকত্ব খুঁজি। কাপ যদি মৌলিক না হয়, ঠিক আছে - তাহলে তার ভেতরের অণুগুলো, না হয় তার পরমাণুগুলো, তা যদি না হয় অন্তত তার কণাগুলো অথবা কোয়ার্ক, অথবা স্ট্রিং হলো মৌলিক।
বস্তুকে মৌলিক ধারণা হিসেবে ভাবার উপযোগিতা অবশ্যই আছে। বস্তুজগতকে অনুসন্ধান করতে গেলে এভাবে ভাবাটাই সবচেয়ে কাজের। কিন্তু যখন প্রশ্ন আসে রোবটকে কীভাবে প্রোগ্রাম করবেন, তখন কিন্তু এভাবে ভাবাটা তখনও কাজের হবে সেটা আর হলফ করে বলা যায় না।
বস্তুজগত নিয়ে আমাদের যে বৈজ্ঞানিক-অনুসন্ধানলব্ধ জ্ঞান, সেটাকে হুবহু মুখস্থ করিয়ে দিলে রোবটের কাজ হবে কি? এক্ষেত্রে ভাবা দরকার মানুষের মনে বা মস্তিষ্কে বস্তুজগতটা আসলে কীভাবে প্রকাশিত হয়। বস্তুজগতটা মানুষের মনে কিন্তু কাপ পিরিচ, ইলেক্ট্রন ফোটন বা কোয়ার্কের মতো ধারণা দিয়ে প্রবেশ করে না। আমাদের ভেতর প্রবেশ করে কেবল কিছু সিগনালের তারতম্য।
কাপ পিরিচ ইলেক্ট্রন ফোটন এই ধারণাগুলো সত্যিই বিরাজ করে কিনা সেটা কি আমরা আদৌ কখনো যাচাই করতে পারি? আমাদের পর্যবেক্ষণের কারেন্সিই হলো মূলত আমাদের চোখের আর স্পর্শের ডেটা। সেটা যেই বৈজ্ঞানিক পর্যবেক্ষণের কথাই বলুন না কেনো। ফলে আমরা আসলে ইলেক্ট্রন বা ফোটন আছে কিনা যাচাই করি না। বরং আমাদের চোখ আর স্পর্শের মাধ্যমে আমরা যে ডেটা পাই, সেটার সেরা ব্যাখ্যাটা প্রদান করি। তারপর সেই ব্যাখ্যাটাকে আমরা নাম দেই - “ইলেক্ট্রন আছে বা ফোটন আছে”। এটা হলো পর্যবেক্ষণকে দেখার আরেকটা উপায়। এবং এই উপায়কে অস্বীকার করা খুব কঠিন।
প্রশ্ন হচ্ছে জ্ঞান ও পর্যবেক্ষণকে ব্যক্তির অভিজ্ঞতার দৃষ্টিতে দেখে কী লাভ? দুটো ভিন্ন মানুষ যেহেতু একটা কাপকে বা একটা ইলেক্ট্রনকে দেখে দুজনেই স্বীকার করছে যে কাপটা বা ইলেক্ট্রনটা সত্যিই দেখা যাচ্ছে, সেখানে বিষয়টাকে এভাবে ঘুরিয়ে দেখে লাভ কী? লাভটা হলো এটা বিষয়টাকে দেখার সম্ভবত সরলতর উপায়। মানুষের চিন্তায় তথ্য যেভাবে বিশ্লেষণ হয় কিংবা রোবটের চিন্তায় তথ্য যেভাবে বিশ্লেষণ হওয়া প্রয়োজন, সেটা জানার খাতিরে ভাবনার এই উপায়টাকে কদর করা দরকার। এভাবে ভাবলে দেখা যাবে যে রোবটকে কাপ পিরিচ বা ইলেক্ট্রন ফোটন, প্যারিস, নিউ ইয়র্কের ধারণাগুলো প্রদান করা হয়তো তেমন মোক্ষম নয়। রোবটের নিজের ডেটাকে মানুষের জ্ঞানগম্যির সাপেক্ষে নয়, বরং নিজের সাপেক্ষে বিশ্লেষণ করতে দেয়াটাই হয়তো বেশি কাজের।
কাপ পিরিচ বা ইলেক্ট্রন ফোটনের মতো বস্তুকে জ্ঞানের মৌলিক কারেন্সি ভাবার উপায়টা এআইতে ধীরে ধীরে প্রশ্নসঙ্কুল হচ্ছে। এই ধারার ভাবনার সবচেয়ে বড় উদাহরণের একটা হচ্ছে সাইক (Cyc) নামক একটা মেগা এআই প্রজেক্ট। এটা তৈরি করা হয়েছিলো মানুষের সকল কমনসেন্স জ্ঞানগুলোকে মেশিন দিয়ে পড়িয়ে পড়িয়ে মেশিনকে জ্ঞানী করে তোলার জন্যে। মেশিন বিভিন্ন পত্রিকা ও বই পড়ে মানুষের দেয়া ইনপুট ঘেঁটে ও তার উপর যুক্তিশাস্ত্র প্রয়োগ করে করে শিখবে বৃক্ষ কী, শহর কী এইসব। যেমন, তাকে শেখানো হলো সকল বৃক্ষই উদ্ভিদ এবং সকল উদ্ভিদই মরণশীল। এরপর যদি জিজ্ঞেস করেন যে বৃক্ষ কি মারা যায়? সাইক আপনাকে চমৎকৃত করে বলবে - হঁ্যা। ভীষণ চমৎকার সন্দেহ নেই। ১৯৮৪ সন থেকে এর স্রষ্টা ডগলাস লেনাট দাবি করে আসছেন যে সাইক অদূর ভবিষ্যতেই এতোটা উন্নত হবে যে সত্বরই টিউরিং টেস্টে পাশ করে ফেলবে (যে টেস্টে মোটা দাগে মেশিন একটা প্রশ্ন-উত্তর খেলায় মানুষের ছদ্মবেশ ধারণ করে অন্য মানুষকে ধোঁকা দিতে পারে)।
সাইক যতোটুকু অর্জন করেছে ততোটুকুকে খাটো করার আমাদের উপায় নেই। কিন্তু মানব সমকক্ষতা নিয়ে আমরা এখনো অপেক্ষমান। সাথে আমরা এটাও জিজ্ঞেস করতে চাই, মানুষ নিজেই কি এভাবে বিশ্বকোষ পড়ে পড়ে ও যুক্তিশাস্ত্র প্রয়োগ করে মানুষ হয়েছে? এটা মানুষের মানুষ হবার গল্পের একটা দিক মাত্র। তর্কান্তরে অত্যন্ত ক্ষুদ্র একটা দিক।
মানুষের চোখ আর স্পর্শের ডেটার যে মৌলিকত্ব, সেটাকে সামনে আনা প্রয়োজন। নিউরোসাইন্সের কল্যাণে আমরা এখন বেশি বেশি করে জানি যে মস্তিষ্কের মৌলিক অংশগুলো এই ডেটা নিয়েই ব্যস্ত। জ্ঞানের ধারণাটা অবচেতনের কাছে মূলত বস্তুগত নয়, বরং ডেটাগত। সে মূলত ডেটাকে প্রসেস করে ও সেখান থেকে কাজে দিতে পারে এমন তথ্য সে আদায় করে নেয়।
চিন্তা করুন একটা রোবটের কথা - যে কেবল সাদা আর কালোর পার্থক্য করতে পারে। তাকে লাল আপেল চেনানোর ফয়দা বা উপায় কী? আমরা আমাদের ইন্দ্রিয়ের সক্ষমতা অনুযায়ীই আমাদের চোখ আর স্পর্শের ইনপুটকে ব্যাখ্যা করি। রোবটের ক্ষেত্রেও তার নিজের দৃষ্টিকোণ থেকে ব্যাপারটা দেখা দরকার। রোবটের সেন্সরগুলো দিয়ে যে আলো, শব্দ ও ঘাতের ডেটা তার প্রসেসিং ইউনিটে প্রবেশ করছে, সেই ডেটার বিশ্লেষণ করাটা রোবটটার নিজের কাছে মানুষের চোখে দেখা লাল আপেল চেনার চেয়ে হয়তো বেশি কাজের।
কিন্তু রোবটিক্সও মোটের উপর অন্যপথটাতেই এগুচ্ছে। যে পথে চোখ আর স্পর্শের ডেটার চেয়ে কাপ পিরিচের মতো বস্তুর ধারণাকে প্রাধান্য বেশি দেয়া হয়। হোন্ডার আসিমো রোবটের কথাই ধরুন। তাদের নতুন রোবটটা উপরের ভিডিওটাতে নিখুঁতভাবে ফ্লাস্ক থেকে কাপে পানি ঢালছে। রোবটটাকে নিখুঁত ইন্জিনিয়ারিংয়ের মাধ্যমে ফ্লাস্ক, কাপ, তার অবস্থান, নিজের হাতের মেকানিক্স সম্পর্কে প্রোগ্রাম করে দেয়া হয়েছে। সে কি তার জ্ঞানে বা কার্যপ্রণালীতে স্বাধীন? নাকি সে মানুষের ও মানুষের চিন্তার উপায়ের দাস? আমরা যেভাবে ফ্লাস্ক থেকে কাপে পানি ঢালি, সেটা কি আমাদের মাঝে নিখুঁতভাবে প্রোগ্রাম করে দেয়া? নাকি চেষ্টা করতে করতে আমাদের চোখ আর স্পর্শের ডেটাকে বিশ্লেষণ করতে করতে অভিজ্ঞতা থেকে শেখা?
এর বিপরীতে উপরের এই এবড়োথেবড়ো দেখতে রোবটটা আমার বেশি প্রিয়। এই রোবটে কেবল দুটো মোটর আছে। তার উদ্দেশ্য হচ্ছে সামনে এগিয়ে যাওয়া। কিন্তু আসিমোর মতো তার ভেতরে কোনো বস্তু সম্পর্কে কোনো ধারণা দেয়া হয় নি। কীভাবে মোটর দুটোকে নিয়ন্ত্রণ করলে সামনে এগুনো যাবে সেই তথ্যও তার ভেতরে প্রোগ্রাম করে দেয়া হয় নি। সে কেবল একটা জিনিস জানে যে তার চাকা দুটো সামনে ঘুরলে সে পুরস্কার পায়। তার কাজ এই পুরস্কারের পরিমাণকে বাড়ানো। কিন্তু ঠিক কী করলে চাকা দুটো সামনে ঘুরবে সেটা তার জানা নেই। ঠিক যেমন একটা শিশু জানে যে হাত বাড়িয়ে তার মায়ের আঙুলটা জড়িয়ে ধরতে পারলে সে পুরস্কার বা আনন্দ পাবে। কিন্তু ঠিক কীভাবে হাতের মোটর স্নায়ুগুলোতে কী পরিমাণ সিগনাল দিলে তার হাতের মুঠোয় মায়ের আঙুলটা গিয়ে পড়বে সে তার জানা নেই। তারপরেও নানাভাবে চেষ্টা করতে করতে হাতের ঠিক কীরকম নড়াচড়ার কারণে এটা সম্ভব হবে শিশুটি একসময়ে তা ধরে ফেলে। হাঁটতে শেখাও অনেকটা তেমন। এগুলো কি প্রোগ্রাম করে দেয়া? এগুলো কি শিশুর সচেতন মনে ঘটে? শিশুর এই শেখার মাধ্যমে যে জ্ঞান হয়, তার কারেন্সি কি বস্তুগত ধারণা, কাপ পিরিচ, বই পত্র নির্ভর? নাকি মূলত তার চোখ আর স্পর্শের ডেটাকে বিশ্লেষণ নির্ভর?
উপরের এই রোবটটাও তেমনি তার মোটর দুটো নানা উপায়ে নাড়াচাড়া করতে করতে এক সময়ে শিখে উঠতে থাকে মোটরগুলোতে কী উপায়ে সিগনাল দিলে চাকা দুটো সামনের দিকে ঘুরবে। অতি সাধারণ ক্ষমতার এই রোবটটা আসিমোর তুলনায় আমার বরং অনেক বেশি প্রিয়। এই রোবটটার সামনে এগুনোর উপায়টা কারও শিখিয়ে দেয়া বা প্রোগ্রাম করে দেওয়া না। এই জ্ঞানটা তার ইন্দ্রিয়ের ডেটা বিশ্লেষণ করে অর্জিত, ফলে তার নিজের। বুদ্ধিমত্তার বিচারে এটাই আমার কাছে বেশি আগ্রহোদ্দীপক।
ব্যক্তিকে পেছনে রেখে নৈর্ব্যক্তিক কিংবা বহু নির্ধারিত জ্ঞানকে আমরা সামনে নিয়ে রাখতে শিখেছি। কারণ সভ্যতায়, রাজনীতিতে ও প্রচলিত বিজ্ঞানে এর জয়জয়কার। আমার গরম লাগলেও অনেকে যদি বলে বা থার্মোমিটার যদি বলে যে আবহাওয়া গরম হয় নি, তাহলে আমি ‘ভুল’, আমার আসলে গরম লাগে নি। কিন্তু আমার যে গরম ‘লেগেছে’, সেটা কি মিথ্যা হয়ে যায় তাতে?
আসিমো রোবটের মতো ব্যক্তি মানুষকেও ‘বহু’ নির্ধারণ করে দিতে চায় ঠিক কীভাবে চলতে হবে, কথা বলতে হবে, কাপড় পরতে হবে। মানুষের ভাবনায় মানুষ যেনো মানুষ হয় কেবল (অন্যের নির্ধারিত) সত্য নিয়মগুলোকে লিস্ট করে শিখে শিখে। খোদা আদমকে একটা একটা করে সব বস্তুর নাম শিখিয়ে না দিলে আদম ‘মানুষ’ হয়ে ওঠে না। ধর্মে হোক, ‘সমাজ’তন্ত্রে হোক আর ‘গণ’তন্ত্রে হোক, ব্যক্তিকে যে বহু তার নির্ধারিত ‘সত্য’ উপায়টা হাতে ধরে শেখাবে এই নিয়ে অনেকের সন্দেহ থাকে সামান্যই।
কেবল স্টালিনের মতো দেদারসে দমন করাই কর্তৃত্ববাদ না। কেবল একজন স্টালিন কর্তৃত্ববাদের দায় বহন করে না। ব্যক্তিকে সকল ‘সত্য’ ও ‘নিয়ম’ নিখুঁতভাবে শেখানোর যে ভাবনাটা, কর্তৃত্ববাদের ভাবনা তার মূলে বিরাজ করে। এর অস্তিত্ব সর্বব্যাপী, প্রায় সকল মনে বিরাজমান। রোবট প্রোগ্রাম করার সময়েও আমরা তাই রোবটকে বস্তু ও নিয়মের ‘সত্য’টা শেখানোর চেষ্টায় ব্যস্ত থাকি।
কিন্তু এতে আমরা অন্যভাবে ভাবার উপায়টা ভুলতে বসেছি। আর সেটা হলো ব্যক্তির ভেতর দিয়েই বহু প্রকাশিত হয়। নৈর্ব্যক্তিককেও প্রস্তাব করে ব্যক্তি। সকল জ্ঞানের ইউনিট হলো ব্যক্তির চোখ আর স্পর্শ দিয়ে অনুভব করা ডেটাটা। আমরা আমাদের এই ডেটাকে ব্যাখ্যা করারই চেষ্টা করছি। এর জন্যে বস্তুর যে নৈর্ব্যক্তিক বা বহু নির্ধারিত ব্যাখ্যা, সেটা তার নিজের জায়গায় নিশ্চয়ই কাজের। কিন্তু মানুষের কিংবা বুদ্ধিমান রোবটের ভাবার উপায় নিয়ে যখন আমরা ভাববো, তখন ব্যক্তিকে প্রাধান্য না দেয়া অসম্ভব হয়ে পড়ে। (রোবট কিংবা মানুষের) ব্যক্তিক চিন্তার অঞ্চলে বহুর নির্ধারিত করে দেয়া ‘সত্যের’ হুকুমদারি এ যাবৎ পর্যন্ত তাই ব্যর্থ।
মন্তব্য
চরম, চরম
------------------------
[ওয়েবসাইট] [ফেইসবুক] [ফ্লিকার ]
স্রেফ মাইন্ডব্লোইং একটা লেখা!
আমার কিছু জানার ছিলো এ বিষয়ে(আপনার সময় হয় যদি)। সকল জ্ঞানের উৎস আমাদের ইন্দ্রীয়ের ডেইটা; কিন্তু এটাই ইউনিট কি? মানে আমি মনোবিদ্যার আলোকে যদি দেখি তবে একই শারীরবৃত্তীয় কার্যক্রমের উপলদ্ধি কিন্তু ভিন্ন ভিন্ন ভাবে ধরা দেয় আমাদের কাছে ভিন্ন ভিন্ন মানসপ্রক্রিয়ার কারণে। এখানে ভালো লাগা, খারাপ লাগা ব্যাপারগুলোতে যাচ্ছি না; স্রেফ পর্যবেক্ষণের কথাই যদি বলি তবে আমরা কিন্তু নিরাবেগভাবে কোনো কিছুই উপলদ্ধি করতে পারি না, ব্যাপারটা অনেকটা এসোসিয়েশন অফ আইডিয়ার মতন, লাল আপেল দেখে লাল পর্দা, তা থেকে ম্যাটাডোর, তা থেকে বুলফাইটার, তা থেক গোয়ের্নিকা, তা থেকে ফ্রাঙ্কো তা থেকে প্যান্স লিবেরিন্থ! আমরা অনেকটা এভাবেই শিখে থাকি বা মনে রাখি। এখন এই মানস প্রক্রিয়াকে আমরা যদি সমাজ-কাল-পরিবার-শিক্ষা ইত্যাদি চর্চায় প্রতিক্রিয়া হিসাবে ধরি তবে ঠিক আছে, কিন্তু অনেক মনোবিজ্ঞানিই এখন আর মানব শিশুর ব্লাঙ্ক স্লেট শিক্ষাপদ্ধতি মানতে চাচ্ছেন না। অন্তর্গত কোনো এক বা একাধিক ফ্যাক্টরকে আনছেন(পোস্ট মডার্ন সাইকোলজি)। সেক্ষেত্রে শিখনপদ্ধতিতে এগুলোও ধর্তব্যের ভেতর আনা উচিত কি আর্টিফিশিয়াল ইন্টিলিজেন্স এ?
ধন্যবাদ।
ডেটাকে প্রসেস করার সরঞ্জামও তো অবশ্যই এতে জড়িত। একই শরীরবৃত্তীয় ফাংশানের ভিন্ন ভিন্ন উপলব্ধিগুলো একই ডেটার বিভিন্ন উপায়ের বিশ্লেষণ দ্বারা তো প্রকাশ করা যাচ্ছে। খুব মোটা দাগের তুলনা হত পারে - বিভিন্ন ভেক্টরকে যেমন একই ইউনিট ভেক্টরগুলো দ্বারা প্রকাশ করা যায়। সেরকম এক অর্থে ইউনিট বৈকি!
ভাষাটা একটু খটমটে হলেও একটু কষ্ট করে পড়ে ফেললাম। ভাল লাগল।
দুই মোটর ওয়ালা রোবটের ক্ষেত্রে একটা প্রশ্ন আছে (ভিডিওটা দেখতে পারছিনা, অফিসে ইউটিউব ব্লকড)। একটা শিশু মায়ের কাছে যাওয়ার জন্য সম্ভাব্য সব ধরণের চেষ্টা করতে করতে একসময় শিখে যায় কি ভাবে গেলে সে মায়ের কাছে পৌঁছতে পারবে, এক্ষেত্রে তার পুরস্কার টা মায়ের সান্নিধ্যের আনন্দ, যা একটা মানবীয় গুণ। মানুষ আনন্দের জন্য, শান্তির জন্য সবসময়ই চেষ্টা করে, কিন্তু রোবট কে যদি বলা হয় যে সামনে গেলেই পুরস্কার পাবে, সেই ক্ষেত্রে সে কাজ টা কেন করবে? পুরস্কার পাবার আনন্দ তো সে উপভোগ করতে পারবেনা। তার অনুপ্রেরণা বা পুরস্কার জিনিসটা আসলে কি, পেলে কি লাভ এগুলো কি তাকে আগে থেকেই বলে দিতে হবেনা?? (আমি রোবোটিক্স বা এ আই সম্পর্কে তেমন কিছুই জানিনা)
রোবট টার মধ্যে যদি প্রোগ্রাম করে না দেয়া থাকে যে চাকা কিভাবে ঘুরিয়ে সামনে যাওয়া যায় তাহলে সে কিভাবে বুঝবে যে পুরস্কার বাড়ানোর জন্য তাকে সামনেই আগাতে হবে, বা মোটর দুটো চালাতে হবে, অন্য কিছু করতে হবেনা?
-----------------------------------------------------------------------------------------------------------------
যদি তোর ডাক শুনে কেউ না আসে তবে একলা চল রে
কষ্ট করে পড়ার জন্যে ধন্যবাদ।
ভিডিওটি পরে দেখে ফেলুন!
আপনার সবগুলো প্রশ্নই খুব পরিষ্কার ও লাইনের। কষ্ট বেশি করায় বুঝেছেনও ভালোই।
আপনি বলেছেন -
পুরস্কার রোবটকে দেয়া হচ্ছে সংখ্যার মাধ্যমে, যেমন ধরুন কথার কথা চাকা সামনে ঘুরলে +১ পাচ্ছে সে আর সামনে না ঘুরলে বা পিছে ঘুরলে পাচ্ছে -১। তো রোবটের প্রোগ্রামটার একমাত্র কাজ তার প্রাপ্ত সংখ্যাগুলোর যোগফলের পরিমাণকে ম্যাক্সিমাইজ করা। গাণিতিকভাবে সেটা করা সম্ভব। সেটার ফিজিবল প্রোগ্রাম তৈরি কঠিন। অ্যাপ্রোক্সিমেশান প্রোগ্রাম তাই ব্যবহার করা হয়েছে। সেই প্রোগ্রামটি রোবটটির প্রাপ্ত সংখ্যাগুলোর যোগফলকে ম্যাক্সিমাইজ করার চেষ্টা করছে। সেই চেষ্টার ফলটা ভিডিওটাতে আমরা দেখতে পাচ্ছি, একটা লার্নিং প্রসেসের আচরণ প্রকাশ পাচ্ছে রোবটের মধ্যে। যেনো রোবট সামনে আগানোর নিয়মটা বের করার চেষ্টা করছে। শেষে নিয়মটা বের করেও ফেলেছে। কিন্তু সেটা সরাসরি প্রোগ্রাম করা না।
আপনি বলেছেন-
এখন তার করার মধ্যে আছে কেবল দুটো মোটরের বিভিন্ন অবস্থান পরীক্ষা। অন্য কোনো ক্রিয়া সঞ্চালনের মোটর তার নেই। থাকলে সেগুলোও নাড়াচাড়া করতে হতো তাকে, যদিও সামনে এগুনো যাবে কেবল মাত্র অল্প কয়েকটা মোটরের নাড়াচাড়ায়। অর্থাৎ শুরুতে একটা শিশু তার সবগুলো হাতপা-ই যেমন ছোঁড়াছুড়ি করে, কিন্তু সময়ের সাথে সে বুঝে উঠতে থাকে যে বিশেষ কয়েকটার নাড়াচাড়াতেই তার বিশেষ একটা কাজ হাসিল হয়।
আপনি বলেছেন -
হ্ঁ্যা, কীসে তার আনন্দ বা পুরস্কার, অন্তত সেটা মানুষকে প্রোগ্রাম করে দিতে হচ্ছে বটে। প্রশ্ন করতে পারেন, সেটা কি পরিশেষে নির্দেশ প্রদানের মতোই হয়ে যাচ্ছে না? অন্যদিকে আবার এটাও ভাবতে পারেন যে, আনন্দ বা পুরস্কার অনেকটা ইনট্রিন্সিক (মানুষের ক্ষেত্রে হয়তো বিবর্তন প্রদত্ত)। কিন্তু সেটা অর্জনের উপায়টা ভিন্ন। ফলে সনাতন এআই যেখানে আনন্দ পাবার বা লক্ষ্য অর্জনের উপায়টাকে নিখুঁতভাবে প্রোগ্রাম করে দিচ্ছে, সে জায়গায় উপরের রোবটের ক্ষেত্রে কীসে আনন্দ কেবল সেটাই বলে দেয়া হচ্ছে। সেটা অর্জনের উপায়টা মুক্ত। রোবট নিজে নিজে চেষ্টা করতে করতে তার উপায়টা বের করবে। মানুষের ক্ষেত্রে যেমন, অনেকেরই কাছাকাছি বিষয়ে আনন্দ প্রাপ্তি ঘটে কিন্তু একেকজন একেকভাবে সেটা অর্জনের উপায়টা বের করে নেয়। মতান্তরে, উপায়কে নিখুঁতভাবে প্রোগ্রাম করা অনর্থক। বরং প্রেরণাটা ভেতরে ঢুকিয়ে দিন, উপায়টা চেষ্টার মাধ্যমে বের হয়ে আসবেই।
এখন বলতে পারেন মানুষের পুরস্কার বা আনন্দ তো রোবটটার মতো এতো স্থির না যে কেবল সামনে এগুলেই সবসময় আনন্দ পাবে। মানুষের আনন্দের বিষয় অনেক ডাইনামিক। একই বিষয়ে আনন্দ কমতে থাকে, নতুন বিষয়ে আনন্দ বাড়ে। রোবটের ক্ষেত্রে +১ আর -১ এর বণ্টনটা কীভাবে এরকম স্ট্যাটিক না করে ডাইনামিক করা যায়, সেটা একটা অ্যাক্টিভ রিসার্চ এরিয়া। আগ্রহ থাকলে লেগে যান। মতান্তরে, কেবল আগ্রহ আর সাহসটাই সব।
অনেক ধন্যবাদ। তবে অ্যাপ্রোক্সিমেশান প্রোগ্রামের ব্যাপারটা পুরোপুরি পরিস্কার হলনা। দেখি একটু পড়াশুনা করতে হবে।
মক্কা বহুদূর
, তবে হ্যাঁ চরম ইন্টারেস্টিং কোন সন্দেহ নাই।
-----------------------------------------------------------------------------------------------------------------
যদি তোর ডাক শুনে কেউ না আসে তবে একলা চল রে
এআই এর প্রেমে পড়ে গেলুম তো !!! কম্পু সাইন্সে অ্যান্ডারগ্র্যাড শেষ হইলে এআই পরার ইচ্ছে আছে।
লেগে থাকুন।
লেখাটা পড়ে একটা চিন্তা আসল। বাবা রোবট মা রোবট যেদিন আসবে সেদিন হয়তো রোবট-সন্তান মানুষের মত কিংবা রোবটের মত ভাবা শুরু করবে। কিছু কিছু লোক আছে যাদের আমরা রোবট বলি- আমরা যারা রোবট কিভাবে কাজ করে তা জানিনা তারা ও। রোবট যেদিন বুঝবে তার কাজগুলো রবোটিক হয়ে যাচ্ছে সেদিন বোধ হয় সে তার রোবট সত্ত্বা থেকে বেরিয়ে পড়বে। কিন্তু সে হয়তো তখন অভিমানী হবে, প্রেমিক হবে, কাঁদবে, হতাশায় চুল ছিঁড়বে কিংবা কবিতা ও লিখে পাঠাবে সচলায়তনে। রবোটিক্স নিয়ে যারা কাজ করে যতদূর জানি বেশিরভাগই রোবট, রোবটের ভবিষ্যৎ যে রবোটিক তা বোঝাই যায়।
লেখাটা পড়ে ভালো লাগল। একটা ব্যাপার আমার মনে হয়, শুধু বাহির থেকে ইনপুট নিতে শিখলে রোবট হওয়াই নিয়তি। রোবট যেদিন আত্মমগ্ন হয়ে আত্ম-অনুসন্ধানে নামবে সেদিন সে হয়তো মানুষ-রোবট দেখে হাসবে।
লেখাটা বেশ আগ্রহোদীপক হয়েছে।
আমার মনে হয়, একটা মিশ্র সমাধানে যেতে হবে আমাদেরকে। বেসিক কিছু স্কিল নিজে নিজে শিখতে পারতে হবে রোবটকে। আবার রোবটকে তার "ট্রায়াল অ্যান্ড ইরর" পদ্দতিতে শেখা এই নতুন স্কিল /জ্ঞান অন্য রোবটকে শিখিয়ে দেওয়ার উপায়ও জানতে হবে।
অর্থাৎ কিছু ব্যাপারে নিজের "হুইল নিজে রি ইনভেন্ট" করে নিতেই হবে। কিন্তু সবাই সব কিছু যদি "রি ইনভেন্টিং দ্য হুইল" পদ্ধতিতে শেখে তাহলে "ইন্টেলিজেন্স" এগোবে না। কারণ বুদ্ধিমত্তার একটা বড় অংশই "কালেকটিভ ইনটেলিজেন্স"। এবং সব সময় ব্যাপারটা ঠিক "পিয়ার প্রেশার" এর মত নেগেটিভ ব্যাপার না।
ইচ্ছার আগুনে জ্বলছি...
স্পর্শের সাথে একমত। পোষ্য প্রাণী বা যন্ত্র হিসেবে শিখিয়ে পড়িয়ে নেয়া পোষ্য বেশী "কিউট" বা "অ্যাডোরেবল" মনে হতে পারে। কিন্তু বাস্তব উপযোগীতা তাতে কমে আসে। একজন মানুষ শিশুর হাঁটতে শিখতে এক বছর লাগে, পুরোপুরি স্বনির্ভর হতে প্রায় ১৮ বছর। কোনো কোনো ক্ষেত্রে তারও বেশী। আর সিগনিফিকেন্ট পরিমানের এফোর্টের কথা তো বাদই দিলাম। এইপরিমান এফোর্ট একটা রোবটের পিছনে দিতে গেলে অবস্থা খারাপ হবে। সাহায্য পাবার জন্য রোবট বানিয়ে সেটাকেই যদি সাহায্য করতে হয় তাহলে সমস্যা।
এরচেয়ে বরং বেসিক স্কিল গুলো অর্ন্তভুক্ত করে, প্রয়োজনে নতুন স্কিল সহজে ডাউনলোডের ব্যবস্থা করে এবং প্রয়োজনে নতুন স্কিল শেখার ব্যবস্থা করে মোস্ট এফেক্টিভ রোবট বানানো যেতে পারে।
আপনি বলেছেন -
সাহায্য পাবার জন্যে কাজের রোবট তো তৈরি হচ্ছেই নানারকম ইন্জিনিয়ারিং করে। আমার আগ্রহটা এখানে অবশ্য হলো এআই রোবট নিয়ে। সেটাকে ঠিক মানুষের কাজে লাগানোর জন্যে তৈরি করা হচ্ছে না এখানে। তাকে তৈরির চেষ্টাটা হলো মূলত ইন্টেলিজেন্সের প্রকৃতিকে বোঝার নিমিত্তে। মহাবিশ্বের প্রকৃতিকে বোঝাটা মূলত যেমন মানুষের বিশেষ কোনো কাজে লাগানোর নিমিত্তে নয়। উপযোগটা সেখানে জ্ঞানকে নিশ্চয়ই ফলো করবে। এটাকে একটা বেসিক সায়েন্স বলতে পারেন।
এটা হয়তো পরবর্তী ধাপের চিন্তা। কীভাবে কালেকটিভ ইন্টেলিজেন্স তৈরি হবে। কালেক্টিভ ইন্টেলিজেন্সের জন্যে কি অতিরিক্ত কোনো টেকনিক ঢুকিয়ে দিতে হবে নাকি ইনডিভিজুয়ালকে ইন্টেলিজেন্ট করে দিলে সে নিজে নিজেই অন্য ইনডিভিজুয়ালের সাথে একত্র হয়ে কালেক্টিভ এফোর্ট তৈরি করতে সক্ষম হবে? যদি পরেরটা হয়, তাহলে আলাদা টেকনিক দেয়া রিডান্ডেন্ট।
প্রথম যখন আমার প্রফেসরের সাথে গবেষণা শুরু করি, আমি ওনাকে প্রস্তাব করেছিলাম ঠিক এই হাইপোথিসিসটা টেস্ট করা যায় এমন একটা এক্সপেরিমেন্ট করার জন্য। প্রফেসর বেশ আগ্রহ প্রকাশ করলেন। বললেন, এটা দিয়ে একটা ভালো পেপার হয়তো হবে, কিন্তু আমাদেরকে আরো গভীর ও আরো গুরুত্বপূর্ণ বিষয় নিয়ে ভাবতে হবে। সকল বিষয় সমান না। তাছাড়া তিনি এটাও মনে করেন যে ইনডিভিজুয়াল ইন্টেলিজেন্স ইস ইনাফ বাই ইটসেল্ফ। ফলে আমার আর সেই এক্সপেরিমেন্ট করা হয় নি। তোমার কথাটা আবার সেই ঘটনা মনে করিয়ে দিলো।
আমি এসব বিষয়ে অজ্ঞ একজন মানুষ । কিন্ত আপনি এত আকর্ষণীয় আর সহজ করে লিখেছেন যে দারুণ লাগলো পড়তে । শুভকামনা ।
লক্ষ্য করলাম আপনার দুনিয়ায় মানুষ-থেকে-যন্ত্রে 'উপলব্ধি' স্থানান্তরের সাথে একটি দল/পরিস্থিতির সফল অভিগ্গতার ভিত্তি বা কর্মপদ্ধতিকে আরেকটি দল/পরিস্থিতিতে স্থানান্তরিত করতে পারার সীমাবদ্ধতার মধ্য়ে অনেকগুলো মিল আছে।
কিছু কল সেন্টারকে যদি আসিমোর সাথে তুলনা করি তাহলে দেখবো যেখানে অনেকদিন থেকে চলে আসা একটি দলের গ্রাহক-ব্য়াবস্থাপনার অভিগ্গতাকে 'কোডিফাই' করে সেটাকে চেলে-বেছে সহজে শেখানো, প্রয়োগ, উন্নত করার যোগ্য় করে নতুন নতুন কলসেন্টার অপারেটরকে শেখানো হয়। এখানে মনে হয় কলসেন্টার শিল্পের উদ্য়েশ্য় হল যতটা সম্ভব একটা ভাল আসিমো রোবট বানানো, যেখানে সবাচাইত কম 'ডাটা' ব্য়াবহার করেই গ্রাহককে টেলিফোনের অন্য়প্রান্তে বুদ্ধিদীপ্ত ও গ্রাহকবান্ধবতার অভিগ্গতা দেয়া যাবে। জানিনা এই তুলনাটা আপনার কাছে গ্রহনযোগ্য় কিনা।
সেরকম একটি সফল প্রকল্প বা একটি সফল উদ্য়োগকে আমি উপলব্ধির সাথে তুলনা করতে চাই। যেখানে সেই কোডিফিকেশান বেশ দুরুহ। তবে আই-এ এর চিন্তাভাবনা থেকে প্রকল্প ও উদ্য়োগপতিরা অনেক কিছু ধার করতে পারে বলেই মনে হচ্ছে।
আমার জন্য় অনেকটাই কারিগরি, তবে বেশ দরকারি একটা বিষয় বলেই মনে হচ্ছে।
নাহ, তুলনাটা মন্দ হয় নি মোটেও। তবে প্রকল্প কিংবা উদ্যোগপতিরা কেবল যদি আসিমোস্টাইলের কর্তৃত্ববাদী এআইতেই বেশি আগ্রহী হয়, তাতে কিঞ্চিৎ দুশ্চিন্তিত তো হচ্ছি বটেই!
সৌরভ কবীর
মুগ্ধতাকেও ছাড়িয়ে যাওয়া একটা লেখা।
এ বিশ্বকে এ শিশুর বাসযোগ্য করে যাব আমি, নবজাতকের কাছে এ আমার দৃঢ় অঙ্গীকার।
।ব্যক্তিগত ওয়েবসাইট।
কৃতজ্ঞতা স্বীকারঃ অভ্র।
ধন্যবাদ, জাহিদ ভাই!
পড়ে ভালো লাগলো।
জটিল একটি লেখা
অনেক ধন্যবাদ, স্বাধীন ভাই!
জটিল লেখা রে ভাই, ৯৯.৯৯% মাথার উপর দিয়ে গেছে। ভাই, আপনারা এসব বুঝেন ক্যাম্নে??
একটা প্রশ্ন ছিলঃ দ্বিতীয় যে রোবটটির কথা আলোচনা করা হচ্ছে তার লার্নিং প্রসেসটা কি রকম? এটা কি এরকম যে তার মাঝে প্রথমে একটি বেসিক প্রোগ্রাম থাকে, তারপর লার্নিং প্রসেস শেষে প্রোগ্রামটি নিজে নিজেকে আপডেট করে জটিল প্রোগ্রাম হিসেবে আত্মপ্রকাশ করে। ব্যাপারটি কি এরকম? আমার কোন ধারনা নেই, সেটা জানোই। স্রেফ একটা গেস করলাম।
উপরে মরুদ্যানের প্রশ্নের উত্তরে কিছুটা বলেছি, দেখতে পারেন।
এক্ষেত্রে আসলে প্রোগ্রামটা ইভল্ভ করে না। ইভলুশ্যনারি অ্যালগরিদম বা প্রোগ্রামের বিপক্ষে সবচেয়ে বড় অভিযোগ হলো, সেটা অনেক ধীরগতির। উপরের ভিডিওতে যতো দ্রুত লার্নিং আচরণ পাওয়া গেছে, ইভল্ভিং প্রোগ্রাম দিয়ে সেটা পাওয়ার জন্যে ব্যাপক মানব প্রি-ডিজাইন লাগবে বলে আশঙ্কা করি।
এখানে ব্যবহার করা প্রোগ্রামটা একটা অ্যাপ্রক্সিমেশান অ্যালগরিদম যেটাতে কিছু প্যারামিটার লার্ন করা হচ্ছে। প্যারামিটার স্পেসটা বিশাল ও একে হুবহু ম্যাক্সিমাইজ করা ইনফিজিবল, তাই অ্যাপ্রক্সিমেশান অ্যালগরিদম ব্যবহার করা হচ্ছে। এই রোবটের ক্ষেত্রে ঠিক যে লার্নিং অ্যালগরিদমটা ব্যবহার করা হয়েছে, তার নাম Q-learning। এখানে অথবা এখানে দেখেন।
মূল ইকোয়েশানটা পেস্ট করছি।
বিস্তারিতে যাবো না, তবে এখানে R টা হলো যেটাকে বলছি পুরস্কার।
দারুন একটা জিনিস জানলাম। আচ্ছা এই লার্নিং কি এডাপ্টিভ? মানে বলতে চাচ্ছি, মটর ঘুরিয়ে সামনের ঠ্যাং কে লাঠির মাধ্যমে ব্যবহার করে চলা শিখে গেলেই কী লার্নিং শেষ? নাকি টিরেইন পরিবর্তন হলে, ভিন্ন ভাবে লার্ন করবে? যেমন ধরা যাক, ল্যাংচাতে ল্যাংচাতে ব্যাটা যদি এক্টা ঢালু এলাকায় চলে আসে, তাহলে এমনি গড়িয়ে পড়তে থাকবে, কিন্তু যদি তখন সামনের লাঠি ব্যাবহার করতে যায়, তাহলে তো আটকে যাবে। এই পরিস্থিতিতে কি সে নিজেকে বদলাবে?
খুব ভালো প্রশ্ন। অ্যাডাপ্টিভ তো বটেই। এখানে ব্যবহৃত লার্নিং অ্যালগরিদমটাকে যদি থামতে দেয়া না হয়, তাহলে এই সেটাপে সে একসময় এই বিশেষ উপায়টাতেই সম্ভবত সেটল হয়ে যাবে। কিন্তু ঢালু সার্ফেসে অলস হয়ে থাকাটাই যে শ্রেয় সেটাই খুঁজে পাবার কথা, যেহেতু আগের উপায়টা কন্টিনিউ করলে তার পুরস্কার ম্যাক্সিমাইজের কচুটা হবে।
তবে কঠিন প্রবলেমে সমগতির লার্নিং আশা করা ঠিক হবে না। সাব অপ্টিমাল উপায় খুঁজে পেলেও দোষ দেয়াটা অনুচিত হবে। সেক্ষেত্রে তার ইন্দ্রিয়ের গুণ ও পরিমাণ বাড়ানো যেতে পারে। আবার কখনো কখনো এক্সপয়েট করার জন্যে একটু আধটু সাব অপটিমাল এক্সপ্লোরেশানেরও প্রয়োজন পড়তে পারে। তার সাথে ইন্দ্রিয়লব্ধ ডেটাটাকে অ্যাপ্রক্সিমেশান অ্যালগরিদমটার কাছে কীভাবে রিপ্রেজেন্ট করলে লার্নিং আরো মোক্ষম হবে, সেটা এই এরিয়ার সবচেয়ে কঠিন বিষয়গুলোর একটা।
চমৎকার পোস্ট !
তবে এটা পড়ে আমার একটা আস্বস্ত হওয়ার মতো ভিন্ন উপলব্ধি হলো। শুনে থাকি, কেউ কেউ বলেন এমন দিন আসবে যেদিন মানুষ যন্ত্রের কাছে অর্থাৎ রোবটের কাছে পরাভূত হবে। কিন্তু এ লেখায় বোঝা গেলো সেটা অনেক অনেক অনেক দূরের ব্যাপার। মানুষের টোটাল বুদ্ধিবৃত্তির সমানে আসার ক্ষমতা অর্জন করা কোন রোবটের পক্ষে হয়তো কখনোই সম্ভব নয় । রোবটদের জন্যে তা অর্থহীন বলেই। কেননা একটা নির্বোধ মানুষের অর্থহীন জীবনেরও একটা অর্থ বা উদ্দেশ্য থাকে। স্বাধীন রোবটের জন্য সেই লক্ষ্যটা কী হবে !! তবে মানুষের মস্তিষ্কে জৈব-রোবট জাতীয় কোন ধারণা আদৌ কাজ করছে কিনা জানি না। হয়তো করে, নইলে বৈজ্ঞানিক কল্পকাহিনীগুলোও শুকিয়ে রস কষহীন হয়ে যেতো।
বুদ্ধিমান রোবট বানানোও মানুষের প্রজ্ঞাময় আনন্দের একটা উদ্দেশ্য হয়তো। কিন্তু রোবটের নিজেদের বুদ্ধিমান হয়ে ওঠার পেছনে সম্ভাব্য প্রণোদনারূপ রোবটিক আনন্দের উৎসটা এখনো অস্পষ্ট। কারণ রোবটকে বুঝতে হবে আনন্দ কী। এই জটিল উপলব্ধি কি রোবটের আওতায় আসা সম্ভব ?
-------------------------------------------
‘চিন্তারাজিকে লুকিয়ে রাখার মধ্যে কোন মাহাত্ম্য নেই।’
ভালো প্রশ্ন করেছেন। একটা একটা করে আসি।
"শুনে থাকি, কেউ কেউ বলেন এমন দিন আসবে যেদিন মানুষ যন্ত্রের কাছে অর্থাৎ রোবটের কাছে পরাভূত হবে। কিন্তু এ লেখায় বোঝা গেলো সেটা অনেক অনেক অনেক দূরের ব্যাপার।"
এতে আমার তেমন সন্দেহ নেই। তবে আমার জীবদ্দশায় যে হবে, সেটুকু জানি।
"একটা নির্বোধ মানুষের অর্থহীন জীবনেরও একটা অর্থ বা উদ্দেশ্য থাকে। স্বাধীন রোবটের জন্য সেই লক্ষ্যটা কী হবে !! ... রোবটের নিজেদের বুদ্ধিমান হয়ে ওঠার পেছনে সম্ভাব্য প্রণোদনারূপ রোবটিক আনন্দের উৎসটা এখনো অস্পষ্ট।"
সেটাও একটা গবেষণার বিষয়। Intrinsic motivation নাম নিয়ে একটা ছোট গবেষণা উদ্যোগ চালু আছে এটাকে বোঝার জন্যে। তিন বছর আগে আমার কাছে ব্যাপারটা প্রায় অধরা ছিলো। রোবট নয় হাঁটতে শিখলো বুঝলাম, কিন্তু রোবটের জীবনের মূল চালিকাশক্তি কী হবে? মাথা ঠুকতে হয়েছে বহু বহু দিন। তারপর বছর ঘুরতে থাকলো, অনেক অনেক চিন্তা, গবেষকদের সাথে কথোপকথন, একটু আধটু পড়াশোনার পর এখন আমি অন্তত আঁচ করতে পারি বা কল্পনা করতে পারি সম্ভাব্য কী উপায়ে রোবটের জীবনের একটা অর্থহীন অথচ তার জীবনটাকে চালিয়ে নিয়ে যেতে পারে এমন চালিকাশক্তি থাকা সম্ভব।
"তবে মানুষের মস্তিষ্কে জৈব-রোবট জাতীয় কোন ধারণা আদৌ কাজ করছে কিনা জানি না।"
হয়তো করে। এআই গবেষণার অ্যাসাম্পশান হচ্ছে "করে।" খুব অবাস্তব অ্যাসাম্পশান নয়। ভাবা যেতে পারে, মানুষের মস্তিষ্কে গণনা ছাড়া আর কি কিছু আদৌ ঘটে?
"রোবটকে বুঝতে হবে আনন্দ কী। এই জটিল উপলব্ধি কি রোবটের আওতায় আসা সম্ভব ?"
বলা চলে যে আমরা আমাদের অধিকাংশ আনন্দবাদী (hedonist) প্রেরণাগুলোই কিন্তু সচেতন মনে উপলব্ধি করি না। সচেতন উপলব্ধির আগেই দেখা যায় আনন্দবাদী ক্রিয়াটি আমাদের দ্বারা ঘটে যায়। ফলে যদি সচেতন উপলব্ধি আশা করে না থাকেন, তাহলে অবচেতন আনন্দ উপলব্ধি বা তার সমতুল্য গাণিতিক বা গণনাগত প্রকাশ সম্ভব বলে মনে করি।
বিষয়টি যদিও আমার বোঝার জন্য জটিল তবুও লেখাটা উপভোগ করলাম।
ধন্যবাদ, কিছু জ্ঞানদান করার জন্য।
অসাধারন লাগলো। আর্টিফিসিয়াল ইন্টিলিজেন্স নিয়ে আপনার লেখাগুলো দূর্দান্ত হয়।
এআই বিষয়ক লিখা পুরো বোঝার মত পড়াশুনা আমার নাই, কিন্তু পড়ে কিছু জায়গা বুঝলাম মনে হল। লিখা অসাধারন লেগেছে এইটা জানিয়ে গেলাম।
..................................................................
#Banshibir.
দারুন লাগল। আগের লেখাগুলোও পড়লাম। অনেক কিছু জানা হল।
এই তো দেখেন, সহজভাবে লিখলে পাঠক অনেক খুশি হয় কি না
এখানে শব্দ ইতাদিগুলো কি ওই একই টাইপের বলে রিপিটেশন এড়াতে বাদ দিয়েছেন, নাকি ওগুলোর মৌলিকত্বর ব্যাপারস্যাপার আলাদা?
এইখানে দ্বিমত। মায়ের শরীর ধরে ঝুলে থাকা, বা স্তন্যপানের চেষ্টা, এইগুলো innate প্রবৃত্তি, এটাকে "জানে যে হাত বাড়িয়ে তার মায়ের আঙুলটা জড়িয়ে ধরতে পারলে সে পুরস্কার বা আনন্দ পাবে" এভাবে উপস্থাপিত করা যায় বলে মনে করি না। আর তেমনই হাত-পা নাড়াচাড়া করাটাও একটা innate প্রবৃত্তি, ওটাকে আলাদা করে 'জানা নেই' বলার কারণ দেখি না। আমরাও কি এই ধাড়ি বয়সেও সচেতনভাবে জানি যে ঠিক কি সিগনাল আমরা কোন পেশিতে পাঠাচ্ছি ওই হাতটা ধরার জন্য? স্তনবৃন্তের স্পর্শ পেলে শিশুমস্তিষ্ক তো সচেতনভাবে কম্পিউট করে না যে কতটা ঠোঁট বাঁকালে, কতটা জিভের টান দিলে দুধ পাওয়া যাবে - এই সাকলিং হ্যাবিট জন্ম থেকেই তার মধ্যে আছে।
স্পর্শের সঙ্গে অনেকটা একমত, বারবার চাকা রিইনভেন্ট করার প্রসঙ্গে। আমার তো মনে হয় না, আসিমো ধরনের আধুনিক রোবটগুলোতে লোকে ১০০% হার্ড নলেজ ভরে দিচ্ছে, সেলফ-লার্নিংয়ের কোনো সুযোগ নেই। আপনার দেখানো দ্বিতীয় রোবটটায় যদি সেলফ-লার্নিং অত বেসিক লেভেল থেকে শুরু হয় তাহলে তার কাপে চা ঢালা অবধি পোঁছতে তো বহুকাল লেগে যাবে। মানুষ যেমন innate tendency +external teaching এই দুরকম সুবিধা পায়, সেগুলো রোবটকেও দিলে ক্ষতি কি?
তাছাড়া, মানুষের ব্রেনের যে দুর্দান্ত প্রসেসিং পাওয়ার, বিশেষ করে শেপের ক্ষেত্রে, সেটা তো এখনই রোবটকে দেওয়া যাচ্ছে না। সেক্ষেত্রে কিছুটা নলেজ ভরে দিয়ে একটা হেড-স্টার্ট দেওয়া তো ভালই।
আর শেষটায় এসে স্টালিন খোদা এইসব এসে পড়ে খানিক ঘেঁটে গেল। ওই প্রসঙ্গে, বা উপরে সেলফ-লার্নিং প্রসঙ্গেও, যখন আপনি নিজের দর্শনটা লেখার মধ্যে দিয়ে ইমপোজ করতে চেয়েছেন, সেগুলো আর তেমন জমেনি - তুলনায় যখন লিটারেচার রিভিউ করেছেন তখন সেগুলোই পড়তে ভাল লাগছে। অবশ্য, আপনার দর্শনের ধারার সঙ্গে যে আমার মেলেনা সেটাও সত্যি, তবে সেটাই মূল কারণ বলে মনে হয় না।
আগের লেখায় টপিক সম্বন্ধে মন্তব্য চাইছিলেন, এই দেখেন কেমন লম্বা মন্তব্য করলাম।
সবসময় কি আর পাঠকের জন্যে লিখি
অপেক্ষা করছিলাম কেউ একজন বিষয়টা তুলবেন - রিপিটেশান এড়াতে যে বাদ দিয়েছি - কথাটা বলার সুযোগ নেয়ার জন্যে। ডেটা তো ডেটাই। কুথাও কুনো ভাইটালিজম নাই।
ব্যাপারটা নিয়ে আলোচনার জন্যে একটা ক্লিয়ার কেইসে যাই। যেমন হাঁটতে শেখা। হাঁটার ইচ্ছাটা আপনি ইনেট বলতে পারেন। হাঁটার জন্যে হাত পা নাড়াচাড়া, সেটাকেও ইনেট যদি বলেন আপত্তি করবো না। কিন্তু উপায়টা কি ইনেট? প্রোগ্রাম করে দেয়া আছে কি যে পাঁচ মাসের সময় হামাগুড়ি দেবে, আট মাসের সময় আছাড় খাবে? নাকি ওই হাত পা ছোঁড়া ছুড়ির সময় মস্তিষ্ক গুণে দেখছে তার মোটর নিউরনগুলোতে কী রকম কম্বিনেশানে সিগনাল প্রেরণ করলে হাঁটাটা সফল হয়?
মায়ের আঙুল ধরাটা এর চেয়ে কম ক্লিয়ার কেইস বটে। কিন্তু আঙুল ধরতে চাওয়ার ইনেট প্রবৃত্তি আর হাত নাড়াচাড়া করা এগুলো যে স্বতঃপ্রবৃত্ত, তাকে কিন্তু অস্বীকার করা হচ্ছে না। এখানে প্রশ্নটা হচ্ছে, কী উপায়ে হাতের মুঠোয় আঙুলপ্রাপ্তি ঘটে, সেটাও কি ইনেট? ধরতে গিয়ে পিছলে যেতে, লক্ষ্যভ্রষ্ট হতে দেখেন নি যেটা ঘটার হার সাধারণত বয়সের সাথে ব্যস্তানুপাতিক?
এখন বলতে পারেন, যে কর্মগুলোর ইনেট প্রবৃত্তি নিয়েই আমরা জন্মাচ্ছি, সেগুলোর কী হবে? এটা সেই প্রাচীন নেচার ভার্সেস নার্চারের প্রশ্ন। এই তর্ক কিন্তু মোটামুটি এখানে গিয়েই শেষ হয় যে দুটোরই দরকার। আমি কিন্তু সেটা অস্বীকার করি নি। অধিকাংশ প্রসেসে দুটোই ইনভল্ভড থাকে। আমি কিন্তু ইনেট প্রবৃত্তিকে অস্বীকার করছি না। কেবলই ইনেট প্রবৃত্তি, কীভাবে আঙুল ধরতে হবে হুবহু প্রোগ্রাম করে দেয়া এই ধারার চিন্তাকে অস্বীকার করছি। আপনি লার্নিংকে অস্বীকার করছেন কি?
এটা একটা ভালো প্রসঙ্গ। এআইয়ের এই দুই ধারার গবেষকরা যখন একত্র হন, তখন লার্নিংয়ের বিপরীত ঘরানার থেকে এই যুক্তিটা আসে। বেশ কন্ভিন্সিং। অনেক বিষয়ের মতো এটাতেও একমত হওয়া চলে যে দুটাই দরকার। আবার অন্যভাবে চিন্তা করলে, এই ইনেট প্রবৃত্তি আমাদের কোথা থেকে এলো? কেউ ডিজাইন করে দিয়েছে কি? আপনি হয়তো বলতে পারেন বিবর্তন ডিজাইন করে দিয়েছে। আমার কাছে এই দুটি শব্দ একসাথে বেমানান। আমি অবশ্যই মনে করি আমাদের এইসব ইনেট প্রবৃত্তি বিবর্তিত, কিন্তু এটাকে বিবর্তনের ডিজাইন বলতে আমি নারাজ। খোদা যখন আশরাফুল মাখলুকাত আদমকে সৃষ্টি করছে, সেটাকে ডিজাইন বলা চলে। স্টালিন যখন মানুষ মেরে পিটে সোভিয়েতকে সাইজ করছে, সেটাকে ডিজাইন বলা চলে। আপনি যখন একটা রোবটের হাতের মোটরগুলোতে নিখুঁতভাবে কোন সিগনালের পর কোন সিগনাল দিতে হবে প্রোগ্রাম করে দিচ্ছেন, সেটা আলবৎ ডিজাইন। এই সবগুলোর পেছনে একটা অন্তর্গত উদ্দেশ্য থাকে। বিবর্তনের ঢঙ কিন্তু মোটেও সেরকম নয়। সে কোনো অন্তর্গত উদ্দেশ্য নিয়ে পরিকল্পনা করে এগোয় না। বিভিন্ন প্রজাতির প্রাণী বরং তার কাছে ডেটা। তাদের সার্ভাইভাল ডেটা থেকে মিউটেশান এবং কম্বিনেশানের ট্রায়াল অ্যান্ড এরর থেকে বিবর্তন দ্বারা প্রজাতিতে এই নানা ধরনের ইনেট প্রবৃত্তিগুলো প্রোথিত হতে থাকে। অর্থাৎ আমাদের ইনেট প্রবৃত্তিগুলোও একটা লম্বা সময় ধরে বিবর্তনের পর্যবেক্ষণ ও পরীক্ষা দ্বারা যাচাইকৃত। ফলে বিবর্তনও এক অর্থে লার্নিং। অ্যাজ অপোস্ড টু ডিজাইন। যেটাকে আপনি প্রোগ্রাম করে দেয়া ডিজাইন হিসেবে দেখছেন, সেটাও আসলে একটা ডেটার উপর লম্বা ট্রায়াল অ্যান্ড এররের মাধ্যমে শেখা। একটা ইন্ডিভিজুয়াল তার জীবদ্দশায় হয়তো শিখে নি। এখন প্রশ্ন হচ্ছে, এগুলো প্রোগ্রাম করে দিলে ক্ষতি কী? অনেকক্ষেত্রে আসলে মানুষের ইনজিনিয়ারিং এতোটা উন্নত যে তারা বিবর্তনের অবদানের সমতুল্য। তবে, প্রকৃতিতে কোনো সচেতন প্রোগ্রামার ছাড়া যেমন এই গণনা ঘটেছে, তেমনি লম্বা লার্নিংয়ের মাধ্যমেও এই পথে এগুনো হয়তো সম্ভব। যেটা আপনি প্রকারান্তে স্বীকারও করেছেন। প্রোগ্রাম করে দেয়া ইউনিট নিয়ে আমার মৌলিক আপত্তি নেই। কিন্তু যেখানে সেই পথেই মূলত এআই এতোকাল এগিয়েছে, রোবটিক্স এগুচ্ছে, সেখানে ঠিক তার উল্টো পথটাকে সামনে নিয়ে আসাটা দরকার। আর গবেষণা করার সময় অনেকক্ষেত্রেই একটা বিষয়কে একদম আলাদা করে ট্রিট করাটার প্রয়োজন পড়ে।
হয়তো একারণে যে আপনি চিন্তা করতে চাচ্ছেন না এগুলোর সাথে রোবট নিয়ে চিন্তার উপায়ের সম্পর্ক কী বা সম্পর্ক কেনো নেই। উপরের বিষয়গুলোর মতো এগুলো নিয়েও যুক্তি দিন, তখন দেখবেন আপনার চিন্তা আর ঘেঁটে যাচ্ছে না।
তাই নাকি? আপনিও কর্তৃত্ববাদীদের দলে ...
যুক্তি তর্ক করলে মেলা না মেলা আর কোনো বিষয় না।
আপনার ওই স্পেসিফিক উদাহরণটার ক্ষেত্রে আমার আপত্তি ছিল। আপনি অনেকদূর জেনারেলাইজ করে নেচার-নার্চার, লার্নিং এসবে চলে গেলেন। হাতে চেপে ধরার ব্যাপারটাও একটা প্রিমিটিভ রিফ্লেক্স, বয়সের সঙ্গে অ্যাকিউরেসি বাড়ে কিন্তু রিফ্লেক্সটা ইনেট। হাঁটাও ইনেট, এক্সপেরিমেন্টে দেখা গেছে যে যদি শিশুকে একম কোনো ঘন মিডিয়ামে দেওয়া হয় (যেমন জল) যেখানে প্লবতা তার ওজন কমিয়ে দেওয়ায় পা-কে ওজন বহনের সমস্যায় পড়তে হচ্ছে না, তাহলে খুবই অল্পবয়সী শিশুও হাঁটতে পারে।
মানে, আপনি যদি আদৌ ইনেট নয় এমন কোনো উদাহরণ দিতেন তাহলে ব্যাপারটা বেটার হত।
প্রকারান্তরে কেন, আমি তো সরাসরিই স্বীকার করছি যে লার্নিং একটা আবশ্যিক ব্যাপার, এবং বিবর্তনের মতই আপন পথে ছেড়ে দিলে সেটা আমাদের লক্ষ্যে পোঁছতেই পারে (পৌঁছবার গ্যারান্টি নেই বোধহয়)। তবে কয়েক মিলিয়ন বছর যেহেতু রোবটকে আমরা দিতে পারব না, তাই খানিকটা ট্রেনিং দেওয়ার দরকার পড়ছে।
রোবট থেকে স্টালিনের কর্তৃত্ববাদের কথায় চলে যাওয়াটা এই আলোচনার জন্য ভালো বা প্রয়োজনীয় তুলনা বলে মনে হয়নি। এই ধরেন, যদি 'আই, রোবট'এর মত ব্যাপার নিয়ে এ পোস্টে আলোচনা হত, যে বুদ্ধিমান রোবটের ফ্যাক্টরি আছে আর আপনি তার কর্তা, তাহলে আপনাকে স্টালিনের সঙ্গে তুলনা করা যেত।
কর্তৃত্ববাদও বোধহয় কিছু কিছু অবস্থায় দরকার হয়, তাই না?
(অবস্থা বলতে সামাজিক/বৌদ্ধিক অবস্থা বলছি না নেসেসারিলি। এই ধরেন কোড লেখার সময় ডিরেক্ট অ্যালগোরিদম লেখা ভার্সেস নিউরাল নেটওয়ার্ক ব্যবহার করা, এইরকম।)
তবে আপনার দর্শনের সঙ্গে দ্বিমত বলতে কর্তৃত্ববাদই বোঝাতে হবে কেন, ওটা তো আপনার সামগ্রিক দর্শন (যতটা নানা পোস্টে/মন্তব্যে পেয়েছি আর কি) এর অল্প একটা সাবসেট।
এবং কারোর দর্শনের সঙ্গেই যে ১০০% বা ০% মিল থাকে এমনও তো নয়। তবে ধরেন, যদি সজলের (জাস্ট ফর এক্সাম্পল) সঙ্গে x% আর আপনার সঙ্গে y% মিল থাকে তবে x>y বেশ খানিকটে। আবার মিট রমনির সাথে z% হলে y>z বেশ খানিকটে।
আবার লার্নিংও। অনেক বিষয়তেই দুটোই আছে। আদৌ ইনেট নয় এমন উদাহরণ প্রয়োজন পড়ে না যদি একই বিষয়ে কেবল লার্নিং অংশটা নিয়ে আলাদা করে ভাবা সম্ভব হয়। তবে ক্লিয়ারতর কেইস নিয়ে আলোচনা করলে যে বেশি বেশি সুবিধা তাতে সন্দেহ নেই।
সিঙ্গুলারিটি আর সিমুলেশান ভরসা!
সভ্যতায়, রাজনীতিতে সবখানে তো এর জয়জয়কার। এটা যে দরকার সেটা আর আলাদা করে স্বীকার করার দরকার আছে কি? বরং লাইনে আইসা বলেন মুক্তিবাদও নিশ্চয়ই দরকার, নাকি?
ওইটা তো আপনারে একটু চেতানের লাইগা কইলাম। আপনার xyz মজার হইছে।
জার্মান মনোবিজ্ঞানী ও সমাজবিজ্ঞানী এরিক ফ্রম লিখেছিলেন,
নতুন যুগের ফ্রমকে হয়তো কোন একদিন লিখতে হবে,
****************************************
আপনি এর আগের একটা লেখাতেও রোবটদের মানুষ হওয়া নিয়ে ভীত ছিলেন। ডরাইয়েন না। এখানে কেবলই বুদ্ধিমত্তার প্রকৃতিকে বোঝার জন্যে রোবট বানানোর চিন্তা করা হচ্ছে। এর জাগতিক প্রভাব বা এতে কী উদ্দেশ্য হাসিল হবে সে চিন্তা ছাড়াই।
হে হে, এইবারে কিন্তু মনে হয় আমার কথাটা আপনি ধর্তারেন নাই!
ধরে নেন এই নতুন যুগের ফ্রমটা আর কেউ না, দ্বাবিংশ শতাব্দীর একজন প্রথিতযশা মনোবিজ্ঞানী ও সমাজবিজ্ঞানী। যিনি নিজেও একজন রোবট (মানুষ হইলেও অবশ্য অসুবিধা নাই)। আপনার 'প্রিয়-ধরণের' রোবটের ভবিষ্যত ও উচ্চ-বিকশিত একজন বংশধর তিনি এবং তাদের মত রোবট-শাসিত একটা সমাজের সদস্য, যিনি কিনা আপনার একজন ছাত্রও বটে! এই পোস্টের শেষ চারটা অনুচ্ছেদের উনি একজন বিশেষ ফ্যানও বটে। আর সেই দৃষ্টিকোন থেকেই তার মুখ থেকে ২০শ শতাব্দীর আদি এরিক ফ্রমের বক্তব্যের এই সংশোধণী বেরিয়েছে। (টীকাঃ তার এই ২ বাক্যের উদ্ধৃতিটার (২য়টা) প্রথম বাক্যের রোবট আর ২য় বাক্যের রোবট একই ধরণের রোবট না!)
যাইহোক, একটু হিউমার করতে চাইছিলাম। হয়তো কিছু বলতেও চাইছিলাম সেইসাথে। বুঝতে পারতেছি হয় নাইক্কা কিছু, ফেইল মারছি!
****************************************
কিন্তু আসল প্রসঙ্গে আসেন। রোবট যে আইতাছে, হেইটা নিয়া আপনি উদ্বেলিত নাকি কন? অনেকেই উদ্বেলিত। অনেকে আবার না। আমি নিজে না। আমার বাস্তব জীবনে কী প্রভাবখান ফেলবে এই গবেষণা সেইটা নিয়া আমার মাথা ব্যাথা নাই (হয়তো আবার আছেও, কিন্তু কইতাছি না
)। প্যারালাল মহাবিশ্ব আছে কি নাই সেইটার সাথে বাস্তব জীবনের প্রভাবখানি লইয়াও আমরা যেমন ভাবি না। কিন্তু প্রশ্নটার উত্তরখান জানার লাইগা জীবন পার কইরা দেওন যায়। 
রোবট নিয়া আমিও তেমন উদ্বেলিত না। আবার আপনার মত বিশুদ্ধ-জ্ঞানপিপাসুও না। অন্তত এই ক্ষেত্রে। তাই এই লেখায় শেষ চারটা অনুচ্ছেদই আমার কাছে বেশি আকর্ষনীয়, আগেরটুকুর তুলনায়। আমি বরং সবধরণের ফ্যাসিবাদমুক্ত, অকর্তৃত্ববাদী, ব্যক্তিস্বাতন্ত্রবাদী (সাধারণ ও বৃহৎ অর্থে), বহুত্ববাদী ও সিনক্রেটিক একটা মানুষের সমাজ পাইলেই সবচেয়ে বেশি খুশি ও উদ্বেলিত হমু।
আরেকটা কোটেশন মারলে মাইন্ড করবেন? মুখ্যুসুখ্যু মানুষ, মনের ভাবটা নিজের ভাষায় প্রকাশ করতে পারিনা, তাই মহাজন ব্যক্তিদের কথা ধার করতে হয় --
[সূত্র]
****************************************
আপনে পার্ট কম নেন। (সবধরণের ফ্যাসিবাদমুক্ত, অকর্তৃত্ববাদী, ব্যক্তিস্বাতন্ত্রবাদী, বহুত্ববাদী ও সিনক্রেটিক একটা মানুষের সমাজ) বিষয়টা নিয়া একটা লেখালুখা দেয়ার টাইম আপনের চইলা আসছে!
কি মুশকিল, সত্য কথা বলাও দেখি বিপদ!
লেখালুখাতে জ্ঞানবুদ্ধি ছাড়াও সাহসও লাগে। আমার প্রথমটার পাশাপাশি ২য়টাতেও ঘাটতি আছে আপাতত। দুইটাই যদি একসাথে জড়ো করতে পারি কখনও, হয়তো চেষ্টা করে দেখবোনে।
ইতিমধ্যে, আপনার হাতে যদি সময় থাকে, তাইলে আমার সাম্প্রতিক্কালে পড়া একটা প্রিয় লেখা পড়ে দেখতে পারেন এইখানে। একটু অন্য ধরণের লেখা যদিও, তবু অপ্রাসঙ্গিক না বোধহয় পুরোপুরি। এই লেখাটা পড়ে আপাতত ভাবতেছি আমি। আপনার মতামত জানতে পারলে খুশি হইতাম। আর লেখাটা যদি বেশি বড় মনে হয়, তাহলে এর একটা সংক্ষিপ্তসার এখানে দেখতে পারেন (এটা পড়লে রঙিন পয়েন্টগুলা খিয়াল কইরেন)। ভাল লাগবে আশা করি।
****************************************
আপনার লেখাটার দ্বিতীয় উদ্ধৃত প্যারাটাতেই আটকে আছি, দ্বিমত নাকি নাবোঝা সেটা বুঝতে বুঝতে।
মূল লেখাটাই পড়বো ভাবছি।
তবে গ্রিনস্প্যানের আপনার পাঠ আর আমার পাঠে কিন্তু আকাশ পাতাল তফাৎ থাকবে। এই যে প্রিয় লেখা থেকে উদ্ধৃত করে পোস্ট দিলেন, সেই উদ্ধৃতির ফাঁকে ফাঁকেই শানে নুযুল কি ধারা ভাষ্য কি আপনার ব্যাখ্যা ঢুকিয়ে দেন। একটু জোর দিয়েই বলুন আপনি কী ভাবছেন।
অন্যের দ্বিমতকে ভয় পাবেন না। কেউ দ্বিমত করলে সেটা আপনার প্রাপ্তি। এর অর্থ কেউ এতে মগজক্ষয় করেছে এবং দ্বন্দ্বটা থেকে আপনারও কিছু বাড়তি প্রাপ্তি ঘটছে।
রুপোম ভাই, আপনার পোস্টগুলো অত্যন্ত বুদ্ধিদীপ্ত হয়।
আমার মনে হয় কোন রোবট কী কাজে এসাইন হবে তার উপর নর্ভর করবে রোবট প্রিপ্রোগ্রাম্ড হবে না লার্নিং বেইস্ড হবে। কিছু ছোট খাট কাজের জন্য কর্তৃত্ববাদের রোবটই ভালো। তবে গবেষণার কাজে রোবটকে ব্যবহার করতে চাইলে রিইনফোর্সমেন্ট লার্নিং ভালো মনে হয়। রোবট দিয়ে আমরা কী করতে চাই সেটাই বড় কথা।
তবে মানুষ সব সময় শুধু প্রয়োজনে নতুন কিছু আবিষ্কার করে এমন তো নয়, কৌতুহলের নিমিত্তে অনেক কিছুই উদ্ভাবন হয়েছে। আমার তো খুব কৌতুহল আছে একদম মানুষের মত ইন্টিলিএন্টলি লার্নিং রোবট বানানো যায় কি না দেখতে!
_____________________
Give Her Freedom!
মুক্তিবাদের এআই টার্মটা মুখ ফুইটা বলার লাইগা
facebook
কোন ফাঁকে আইসা পলায়া গেলেন। নেক্সট টাইম আলোচনার সাথে আপনারে জমাট বাইন্ধা রাখা হবে
অসম্ভব জটিল একটা জিনিস খুব সহজে বলে গেলেন। আমার সচলায়তনে প্রথম কমেন্ট এবং ধন্যবাদ তাই আপনাকেই দিলাম
Milonkhan
নতুন মন্তব্য করুন