Creating New Features: Feature Engineering Basics

আপনি কি কখনও ভেবেছেন, ডেটা সায়েন্সের জাদুকরেরা কিভাবে কাঁচা ডেটা থেকে চমৎকার ভবিষ্যদ্বাণী বের করে আনেন? ঠিক যেন একজন শেফ সাধারণ উপাদান দিয়ে অসাধারণ বিরিয়ানি রান্না করেন! এই জাদুকাঠির পেছনের একটি গুরুত্বপূর্ণ অংশ হলো 'ফিচার ইঞ্জিনিয়ারিং'। শুনতে হয়তো বেশ জটিল মনে হচ্ছে, তাই না? কিন্তু বিশ্বাস করুন, এটা মোটেই জটিল কিছু নয়। বরং এটি এমন একটি শিল্প যেখানে আপনি আপনার ডেটার মধ্যে লুকিয়ে থাকা সম্ভাবনাগুলোকে খুঁজে বের করেন এবং সেগুলোকে মডেলের জন্য আরও বেশি উপযোগী করে তোলেন।

বাংলাদেশে ডেটা সায়েন্সের জগৎ দ্রুত প্রসারিত হচ্ছে। আমাদের চারপাশে প্রতিদিন বিলিয়ন বিলিয়ন ডেটা তৈরি হচ্ছে – মোবাইল ব্যবহার, অনলাইন কেনাকাটা, সামাজিক যোগাযোগ মাধ্যম, এমনকি কৃষিক্ষেত্রেও। এই ডেটা থেকে অর্থবহ তথ্য বের করে আনার জন্য ফিচার ইঞ্জিনিয়ারিং একটি অপরিহার্য দক্ষতা। এটি ডেটা সায়েন্টিস্টদের এমন একটি ক্ষমতা দেয় যা দিয়ে তারা কাঁচা ডেটাকে 'সোনা' বানিয়ে ফেলতে পারেন!

ফিচার ইঞ্জিনিয়ারিং কি এবং কেন এটি এত গুরুত্বপূর্ণ?

সহজ কথায়, ফিচার ইঞ্জিনিয়ারিং হলো এমন একটি প্রক্রিয়া যেখানে আপনি আপনার বিদ্যমান ডেটা থেকে নতুন, অর্থবহ ভেরিয়েবল (যাদেরকে 'ফিচার' বলা হয়) তৈরি করেন। এই নতুন ফিচারগুলো মডেলকে ডেটার প্যাটার্নগুলো আরও ভালোভাবে বুঝতে সাহায্য করে, যার ফলে মডেলের পারফরম্যান্স অনেক গুণ বেড়ে যায়।

ধরুন, আপনি ঢাকার ট্র্যাফিক জ্যাম অনুমান করার জন্য একটি মডেল তৈরি করছেন। আপনার কাছে হয়তো সময়, দিনের নাম, ছুটির দিন কিনা ইত্যাদি ডেটা আছে। কিন্তু আপনি যদি 'সকালের পিক আওয়ার' বা 'বৃষ্টির দিনের প্রভাব' এর মতো নতুন ফিচার তৈরি করেন, তাহলে মডেল ট্র্যাফিক জ্যামের প্যাটার্নগুলো আরও নির্ভুলভাবে ধরতে পারবে। ঠিক যেমন একজন অভিজ্ঞ ট্র্যাফিক পুলিশ শুধু সময় দেখে নয়, বরং আবহাওয়া, বিশেষ ইভেন্ট, এমনকি স্থানীয় বাজারের দিনের উপর ভিত্তি করেও জ্যামের পূর্বাভাস দিতে পারেন!

কেন ফিচার ইঞ্জিনিয়ারিং এত গুরুত্বপূর্ণ?

ফিচার ইঞ্জিনিয়ারিং ডেটা সায়েন্স পাইপলাইনের একটি অত্যন্ত গুরুত্বপূর্ণ ধাপ। এর গুরুত্ব কয়েকটি কারণে:

• মডেলের পারফরম্যান্স বৃদ্ধি: এটি মডেলকে ডেটার গভীর প্যাটার্নগুলো খুঁজে বের করতে সাহায্য করে, যা নির্ভুল ভবিষ্যদ্বাণী বা শ্রেণীকরণের জন্য অপরিহার্য।
• ডেটার সীমাবদ্ধতা দূরীকরণ: অনেক সময় কাঁচা ডেটা সরাসরি মডেলের জন্য উপযোগী হয় না। ফিচার ইঞ্জিনিয়ারিং এই সীমাবদ্ধতা দূর করে।
• মডেলের ব্যাখ্যাযোগ্যতা বৃদ্ধি: নতুন ফিচারগুলো প্রায়শই মডেলের সিদ্ধান্তকে আরও সহজে ব্যাখ্যা করতে সাহায্য করে।
• ওভারফিটিং কমানো: অপ্রয়োজনীয় বা ভুল ফিচার বাদ দিয়ে বা নতুন উপযোগী ফিচার তৈরি করে ওভারফিটিং কমানো যায়।

ফিচার ইঞ্জিনিয়ারিং এর প্রাথমিক কৌশলসমূহ

ফিচার ইঞ্জিনিয়ারিং কোনো এক রাতের জাদু নয়। এটি ডেটা সম্পর্কে গভীর জ্ঞান, ডোমেইন এক্সপার্টাইজ এবং সৃজনশীলতার সমন্বয়। নিচে কিছু সাধারণ এবং কার্যকরী কৌশল নিয়ে আলোচনা করা হলো:

১. নিউমেরিক্যাল ডেটা থেকে নতুন ফিচার তৈরি

সংখ্যাবাচক ডেটা থেকে বিভিন্ন উপায়ে নতুন ফিচার তৈরি করা যায়।

• ট্রান্সফরমেশন (Transformation): ডেটার বিতরণকে আরও সুষম করতে লগ (log), স্কয়ার রুট (square root), বা এক্সপোনেনশিয়াল (exponential) ট্রান্সফরমেশন ব্যবহার করা হয়। যেমন, আয়ের ডেটা প্রায়শই ডানদিকেSkewed থাকে; লগ ট্রান্সফরমেশন এটিকে স্বাভাবিক বন্টনের কাছাকাছি আনতে পারে।
• বিন্নিং (Binning) / ডিসক্রিটাইজেশন (Discretization): কন্টিনিউয়াস নিউমেরিক্যাল ডেটাকে নির্দিষ্ট রেঞ্জের মধ্যে ভাগ করে ক্যাটাগরিক্যাল ফিচারে রূপান্তর করা। যেমন, বয়সকে 'শিশু', 'কিশোর', 'যুবক', 'প্রবীণ' ইত্যাদি গ্রুপে ভাগ করা।
• ইন্টারঅ্যাকশন ফিচার (Interaction Features): দুটি বা তার বেশি নিউমেরিক্যাল ফিচারের গুণফল বা ভাগফল হিসেবে নতুন ফিচার তৈরি করা। যেমন, একটি অনলাইন শপিং সাইটে 'পণ্যের সংখ্যা' এবং 'গড় পণ্যের মূল্য' গুণ করে 'মোট কেনাকাটার পরিমাণ' ফিচার তৈরি করা।

২. ক্যাটাগরিক্যাল ডেটা হ্যান্ডলিং

ক্যাটাগরিক্যাল ডেটা সরাসরি মডেল ব্যবহার করতে পারে না। তাই এদের নিউমেরিক্যাল ফরমেটে রূপান্তর করতে হয়।

• ওয়ান-হট এনকোডিং (One-Hot Encoding): প্রতিটি ক্যাটাগরির জন্য একটি করে নতুন বাইনারি (০ বা ১) কলাম তৈরি করা। যেমন, 'শহর' কলামে 'ঢাকা', 'চট্টগ্রাম', 'খুলনা' থাকলে তিনটি নতুন কলাম তৈরি হবে: 'শহর_ঢাকা', 'শহর_চট্টগ্রাম', 'শহর_খুলনা'।
• লেবেল এনকোডিং (Label Encoding): প্রতিটি ক্যাটাগরিকে একটি করে পূর্ণসংখ্যা (integer) অ্যাসাইন করা। এটি অর্ডিনাল ডেটার জন্য বেশি উপযোগী, যেখানে ক্যাটাগরিগুলোর মধ্যে একটি নির্দিষ্ট ক্রম থাকে। যেমন, 'শিক্ষাগত যোগ্যতা'-কে 'প্রাথমিক=১', 'মাধ্যমিক=২', 'স্নাতক=৩' ইত্যাদি।
• টার্গেট এনকোডিং (Target Encoding): প্রতিটি ক্যাটাগরিকে টার্গেট ভেরিয়েবলের গড় মান দিয়ে প্রতিস্থাপন করা। এটি উচ্চ কার্ডিনালিটির ক্যাটাগরিক্যাল ডেটার জন্য খুব কার্যকর।

৩. তারিখ ও সময় (Date and Time) ডেটা থেকে ফিচার তৈরি

তারিখ ও সময় ডেটা থেকে অবিশ্বাস্যভাবে মূল্যবান ফিচার তৈরি করা যায়।

• সময় ভিত্তিক এক্সট্রাকশন: বছর, মাস, দিন, সপ্তাহের দিন, দিনের সময় (সকাল, দুপুর, রাত), ছুটির দিন কিনা ইত্যাদি ফিচার তৈরি করা। যেমন, ঈদের আগে অনলাইন কেনাকাটার ডেটা বিশ্লেষণ করতে 'ঈদ_কাউন্টডাউন_দিন' নামের একটি ফিচার খুব কাজে আসতে পারে।
• সময় ব্যবধান (Time Difference): দুটি তারিখের মধ্যে সময়ের ব্যবধান নির্ণয় করা। যেমন, গ্রাহক নিবন্ধন তারিখ এবং শেষ লগইন তারিখের মধ্যে ব্যবধান।
• সাইক্লিক্যাল ফিচার (Cyclical Features): মাস বা দিনের মতো সাইক্লিক্যাল ডেটাকে সাইন (sine) এবং কোসাইন (cosine) ট্রান্সফরমেশন ব্যবহার করে এনকোড করা।

৪. টেক্সট ডেটা থেকে ফিচার তৈরি

টেক্সট ডেটা থেকে ফিচার তৈরি করা একটি বিশাল ক্ষেত্র।

• ওয়ার্ড কাউন্ট (Word Count): একটি টেক্সটে শব্দের সংখ্যা।
• ক্যারেক্টার কাউন্ট (Character Count): একটি টেক্সটে অক্ষরের সংখ্যা।
• TF-IDF (Term Frequency-Inverse Document Frequency): ডকুমেন্টের মধ্যে একটি শব্দের গুরুত্ব পরিমাপ করা।
• ওয়ার্ড এম্বেডিং (Word Embeddings): শব্দের অর্থগত বা সিনট্যাকটিক সম্পর্ককে ভেক্টর স্পেসে উপস্থাপন করা। যেমন, 'বাংলা' এবং 'ভাষা' শব্দ দুটি একে অপরের কাছাকাছি থাকবে।

৫. ডোমেইন জ্ঞান প্রয়োগ

এটি ফিচার ইঞ্জিনিয়ারিং এর সবচেয়ে গুরুত্বপূর্ণ অংশ। ডেটা যে ক্ষেত্র থেকে এসেছে (যেমন, ব্যাংকিং, স্বাস্থ্যসেবা, কৃষি), সেই ক্ষেত্র সম্পর্কে আপনার গভীর জ্ঞান থাকলে আপনি এমন সব ফিচার তৈরি করতে পারবেন যা কেবল ডেটা দেখে বের করা সম্ভব নয়।

উদাহরণস্বরূপ, বাংলাদেশের কৃষিক্ষেত্রে ফসলের ফলন অনুমান করতে গেলে শুধু তাপমাত্রা বা বৃষ্টিপাতের ডেটা যথেষ্ট নয়। আপনাকে জানতে হবে কোন মাসে কোন ফসল বোনা হয়, কোন মাটির প্রকার কোন ফসলের জন্য উপযোগী, বা কোন পোকা কখন আক্রমণ করে। এই জ্ঞান আপনাকে 'বপনের_সঠিক_সময়', 'মাটির_pH_লেভেল', 'পোকা_আক্রমণের_ঝুঁকি' এর মতো গুরুত্বপূর্ণ ফিচার তৈরি করতে সাহায্য করবে।

একটি উদাহরণ: অনলাইন শপিং ডেটা

চলুন, একটি অনলাইন শপিং ডেটাসেটের উপর ফিচার ইঞ্জিনিয়ারিং এর কিছু কৌশল প্রয়োগ করি। আমাদের লক্ষ্য হলো একজন গ্রাহক আবার কেনাকাটা করবেন কিনা তা অনুমান করা।

ফিচার ইঞ্জিনিয়ারিং এর প্রয়োগ:

1. সাবস্ক্রিপশন_তারিখ এবং শেষ_ক্রয়_তারিখ থেকে:

   • গ্রাহক_বয়স_দিন: বর্তমান তারিখ – সাবস্ক্রিপশন_তারিখ
   • শেষ_ক্রয়_থেকে_দিন: বর্তমান তারিখ – শেষ_ক্রয়_তারিখ
   • সক্রিয়_মাস: সাবস্ক্রিপশন_তারিখ থেকে শেষ_ক্রয়_তারিখ এর মধ্যে মাসের সংখ্যা।

2. মোট_ক্রয়_সংখ্যা এবং গড়_ক্রয়_মূল্য থেকে:

   • মোট_খরচ: মোট_ক্রয়_সংখ্যা * গড়_ক্রয়_মূল্য
   • প্রতি_কেনাকাটায়_খরচ_স্তর: গড়_ক্রয়_মূল্য কে বিন্নিং করে 'কম', 'মাঝারি', 'বেশি' ইত্যাদি।

3. পছন্দের_ক্যাটাগরি এবং শহর থেকে:

   • ওয়ান-হট এনকোডিং: প্রতিটি ক্যাটাগরি এবং শহরের জন্য নতুন বাইনারি কলাম।

4. পর্যালোচনা_টেক্সট থেকে:
   • পর্যালোচনা_শব্দ_সংখ্যা: টেক্সটের শব্দের সংখ্যা।
   • পজিটিভ_নেগেটিভ_পর্যালোচনা: টেক্সট সেন্টিমেন্ট অ্যানালাইসিস করে পজিটিভ বা নেগেটিভ কিনা তা বের করা।
   • পর্যালোচনা_দৈর্ঘ্য: অক্ষরের সংখ্যা।

এইভাবে, আমরা বিদ্যমান ডেটা থেকে আরও সমৃদ্ধ এবং মডেলের জন্য উপযোগী ফিচার তৈরি করতে পারি।

ফিচার ইঞ্জিনিয়ারিং এর কিছু সাধারণ ভুল

ফিচার ইঞ্জিনিয়ারিং একটি শিল্প হলেও এখানে কিছু সাধারণ ভুল করার সম্ভাবনা থাকে:

• অপ্রয়োজনীয় ফিচার তৈরি: অতিরিক্ত ফিচার তৈরি করলে মডেল জটিল হতে পারে এবং ওভারফিটিং এর ঝুঁকি বাড়ে।
• ডোমেইন জ্ঞান ছাড়া কাজ: ডেটা যে ক্ষেত্র থেকে এসেছে, সেই ক্ষেত্র সম্পর্কে ধারণা না থাকলে গুরুত্বপূর্ণ ফিচারগুলো বাদ পড়তে পারে।
• ডেটা লিকেজ (Data Leakage): মডেলকে প্রশিক্ষণ দেওয়ার সময় এমন ডেটা ব্যবহার করা যা ভবিষ্যদ্বাণী করার সময় উপলব্ধ থাকবে না। যেমন, আপনি যদি কোনো ক্রেডিট কার্ড জালিয়াতি শনাক্তকরণ মডেল তৈরি করেন এবং ভুল করে 'লেনদেন_জালিয়াতি_হয়েছে_কিনা' এই ফিচারটি মডেলের ইনপুট হিসেবে দেন, তাহলে মডেল কখনোই ভুল করবে না কিন্তু বাস্তব জীবনে এই তথ্য আপনি আগে থেকে জানতে পারবেন না।

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী (FAQ)

প্রশ্ন ১: ফিচার ইঞ্জিনিয়ারিং কি ডেটা প্রিপ্রসেসিং এর অংশ?

উত্তর: হ্যাঁ, ফিচার ইঞ্জিনিয়ারিং ডেটা প্রিপ্রসেসিং এর একটি গুরুত্বপূর্ণ অংশ। ডেটা প্রিপ্রসেসিং এর মধ্যে ডেটা ক্লিনিং, মিসিং ভ্যালু হ্যান্ডলিং, ডেটা ট্রান্সফরমেশন এবং স্কেলিং সহ আরও অনেক কিছু অন্তর্ভুক্ত থাকে। ফিচার ইঞ্জিনিয়ারিং ডেটাকে মডেলের জন্য আরও কার্যকর ও অর্থবহ করে তোলার উপর বিশেষভাবে মনোযোগ দেয়।

প্রশ্ন ২: আমি কি শুধু স্বয়ংক্রিয় ফিচার ইঞ্জিনিয়ারিং টুল ব্যবহার করতে পারি?

উত্তর: স্বয়ংক্রিয় ফিচার ইঞ্জিনিয়ারিং টুল (যেমন Featuretools, auto-sklearn) ডেটা সায়েন্সের কাজকে সহজ করতে সাহায্য করে। তবে, ডোমেইন জ্ঞান প্রয়োগ করে ম্যানুয়ালি ফিচার তৈরি করা প্রায়শই আরও ভালো ফল দেয়। স্বয়ংক্রিয় টুলগুলো একটি ভালো শুরু হতে পারে, কিন্তু সেরা পারফরম্যান্সের জন্য ম্যানুয়াল টিউনিং এবং সৃজনশীলতা অপরিহার্য।

প্রশ্ন ৩: নতুন ফিচার তৈরি করার পর কি পুরনো ফিচারগুলো বাদ দিতে হবে?

উত্তর: সব সময় নয়। নতুন ফিচারগুলো পুরনো ফিচারের পরিপূরক হতে পারে। তবে, যদি নতুন ফিচার পুরনো ফিচারের সাথে অত্যন্ত সম্পর্কযুক্ত (highly correlated) হয় বা পুরনো ফিচারটি আর মডেলের জন্য কোনো তথ্য যোগ না করে, তাহলে সেটিকে বাদ দেওয়া যেতে পারে। ফিচার সিলেকশন (Feature Selection) এই সিদ্ধান্ত নিতে সাহায্য করে।

প্রশ্ন ৪: ফিচার ইঞ্জিনিয়ারিং কি শুধু মেশিন লার্নিংয়ে ব্যবহৃত হয়?

উত্তর: মূলত এটি মেশিন লার্নিং এবং ডেটা সায়েন্সে ব্যাপকভাবে ব্যবহৃত হয়। তবে, ডেটা অ্যানালাইসিস, পরিসংখ্যানগত মডেলিং এবং এমনকি ডেটা ভিজ্যুয়ালাইজেশনের ক্ষেত্রেও এটি গুরুত্বপূর্ণ ভূমিকা পালন করে, কারণ ভালো ফিচার ডেটা থেকে আরও অর্থবহ ইনসাইট বের করতে সাহায্য করে।

প্রশ্ন ৫: ফিচার ইঞ্জিনিয়ারিং শিখতে কি অনেক প্রোগ্রামিং জানতে হবে?

উত্তর: বেসিক প্রোগ্রামিং জ্ঞান, বিশেষ করে পাইথন (Python) এবং এর লাইব্রেরি যেমন Pandas, NumPy, Scikit-learn, ফিচার ইঞ্জিনিয়ারিং এর জন্য খুবই সহায়ক। তবে, সবচেয়ে গুরুত্বপূর্ণ হলো ডেটা সম্পর্কে আপনার ধারণা এবং সৃজনশীলভাবে নতুন ভেরিয়েবল তৈরি করার ক্ষমতা।

মূল শিক্ষা (Key Takeaways)

• ফিচার ইঞ্জিনিয়ারিং হলো ডেটা থেকে নতুন, অর্থবহ ভেরিয়েবল তৈরি করার শিল্প ও বিজ্ঞান। এটি মডেলের পারফরম্যান্স বাড়ানোর জন্য অত্যন্ত গুরুত্বপূর্ণ।
• ডোমেইন জ্ঞান হলো ফিচার ইঞ্জিনিয়ারিং এর প্রাণশক্তি। ডেটা যে ক্ষেত্র থেকে এসেছে, সেই সম্পর্কে আপনার ধারণা যত গভীর হবে, আপনি তত ভালো ফিচার তৈরি করতে পারবেন।
• বিভিন্ন ধরনের ডেটার জন্য বিভিন্ন কৌশল: নিউমেরিক্যাল, ক্যাটাগরিক্যাল, তারিখ-সময় এবং টেক্সট ডেটার জন্য নির্দিষ্ট ফিচার ইঞ্জিনিয়ারিং কৌশল রয়েছে।
• সৃজনশীলতা এবং পরীক্ষা-নিরীক্ষা: সেরা ফিচারগুলো প্রায়শই পরীক্ষা-নিরীক্ষা এবং ডেটা সম্পর্কে গভীর বিশ্লেষণের মাধ্যমে আবিষ্কৃত হয়।
• সাধারণ ভুল এড়িয়ে চলুন: অপ্রয়োজনীয় ফিচার তৈরি, ডেটা লিকেজ এবং ডোমেইন জ্ঞান ছাড়া কাজ করা এড়িয়ে চলুন।

ফিচার ইঞ্জিনিয়ারিং হলো ডেটা সায়েন্সের এমন একটি দিক যেখানে আপনি আসলে ডেটার সাথে কথা বলেন, তাদের গল্প শোনেন এবং সেই গল্প থেকে নতুন অর্থ বের করে আনেন। এটি কেবল একটি প্রযুক্তিগত দক্ষতা নয়, এটি একটি সৃজনশীল প্রক্রিয়া। আশা করি, এই ব্লগ পোস্টটি আপনাকে ফিচার ইঞ্জিনিয়ারিং এর মৌলিক ধারণাগুলো বুঝতে সাহায্য করেছে। এখন আপনার পালা, ডেটার গভীরে ডুব দিন এবং আপনার মডেলের জন্য 'সোনা' খুঁজে বের করুন!

আপনার ডেটা সায়েন্সের যাত্রায় শুভকামনা! কোনো প্রশ্ন থাকলে, কমেন্ট করে জানাতে ভুলবেন না।