ডকারে লগস্ট্যাশ

Dakare Lagastyasa



Logstash হল একটি ওপেন সোর্স ডেটা প্রসেসিং পাইপলাইন যা আপনাকে বিভিন্ন উৎস থেকে লগ ডেটা সংগ্রহ, প্রক্রিয়া এবং ফরওয়ার্ড করতে দেয়।

এই টিউটোরিয়ালে, আমরা মৌলিক কনফিগারেশন সহ একটি ডকার কন্টেইনারে লগস্ট্যাশ চালানোর প্রক্রিয়ার মাধ্যমে আপনাকে গাইড করব।

প্রয়োজনীয়তা:

আমরা টিউটোরিয়াল শুরু করার আগে, নিশ্চিত করুন যে আপনার কাছে নিম্নলিখিতগুলি রয়েছে:







  1. আপনার হোস্ট মেশিনে ইনস্টল করা ডকার (সংস্করণ 23 এবং তার উপরে সুপারিশ করা হয়)
  2. আপনার মেশিনে ডকার কম্পোজ ইনস্টল করা হয়েছে

প্রদত্ত প্রয়োজনীয়তা পূরণের সাথে, আমরা টিউটোরিয়ালের সাথে এগিয়ে যেতে পারি।



লগস্ট্যাশ কনফিগারেশন ফাইল সেটআপ করুন

Logstash কনফিগারেশন ফাইলগুলি ব্যবহার করে সংজ্ঞায়িত করতে কিভাবে ডেটা ইনজেস্ট করা হয়, ফিল্টার করা হয় এবং আউটপুটে পাঠানো হয়। আপনি অফিসিয়াল ডকুমেন্টেশনে উল্লেখ করতে পারেন বলে আপনি কনফিগার করতে পারেন এমন বিভিন্ন বিকল্প রয়েছে।



আমাদের উদাহরণের জন্য, আমরা মৌলিক কনফিগারেশনের উপর ফোকাস করি যা একটি লগ ফাইল থেকে ডেটা ইনজেস্ট করে, ম্যাচিং রেকর্ডের জন্য ফিল্টার করে এবং একটি ফাইলে ডেটা আউটপুট করে।





'logstash.conf' নামে একটি ফাইল তৈরি করুন এবং নিম্নরূপ কনফিগারেশন যোগ করুন:

ইনপুট {
ফাইল {
পথ => '/var/log/apache/access.log'

start_position => 'শুরু'

sincedb_path => '/dev/null'

ignore_older => 0
}
}

ছাঁকনি {
যদি [বার্তা] =~ 'ত্রুটি' {
গ্রোক {
মিল => { 'বার্তা' => '%{কম্বাইনেডাপাচেলগ}' }
}
}
}

আউটপুট {
ফাইল {
পথ => '/var/log/apache/error_logs.log'
}
}

পূর্ববর্তী ফাইল নিম্নলিখিত হিসাবে দেখানো কনফিগারেশন সংজ্ঞায়িত করে:

  1. ইনপুট বিভাগ - ইনপুট বিভাগটি ফাইল ইনপুট প্লাগইন ব্যবহার করে /var/log/apache/access.log-এ অবস্থিত Apache লগ ফাইলটি পড়ার জন্য।
    • তারপরে আমরা শুরুতে স্টার্ট পজিশন সেট করি যা Logstash কে শুরু থেকে সম্পূর্ণ ফাইল পড়তে দেয়।
    • Sincedb_path – এই প্যারামিটারটি আমাদেরকে /dev/null-এ মান সেট করে Logstash-এর sincedb ট্র্যাকিং নিষ্ক্রিয় করতে দেয়। এটি নিশ্চিত করে যে Logstash সর্বদা ফাইলের শুরু থেকে পড়ে।
    • Ignore_older - এই প্যারামিটারের মান 0 তে সেট করা Logstash কে লগ ফাইলের সমস্ত এন্ট্রি প্রক্রিয়া করার অনুমতি দেয়।
  2. ফিল্টার বিভাগ - ফিল্টার বিভাগে, লগ বার্তাটিতে ERROR শব্দটি রয়েছে কিনা তা পরীক্ষা করতে আমরা ফিল্টার প্যাটার্নটি সংজ্ঞায়িত করি। আপনি ফাইলে আরও সুনির্দিষ্ট মিলের জন্য ফিল্টার করার জন্য ফিল্টার ব্লকগুলির শর্তগুলি সামঞ্জস্য করতে পারেন।
    • যদি শর্ত পূরণ করা হয়, আমরা Apache লগ লাইন পার্স করতে grok ফিল্টার ব্যবহার করি COMBINEDAPACHELOG প্যাটার্ন ব্যবহার করে যা Logstash-এ একটি অন্তর্নির্মিত প্যাটার্ন Apache লগ পার্স করার জন্য।
  3. আউটপুট বিভাগ - এই বিভাগটি আমাদের মিলে যাওয়া এন্ট্রিগুলির জন্য আউটপুট বিন্যাস নির্ধারণ করতে দেয়।
    • আমাদের ক্ষেত্রে, আমরা পাথ প্যারামিটার ব্যবহার করে /var/log/apache/error_logs.log ফাইলে লিখি।

এটি আমাদেরকে একটি মৌলিক Logstash কনফিগারেশন প্রদান করবে যা আমাদের কিছু মৌলিক Logstash কার্যপ্রণালী প্রদর্শন করতে দেয়।

অনুগ্রহ করে নিম্নলিখিত প্রদত্ত ডকুমেন্টেশন রিসোর্সে লগস্ট্যাশ পাইপলাইন তৈরি এবং কনফিগার করার বিষয়ে আরও উল্লেখ করুন:

https://www.elastic.co/guide/en/logstash/current/configuration.html

ডকারফাইল তৈরি করুন

একবার আমরা Logstash কনফিগারেশন সংজ্ঞায়িত করলে, আমরা এগিয়ে যেতে পারি এবং কীভাবে কন্টেইনার চালাতে হয় তা শিখতে পারি। 'logstash.conf' ফাইলের মতো একই ডিরেক্টরির ভিতরে, 'ডকারফাইল' নামে একটি নতুন ফাইল তৈরি করুন।

এই ফাইলটি সম্পাদনা করুন এবং নিম্নরূপ এন্ট্রি যোগ করুন:

docker.elastic.co/logstash/logstash থেকে:8.9.2

logstash.conf /usr/share/logstash/pipeline/logstash.conf কপি করুন

প্রদত্ত উদাহরণে, আমরা 8.9.2 সংস্করণ ব্যবহার করে বেস ইমেজটিকে অফিসিয়াল Logstash ইমেজ হিসাবে সংজ্ঞায়িত করি।

তারপরে আমরা 'logstash.conf' ফাইলটি অনুলিপি করি যা আমরা তৈরি করেছি /usr/share/logstash/pipeline/logstash.conf ছবিতে।

ডকার ইমেজ তৈরি করুন

এরপরে, ডকারফাইল এবং লগস্ট্যাশ কনফিগারেশন ফাইল ধারণকারী ডিরেক্টরিতে নেভিগেট করুন। ইমেজ তৈরি করতে নিম্নলিখিত কমান্ডটি চালান:

$ ডকার বিল্ড -t কাস্টম-লগস্ট্যাশ-ইমেজ।

Logstash কন্টেইনার চালান

এখন যেহেতু আমরা ডকার ইমেজ তৈরি করেছি, আমরা ডকার 'রান' কমান্ডটি ব্যবহার করে একটি লগস্ট্যাশ কন্টেইনার চালাতে পারি:

$ ডকার রান -d -- নাম logstash-server custom-logstash-image

আমরা পূর্ববর্তী ধাপে যে চিত্রটি তৈরি করেছি সেটি ব্যবহার করে এটি Logstash কন্টেইনার চালাতে হবে।

Logstash কন্টেইনার লগগুলি যাচাই করুন

Logstash সঠিকভাবে চলছে তা যাচাই করতে, আপনি নিম্নলিখিত কমান্ডটি ব্যবহার করে কন্টেইনার লগগুলি পরীক্ষা করতে পারেন:

$ ডকার লগ < ধারক_নাম >

আউটপুট:

উপসংহার

এই টিউটোরিয়ালে, আপনি শিখেছেন কিভাবে আপনি একটি কাস্টম কনফিগারেশন ফাইল ব্যবহার করে ডকার হিসাবে চালানো একটি Logstash সার্ভার দ্রুত সেটআপ করতে পারেন। আমরা ইমেজ প্যারামিটার এবং কনফিগারেশন বিকল্পগুলির ডকুমেন্টেশন পরীক্ষা করার পরামর্শ দিই।