ढूँढ इंजन लगातार वर्ल्ड वाइड वेब को अनुक्रमित कर रहे हैं। वे कुशल क्रॉलर तैनात करते हैं वेबपेजों की तलाश करने और बेहतर खोज परिणामों के लिए उन्हें अनुक्रमित करने के लिए कार्यक्रम।
However, there are some sensitive pages on a website that we recommend site owners not allow search engines to index and display as it could pose a security breach. One such weblink would be our Content Management System (CMS) login page.
यदि किसी हैकर को आपके सीएमएस लॉगिन के लिंक का पता चलता है, तो वह आपके सीएमएस में खुद को मजबूर करने और आपकी वेबसाइट पर नियंत्रण रखने की कोशिश कर सकता है।
Fortunately, there is a way to ‘tell’ the search engines not to display these sensitive pages by way of a file, robots.txt. In the file, you can list the webpages you do not want search engines to index and make it discoverable.
वही robots.txt फ़ाइल खोज इंजन के लिए भी आवश्यक है। एक खोज से एक क्रॉलर बॉट इंजन आपकी वेबसाइट को अनुक्रमित करते समय robots.txt फ़ाइल को भी देखेगा आपकी साइट। वे इसमें एक नज़र डालेंगे, यह देखने के लिए कि क्या कोई वेबसाइट है उन्हें प्रदर्शित करने से बचने के लिए। यदि robots.txt में कुछ भी नहीं है, तो वे करेंगे, द्वारा डिफ़ॉल्ट, सभी पृष्ठों को खोजने योग्य बनाएं।
प्रदर्शित गलत दर्शकों (यानी, हैकर) के लिए एक संवेदनशील पृष्ठ के परिणामस्वरूप हैकर हैकिंग हो सकती है इसमें, एक समझौता की गई साइट की ओर अग्रणी, कुछ ऐसा जो कोई इंसान या सर्च इंजन नहीं चाहता।
इसलिए इंटरनेट को सुरक्षित रखने के लिए खोज इंजनों को आपकी सहायता की आवश्यकता होती है। उन्हें साइट मालिकों को विशेष रूप से उन वेबपृष्ठों को सूचीबद्ध करने की आवश्यकता होती है जिन्हें वे प्रदर्शित नहीं करना चाहते हैं।
यदि आपको इस क्षेत्र में किसी सहायता की आवश्यकता हो तो हमसे संपर्क करें।