Gryffin Forge
ઓટોમેશનડેટા ગુણવત્તામાળખું

«કોઈ વેબસાઇટ મળી નથી» સામાન્ય રીતે ખોટું કેમ હોય છે

વ્યવસાય પાસે ચાલતી વેબસાઇટ છે કે નહીં તે ચકાસતી સિસ્ટમ બનાવવાના પાઠ: અટકાવેલી શોધ, બોટ સુરક્ષા અને «અજ્ઞાત» માટે ડિઝાઇન.

3 મિનિટ વાંચનGryffin Forge

વ્યવસાય પાસે વેબસાઇટ છે કે નહીં તે ચકાસવું તુચ્છ લાગે છે: નામ શોધો અને જુઓ કે સાઇટ આવે છે કે નહીં. આ કામ આપોઆપ, મોટા પાયે અને સાચી રીતે કરતું ટૂલ બનાવતાં મને પ્રોજેક્ટના બીજા કોઈ ભાગ કરતાં વધુ ડેટા ગુણવત્તા વિશે શીખવા મળ્યું.

પહેલું સંસ્કરણ: આત્મવિશ્વાસી અને ખોટું

પહેલું સંસ્કરણ વ્યવસાયનું નામ અને વિસ્તાર શોધતું. પરિણામોમાં કોઈ યોગ્ય સાઇટ ન આવે તો તે વ્યવસાયને વેબસાઇટ નથી તરીકે ચિહ્નિત કરતું. પરિણામ દેખીતી રીતે સાઇટ વગરના વ્યવસાયોની લાંબી યાદી હતી.

જ્યારે મેં નમૂનો હાથે ચકાસ્યો ત્યારે મોટાભાગના પાસે એકદમ સારી સાઇટો હતી.

શોધ પ્રદાતાએ નબળાં પરિણામ આપ્યાં હતાં, નામ સામાન્ય હતું, કે સાઇટ સારી રીતે ઇન્ડેક્સ થઈ નહોતી. ટૂલે મને મળી નહીંને અસ્તિત્વમાં નથી બનાવી દીધું હતું — સ્વચાલિત સંશોધનની સૌથી સામાન્ય ભૂલ.

એવું ડેટા મોડેલ જે «અજ્ઞાત» કહી શકે

ઉકેલ કોડમાં નહીં, ડેટા મોડેલમાં શરૂ થયો. હવે વ્યવસાયની ઓનલાઇન હાજરીની ચાર અવસ્થાઓ છે:

  • સાઇટ છે — મળી અને ખૂલે છે.
  • નબળી સાઇટ — ખૂલે છે, પણ મૂળભૂત બાબતો નથી (ફોન સંસ્કરણ, સંપર્ક, HTTPS).
  • તૂટેલી — ચોક્કસ કામ કરતી નથી.
  • અજ્ઞાત — કોઈ પણ દિશામાં પૂરતો પુરાવો નથી.

«વેબસાઇટ નથી» ત્યારે જ અપાય છે જ્યારે કોઈ વિશ્વસનીય, અધિકૃત સ્રોત તેની પુષ્ટિ કરે. શોધ પરિણામની ગેરહાજરી ક્યારેય તે ઉત્પન્ન કરી શકતી નથી.

કેટલાક સ્વતંત્ર સંકેતો

એક શોધને બદલે સિસ્ટમ હવે જોડે છે:

  1. નામ અને વિસ્તાર માટે સર્વર-બાજુનો શોધ સ્રોત.
  2. નામમાંથી બનાવેલાં સંભવિત ડોમેન (fadedistrict.co.uk, fade-district.com…), સીધાં ચકાસેલાં.
  3. દરેક સંભવિત ડોમેન માટે કેટલાંક URL રૂપ સાથે સાઇટ સ્કેન.

ડોમેનનો અંદાજ આશ્ચર્યજનક રીતે સારો નીકળ્યો. એક પ્રદાતા સર્વર ટ્રાફિક સંપૂર્ણ અટકાવતો, બીજો અસંબંધિત પરિણામો આપતો; માત્ર સ્પષ્ટ ડોમેન અજમાવવાથી એવી સાઇટો મળી જે શોધમાં રહી ગઈ હતી.

«તૂટેલી» માટે પણ ઊંચું ધોરણ

પછી ઊલટી સમસ્યા આવી: તૂટેલી ચિહ્નિત સાઇટો જે બ્રાઉઝરમાં બરાબર ખૂલતી. કારણો:

  • બોટ-વિરોધી પાનાં જે 403 કે પડકાર આપતાં.
  • www ચાલતું પણ સાદું ડોમેન નહીં, કે ઊલટું.
  • ધીમાં સર્વર જે ટૂંકો ટાઇમઆઉટ પાર કરતાં.

હવે સાઇટ માત્ર DNS નિષ્ફળતા કે બધાં URL રૂપ પર નિશ્ચિત 404/410 પછી જ તૂટેલી છે. સુરક્ષા પાનાં ચાલતાં ગણાય છે. ટાઇમઆઉટ અજ્ઞાત ગણાય છે.

ચુકાદાની બાજુમાં પુરાવા

દરેક ચુકાદો જે મળ્યું તે રાખે છે: મળતું ડોમેન, દરેક રૂપના કોડ, પાનાનું શીર્ષક અને મળેલા ફોટા. કોઈ પરિણામ પર સવાલ ઉઠાવે ત્યારે જવાબ સેકન્ડોમાં સ્ક્રીન પર હોય છે. એનાથી ટૂલ શંકાની વસ્તુમાંથી ભરોસાની વસ્તુ બન્યું.

તમે ચકાસો છો તે સાઇટોનો આદર કરો

સ્વચાલિત ચકાસનાર પણ એક મુલાકાતી છે. તે પોતાની ઓળખ આપે છે, ટૂંકા ટાઇમઆઉટ વાપરે છે, માત્ર જરૂરી ડાઉનલોડ કરે છે અને કોઈ સર્વર પર ભાર નાખતું નથી. સ્કેનમાં મળેલા ફોટા એવા એન્ડપોઇન્ટમાંથી પસાર થાય છે જે માત્ર ચોક્કસ કદથી નાની છબીઓ સ્વીકારે છે અને ખાનગી નેટવર્ક સરનામાં નકારે છે — દુરુપયોગ સામે મૂળભૂત રક્ષણ.

શું સામાન્યીકરણ થઈ શકે

  • પુરાવાની ગેરહાજરી ગેરહાજરીનો પુરાવો નથી. પહેલા દિવસથી «અજ્ઞાત» રાખો.
  • એક પર આધાર રાખવાને બદલે સ્વતંત્ર સંકેતો જોડો.
  • અસમાન મર્યાદાઓ નક્કી કરો: ખોટું લેબલ જેટલું મોંઘું, એટલા વધુ પુરાવા માગો.
  • દરેક સ્વચાલિત નિર્ણયની બાજુમાં પુરાવા રાખો.
  • ઘણા નબળા સંકેતો ઉમેરતાં પહેલાં એક વિશ્વસનીય સંકેતમાં રોકાણ કરો.

માળખું ઓનલાઇન હાજરી ચકાસણી કેસ સ્ટડીમાં વિગતવાર વર્ણવેલું છે.